[주간 OSS 동향리포트] 가드레일을 설정하지 않아도 학습 과정에서 시스템 프롬프트준수하는 LLM 등장
Open UP에서는 지난 한 주의 국내외 공개SW 관련 동향을 모아 정리합니다.
자세한 기사 내용은 아래 기사 내용 중 굵게 표시된 제목을 클릭하시면 보실 수 있습니다.
인공지능(AI) 스타트업 아바쿠스 AI가 모든 시나리오에서 시스템 프롬프트(system prompts)를 엄격하게 따르도록 미세조정한 오픈 소스 LLM을 출시했습니다. 개발자들은 챗봇의 환각이나 탈옥을 방지하기 위해 시스템 프롬프트를 설정합니다. '리버레이트-큐원1.5-72B(Liberated-Qwen1.5-72B)'라고 불리는 이 모델은 알리바바의 파운데이션 모델 '큐원1.5-72B'를 베이스로 사용했습니다.
대부분의 오픈 소스 모델은 이를 완벽하게 실행하지 못하는 것으로 알려졌으나 아바쿠스 AI는 이를 해결하기 위해 특정한 데이터셋으로 모델을 미세조정하였습니다. 이 방면에 다소 취약했던 오픈 소스 개발자들에게 유용하다고 설명하였습니다.
이를 통해 모델이 사용자 요구를 벗어나는 경우도 강제로 시스템 메시지를 준수하도록 학습하였습니다.
리버레이트 모델은 현재 허깅페이스를 통해 오픈소스로 공개(https://huggingface.co/abacusai/Liberated-Qwen1.5-72B)됐으며, '큐원 라이선스'에 따라 1억명 이상 사용자를 보유한 경우에는 알리바바 측에 별도 라이선스를 요청해야 합니다.
□ 허깅페이스, AI 이어 오픈소스 로봇 프로젝트 시작(ZDNet Korea)
인공지능(AI) 저변 확대를 이끈 기업 중 하나인 허깅페이스가 AI에 이어 로봇 개발에 박차를 가한다. 7일(현지시간) 미국 지디넷 등 외신에 따르면 AI 연구원 레미 카데네는 개방형 로봇 프로젝트에 참여하기 위해 허깅페이스에 합류했다고 X(과거 트위터)를 통해 밝혔다. 레미 카데네는 테슬라 출신 AI 연구원으로 자율주행과 인간형 로봇인 테슬라 옵티머스 개발에 참여했다.
- OpenUP -
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 446415 | 2020-10-27 |
| 공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 436157 | 2020-10-27 |
| 10893 | [인터뷰] 김택완 공개SW협회장 “중국도 사활 건 오픈소스, 국내 전문가 양성해야” | 971 | 2024-03-21 |
| 10892 | [주간 OSS 동향리포트] 가드레일을 설정하지 않아도 학습 과정에서 시스템 프롬프트준수하는 LLM 등장 | 1669 | 2024-03-20 |
| 10891 | 투디지트, '오픈 KO-LLM 리더보드' 1위 AI 모델·코드 전격 공개 | 1068 | 2024-03-20 |
| 10890 | 글로벌 칼럼 | 오픈소스의 진짜 위험은 ‘배포’에 있다 | 1046 | 2024-03-19 |
| 10889 | 내 손으로 만드는 SNS…블루스카이, 사용자 제어 서비스 '오존' 오픈소스화 | 1170 | 2024-03-14 |
| 10888 | [주간 OSS 동향리포트]허깅페이스, 엔비디아 등과 합작 오픈소스 '코드생성 AI' 출시 | 1850 | 2024-03-12 |
| 10887 | 오픈AI 소송 건 머스크, AI 챗봇 '그록' 오픈 소스로 공개 | 1189 | 2024-03-12 |
| 10886 | 가드레일 없이도 헛소리 안 하는 '시스템 프롬프트 준수' LLM 등장 | 1154 | 2024-03-11 |
| 10885 | 오픈소스냐 폐쇄형이냐...LLM 공방에 VC도 참전 | 1125 | 2024-03-11 |
| 10884 | 허깅페이스, AI 이어 오픈소스 로봇 프로젝트 시작 | 1003 | 2024-03-11 |
0개 댓글