[주간 OSS 동향리포트] 가드레일을 설정하지 않아도 학습 과정에서 시스템 프롬프트준수하는 LLM 등장
Open UP에서는 지난 한 주의 국내외 공개SW 관련 동향을 모아 정리합니다.
자세한 기사 내용은 아래 기사 내용 중 굵게 표시된 제목을 클릭하시면 보실 수 있습니다.
인공지능(AI) 스타트업 아바쿠스 AI가 모든 시나리오에서 시스템 프롬프트(system prompts)를 엄격하게 따르도록 미세조정한 오픈 소스 LLM을 출시했습니다. 개발자들은 챗봇의 환각이나 탈옥을 방지하기 위해 시스템 프롬프트를 설정합니다. '리버레이트-큐원1.5-72B(Liberated-Qwen1.5-72B)'라고 불리는 이 모델은 알리바바의 파운데이션 모델 '큐원1.5-72B'를 베이스로 사용했습니다.
대부분의 오픈 소스 모델은 이를 완벽하게 실행하지 못하는 것으로 알려졌으나 아바쿠스 AI는 이를 해결하기 위해 특정한 데이터셋으로 모델을 미세조정하였습니다. 이 방면에 다소 취약했던 오픈 소스 개발자들에게 유용하다고 설명하였습니다.
이를 통해 모델이 사용자 요구를 벗어나는 경우도 강제로 시스템 메시지를 준수하도록 학습하였습니다.
리버레이트 모델은 현재 허깅페이스를 통해 오픈소스로 공개(https://huggingface.co/abacusai/Liberated-Qwen1.5-72B)됐으며, '큐원 라이선스'에 따라 1억명 이상 사용자를 보유한 경우에는 알리바바 측에 별도 라이선스를 요청해야 합니다.
□ 허깅페이스, AI 이어 오픈소스 로봇 프로젝트 시작(ZDNet Korea)
인공지능(AI) 저변 확대를 이끈 기업 중 하나인 허깅페이스가 AI에 이어 로봇 개발에 박차를 가한다. 7일(현지시간) 미국 지디넷 등 외신에 따르면 AI 연구원 레미 카데네는 개방형 로봇 프로젝트에 참여하기 위해 허깅페이스에 합류했다고 X(과거 트위터)를 통해 밝혔다. 레미 카데네는 테슬라 출신 AI 연구원으로 자율주행과 인간형 로봇인 테슬라 옵티머스 개발에 참여했다.
- OpenUP -
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 363732 | 2020-10-27 |
| 공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 353535 | 2020-10-27 |
| 10900 | 인텔·구글·퀄컴, '反엔비디아' AI 오픈소스 SW 프로젝트 추진 | 834 | 2024-03-26 |
| 10899 | 월드코인 ‘오브’ 오픈소스화 + 개인정보 보호 기능 추가 | 828 | 2024-03-26 |
| 10898 | AMD, 오픈소스 업스케일링 기술 'FSR 3.1' 공개 | 613 | 2024-03-26 |
| 10897 | [주간 OSS 동향리포트] 오픈소스 로보틱스 얼라이언스(OSRA)를 출범, 엔비디아, 퀄컴 핵심 멤버로 참여 | 1130 | 2024-03-26 |
| 10896 | MS, 차세대 원격 캐시 저장소 기술 '가넷' 선봬…"오픈소스로 공개" | 831 | 2024-03-22 |
| 10895 | 엔비디아·퀄컴, 신설 오픈소스로보틱스동맹(OSRA) 참여 | 743 | 2024-03-22 |
| 10894 | 인젠트, 건대 홈페이지 리뉴얼 오픈…“외산 DBMS 대체” | 866 | 2024-03-21 |
| 10893 | [인터뷰] 김택완 공개SW협회장 “중국도 사활 건 오픈소스, 국내 전문가 양성해야” | 796 | 2024-03-21 |
| 10892 | [주간 OSS 동향리포트] 가드레일을 설정하지 않아도 학습 과정에서 시스템 프롬프트준수하는 LLM 등장 | 1480 | 2024-03-20 |
| 10891 | 투디지트, '오픈 KO-LLM 리더보드' 1위 AI 모델·코드 전격 공개 | 863 | 2024-03-20 |
0개 댓글