열린마당
2023.12.20
ⓒCIO Korea /Matt Asay | InfoWorld
몇몇 벤더가 자사 생성형 AI 프로젝트의 기능을 과대 포장하는 기만적인 행태를 펼치고 있다. 이를 멈추게 하는 방안이 오픈소스화일 수 있다.
12월은 생성형 AI에 있어 순탄치 않은 시기인 듯하다. 먼저 AWS가 마이크로소프트 코파일럿(Microsoft Copilot)의 대항마로 아마존 Q(Amazon Q)을 출시했지만 '심각한 환각'과 데이터 유출 문제가 내부 직원들에 의해 지적됐다.
그 다음으로는 구글이 챗GPT의 대항마로 제미나이(Gemini)를 출시했다. 대대적인 광고를 펼치며 대단한 시연을 선보였으나 이내 그 시연은 가짜였음을 시인했다. 아, 그리고 메타(Meta)는 AI 안전을 위한 새로운 오픈소스 도구를 공개했다. 그러나 어쩐 일인지 생성형 AI 도구의 가장 어처구니없이 위험한 측면은 인정하지 않았다. 바로 프롬프트 주입 공격에 취약하다는 점이다.
(후략)
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 300810 | 2020-10-27 |
| 공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 291295 | 2020-10-27 |
| 10832 | 시스트란, 전문용어 기계번역 오픈소스 솔루션 ‘패스터 위스퍼’ 공개 | 1064 | 2024-01-03 |
| 10831 | [AI 이슈] 서울대 김현우 박사팀, AI 학회 EMNLP서 국내 최초 우수논문상 수상 및 세계 최대 규모 일상 대화 데이터셋 ‘SODA’ 오픈소스로 공개 | 978 | 2024-01-03 |
| 10830 | [주간 OSS 동향리포트] 애플, 오픈소스 대형멀티모달모델(LMM) '페렛(Ferret)'출시 | 1570 | 2024-01-02 |
| 10829 | 아파치 오픈소스 ERP 시스템, 인증 우회 취약점 발견 | 873 | 2024-01-02 |
| 10828 | 얀 르쿤 "AI 발전 위해선 오픈소스 생태계 키워야" | 681 | 2023-12-28 |
| 10827 | 애플, 오픈 소스 LMM 출시 뒤늦게 알려져..."크리스마스 선물 같은 소식" | 780 | 2023-12-26 |
| 10826 | 블로그 | 너도나도 과대포장··· 생성형AI에 오픈소스가 필요하다 | 832 | 2023-12-21 |
| 10825 | [주간 OSS 동향리포트] EU, 'AI 법' 잠정 합의에 도달...오픈소스 모델, 생체인식 예외 인정 | 1228 | 2023-12-21 |
| 10824 | "생성AI가 사이버 범죄 도울 수도…악용 범죄 크게 늘듯" | 976 | 2023-12-19 |
| 10823 | 마이크로소프트, 소형 언어모델 '파이 2' 출시 | 941 | 2023-12-19 |
0개 댓글