- 2023.12.08
- ⓒAI타임스/ 박찬 기자
메타가 안전한 인공지능(AI) 모델 구축을 위한 프로젝트를 발표했다. 이는 빅테크들이 지난 7월 공동으로 발표한 'AI 안전 서약'에 따른 것으로, 개발자가 책임감 있게 AI 모델을 개발하는 데 도움이 되는 도구 및 평가 기능을 제공한다는 내용이다.
메타는 7일(현지시각) 공식 블로그를 통해 '퍼플 라마(Purple Llama)' 프로젝트를 발표했다. 이는 생성 AI 혁신을 촉진하면서도, 개발자들이 책임감 있게 AI 모델을 배포할 수 있도록 지원하기 위한 포괄적인 프로젝트다.
퍼플 라마의 첫 단계로, '사이버 보안 평가 기준(CyberSec Eval)'과 입출력 안전장치 ‘라마 가드(Llama Guard)’를 출시했다. 사이버 보안 평가 기준은 백악관 안전 서약에 명시된 위험을 해결하는 데 초점을 맞춘 벤치마크 도구다. 대형언어모델(LLM)의 보안 위험을 정량화하는 것이 목적이다. AI가 안전하지 않은 코드를 제안하는 빈도를 평가하며, 악성 코드를 생성하거나 사이버 공격을 하지 못하도록 방지한다.
(후략)
[원본기사 : https://www.aitimes.com/news/articleView.html?idxno=155755]
번호 | 제목 | 조회수 | 작성 |
---|---|---|---|
공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 304527 | 2020-10-27 |
공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 294480 | 2020-10-27 |
10817 | 메타, 안전한 생성 AI 개발 위한 '퍼플 라마' 도입 | 1049 | 2023-12-11 |
10816 | EU, 'AI 법' 잠정 합의...오픈 소스 이어 생체 인식도 예외 인정 | 974 | 2023-12-11 |
10815 | "AI 미래, 오픈소스 빼놓고 말할 수 없다" 글로벌 공룡들도 뛰어드는 이유 | 1022 | 2023-12-08 |
10814 | "챗GPT 추격"…IBM·메타 등 50개사 AI 오픈소스 동맹 | 1009 | 2023-12-06 |
10813 | 알리바바 클라우드, 멀티모달 기능 갖춘 LLM 4종 오픈소스로 공개 | 1065 | 2023-12-06 |
10812 | [주간 OSS 동향리포트] ‘오픈소스로 바꾸는 세상’ 공개SW 페스티벌 성료 | 1383 | 2023-12-06 |
10811 | [AI 이슈] 딥마인드 AI 모델 'GNoME', 220만 개 새로운 소재 구조 예측!...곧 생산될 수 있는 '후보 물질 38만개, 데이터베이스' 오픈소스로 공개 | 1182 | 2023-12-04 |
10810 | 네이버 투자한 디사일로, 동형암호 기반 오픈소스 공개 | 968 | 2023-12-04 |
10809 | 투게더, 오픈 소스 AI 모델 기반 클라우드 구축으로 1300억 투자 유치 | 950 | 2023-12-04 |
10808 | 모스랜드, 오픈소스 개발자 지원 프로그램 출시 | 912 | 2023-12-04 |
0개 댓글