메타, 안전한 생성 AI 개발 위한 '퍼플 라마' 도입
support
게시글 작성 시각 2023-12-11 10:13:29
- 2023.12.08
- ⓒAI타임스/ 박찬 기자
메타가 안전한 인공지능(AI) 모델 구축을 위한 프로젝트를 발표했다. 이는 빅테크들이 지난 7월 공동으로 발표한 'AI 안전 서약'에 따른 것으로, 개발자가 책임감 있게 AI 모델을 개발하는 데 도움이 되는 도구 및 평가 기능을 제공한다는 내용이다.
메타는 7일(현지시각) 공식 블로그를 통해 '퍼플 라마(Purple Llama)' 프로젝트를 발표했다. 이는 생성 AI 혁신을 촉진하면서도, 개발자들이 책임감 있게 AI 모델을 배포할 수 있도록 지원하기 위한 포괄적인 프로젝트다.
퍼플 라마의 첫 단계로, '사이버 보안 평가 기준(CyberSec Eval)'과 입출력 안전장치 ‘라마 가드(Llama Guard)’를 출시했다. 사이버 보안 평가 기준은 백악관 안전 서약에 명시된 위험을 해결하는 데 초점을 맞춘 벤치마크 도구다. 대형언어모델(LLM)의 보안 위험을 정량화하는 것이 목적이다. AI가 안전하지 않은 코드를 제안하는 빈도를 평가하며, 악성 코드를 생성하거나 사이버 공격을 하지 못하도록 방지한다.
(후략)
[원본기사 : https://www.aitimes.com/news/articleView.html?idxno=155755]
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 10824 | NIA, 전자정부 표준프레임워크 신규버전 발표 | 1854 | 2023-12-19 |
| 10823 | 리눅스재단, 생성AI 프로젝트 '제네레이티브 AI 커먼즈' 공개 | 1716 | 2023-12-18 |
| 10822 | MS, '애저 AI 스튜디오' 대폭 확장...오픈 소스 LLM 40개 추가 | 1724 | 2023-12-18 |
| 10821 | 카카오뱅크, 혁신 금융 기술 오픈소스 공개 2 | 2212 | 2023-12-15 |
| 10820 | [주간 OSS 동향리포트]메타, IBM 등 글로벌 50개사, AI 연합(얼라이언스) 구축 | 2292 | 2023-12-14 |
| 10819 | 메타, 안전한 생성 AI 개발 위한 '퍼플 라마' 도입 | 2048 | 2023-12-11 |
| 10818 | EU, 'AI 법' 잠정 합의...오픈 소스 이어 생체 인식도 예외 인정 | 2041 | 2023-12-11 |
| 10817 | "AI 미래, 오픈소스 빼놓고 말할 수 없다" 글로벌 공룡들도 뛰어드는 이유 | 1888 | 2023-12-08 |
| 10816 | "챗GPT 추격"…IBM·메타 등 50개사 AI 오픈소스 동맹 | 1887 | 2023-12-06 |
| 10815 | 알리바바 클라우드, 멀티모달 기능 갖춘 LLM 4종 오픈소스로 공개 | 1986 | 2023-12-06 |
0개 댓글