- 2023.12.08
- ⓒAI타임스/ 박찬 기자
메타가 안전한 인공지능(AI) 모델 구축을 위한 프로젝트를 발표했다. 이는 빅테크들이 지난 7월 공동으로 발표한 'AI 안전 서약'에 따른 것으로, 개발자가 책임감 있게 AI 모델을 개발하는 데 도움이 되는 도구 및 평가 기능을 제공한다는 내용이다.
메타는 7일(현지시각) 공식 블로그를 통해 '퍼플 라마(Purple Llama)' 프로젝트를 발표했다. 이는 생성 AI 혁신을 촉진하면서도, 개발자들이 책임감 있게 AI 모델을 배포할 수 있도록 지원하기 위한 포괄적인 프로젝트다.
퍼플 라마의 첫 단계로, '사이버 보안 평가 기준(CyberSec Eval)'과 입출력 안전장치 ‘라마 가드(Llama Guard)’를 출시했다. 사이버 보안 평가 기준은 백악관 안전 서약에 명시된 위험을 해결하는 데 초점을 맞춘 벤치마크 도구다. 대형언어모델(LLM)의 보안 위험을 정량화하는 것이 목적이다. AI가 안전하지 않은 코드를 제안하는 빈도를 평가하며, 악성 코드를 생성하거나 사이버 공격을 하지 못하도록 방지한다.
(후략)
[원본기사 : https://www.aitimes.com/news/articleView.html?idxno=155755]
번호 | 제목 | 조회수 | 작성 |
---|---|---|---|
공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 1 | 2020-10-27 |
공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 1 | 2020-10-27 |
10825 | [주간 OSS 동향리포트] EU, 'AI 법' 잠정 합의에 도달...오픈소스 모델, 생체인식 예외 인정 | 1 | 2023-12-21 |
10824 | "생성AI가 사이버 범죄 도울 수도…악용 범죄 크게 늘듯" | 1 | 2023-12-19 |
10823 | 마이크로소프트, 소형 언어모델 '파이 2' 출시 | 1 | 2023-12-19 |
10822 | NIA, 전자정부 표준프레임워크 신규버전 발표 | 1 | 2023-12-19 |
10821 | 리눅스재단, 생성AI 프로젝트 '제네레이티브 AI 커먼즈' 공개 | 1 | 2023-12-18 |
10820 | MS, '애저 AI 스튜디오' 대폭 확장...오픈 소스 LLM 40개 추가 | 1 | 2023-12-18 |
10819 | 카카오뱅크, 혁신 금융 기술 오픈소스 공개 2 | 1 | 2023-12-15 |
10818 | [주간 OSS 동향리포트]메타, IBM 등 글로벌 50개사, AI 연합(얼라이언스) 구축 | 1 | 2023-12-14 |
10817 | 메타, 안전한 생성 AI 개발 위한 '퍼플 라마' 도입 | 1 | 2023-12-11 |
10816 | EU, 'AI 법' 잠정 합의...오픈 소스 이어 생체 인식도 예외 인정 | 1 | 2023-12-11 |
0개 댓글