본문 바로가기

Home > 열린마당 > 공개SW 소식

공개SW 소식

2021.05.05.
ⓒ인공지능신문 / 정한영

 

마이크로소프트는 인공지능(AI) 보안 평가 도구인 '카운터핏(Counterfit)'을 오픈 소스로 3일(현지시간) 공개했다. 이 툴은 조직이 AI 위험 평가를 수행하여 기업에서 사용 또는 구축한 AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격하여 사전 테스트할 수 있다.

카운터핏은 AI 시스템에서 대규모로 자동화 된 공격을 수행하기 위한 명령 줄 인터페이스 도구로 마이크로소프트의 '책임있는 AI 원칙(Microsoft’s responsible AI principles)' 및 'RAISE (Responsible AI Strategy in Engineering)' 이니셔티브에 따라 AI 서비스를 사전에 보호한다는 목표로 마이크로소프트의 '레드 팀(Red Team)'이 공격 테스트 노력의 일환으로 이를 구축했다. 

(후략)
 

[원문 기사 : http://www.aitimes.kr/news/articleView.html?idxno=20936 ]

맨 위로
맨 위로