[이슈] AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격... 사전 보안 평가 도구, MS '카운터핏(Counterfit)' 오픈 소스로 공개
support
게시글 작성 시각 2021-05-10 12:55:30
2021.05.05.
ⓒ인공지능신문 / 정한영
마이크로소프트는 인공지능(AI) 보안 평가 도구인 '카운터핏(Counterfit)'을 오픈 소스로 3일(현지시간) 공개했다. 이 툴은 조직이 AI 위험 평가를 수행하여 기업에서 사용 또는 구축한 AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격하여 사전 테스트할 수 있다.
카운터핏은 AI 시스템에서 대규모로 자동화 된 공격을 수행하기 위한 명령 줄 인터페이스 도구로 마이크로소프트의 '책임있는 AI 원칙(Microsoft’s responsible AI principles)' 및 'RAISE (Responsible AI Strategy in Engineering)' 이니셔티브에 따라 AI 서비스를 사전에 보호한다는 목표로 마이크로소프트의 '레드 팀(Red Team)'이 공격 테스트 노력의 일환으로 이를 구축했다.
(후략)
[원문 기사 : http://www.aitimes.kr/news/articleView.html?idxno=20936 ]
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 9356 | 자바 언어 만든 제임스 고슬링 "보안에 강한 자바, 더 성장할 수 있다“ | 5036 | 2021-05-13 |
| 9355 | MS 디펜더, 맥OS·리눅스에서도 쓸 수 있다 | 4826 | 2021-05-13 |
| 9354 | AWS, 구축형 SW→클라우드 SaaS로 바꿔주는 오픈소스 도구 공개 | 5645 | 2021-05-13 |
| 9353 | [주간 OSS 동향 리포트] MS, AI 보안평가도구 '카운터핏(Counterfit)' 오픈 소스로 공개 | 5557 | 2021-05-12 |
| 9352 | 젯브레인, 코틀린 1.5 버전 출시 | 6007 | 2021-05-12 |
| 9351 | AWS·구글 등 러스트 도입 박차…C++ 대체하나 | 5257 | 2021-05-12 |
| 9350 | [이슈] AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격... 사전 보안 평가 도구, MS '카운터핏(Counterfit)' 오픈 소스로 공개 | 5345 | 2021-05-10 |
| 9349 | 피스톤 2.2 출시··· “기본 파이썬보다 30% 더 빠르게 실행” | 5435 | 2021-05-10 |
| 9348 | MS, 비주얼 스튜디오 코드 1.56 출시··· “호버 피드백 및 디버깅 개선” | 5369 | 2021-05-10 |
| 9347 | 제주대학교 SW융합교육원, ‘창업 및 오픈소스SW Meet-Up’ 특강 개최 | 5449 | 2021-05-06 |
0개 댓글