[이슈] AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격... 사전 보안 평가 도구, MS '카운터핏(Counterfit)' 오픈 소스로 공개
support
게시글 작성 시각 2021-05-10 12:55:30
2021.05.05.
ⓒ인공지능신문 / 정한영
마이크로소프트는 인공지능(AI) 보안 평가 도구인 '카운터핏(Counterfit)'을 오픈 소스로 3일(현지시간) 공개했다. 이 툴은 조직이 AI 위험 평가를 수행하여 기업에서 사용 또는 구축한 AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격하여 사전 테스트할 수 있다.
카운터핏은 AI 시스템에서 대규모로 자동화 된 공격을 수행하기 위한 명령 줄 인터페이스 도구로 마이크로소프트의 '책임있는 AI 원칙(Microsoft’s responsible AI principles)' 및 'RAISE (Responsible AI Strategy in Engineering)' 이니셔티브에 따라 AI 서비스를 사전에 보호한다는 목표로 마이크로소프트의 '레드 팀(Red Team)'이 공격 테스트 노력의 일환으로 이를 구축했다.
(후략)
[원문 기사 : http://www.aitimes.kr/news/articleView.html?idxno=20936 ]
| 번호 | 제목 | 조회수 | 작성 |
|---|---|---|---|
| 공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 392586 | 2020-10-27 |
| 공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 382379 | 2020-10-27 |
| 9352 | AWS, 구축형 SW→클라우드 SaaS로 바꿔주는 오픈소스 도구 공개 | 5235 | 2021-05-13 |
| 9351 | [주간 OSS 동향 리포트] MS, AI 보안평가도구 '카운터핏(Counterfit)' 오픈 소스로 공개 | 5148 | 2021-05-12 |
| 9350 | 젯브레인, 코틀린 1.5 버전 출시 | 5474 | 2021-05-12 |
| 9349 | AWS·구글 등 러스트 도입 박차…C++ 대체하나 | 4741 | 2021-05-12 |
| 9348 | [이슈] AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격... 사전 보안 평가 도구, MS '카운터핏(Counterfit)' 오픈 소스로 공개 | 4980 | 2021-05-10 |
| 9347 | 피스톤 2.2 출시··· “기본 파이썬보다 30% 더 빠르게 실행” | 5035 | 2021-05-10 |
| 9346 | MS, 비주얼 스튜디오 코드 1.56 출시··· “호버 피드백 및 디버깅 개선” | 4957 | 2021-05-10 |
| 9345 | 제주대학교 SW융합교육원, ‘창업 및 오픈소스SW Meet-Up’ 특강 개최 | 5064 | 2021-05-06 |
| 9344 | 소프트웨어 개발에 사용되는 스니펫들 점검하면 취약점도 나온다? | 4916 | 2021-05-06 |
| 9343 | MS, 파이썬소프트웨어재단 후원 최고 등급 상향 | 4953 | 2021-05-04 |
0개 댓글