[이슈] AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격... 사전 보안 평가 도구, MS '카운터핏(Counterfit)' 오픈 소스로 공개
support
게시글 작성 시각 2021-05-10 12:55:30
2021.05.05.
ⓒ인공지능신문 / 정한영
마이크로소프트는 인공지능(AI) 보안 평가 도구인 '카운터핏(Counterfit)'을 오픈 소스로 3일(현지시간) 공개했다. 이 툴은 조직이 AI 위험 평가를 수행하여 기업에서 사용 또는 구축한 AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격하여 사전 테스트할 수 있다.
카운터핏은 AI 시스템에서 대규모로 자동화 된 공격을 수행하기 위한 명령 줄 인터페이스 도구로 마이크로소프트의 '책임있는 AI 원칙(Microsoft’s responsible AI principles)' 및 'RAISE (Responsible AI Strategy in Engineering)' 이니셔티브에 따라 AI 서비스를 사전에 보호한다는 목표로 마이크로소프트의 '레드 팀(Red Team)'이 공격 테스트 노력의 일환으로 이를 구축했다.
(후략)
[원문 기사 : http://www.aitimes.kr/news/articleView.html?idxno=20936 ]
번호 | 제목 | 조회수 | 작성 |
---|---|---|---|
공지 | [Open UP 활용가이드] 공개SW 활용 및 개발, 창업, 교육 "Open UP을 활용하세요" | 429650 | 2020-10-27 |
공지 | [Open UP 소개] 공개SW 개발·공유·활용 원스톱 지원 Open UP이 함께합니다 | 417766 | 2020-10-27 |
9349 | AWS·구글 등 러스트 도입 박차…C++ 대체하나 | 4780 | 2021-05-12 |
9348 | [이슈] AI 알고리즘이 '강력하고 신뢰할 수 있는지' 공격... 사전 보안 평가 도구, MS '카운터핏(Counterfit)' 오픈 소스로 공개 | 5024 | 2021-05-10 |
9347 | 피스톤 2.2 출시··· “기본 파이썬보다 30% 더 빠르게 실행” | 5081 | 2021-05-10 |
9346 | MS, 비주얼 스튜디오 코드 1.56 출시··· “호버 피드백 및 디버깅 개선” | 4999 | 2021-05-10 |
9345 | 제주대학교 SW융합교육원, ‘창업 및 오픈소스SW Meet-Up’ 특강 개최 | 5105 | 2021-05-06 |
9344 | 소프트웨어 개발에 사용되는 스니펫들 점검하면 취약점도 나온다? | 4973 | 2021-05-06 |
9343 | MS, 파이썬소프트웨어재단 후원 최고 등급 상향 | 4994 | 2021-05-04 |
9342 | [주간 OSS 동향 리포트] 포스텍, 메타물질 설계용 SW 오픈소스로 공개 | 5690 | 2021-05-04 |
9341 | [동향] 오케스트로, ‘AI옵스’로 클라우드 기업 경쟁 우위 점한다 | 5004 | 2021-05-04 |
9340 | 어도비, 머신러닝 기반 로그 데이터 분석 도구 오픈소스로 풀어 | 5440 | 2021-04-30 |
0개 댓글