본문 바로가기

Home > 열린마당 > 공개SW 소식

공개SW 소식

텐서플로, 기계학습 사생활 침해 방지 기술 도입

OSS관리자3 게시글 작성 시각 2020-07-01 19:34:35 게시글 조회수 4426

6월 26일

ⓒ 지디넷코리아, 남혁우 기자 l firstblood@zdnet.co.kr


데이터 역추적으로 개인정보 노출될 가능성 사전에 파악

 

구글이 인공지능(AI) 학습 과정에서 발생할 수 있는 사생활 침해를 막기 위한 기능을 공개했다.

 

구글은 기계학습(ML) 오픈소스 프레임워크 텐서플로에 개인정보 보호 테스트 라이브러리 텐서플로 프라이버시의 새로운 모듈을 추가했다고 공식 블로그를 통해 24일(현지시간) 밝혔다.

 

새롭게 선보이는 모듈은 기존에 공개했던 텐서플로 프라이버시의 단점을 개선한 것이 특징이다.

 

텐서플로 프라이버시는 차등 개인정보라는 통계 기법으로 개인 데이터를 보호하는 기술이다. AI 모델이 학습한 데이터를 역추적해 개인의 정보를 찾아내는 멤버십 추론 공격을 방지하기 위해 민감한 정보는 다시 접근할 수 없도록 막고 조직 단위로 학습시킨다.

 

그러나 이 기술은 학문적인 최악의 시나리오를 상정해 설계 알고리즘을 바탕으로 한다. 그래서 개인정보 외적인 내용도 자동 차단해 실제 업무에서 학습 모델의 정확성에 영향을 줄 수 있다는 것이 단점으로 지적됐다.

 

새로운 모듈은 멤버십 추론 공격을 통해 유출될 가능성이 있는 개인정보가 있는지 예측하는 내부 멤버십 추론 테스트를 도입했다. 즉, AI가 외부 공격을 받기 전 내부 테스트를 통해 유출될 가능성이 있는 개인정보를 미리 파악하고 대응할 수 있는 기술이다.

 

이 모듈은 사전 학습된 AI가 도입됐으며 내부 알고리즘을 악용할 수 없도록 블랙박스 형식으로 분석 결과와 취약점 데이터만 제공한다.

 


※ 본 내용은 (주)지디넷코리아(http://www.zdnet.co.kr/)의 저작권 동의에 의해 공유되고 있습니다.
Copyright ⓒ(주)지디넷코리아. 무단전재 및 재배포 금지
 

[원문출처: https://zdnet.co.kr/view/?no=20200626153148]

맨 위로
맨 위로