[7월 월간브리핑] 개방형 AI 모델 확산에 따른 식별·문서화 기반 AI 거버넌스 체계의 필요성 부상 외

Open Up 

□ 개방형 AI 활용 확산으로 모델·데이터·라이선스를 검증하고 관리하는 거버넌스 과제가 주요 이슈로 부상

○ 개방형 AI 모델 활용이 확대되면서, 공개 여부 자체보다 공개 범위, 라이선스, 사용 조건, 문서화 수준 등을 구체적으로 확인하고 관리하는 것이 중요해지고 있음
 ※ ‘개방형 AI 모델’은 오픈소스 AI·오픈웨이트 AI 등 모델 가중치, 코드, 문서, 라이선스, 데이터 정보 등 일부 구성요소가 공개되어 외부에서 활용·검토할 수 있는 AI 모델을 포괄하는 표현으로 사용함
 ※ OECD는 상업용 파운데이션 모델의 약 55%가 오픈 웨이트이며(2025.04. 기준), 오픈소스 라이선스 모델이 허깅페이스 다운로드의 약 80%를 차지(2026.03 기준)하는 등 개방형 AI 모델의 공급과 활용이 빠르게 확대되고 있다고 분석함

 - G7은 ‘AI 개방성에 관한 비전(Vision on AI Openness)’을 통해 AI 개방성을 커뮤니티 주도이며, 공개 범위와 조건에 따라 달라지는 스펙트럼으로 설명하고 이를 구분하기 위한 공통 참조 기준을 제시(2026.05)
 ※ G7은 AI를 ‘open’으로 설명할 때 접근 조건, 라이선스 조건, 문서화, 사용 제약의 투명성이 중요하다고 강조했으며, OECD도 라이선스와 문서화 수준이 AI 개방성의 주요 고려사항임을 제시함

 - 실제 조직 환경에서 AI 모델은 데이터셋, 코드, 프레임워크, 외부 API, 파인튜닝 산출물 등과 결합된 AI 시스템의 일부로 활용되므로, 각 구성요소의 출처와 라이선스, 활용 조건에 대한 체계적인 식별 및 문서화가 필요

 - 개방형 AI의 투명성이나 검증 가능성은 공개된 구성요소의 범위와 문서화 수준, 라이선스 및 사용 조건에 따라 달라지므로, 무엇이 공개되었고 어떤 조건에서 사용할 수 있는지를 구체적으로 확인하는 것이 개방형 AI 거버넌스의 출발점으로 볼 수 있음

○ 국제사회는 AI 거버넌스 논의를 확대하고 있으나, 기업과 공공기관의 실제 AI 도입·운영 과정에서 필요한 세부 관리 기준은 여전히 조직 차원에서 구체화할 필요가 있음

 - UN 글로벌 AI 거버넌스 대화에서 안토니우 구테흐스 UN 사무총장은 AI 발전 속도가 규제가 따라잡기 어려울 정도로 빠르다고 경고하고, 혁신에는 글로벌 차원의 안전장치와 규칙이 마련되어야 한다고 강조
 ※ 2026년 7월 스위스 제네바에서 열린 UN ‘AI 거버넌스 글로벌 대화’에서 AI 안전성, 책임성, 인간 감독, 국제협력, AI 격차 해소 등이 주요 의제로 다뤄짐
 ※ 다만 이번 대화는 구속력 있는 조약이나 기업 단위의 실무 검증 기준이라기보다, AI의 잠재적 피해를 완화하고 기회를 활용하기 위한 국제적 협의 플랫폼의 성격으로 볼 수 있음.

○ 이번 브리핑은 AI 개방성 기준 논의를 바탕으로, 개방형 AI 모델을 조직에서 활용할 때 모델·데이터·라이선스 확인 및 관리 체계의 필요성을 관련 동향과 함께 살펴보고자 함

▶ 개방형 AI 활용에서 거버넌스가 필요한 주요 관리 영역

○ 개방형 AI 모델을 실제 조직 환경에서 신뢰성 있게 활용하기 위해서는 모델·데이터·라이선스·평가·안전성 관련 정보에 대해 어느 수준까지 공개·문서화되어 있는지 확인하고, 활용 목적에 따라 관리해야 할 요소를 구분할 필요가 있음

 - (모델 관련 기록 및 평가 결과) 공개된 모델의 학습 로그, 릴리스 노트, 해석 도구, 평가 결과 등이 문서화되어 있는지 확인할 필요가 있음

 - (라이선스 및 사용 조건) 개방형 AI 모델의 라이선스와 사용 조건은 모델마다 다를 수 있으며, 상업적 활용, 재배포, 모델 수정·재학습 등 허용되는 활용 범위와 책임 있는 재사용 조건을 개별적으로 검토해야 함

 - (안전성 조치) 모델의 알려진 위험, 위험 및 안전 조치가 투명하게 보고되어 있는지 확인할 필요가 있음

 - (모델 출처와 무결성) 다운로드한 모델 파일이 원본과 동일한지, 배포 과정에서 변조되지 않았는지를 확인하는 것도 점검 대상임

 - (데이터) 학습데이터의 출처, 수집 방식, 전처리 과정, 라이선스 조건 등이 어느 수준까지 공개·문서화되어 있는지 확인하고, 확인이 어려운 경우 도입·활용 시 이를 법적·운영상 리스크 요인으로 인식할 필요가 있음
 ※ 개방형 AI 모델이라도 학습 데이터가 항상 공개되는 것은 아니며, 공개되더라도 일부 정보에 한정될 수 있어, 데이터의 적법성, 저작권, 개인정보 포함 여부 등을 외부에서 충분히 확인하기 어려워 법적 리스크와 연결될 수 있음
 ※ OECD는 데이터 계층의 개방성 고려사항으로 데이터 라이선스 명확화, 출처 추적, 책임 있는 재사용을 위한 문서화, 재현 가능성 및 감사 가능성을 제시함 

○ 특히 개방형 AI 모델을 도입·활용하는 조직은 모델의 구성요소와  데이터·코드·라이선스·외부 의존성 등을 식별·문서화하고 이를 기반으로 법적·운영상 리스크를 사전에 검토·관리할 수 있는 거버넌스 체계가 필요함

▶ 학습 데이터·출력물 검증 공백이 법적·컴플라이언스 리스크로 현실화

○ 생성형 AI 관련 저작권 소송이 출판, 이미지, 음악 분야로 확산되면서 학습 데이터와 생성 결과물의 저작권 침해 가능성, 관련 기록의 보존 여부가 법적·컴플라이언스 쟁점으로 부상하고 있음

 - 뉴욕타임스, 데일리뉴스 등 여러 언론사와 OpenAI의 저작권 소송에서 학습 데이터, AI 시스템의 저작권 자료 검색 가능성, 관련 대화 기록의 보존·삭제 여부 등이 쟁점으로 다뤄지고 있음

 - 최근 Anthropic의 저작권 집단소송 합의(최종 승인, 2026.07), Getty Images와 Stability AI 간 이미지 생성 모델 소송, 음반사들의 Suno·Udio 제소 사례 등 AI 학습 데이터 문제가 산업 전반의 리스크로 확대되고 있음을 보여줌 
 ※ 저작권 소유자(작가, 언론사, 이미지·음악 권리자 등)들이 기술 기업의 생성형 AI 모델 학습에 활용된 데이터의 적법성 등을 문제 삼아 제기한 소송 사례임 

○ 이러한 사례들은 생성형 AI 모델·서비스의 데이터 출처와 운영 기록, 생성 결과물의 저작권 침해 가능성이 법적 논쟁으로 이어질 수 있음을 시사함

 - AI 투명성 문제는 윤리적 원칙의 문제를 넘어, 조직이 데이터 출처와 이용 조건, 출력 기록을 확인할 수 있는 체계를 갖추어야 하는 컴플라이언스 이슈로 확대되고 있음

▶ 개방형 AI 운영을 위한 실무 수단으로 AI-BOM 활용 필요

○ 개방형 AI 모델을 조직 환경에서 안전하게 활용하기 위해서는 모델과 데이터, 의존 구성요소를 식별하고 기록하는 문서화 체계가 필요함

 - 소프트웨어 공급망에서 SBOM이 구성요소 추적과 취약점 관리를 가능하게 한 것처럼, AI 시스템의 구성요소를 알고리즘, 데이터 수집 방법, 프레임워크·라이브러리, 라이선스 정보, 표준 준수 정보까지 확장해 문서화가 필요함

 - AI-BOM은 AI 시스템을 구성하는 요소와 관련 정보를 목록화해, 모델·데이터·소프트웨어 구성요소의 출처, 라이선스, 의존관계 등의 정보를 관리하는 실무 수단으로 활용될 수 있음
 ※ Linux Foundation은 AI-BOM이 더욱 복잡해지는 AI 시스템 관리를 위해 기존 SBOM을 확장해 AI 시스템 구성·출처·준수 정보를 문서화하는 접근이라고 설명함
 ※ OpenChain은 “AI 시스템을 구성하는 컴포넌트와 관련 정보의 목록이며, 라이선스, 규제, 비즈니스 요구를 지원하는 컴플라이언스 활동의 기반”으로 정의함

 - 즉, ‘무엇이 포함되어 있는가’를 문서화함으로써, 조직이 AI 시스템의 구성요소와 활용 조건을 확인하고 법적·운영상 리스크를 검토하는 기반으로 활용될 수 있음

□ EU, 오픈소스를 AI·클라우드 기술 주권 확보의 핵심 기반으로 제시

○ EU는 기술주권 패키지(Tech Sovereignty Package)와 EU 오픈소스 전략(EU Open Source Strategy)을 통해 오픈소스를 디지털 자율성과 기술 종속 완화를 위한 핵심 수단으로 제시(2026.06)

 - EU 기술주권 패키지는 반도체, 클라우드·AI, 오픈소스, 에너지 디지털화를 포괄하는 정책 묶음으로, 유럽의 디지털 자율성, 공급망 회복력, 핵심 기술 역량 강화를 목표로 함

 - 반도체법2.0(Chips Act 2.0), 클라우드·AI 개발법(Cloud and AI Development Act), EU 오픈소스 전략 등을 연계해 반도체부터 인프라, 소프트웨어, 클라우드·AI에 이르는 기술 전반의 의존도를 낮추려는 방향을 제시

 - 이는 오픈소스를 단순한 개발 방식이나 비용 절감 수단이 아니라, 디지털 자율성 강화와 기술 의존도 완화를 뒷받침하는 운영 기반으로 보고 있다는 점에서 의미가 있음

○ 특히 EU 오픈소스 전략은 오픈소스를 별도의 개발자 정책이 아니라 운영체제, 클라우드·엣지, AI, 사이버보안, 반도체, 차세대 인터넷 등 핵심 기술 영역의 기반 요소로 제시함

 - EU는 오픈소스 전략을 기술주권 패키지의 일부로 제시하고, 오픈소스 기술의 개발, 확장, 배포, 장기 지속가능성을 지원해 공공·민간 부문의 개방형 디지털 생태계를 강화하겠다는 방향을 제시

 - 또한 오픈소스가 특정 벤더나 비EU 기술에 대한 기술에 대한 의존도를 줄이고, 공공부문과 기업이 기술 선택권과 통제력을 확보하는 데 기여할 수 있다고 보고 있음

 - 특히 AI와 클라우드 영역에서 오픈소스 활용이 확대될수록, 라이선스 준수, 보안성, 의존성 분석, 장기 유지관리 역량이 함께 중요해짐

○ EU의 접근은 개방형 기술 활용이 단순한 공개 여부나 라이선스 확인을 넘어, 조직이 안정적으로 도입·운영할 수 있는 기반을 갖추는 문제와 연결될 수 있음을 보여줌

 - EU의 오픈소스 전략은 기술 주권, 생태계 활성화, 공공행정 활용, 국제협력 강화를 주요 목표로 제시

 - 공공행정에서의 오픈소스 활용 확대, 오픈소스 프로그램 사무국(OSPO) 네트워크 강화, 취약점 관리, 라이선스 준수, 의존성 위험 관리 등 공통 관리 기준을 강화하려는 방향으로, 개방형 AI 모델 활용에도 검증 가능한 운영 체계가 필요함을 뒷받침함
 ※ 이는 NGI(Next Generation Internet), 유럽 데이터 공간을 위한 개방형 미들웨어 개발 프로그램인 SIMPL, 개방적이고 신뢰 가능한 AI 솔루션 개발·도입을 지원하는 GenAI4EU, RISC-V 등 개방형 반도체·산업용 애플리케이션을 지원하는 Chips Joint Undertaking 등 기존 이니셔티브와 연계되어, 오픈소스를 핵심 디지털 인프라의 개발·도입·운영 기반으로 확장하려는 흐름을 보여줌

□ 시사점 

○ 개방형 AI 모델 도입 시 실제 검증 가능한 항목을 기준으로 평가 체계 마련이 필요

 - 학습 데이터 출처, 파인튜닝 이력, 라이선스 조건, 평가 기록, 사용 제한 등이 확인 가능한지는 별도로 점검해야 함

 - AI-BOM, 모델 서명 등 개방형 AI 모델의 구성요소를 식별·문서화·검증하는 실무 수단에 대한 이해와 준비가 필요함

○ 저작권 소송 등에서 드러나는 학습데이터·출력물 검증 공백은 국내 조직에도 직접적인 컴플라이언스 과제가 될 수 있으므로, 데이터 출처와 이용 조건을 사전에 확인할 수 있는 내부 절차를 갖출 필요가 있음

○ EU가 오픈소스를 기술주권과 디지털 자율성의 정책 수단으로 제시하고 있듯이, 개방형 AI 모델의 활용은 비용 절감이나 성능 비교를 넘어 공급망 다변화, 운영 통제 가능성, 내부 역량 축적 필요

○ 국내에서도 AI 기본법 시행 및 개정은 통해 학습용 데이터 관리, 공공부문 AI 도입, AI 투명성·안전성 확보, 고영향 AI 영향평가, AI·데이터 기반 행정 거버넌스 강화 등이 제도화되면서, 조직 차원의 검증 가능한 AI 활용 기준 마련이 필요함

□ 주목할 만한 월간 이슈(7월)  

○ (LLM) 모티프 3, 글로벌 오픈소스 평가에서 3위

 - 모티프테크놀로지스가 정부의 독자 AI 파운데이션 모델 사업을 통해 개발 중인 ‘모티프 3(Motif-3)’ 프리뷰 버전이 전 세계 오픈소스 모델 중 3위권을 차지하였으며, 8월 초 최종 모델을 오픈소스로 공개할 계획

 - 모티프 3는 3,000억 개가 넘는 매개변수 규모의 전문가 혼합(MoE) 기반 대규모언어모델로, 아키텍처 설계부터 학습·구현까지 자체 개발한 한국형 파운데이션 모델임

 - 글로벌 AI 평가 기관 ‘아티피셜 애널리시스’의 종합 성능 지표인 AAII(Artificial Analysis Intelligence Index)에서 딥시크 최신 모델인 ‘V4 프로’와 동일한 44점을 기록했으며, 키미(Kimi) K3, GLM-5.2에 이어 딥시크 V4 프로, 미니맥스 M3와 함께 3위권을 차지

○ (금융) 비씨카드, 금융 특화 AI 검색 임베딩 모델 ‘MoAI’ 공개

 - 비씨카드가 국내 금융 분야의 전문 용어와 문맥에 대한 검색 정확도를 높이기 위해 자체 개발한 금융 특화 임베딩 모델 ‘MoAI’를 허깅페이스에 공개
 ※ 임베딩 모델은 질문과 문서의 의미를 벡터 형태로 변환해 표현이 달라도 의미가 유사한 문서를 검색하는 기술로, 생성형 AI 서비스의 검색 및 답변 정확도를 높이는 데 활용
 ※ 경량형 모델(0.6B)은 일반 CPU로 이용 가능하며, 글로벌 벤치마크 SOTA 평가 항목에서 타 모델 대비 최대 15%까지 향상된 성능을 보이며 전세계 1위 기록
 ※ 고품질형 모델(4.0B)은 GPU환경에서만 활용할 수 있으며, 높은 검색 정확도가 요구되는 업무를 고려한 구성으로 볼 수 있음

 - 비씨카드는 기존 범용 임베딩 모델이 가맹점, 카드 결제 등 국내 금융 분야의 전문 용어와 문맥을 충분히 반영하지 못하는 한계를 보완하기 위해 금융 특화 모델을 개발
 ※ 모델 학습에는 비씨카드가 오픈소스 플랫폼에 공개한 182만 건 규모의 금융 특화 데이터셋을 활용

 - 비씨카드는 모델을 허깅페이스에 공개해 외부 개발자와 기업이 활용할 수 있도록 하고, KT 그룹사 AI 서비스 적용을 시작으로 정부·금융기관 대상 금융 AI 검색 플랫폼 사업을 확대할 계획

○ (AI 에이전트) NHN KCP, AAIF 합류…AI 에이전트 결제 표준화 참여

 - NHN KCP가 리눅스 재단 산하 에이전틱 AI 파운데이션(AAIF)에 가입하고 개방형 표준 기반의 AI 에이전트 결제 생태계 구축에 참여
 ※ AAIF는 마이크로소프트, 구글, 아마존웹서비스, 스트라이프 등 200여 개 기업·기관이 참여해 에이전틱 AI 인프라의 상호운용성과 표준화를 논의하는 중립적 협력기구임

 - NHN KCP는 AAIF 내 주요 워킹그룹에 참여해 글로벌 AI 에이전트가 다양한 서비스와 커머스 환경에서 결제를 연동할 수 있도록 상호운용성 표준 모델 제안과 기술 고도화에 기여할 계획

○ (피지컬 AI) 엔비디아·허깅페이스, 오픈소스 피지컬 AI 개발 생태계 확대

 - 엔비디아와 허깅페이스가 휴머노이드 로봇용 모델과 데이터 수집 도구를 오픈소스 로보틱스 라이브러리 ‘르로봇(LeRobot)’ 에 통합하며 개방형 피지컬 AI 개발 환경을 확대`

 - 엔비디아의 휴머노이드 로봇용 비전언어행동(VLA) 모델과 원격조작 데이터 수집 프레임워크를 허깅페이스의 오픈소스 로보틱스 라이브러리 르로봇에 통합
 ※ 르로봇은 로봇 데이터셋 구축, 모델 학습, 정책 개발, 배포 및 공유까지 로봇 AI 개발 전 과정을 지원하는 오픈소스 라이브러리

 - 개발자는 르로봇에서 학습한 로봇 정책을 엔비디아 아이작 랩의 시뮬레이션 환경에서 검증한 뒤 실제 로봇에 적용하여 활용할 수 있음

 - 엔비디아의 300만 명 이상 로봇 개발자 커뮤니티와 허깅페이스의 1,600만 명 규모 AI 개발자 생태계를 연계해 개방형 피지컬 AI 모델과 도구의 개발·확산을 추진할 계획

○ (로봇 데이터셋) 비트로봇·허깅페이스, 10TB 규모 휴머노이드 학습 데이터셋 ‘HIW-500’ 공개

 - 비트로봇이 허깅페이스·유니트리 로보틱스와 협력해 실제 가정환경에서 수집한 500시간 이상의 휴머노이드 원격조작 데이터셋 ‘HIW-500’을 공개
 ※ 이 데이터셋은 동남아시아 12개 가정에서 수집한 500시간 이상의 영상, 2만3000개 에피소드, 10TB 이상의 원시 데이터로 구성

 - 비트로봇은 HIW-500을 세계 최대 규모의 오픈소스 휴머노이드 원격조작 데이터셋으로 소개

 - 데이터셋에는 로봇 머리와 손목에 장착된 RGB·적외선 카메라 영상, 29자유도 관절 상태, 말단장치 정보, 관성측정장치(IMU), 이동 궤적, 원격조작 행동 데이터 및 언어 주석 등이 동기화돼 포함
 ※ 실제 가정환경에서 데이터를 수집해 조명, 공간 구조, 가구 배치, 작업 대상 등 생활공간에서 발생하는 다양한 변수를 반영

 - 다양한 환경과 복잡한 작업조건을 반영한 실제 생활공간에서 수집한 대규모 데이터셋를 개방함으로써, 통제된 실험실 환경에서 학습된 휴머노이드 AI의 범용성을 높이는데 중점을 둠

○ (AI) 비용·투명성 요구 확대로 오픈소스 AI 모델 전환 확산

 - 베르너 포겔스 아마존 최고기술책임자(CTO)는 유엔 ‘AI 포 굿(AI for Good)’ 정상회의 계기 인터뷰에서 AI 도입·운영 비용이 증가하면서 기업들이 고가의 대형 모델에서 저렴한 오픈소스(오픈웨이트) 모델로 이동하고 있다고 설명
 ※ 기업의 AI 활용이 확대되면서 토큰 사용료와 클라우드 인프라 비용이 주요 부담으로 부상했으며, 모든 업무에 가장 크고 성능이 높은 모델을 적용할 필요가 있는지 재검토해야 한다고 강조

 - 기업의 AI 도입 기준도 단순한 모델 성능 중심에서 비용, 투자 대비 효과(ROI), 규제 리스크, 운영 유연성을 함께 고려하는 방향으로 변화

 - 특히 의료, 정부, 인도주의 분야에서는 모델의 학습 과정과 의사결정 방식을 확인하려는 요구가 커지고 있음

 - 오픈소스(오픈웨이트) 모델은 자체 인프라에서 운영하거나 조직 데이터로 추가 학습·조정할 수 있어 특정 독점 생태계의 의존도를 낮추고 비용을 통제할 수 있다는 점이 대안으로 제시