[6월 월간브리핑] AI-BOM으로 진화하는 오픈소스 AI 공급망 거버넌스

Open UP

□ AI 확산으로 인해 모델, 데이터, 오픈소스, 에이전트가 결합된 복합 구조가 형성되면서 AI 거버넌스 체계 구축이 필수 과제로 부상

○ 생성형 AI와 AI 에이전트의 확산으로 인해, 오픈소스의 역할이 단순 개발 생산성 도구에서 AI 인프라의 핵심 기반으로 변화하고 있음

 - 리눅스 재단은 2026년 AI Executive Forum에서 생성형 AI와 AI 에이전트 확산에 따라 신뢰·보안·컴플라이언스·오픈소스 투명성이 중요 과제로 부상하고 있다고 설명
 ※ 포럼에서는 주요 과제로 ① 에이전트의 신원과 책임성, ② 에이전트 간 통신의 보안과 개인정보 보호, ③ 규제 산업에서의 컴플라이언스와 인간 책임, ④ 오픈소스 투명성을 통한 벤더 종속 방지와 보안 감사 가능성을 제시

 - 특히 AI 에이전트가 인간 업무를 자동화하기 위해서는 해당 프로세스와 의사결정 근거가 사전에 완전히 기록되어야 하며, 규제 산업일수록 에이전트 도입 전 역할·책임·결정 근거의 체계적 문서화가 선행되어야 한다고 강조

 - 오픈소스는 AI 전환 과정에서 벤더 종속 방지와 보안 감사를 위한 투명성 기반으로 강조되고 있으며, 이에 따라 AI 시스템의 구성요소와 출처를 설명할 수 있는 관리 체계의 필요성도 함께 부상하고 있음
 ※ OpenLogic 2026 오픈소스 현황 조사에 따르면, 오픈소스 채택 이유로 벤더 종속 회피를 꼽은 비율이 전년 대비 68% 급증해 종합 2위로 부상(유럽 63%, 북미 51%)

○ 현대 소프트웨어 개발에서 오픈소스가 필수 인프라로 자리잡고 있으며, AI 코딩 도구 확산과 함께 오픈소스 의존성과 공급망 복잡성도 빠르게 증가하고 있음

 - AI 코딩 도구의 확산은 코드 생성 방식, 오픈소스 컴포넌트 사용 구조의 변화와 함께 생성 코드의 출처와 라이선스를 명확히 파악하기 어려운 문제까지 증가시키고 있음
 ※ 블랙덕 조사에 따르면, 57%의 조직이 이미 AI 기반 코딩 어시스턴트를 사용하고 있고, DevSecOps 전문가의 44%가 AI 코딩 도구를 자주 또는 항상 사용하고 있으며, 전체 개발자의 75% 이상이 어떤 형태로든 AI 코딩 도구를 활용
 ※ 기업 상용 소프트웨어의 98%가 오픈소스 컴포넌트를 포함하고 있으며, 오픈소스 컴포넌트의 64%는 ‘전이 의존성*’으로, 개발자가 직접 선택하지 않은 라이브러리가 소프트웨어 공급망 구조에서 큰 비중을 차지하고 있음(OSSRA 2026, 블랙덕)
 * 전이 의존성(transitive dependencies)은 개발자가 직접 추가한 라이브러리(직접 의존성, direct dependencies)에서 자동으로 함께 가져오는 컴포넌트들을 의미

 ○ AI 시스템은 더 이상 단일 모델이 아니라 오픈소스 모델, 내부 파인튜닝 모델, 데이터셋, 외부 API 서비스, 에이전트 등이 연결된 복합 공급망 구조로 변화하고 있어 이를 식별·추적·관리할 필요성이 커지고 있음

 - AI 확산과 오픈소스 AI 활용이 확대되면서 시스템 구성요소의 추적과 관리가 어려워지고 있으며, 동시에 라이선스·보안·공급망 리스크도 증가하고 있음

 - 오픈소스 AI 모델의 활용이 빠르게 확대되면서, 모델의 출처, 학습 데이터, 파인튜닝 여부, 배포 방식에 따른 라이선스 의무까지 관리해야 함
 ※ DevSecOps 설문조사에서는 97%의 조직이 허깅페이스 등의 오픈소스 AI 모델을 개발 워크플로에서 사용하고 있다고 분석

 - 조직 내에서 에이전트가 빠르게 증가하고 있지만, 생성 주체, 모델 유형, 데이터 출처, 접근 권한, 정책 적용 여부, 제약 조건 등 핵심 정보를 일관되게 파악하기 어려운 상황이 되고 있음
 ※ MS가 발표한 AI 보안 보고서 ‘Cyber Pulse’에서 2026년을 ‘AI 에이전트의 해’로 정의하며, 이미 포춘 500대 기업의 80% 이상이 로우코드·노코드 기반으로 에이전트를 구축·운영하고 있다고 설명

 - 이러한 환경에서는 승인되지 않은 AI 사용(Shadow AI), 과도한 권한을 가진 에이전트가 악용되는 이중 에이전트*, 메모리 포이즈닝**을 통한 응답 조작 등과 같은 새로운 보안 및 운영 리스크가 발생하고 있음
 * 이중 에이전트(Double Agent) : 악의적인 행위자에 의해 에이전트의 접근 권한과 권한 범위가 악용되어 원래 의도와 다르게 동작하는 에이전트
 ** 메모리 포이즈닝 : 여러 공격자가 AI 어시스턴트의 메모리를 조작해 향후 응답을 왜곡하고, 시스템 정확성에 대한 신뢰를 약화시키는 방식

(출처) 'Cyber Pulse: An AI security report' (MS, 2026.2.11) 

 - AI 에이전트의 확산과 함께 Shadow AI가 증가하면서, 어떤 AI 모델과 오픈소스, 데이터가 실제로 사용되고 있는지 파악하기 어려운 ‘가시성 격차’가 새로운 리스크로 등장하고 있음
 ※ 개발자의 AI 코딩 어시스턴트 사용을 금지한 기업의 76%는 회사 정책에 반하여 실제 사용되고 있음을 인정(OSSRA 2026, 블랙덕)

 - 이로 인해 AI 시스템 구성요소에 대한 가시성과 추적 가능성을 확보하기 위한 관리 체계의 필요성이 높아지고 있음

 - 규제 환경 역시 이러한 흐름을 반영해, AI 모델과 데이터의 투명성과 책임성을 요구하는 방향으로 강화되고 있으나 AI 도입 속도에 비해 이러한 거버넌스 관리 체계가 충분히 따라오지 못하고 있음
 ※ AI 생성 코드에 대해 지적 재산권, 라이선스, 보안, 품질 평가를 모두 포함한 종합 평가를 수행하는 조직은 24%에 불과함(OSSRA 2026, 블랙덕)
 ※ AI가 생성한 코드의 보안 위험을 소속 조직에서 검사하는 경우는 76%이나, 지적 재산권 및 라이선스 위험을 평가하는 조직은 54%, 품질 문제를 평가하는 조직은 56%에 불과함(공급망 보안 연구, 블랙덕)

 - 이러한 흐름 위에서 AI 관리의 핵심 과제는 기술 자체의 ‘성능’을 넘어 무엇이 어떻게 동작하고 있는지 파악하는 ‘가시성 확보’로 이동하고 있음

 ○ AI 거버넌스는 AI 시스템에 대한 구성요소를 식별하고, 각 요소 간 관계를 이해하고, 책임을 구조화하는 문제로 이를 체계적 관리하는 것이 필요

 - 가트너는 2026년 데이터·분석 전망에서, AI 도입의 성패는 기술보다 데이터 거버넌스와 정책의 구조화 수준에 달려 있으며, AI 거버넌스가 조직의 AI 전략 전체에 영향을 미치는 핵심 기반이 될 수 있다고 분석

 - AI 시스템 관련 정보는 단순 문서가 아니라, 구조화된 데이터 형태로 관리되어야 하는데 이러한 요구를 실무적으로 구현하는 방법이 바로 AI-BOM(AI Bill of Materials)임

▶ AI 시스템 관리를 위한 포괄적인 거버넌스 체계 AI-BOM

○ AI-BOM은 AI 시스템을 구성하는 요소와 관련 정보를 구조적으로 정리한 명세로, 모델, 데이터셋, 코드, 라이선스, 학습 및 검증 정보, 리스크와 제한 사항 등을 포함함

 - AI-BOM은 기존 SBOM의 오픈소스 라이선스 준수와 보안 취약점 관리 범위를 확장해 AI 시스템의 고유한 특성인 모델 아키텍처, 학습 데이터의 계보(Lineage), 윤리적 속성까지 포함하는 포괄적인 거버넌스 체계로 발전
 ※ 리눅스 재단은 AI 채택이 광범위해지고, 더욱 복잡해지는 AI 시스템 관리를 위해 전통적인 소프트웨어 자재 명세서(SBOM)의 범위를 확장한 AI 자재 명세서(AI BOM)가 중요성을 강조
 ※ OpenChain은 “AI 시스템을 구성하는 컴포넌트와 관련 정보의 목록이며, 라이선스, 규제, 비즈니스 요구를 지원하는 컴플라이언스 활동의 기반”으로 정의하고 AI SBOM(AI System Bill of Materials)으로 명명
 ※ 본 브리핑에서는 AI BOM과 AI SBOM 명칭을 모두 AI-BOM으로 통일하여 작성

○ AI-BOM 운영 체계는 AI 관련 정책, 역할과 역량, 인식 제고, 라이선스 의무 검토, 투명성 검토, 외부 문의 대응, 자원과 책임 배정, AI-BOM 생성·관리, 거버넌스 프레임워크 등을 포함

 - OpenChain은 AI 시스템의 코드, 가중치, 데이터셋(학습·테스트·검증 포함), 시스템 자체 라이선스를 검토해야 하며, 업스트림과 다운스트림의 의무·제한·권리를 문서화해야 한다고 설명

Source : Artificial Intelligence System Bill of Materials Compliance Management Guide for the Supply Chain, OPENCHAIN

* ‘프로그램’은 조직의 오픈소스 라이선스 컴플라이언스 활동으로 정의

○ OpenChain은 AI-BOM이 SPDX, CycloneDX 또는 다른 형식일 수 있다고 명시하고 있으나, 현재 AI-BOM을 가장 구체적으로 설명하는 구조 중 하나는 SPDX 3.0 기반 AI-BOM임

 - SPDX 3.0은 AI Profile과 Dataset Profile 등 다양한 프로파일 구조를 통해 AI 모델과 데이터셋 정보까지 포함할 수 있도록 확장되어, AI 시스템의 구성 요소를 구조적으로 관리하여 규제 대응과 공급망 관리 기반으로 활용
 ※ SPDX(Software Package Data Exchange)는 리눅스 재단의 프로젝트로, 소프트웨어의 구성 요소와 보안, 라이선스 정보를 표준화된 형식으로 기록하는 국제 표준이며, JSON-LD 등 다양한 기계 판독 가능(machine-readable) 형식으로 표현
 ※ SPDX 프로젝트는 AI 및 데이터셋에 대한 라이선스 적용여부 자체를 규정하지는 않지만, 관련 메타데이터 필드를 통해 라이선스 정보를 기록하고 전달할 수 있도록 지원

○ AI-BOM은 AI 시스템과 관련된 모델·데이터·학습 방식·모델 구조 등을 관리하고 의존성을 파악하여, 보안·기능 안전·지적 재산권·규제 준수와 관련된 리스크 관리 대응을 위해 반드시 필요

□ 시사점

○ 복합 공급망 구조로 인해 취약점·규제 위반·사고 책임 소재 불명확 등의 리스크에 대응하기 위해 AI 시스템 구성요소에 대한 가시성과 추적 가능성을 확보하는 것이 AI 시대의 핵심 과제임

○ AI-BOM은 모델 투명성 확보·규제 준수 증명·공급망 리스크 관리를 동시에 지원하는 AI 거버넌스 체계의 핵심 기반 인프라임

○ EU AI Act, FDA 등 주요 규제가 AI 구성요소 문서화를 의무화하는 방향으로 강화되고 있어, 기업은 규제 대응 시점에 필요한 정보를 수집하는 방식에서 AI-BOM을 통해 구성요소 정보를 지속 관리하는 상시 운영 체계로 전환하는 것이 필요

□ 주목할 만한 월간 이슈(6월) 

○ (바이오 AI) 바이오허브, 단백질 생물학 월드 모델 오픈소스 공개

 - 마크 저커버그 메타 CEO와 프리실라 챈 박사가 설립한 바이오허브가 AI 기반 단백질 예측·설계 시스템인 ‘단백질 생물학 월드 모델’을 공개

 - 이번 시스템은 차세대 진화 스케일 모델(ESM)을 기반으로 개발됐으며, 핵심 구성 요소는 ESM폴드2(ESMFold2), ESM 아틀라스(ESM Atlas), ESMC로 구성
 ※ ESM폴드2는 단백질 구조 예측과 설계를 지원하며, ESMC는 28억 개 단백질 서열을 학습한 단백질 언어모델
 ※ 단백질 세계 전체를 탐색할 수 있는 ‘ESM 아틀라스’는 68억개 단백질 서열과 11억개 예측 구조 포함

 - 바이오허브는 ESM폴드2를 활용해 EGFR, PD-L1, CTLA-4, CD45 등 암·면역질환 관련 표적 단백질에 결합하는 신규 단백질 바인더 설계에 성공했다고 밝힘

 - 이번 시스템은 MIT 라이선스로 공개해 연구자들이 자유롭게 활용 가능

○ (모빌리티) 현대모비스, SDV 소프트웨어 표준 플랫폼 개발 참여

 - 현대모비스, 이클립스 파운데이션 SDV 워킹그룹과 S-Core 프로젝트에 참여해 오픈소스 기반 SDV용 소프트웨어 플랫폼 개발을 추진
 ※ 에스코어(S-Core)는 2024년 말 유럽 기업을 중심으로 출범한 글로벌 공동 과제로, 기능 안전 표준 ASIL-B를 갖춘 오픈소스 기반 소프트웨어 표준 플랫폼 개발 프로젝트로 현재 총 13개 기업이 참여

 - 현대모비스의 참여는 유럽 기업 중심으로 출범한 S-Core 프로젝트의 적용 범위를 아시아 지역으로 확장하는 계기 마련

 - 현대모비스는 이번 프로젝트를 통해 처음으로 개발 코드를 외부에 공개하게 됐으며, 하드웨어 중심에서 소프트웨어 중심으로 전환해 온 연구개발 방향의 성과로 의미를 부여

 - 이번 프로젝트 참여를 통해 여러 완성차와 부품사, 그리고 소프트웨어 전문사들과 다양한 협업 기회도 확보하고 모빌리티 소프트웨어를 선도하는 전문기업으로 발돋움할 것으로 기대

○ (재난안전) 구글, AI 홍수 예측 수문 모델 오픈소스 공개

 - 구글 리서치가 구글의 실시간 홍수 예측 플랫폼 Flood Hub 기반 AI 수문학 모델링 프레임워크를 오픈소스로 공개하고, 각국 기상·수문 기관의 지역 맞춤형 홍수 예측 체계 구축을 지원
 ※ 학습에는 오픈소스 하천 데이터셋 Caravan을 학습에 활용

 - 구글 리서치는 AI 기반 수문학 모델링 프레임워크를 GitHub를 통해 오픈소스로 공개하고, 전 세계 기상기관과 수문 기관이 자체 데이터를 활용해 홍수 예측 모델을 구축·운영할 수 있도록 지원한다고 발표

 - 공개된 프레임워크는 오픈소스 머신러닝 라이브러리 기반의 파이썬 패키지로 구성되었으며, 기후·토양·지형·토지 이용 특성과 강수량, 기온, 기상 예측 데이터를 입력받아 하천 유량과 홍수 가능성을 계산

 - 구글은 이번 오픈소스 공개가 고비용 예측 인프라 구축이 어려운 국가와 지역에도 고도화된 홍수 예측 기술 접근성을 제공하며, 장기적으로는 글로벌 조기경보 체계 고도화에 기여할 것으로 기대

○ (개발) 코히어, 오픈소스 코딩 모델 ‘노스 미니 코드’ 공개

 - 캐나다 AI 기업 코히어가 기업 개발자가 자체 환경에서 운용할 수 있는 오픈소스 코딩 모델 ‘노스 미니 코드(North Mini Code)’를 출시하며 개발자용 AI 시장 공략에 나섬
 ※ 노스 미니 코드는 총 30B 파라미터, 활성 3B 파라미터 규모의 혼합전문가(MoE) 구조로 설계됐으며, 컨텍스트 길이는 256K, 최대 생성 길이는 64K로 제시

 - 라이선스는 아파치 2.0이며, 허깅페이스에서 가중치를 내려받거나 코히어 API, 모델 볼트, 오픈라우터 등을 통해 사용할 수 있음

 - 코히어는 해당 모델을 코드 생성뿐 아니라 에이전틱 소프트웨어 엔지니어링, 터미널 작업, 코드 리뷰, 시스템 아키텍처 파악 등에 최적화했다고 설명

 - 업계에서는 이번 출시를 단순 코딩 모델 공개가 아니라 소버린 AI의 적용 범위를 개발자 도구 영역으로 확장한 움직임으로 평가

○ (오픈소스·인재양성) 과기정통부, 2026년 오픈소스 개발자대회 개최

 - 과기정통부는 AI 시대의 핵심 기반으로 부상한 오픈소스 생태계를 활성화하고, 창의적인 소프트웨어 개발 인재를 발굴하기 위해 ‘2026년 오픈소스 개발자대회’를 개최
 ※ 올해 대회는 2007년 첫 개최 이후 20주년을 맞았으며, 누적 5,900여 팀, 1만 6천여 명이 참여한 국내 대표 오픈소스 경진대회로, 정부와 오픈소스 기업, 전문가들이 함께 만들어온 대표적인 민관협력 프로그램

 - 올해 주제는 ‘우리의 코드 한 줄이, AI시대 지능을 키운다’로, 우수한 오픈소스 프로젝트와 개발 인재를 발굴하고, 글로벌 경쟁 속 국내 기술의 자립과 도약을 뒷받침하는 데 중점을 두고 있음

 - 참가 유형은 자유과제, 지정과제, 사회문제해결 프로젝트 등 3가지로 구성되었으며, 참가 신청은 6월 15일부터 7월 17일까지 오픈소스 포털을 통해 진행

   ※ 20주년 맞은 「2026년 오픈소스 개발자대회」 참가신청 바로가기 :https://oss.kr/pages/10/4540 

 - 과기정통부는 이번 대회를 통해 우수 오픈소스 프로젝트와 개발 인재를 발굴하고, 국내 AI·SW 기술 경쟁력 강화와 기술 자립 기반 마련에 기여할 것으로 기대