[기획브리핑] 모델·데이터·소프트웨어를 추적하는 AI-BOM과 SPDX 3.0

- Open UP -

□ AI 활용이 확대되면서 모델·데이터·소프트웨어의 출처와 관계를 식별·추적하는 AI-BOM의 중요성 확대

○ Gartner의 「Hype Cycle for Agentic AI, 2026」에 따르면 에이전틱 AI 거버넌스, 보안, 비용 관리가 하이프 사이클 전반에 걸쳐 중요한 요소로 등장하고 있다는 점에 주목함

 - 에이전틱 AI에 대한 관심과 도입 의지는 빠르게 높아지고 있지만, 실제 운영 성숙도와 이를 뒷받침하는 거버넌스 체계의 성숙도는 아직 충분하지 않은 상황임

 ※ 보고서에서 AI 에이전트를 실제 배포한 조직은 17%에 불과하지만, 60% 이상은 향후 2년 내 도입할 것으로 예상하고 있어 높은 도입 의지가 나타나고 있음

 - 즉, 기업의 에이전틱 AI 도입은 에이전트의 지능 발전만큼이나 이를 뒷받침하는 기반 역량에 달려있다고 분석함

 ※ 에이전틱 AI는 개별 모델이나 에이전트만으로 작동하는 단일 기술이 아니라, 에이전트 개발·관리 플랫폼, 오케스트레이션 기술, 통신 프레임워크와 외부 데이터·도구 등이 결합된 복합적인 시스템으로 발전하고 있음

○ 글로벌 리서치 기관 Forrester는 기업의 AI 도입과 투자가 확대되고 있으나, 낮은 AI 활용 능력, 부서·기능별로 분절된 도입, 성과 측정의 어려움 등이 전사적인 가치 창출로 이어지는 데 한계가 있다고 분석

 - 이를 개선하기 위해서는 사업 목표와 성과 지표를 명확히 설정하고, 데이터 거버넌스와 인프라를 정비하며, AI 활용 사례를 계획적으로 시험·확대할 수 있는 기반을 구축해야 한다고 제시함

○ 이러한 운영 과제는 공개 모델과 데이터셋, 오픈소스 프레임워크, 외부 API 등을 조합하여 AI 시스템을 구축하는 개방형 AI 환경에서 더욱 복잡하게 나타남

 - 개방형 AI는 모델 가중치나 코드에 접근하고 이를 수정·재배포할 수 있다는 장점이 있지만, 모델별 공개 범위와 라이선스 조건이 서로 다르고 파인튜닝·양자화·병합 등을 통해 다양한 파생 모델이 생성됨

 - 모델이 공개되어 있다는 사실만으로 학습 데이터의 출처, 적용된 라이선스, 원본 모델과 파생 모델의 관계, 보안·안전성 평가 결과까지 투명하게 확인할 수 있는 것은 아님

○ 이에 따라 개방형 AI를 실제 서비스에 안전하고 지속적으로 활용하려면 모델·데이터셋·소프트웨어·라이선스와 이들 간의 의존관계 및 변경 이력을 일관된 방식으로 식별하고 관리할 필요가 있음

 - AI-BOM은 AI 시스템과 관련된 모델·데이터·학습 방식·모델 구조 등을 관리하고 의존성을 파악하여, 보안·기능 안전·지적 재산권·규제 준수 관련 리스크 관리를 위한 중요한 정보 기반을 제공

○ OpenChain은 AI-BOM이 SPDX, CycloneDX 또는 다른 형식일 수 있다고 명시하고 있으나, 이번 브리핑에서는 SPDX 3.0 기반 AI BOM을 중심 포맷으로 설명

 - 또한 SPDX 3.0에 기록된 모델·데이터·라이선스·출처·관계 정보가 EU AI Act 등 국제 규제에서 요구하는 투명성·문서화·추적성 확보에도 활용될 수 있는지 검토하고자 함

▶ AI 시스템 구성요소를 구조화하는 SPDX 3.0 기반 AI-BOM

○ 현재 AI-BOM을 가장 구체적으로 설명하는 구조 중 하나는 SPDX 3.0 기반 AI-BOM으로, AI Profile과 Dataset Profile을 중심으로 모델과 데이터셋을 포함한 AI 시스템의 구성 요소를 구조적으로 표현

 ※ SPDX(Software Package Data Exchange)는 리눅스 재단의 프로젝트로, 소프트웨어의 구성 요소와 보안, 라이선스 정보를 표준화된 형식으로 기록하는 국제 표준이며, JSON-LD 등 다양한 기계 판독 가능(machine-readable) 형식으로 표현

 ※ SPDX 3.0은 다양한 프로파일 구조를 통해 AI 모델과 데이터까지 포함할 수 있도록 확장되어, AI 시스템의 구성 요소를 구조적으로 관리하는 기반으로 활용

○ SPDX 3.0은 정보 유형별 프로파일(AI, Dataset, Core, Software 등)을 활용하여 알고리즘, 데이터 수집 방법, 라이브러리, 프레임워크, 라이선스 정보, 표준 준수, 보안 조치 등 AI 애플리케이션의 개발·테스트·배포 전반에 필요한 요소를 구조화된 데이터 형태로 표현함

[SPDX 3.0 정보 유형별 Profile 구조]

 - SPDX 3.0의 AI Profile과 Dataset Profile은 기존 Core·Software Profile을 기반으로 설계

 - AIPackage와 DatasetPackage의 필수 필드 상당수는 일반 소프트웨어 SBOM과 공통되며, 각 프로파일은 여기에 AI·Dataset 특성을 반영한 추가 필드를 통해 AI-BOM 구조로 확장

[AI·Dataset 패키지 공통 필수 필드 (Core 4개·Software 2개·Licensing 2개)]

[패키지 유형별 추가 필수 필드]

 - AIPackage는 모델 유형, 자율성, 학습 정보, 평가 지표, 설명 가능성, 안전 위험 평가, 표준 준수 등 AI 특화 속성을 제공하며, trainedOn·testedOn 관계를 통해 학습·평가 데이터셋과 연결 가능

 ※ energyQuantity와 energyUnit은 AIPackage의 독립 속성이 아니라 EnergyConsumption 객체 내부에서 세부적으로 표현됨

 ※ 관계 필드(testedOn, trainedOn)를 통해 모델 학습 및 평가에 사용된 DatasetPackage와 연결할 수 있음

[AI Profile의 선택 필드(17개) + Core Profile 선택 필드(2개)]

 - DatasetPackage는 Dataset Profile의 데이터셋 특성(데이터 수집·전처리·품질·편향·민감정보 등)을 기술하는 선택 필드 12개를 제공

[Dataset Profile 선택 필드(12개)]

* 이하 필드명과 필수 여부는 Implementing AI Bill of Materials (AI BOM) with SPDX 3.0, Linux Foundation Research, 2024 및 SPDX 3.0.1 (https://spdx.github.io/spdx-spec/v3.0.1/) 기준을 참고하여 표 재구성

▶ AI-BOM과 국제 규제 대응 연계

○ 공급망 투명성과 규제 대응 요구가 강화되면서 SBOM 활용이 확대되고 있으며, AI 관련 규제 역시 모델·데이터·시스템 구성요소에 대한 문서화와 추적성을 요구하는 방향으로 발전하고 있음

 ※ OpenLogic 2026 조사에 따르면 대기업의 SBOM 생성 비율은 2024년 21.78%에서 2026년 38.89%로 증가하였으며, 금융 업종은 DORA(Digital Operational Resilience Act) 대응을 이유로 가장 높은 도입률(34%)을 보임

○ 리눅스 재단은 EU AI Act 및 미국과 유럽의 의료기기 규제 요구사항에 대해 SPDX 3.0 AI-BOM의 충족 여부에 대한 비교 분석 결과 제시

 - EU AI Act는 AI 시스템을 위험 수준에 따라 분류하며, 고위험 시스템에 대해 더욱 엄격한 투명성 및 책임 요건을 부과

 ※ 고위험 AI 시스템을 시장에 출시하거나 실제 환경 테스트를 수행하기 전에는 EU 데이터베이스 등록을 요구(Article 49)함

[SPDX 3.0 필드와 EU 인공지능법(EU AI Act)의 주요 조항 간의 매핑]

 - 미국 FDA 의료기기 규정과 EU MDR의 데이터 문서화·모델 세부사항 요건도 AI·Dataset Profile 필드를 통해 상당 부분 대응 가능

 ※ 미국 FDA는 의료기기의 사이버보안 위험을 평가하고 제조업체의 위험 관리 프로세스를 검토하기 위해 SBOM을 활용하며, 유럽 MDR(의료기기 규정) 역시 의료기기의 사이버보안 및 위험 관리의 중요성을 강조

[SPDX 3.0을 통한 미국 FDA 의료기기 규정 준수]

[SPDX 3.0을 통한 EU 의료기기 규정(MDR)]

* 이하 규제 요구사항에 대한 필드 매칭여부는 Implementing AI Bill of Materials (AI BOM) with SPDX 3.0, Linux Foundation Research, 2024 기준으로 표 재구성 

▶ AI-BOM 도입을 위한 단계별 점검

 * OpenChain AI SBOM 컴플라이언스 관리 가이드와 Linux Foundation SPDX 3.0 AI-BOM 구현 가이드를 바탕으로 실무 적용 관점에서 재구성

① AI 자산 식별

□ 우리 조직은 현재 운영 중인 AI 모델·데이터셋·에이전트·외부 AI 서비스, 오픈소스 등 구성요소를 모두 파악하고 있는가?

 ⇒ 모델, 데이터셋, 에이전트, 외부 API, 오픈소스 구성요소와 각 자산의 버전·파인튜닝 상태·배포 위치를 빠짐없이 식별

 * 동일한 모델도 버전, 파인튜닝 여부와 배포 환경에 따라 구성과 위험이 달라질 수 있으므로 실제 운영 단위별로 관리할 필요

 * Shadow AI 및 미승인 AI 사용을 방지하고, AI 시스템 구성 요소를 체계적으로 파악·관리하기 위한 출발점

② 관계 및 권한 정의

□ 어떤 모델이 어떤 데이터를 사용하며, 누가 접근 권한과 책임을 가지고 있는지 설명할 수 있는가?

 ⇒ 구성요소 간 의존관계, 데이터 흐름, 접근 권한 및 책임 주체를 명확히 정의

 * AI 시스템의 구성요소 간 관계를 명확히 하여 가시성과 추적성을 확보하고, 문제가 발생했을 때 영향 범위와 책임 주체를 신속히 파악하기 위해 필요

③ 라이선스 및 출처 관리

□ 사용 중인 모델과 데이터셋의 출처 및 라이선스 의무를 명확히 설명할 수 있는가?

 ⇒ 모델·데이터·오픈소스의 출처, 라이선스 의무, 사용 제한사항 정리

 * 출처 및 사용 조건을 명확히 관리하여 투명성을 확보하고 라이선스 위반, 지적재산권 분쟁, 규제 대응 리스크를 최소화하기 위해 필요

④ 표준 기반 구조화

□ 모델·데이터·라이선스·관계 정보를 일관된 형식으로 기록·공유할 수 있는가?

 ⇒ 기계 판독 가능(machine-readable)한 표준 형식(SPDX 3.0, CycloneDX 등)으로 구조화

 * 조직 내·외부에서 AI 관련 정보를 일관되게 공유하고 자동화할 수 있는 기반을 마련하기 위해 필요

⑤ 운영 및 거버넌스 체계 구축

□ AI-BOM 정보를 유지·검토·업데이트 및 감사·규제 대응과 주요 변경 발생 시 AI-BOM을 갱신하는 운영 절차가 마련되어 있는가?

 ⇒ AI-BOM 유지관리와 업데이트, 감사·규제 대응을 위한 운영 프로세스 수립 및 정착 

 * AI 시스템 변화와 외부 요구사항 변경에 따라 지속적으로 대응할 수 있는 관리 체계를 확보하기 위해 필요

□ 시사점

○ 복합적인 AI 공급망에서 발생할 수 있는 리스크에 대응하기 위해 AI-BOM을 통해 모델·데이터·소프트웨어·라이선스와 구성요소 간 관계를 표준화된 형식으로 문서화하여 조직의 자산 관리와 감사·규제 대응에 필요한 가시성과 추적성을 확보할 필요가 있음

○ AI-BOM은 일회성 문서가 아니라 모델 업데이트, 재학습, 파인튜닝, 데이터 교체, 외부 API 변경 등에 따라 지속적으로 갱신해야 하는 운영 정보로, 이를 위해 자산 식별부터 변경관리·책임 주체·검토 절차를 포함한 조직 차원의 거버넌스 체계 구축이 필요