七国集团发布人工智能SBOM指导

新闻
14小时前

本文关键看点:


#01

新发布的文件名为《AI SBOM——最低要素》,旨在帮助公共和私营部门组织提升其人工智能系统和供应链的透明度。为AI开发者和部署者提供了可操作的指导方针,使追踪漏洞和降低风险变得更容易。


#02

该文件概述了AI SBOM中应包含的七个主要集群:元数据、模型、数据集属性、系统级属性、关键绩效指标、安全属性和基础设施。


#03

AI辅助开发正在产生代码、工作流和依赖性,这些代码可能进入生产环境,而无需经过既定的库存或保证流程,因而容易被攻击者直接利用。


以下正文内容基于英文原文编译,可能存在语义偏差,请以原文为准


以下为正文


美国网络安全和基础设施安全局(CISA)与七国集团(G7)合作伙伴——包括德国、加拿大、法国、意大利、日本、英国和欧盟——联合发布了新指导方针,旨在加强人工智能供应链的透明度和网络安全。这份名为《软件物料清单用于人工智能——最低要素》的文件,由G7网络安全工作组制定,旨在帮助公共和私营部门组织识别AI专用软件物料清单(SBOM)应包含的核心信息。

1779265466355679.png

该文件由德国联邦信息安全局(BSI)、意大利国家网络安全局(ACN)、法国国家网络安全局(ANSSI)、加拿大通信安全机构(CSE)、美国网络安全和基础设施安全局(CISA)、英国国家网络安全中心(NCSC)和日本国家网络安全办公室(NCO)联合发布,并与欧盟委员会合作完成。

七大核心集群

G7的"AI SBOM集群"框架分为七个核心集群:元数据(Metadata)、模型(Models)、数据集属性(DP)、系统级属性(SLP)、关键绩效指标(KPI)、安全属性(SP)和基础设施(Infrastructure。其中,元数据集群包含与AI SBOM本身相关的信息,其余集群被视为更广泛AI供应链透明度和网络安全模型的同等重要组成部分。

该文件延续了G7于2025年6月发布的AI SBOM共同愿景,并概述了旨在提高AI系统内置组件、依赖关系和风险可见性的基线建议。AI SBOM由一份结构化记录组成,详细列出了构建AI系统所用各种组件的详细信息和供应链关系。每个集群包含"元素"——即捕获AI系统组件独特特征的信息。AI SBOM的目标是通过组件和依赖项的透明度和可追溯性来保护AI系统和供应链。

为什么AI需要专门的SBOM


SBOM作为软件的"成分清单",使组织能够更好地理解软件供应链,并做出更明智的网络安全和风险管理决策。新指导方针认识到,AI系统引入了超出传统软件的额外复杂性层,因此建议在现有SBOM标准之外,增加专门针对AI环境的补充最低要素。

这些建议是自愿性的,不旨在穷尽所有要素,但该指导方针反映了G7网络安全专家之间的共识,并有望随着AI技术的快速发展而演进。AI SBOM将有助于跟踪漏洞和弱点并降低网络安全风险的结构化信息进行组织。

各集群详解


元数据集群旨在捕获与AI SBOM本身相关的信息,而非AI系统内的单个组件或子要素。具体信息包括:SBOM作者、SBOM版本、数据格式名称和版本、作者签名、工具名称和工具版本、生成上下文、时间戳和依赖关系。

系统级属性(SLP)集群包含与整个AI系统相关的要素,包括系统级信息以及由多个AI元素(如分类器、大型语言模型LLM或AI代理)组成的AI环境的内部运作信息。该集群还涵盖AI系统内使用的软件依赖项和框架,以及描述系统组件如何交互和处理用户数据的信息。SLP集群包括:系统名称、系统组件、系统生产者、系统版本、系统时间戳、系统数据流、系统数据使用、系统输入和输出属性,以及预期应用领域。

模型集群包含用于识别AI系统内模型的信息,描述模型权重如何产生,并概述与每个模型关联的属性和限制。集群包括:模型名称、模型标识符、模型版本、模型时间戳、模型生产者、模型描述、模型哈希值、模型哈希算法、模型属性、模型输入和输出属性、模型训练属性、模型许可证和模型外部引用。

数据集属性(DP)集群提供在模型整个生命周期中使用的数据集信息,包括记录数据身份和来源的核心细节。集群包括:数据集名称、数据集描述、数据集内容、数据集标识符、数据集哈希、数据集来源、数据集统计属性、数据集敏感性、数据集依赖关系和数据集许可证。

基础设施集群包含AI系统正常运营和支持所需的物理和虚拟基础设施。该集群包括与基础设施软件和基础设施硬件相关的信息,并在适用情况下包含与硬件物料清单(HBOM)的链接,以涵盖专用AI硬件。

安全属性(SP)集群专注于与AI模型和系统相关的网络安全措施。集群包括与安全控制、安全合规性、网络安全政策信息和漏洞引用相关的信息。

关键绩效指标(KPI)集群包含与AI系统及其组件(包括集成在系统内的AI模型)KPI相关的要素,重点关注其生命周期阶段。集群包括与安全指标和运营绩效KPI相关的信息。

未来扩展方向


除上述集群外,G7网络安全工作组还考虑了未来AI SBOM可能有用的其他要素。例如AI系统的决策或自主级别——随着技术快速发展,特别是围绕AI代理,这一要素可能变得更加相关。在AI SBOM中包含此类要素有助于评估潜在破坏性妥协的影响。然而,尽管工作组认识到AI系统的决策或自主性对网络安全的重要性,决定不将其明确列为单独要素。这一要素可能在不同司法管辖区以不同方式处理,包括通过安全要求。

局限性


文件作者强调,AI SBOM本身不足以增加供应链的网络安全。为确保AI供应链的实质性保护,有必要将AI SBOM与网络安全工具连接起来,如漏洞扫描和管理工具、安全公告和通报,并推动开发适应性和发展性工具机制。

"虽然已有多个努力致力于这一事业,但本文件旨在涵盖一套最低标准,并不声称是穷尽性的,"文件称。"相反,它提出了促进透明度和增加AI供应链网络安全的共同理解。最终,如果与正确的网络安全工具一起部署,AI SBOM将有助于加强AI供应链的安全。这项工作还旨在为AI供应链沿线的利益相关者带来附加价值。"