英伟达与科技巨头联合发起安全人工智能联盟
英伟达和一大批技术、网络安全和企业软件公司于周一宣布成立开放安全人工智能联盟,这是一项旨在开发和共享开源工具、模型和技术以保护人工智能系统和代理的新计划。

这项工作建立在 Linux 基金会最近推出的Akrites计划和 OpenSSF 社区的现有工作之上。
开放安全人工智能联盟的创始合作伙伴还包括 Adobe、Cadence、Capital One、思科、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、戴尔、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、微软、Naver、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、西门子、Snowflake、SpaceXAI、Synopsys、Thinking Machines Lab 和 TrendAI。
Nvidia 对该项目的贡献包括开放模型、权重、数据和代理工具研究,其中包括一个名为NOOA 的新发布的开源项目,旨在帮助工具使代理行为更容易跟踪、测试和审计。
HPE正在为 SPIFFE/SPIRE 做出贡献,SPIFE/SPIRE 是一个零信任身份框架,用于以加密方式验证 AI 代理和服务;而 Hugging Face 则将其 Safetensors 模型权重存储格式捐赠给了 PyTorch 基金会。
IBM 和 Red Hat 正在通过Lightwell项目扩展开源供应链安全,该项目旨在大规模提供自动化漏洞修复。
微软贡献了MDASH,这是一个多模型代理扫描框架,它协调 AI 代理来查找、讨论和验证可利用的软件漏洞。
SpaceXAI 正在开源其基于终端的人工智能编码代理 Grok Build,并计划最终开源 Grok 模型系列的权重。
该新联盟认为,开放模型、工具和安全工具应被视为防御资产而不是负债,并警告政策制定者和监管机构,对开放前沿人工智能的广泛限制可能会削弱集体网络防御能力。
英伟达指出最近OpenAI 和 Hugging Face发生的安全事件,并指出,当封闭的 AI 工具无法区分攻击者和防御者并阻止取证工作时,Hugging Face 在其自己的系统上使用开源的 GLM 5.2 模型审查了超过 17,000 个操作并控制了漏洞。
英伟达表示:“正确的应对措施不是剥夺防御者使用功能强大的开放系统的权限,而是将开放性与强有力的安全保障、明确的恶意滥用防范规则、严格的评估和快速的补救措施相结合。在网络安全领域,更安全的道路是让更多的防御者能够测试、验证和加强社会赖以生存的系统。 ”
“防御者需要前沿封闭模式和前沿开放模式协同工作,以便选择合适的系统来完成任务,并确保在安全需要的地方都能提供透明度、适应性和主权控制,”声明补充道。
