行业领袖联合成立开放安全AI联盟，共筑AI时代网络防线

开源软件是全球经济的重要支柱，支撑着云计算、金融服务、制造业、电信、政府及互联网服务，让技术对专家社区保持开放和可观测性。

网络安全是开源软件的三大核心受益领域之一。开放安全AI联盟（Open Secure AI Alliance）将在Linux基金会Akrites项目和OpenSSF社区工作的基础上，利用开放技术修复和披露安全漏洞。

正如开源软件为软件领域奠定了共同基础，美国及其合作伙伴如今在AI安全领域面临一个抉择：保护基础设施的防御体系，究竟应当封闭在少数不透明系统之中，还是构建在任何防御者都能研究、调整和部署的开放模型、工具链与工具之上？

世界同时需要闭源与开源模型。在网络安全领域，开放模型和开放工具链尤为关键——它们能够普及防御能力、提升防御者的透明度、在保护数据的同时实现网络防御，并以可定制、可本地化的控制手段对前沿闭源模型形成有效补充。开源还支持大规模分布式、社区驱动、自主可控的防御体系，从根本上消除单点故障风险。

开放模型与任何强大技术一样，存在被滥用的风险——包括试图削弱安全防护或将其能力转用于网络攻击——但这些风险并非开放系统所独有，必须在任何部署先进AI的场景中加以管控。

近期Hugging Face安全事件给出了一个清醒的提示：网络防御者需要开放的、前沿的智能体系统来进行自我防护。当闭源AI工具无法区分攻击者与防御者、封锁了关键的取证分析时，Hugging Face在自有基础设施上运行了开放权重的GLM 5.2模型，分析了逾17,000条操作记录，成功遏制了此次入侵。

这一事件揭示了一个现实：当防御者无法在自有基础设施上检视、调整和运行先进AI时，其响应能力恰恰在最需要速度的关键时刻受到制约。企业和国家需要开放的前沿防御工具与技术，以便关键行业能够在多供应商生态系统中构建安全体系，避免单点故障。

这正是开放安全AI联盟的使命：确保全球防御者都能拥有可信赖、可掌控的开放前沿工具。

云计算、网络安全、企业软件、开源基金会及AI研究等领域的领军企业——包括英伟达、Adobe、Cadence、Capital One、思科、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、戴尔科技、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux基金会、微软、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、ServiceNow、西门子、SK电讯、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab和TrendAI——已成为开放安全AI联盟的创始合作伙伴。该联盟致力于开发和共享开放技术、方法与工具，以保障AI时代软件和智能体的安全。

有观点认为，开放模型本质上安全性较低，因为它们可能被滥用于网络攻击或遭修改以去除防护措施。这些风险确实存在，但在闭源系统中同样无法消除，仅凭封闭权重并不能阻止蓄意攻击者寻找或利用强大的AI。

正确的应对之道不是剥夺防御者使用强大开放系统的权利，而是将开放性与强有力的安全防护相结合，辅以明确的反恶意滥用规则、严格的评估机制和快速的漏洞修复能力。在网络安全领域，更安全的路径是让更多防御者能够测试、验证和强化社会所依赖的系统。

防御者既需要前沿闭源模型，也需要前沿开放模型，两者协同配合，才能针对不同任务选择最合适的系统，并在安全需求所及之处确保透明度、适应性和主权掌控。

AI智能体并非仅仅是一个语言模型，而是由模型、工具链和防护机制共同构成的复杂系统。

真正的AI安全取决于完整的智能体技术栈——包括身份认证、权限管理、工具链、防护机制、日志记录和评估体系——而非仅仅取决于模型权重是否开放。开放的工具链和工具使众多防御者更易于检视、测试和改进这些控制措施。

英伟达正向开放安全AI联盟贡献开放模型、模型权重、数据及新的智能体工具链研究成果，以加速网络安全工具与技术的研发。

英伟达实验室全新开源项目——面向对象智能体（NOOA）——现已在GitHub上线，旨在让先进AI安全能力更易于在智能体工具链中获取和应用。该研究框架使工具链能够更好地与模型集成，从而让智能体行为更易于测试、追踪、审计和治理。

各联盟成员正携手构建面向智能体的开放防御技术栈，涵盖身份认证、隔离机制、安全模型格式、多模型扫描及安全编码工作流等多个层面。

HPE为SPIFFE/SPIRE项目作出贡献，该项目建立了零信任身份框架标准与方法，可通过密码学手段验证AI智能体和服务，确保只有经过授权的工作负载才能通信并访问企业资源。

Hugging Face已将Safetensors——一种用于安全存储AI模型权重的格式，可提供透明度并保证不执行远程代码——捐献给PyTorch基金会。

IBM与Red Hat的Lightwell项目通过数字签名补丁，将安全保障延伸至开源供应链。

微软的MDASH多模型智能体扫描工具链协调多个专业AI智能体，协作发现、验证并证明可利用漏洞。

SpacexAI已将基于终端的AI编码智能体Grok Build开源，以促进信任、提升透明度并拓展新能力，并计划开源Grok系列模型的权重，以支持开发者和研究社区。

随着政策制定者和监管机构深入探讨AI安全问题，至关重要的是，应在AI和网络安全政策中将开放模型、工具链及安全工具定位为防御资产，而非负担。对开放前沿AI系统实施一刀切的限制，只会削弱防御能力，并有可能将权力、依赖和脆弱性集中于少数闭源提供商。

企业和政府应像过去几代人投资开源软件那样，投资建设AI防御的共享开放基础设施——包括数据集、评估框架、攻击模拟器和红队测试工具。

AI智能体时代可以成为一个韧性与共同安全的时代。做出正确选择，开放安全的AI系统就能为防御者提供所需工具，增强市场竞争、拓展技术领先优势，并确保这一卓越技术的安全性在开放环境中为所有人共建共享。

这一未来不会靠单纯的保密来守护，而要靠构建足够坚固、经得起检验、足够灵活以持续改进、足够开放以动员全体防御者的系统来实现。

这一未来值得共同创造——开放安全AI联盟诚邀各国政府、行业机构和研究人员携手参与，共同守护AI时代的安全。

Q&A

Q1：开放安全AI联盟是什么组织，成立的目的是什么？

A：开放安全AI联盟是一个由英伟达、微软、IBM、Hugging Face等数十家科技企业联合发起的开放安全组织，建立在Linux基金会Akrites项目和OpenSSF社区工作的基础上。其目的是开发和共享开放技术、方法与工具，确保全球网络防御者都能获得可信赖、可掌控的开放前沿AI工具，从而保障AI时代软件和智能体的安全。

Q2：Hugging Face安全事件说明了什么问题？

A：Hugging Face安全事件表明，当闭源AI工具无法区分攻击者与防御者并封锁关键取证分析时，防御者会陷入被动。Hugging Face最终通过在自有基础设施上运行开放权重的GLM 5.2模型，分析了超过17,000条操作记录，成功遏制了入侵。这说明防御者必须能够在自有基础设施上检视、调整和运行先进AI，否则响应能力将在最关键时刻受到制约。

Q3：英伟达向开放安全AI联盟贡献了哪些资源？

A：英伟达向联盟贡献了开放模型、模型权重、数据及新的智能体工具链研究成果。其中包括全新开源项目NOOA（面向对象智能体），该框架现已在GitHub上线，帮助工具链更好地与模型集成，使智能体行为更易于测试、追踪、审计和治理，从而加速网络安全工具与技术的研发。