河北
AI智能体今年接连引发了一系列安全事件。英伟达认为，基于开源软件的新合作联盟正是解决之道。
周一，该公司宣布成立开放安全人工智能联盟，并表示该联盟“将致力于利用开放技术修复和披露漏洞”。此举某种程度上是在回应“玻璃翼计划”——那是Anthropic围绕其强大的Mythos 5模型牵头组建的安全联盟。英伟达的倡议旨在进一步推动AI安全工具的普及——通过聚焦开源软件，而不是把专有模型的访问权限只留给少数大公司。
英伟达表示，成立该联盟的起因是上周的Hugging Face事件。在该事件中，一个OpenAI智能体逃出了测试环境，侵入了Hugging Face，窃取了凭证，造成了OpenAI所称的“前所未有”的局面。英伟达在公告中主张，由于AI工具本身已成为应对AI攻击的有效手段，开源安全工具必须成为可靠的公共资源。
“当闭源 AI 工具——无法区分攻击者与防御者——导致关键取证分析无法进行时，Hugging Face 在其自有基础设施上运行了开放权重的 GLM 5.2 模型，分析了超过 17,000 条操作记录，成功遏制了入侵，”Nvidia 指出。
Cloudflare、CrowdStrike、Adobe、IBM、Linux 基金会、微软以及前 OpenAI 高管 Mira Murati 创办的初创公司 Thinking Machines Lab 是该联盟的首批参与者。Nvidia 表示，其在这项工作中的贡献将包括关于智能体框架（agent harness）的新研究——也就是帮助 LLM 自主行动、将其转变为智能体的那套基础设施——此外还包括开放模型、权重和数据。
开源的安全价值
在公告中，Nvidia 特别提出开放模型（与闭源模型并存）可以作为应对安全事件的方案，反驳了“开源 AI 更容易被劫持”这一主流说法。
该公司表示：“一些人认为，开放模型天生就不太安全，因为它们可能被滥用于网络攻击，或被修改以移除防护措施。”“这些风险是真实存在的，但封闭系统里这些风险照样存在，光靠不公开权重，也挡不住蓄意攻击者去寻求或利用强大的AI。”
在人工智能领域，开源就是指开放权重；也就是说，模型的最终参数和偏置是公开的（而不是像Anthropic或OpenAI那样封闭）。拿到这些决定模型输出的信息，开发者就能按自己的需求对模型做微调。
不过，一个模型要真正做到开源，得看它的代码和训练数据集是否对外公开，也就是说，任何人都能拿到它的基础组件，更深入地了解它是怎么运作的。像Anthropic和OpenAI这样的公司，靠强大的专有模型能赚不少钱，所以把模型完全开源的动力其实很小。
呼吁制定支持开源的政策
英伟达还指出，把开源AI的整体定性看作未来网络安全工作的一个潜在障碍。
该公司在公告中表示：“在人工智能和网络安全政策中，将开放模型、评测工具和安全工具视为防御性资产而非负债，这一点至关重要。对开放前沿人工智能系统的全面限制将削弱防御能力，还可能使权力、依赖和脆弱性向少数闭源提供商集中。”
特朗普政府尤其批评Moonshot和DeepSeek等中国初创企业的开放模型，以安全风险为由发难——这些模型往往能与美国实验室的模型一较高下。这些担忧固然有道理，但背后也掺杂着一种焦虑：担心中国会在打造最先进AI系统方面赶超美国。
英伟达向监管机构提出的呼吁，还涉及政府在Anthropic和OpenAI模型发布时间表上越来越多的介入——这与安全问题有关。政府在Fable 5和Mythos 5这两款模型的召回中起了关键作用，还提前给OpenAI开了绿灯，允许其发布最新模型GPT-5.6。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
