“当封闭的AI工具无法区分攻击者与防御者,直接阻断了必要的取证分析时,Hugging Face在自己的基础设施上跑起了开源模型GLM 5.2,分析超过17000次操作,才最终控制了入侵。”这是NVIDIA在新联盟公告中引述的一起真实攻防案例。这句带有复盘意味的陈述,也点明了这支新联盟成立最直接的理由:在AI被用来发动攻击的年代,安全防线不能再被封闭模型的护栏绊住脚。
NVIDIA近日宣布,已联合微软、SpaceX、戴尔、Linux基金会等全球27家科技企业与组织,共同成立“开放安全AI联盟”。联盟的定位很明确——以Linux基金会旗下的Akrites倡议和OpenSSF社区工作为基础,用开源技术推动漏洞披露与修复,整体提升网络安全水平。
![]()
联盟内部的分工已经摊在桌面上。NVIDIA将贡献开放模型、模型权重、数据以及新型智能体框架,用来加速安全工具与技术的研发;HPE负责制定一套能够对AI代理和服务进行加密验证的标准与方法;Hugging Face则拿出了名为Safetensors的安全格式,专门解决AI模型权重的安全存储问题。此外,微软、SpaceXAI、IBM和红帽等成员,也承诺拿出自家的开源AI技术。
联盟的核心主张是把开放模型定义为“防御性资产”。它在公告中呼吁监管机构不要把开放前沿AI系统视为需要被严格约束的负担,并警告说,针对开放模型的全面限制只会削弱全社会的防御能力,同时让安全能力加速向少数封闭模型厂商手中集中。
这一喊话的背景正在急剧变紧。据报道,特朗普政府已在考虑对中国开源AI模型实施广泛禁令。由于使用成本远低于OpenAI、Anthropic等公司的封闭模型,中国开源模型正在快速获得市场认可。而恰恰是OpenAI和Anthropic,以及Meta、谷歌等商业模式完全不同的AI厂商,都没有出现在这个主张“开放的安全”的联盟创始名单里。
一场围绕开放与封闭的博弈,正在从技术路线之争,升级为网络防御话语权的划分。联盟公开的立场不是要完全否定封闭模型,而是认为在安全对抗场景下,研究人员必须能同时接触开放与封闭两类前沿AI。Hugging Face遭遇的入侵已经提供了一个对照样本:用封闭商业模型请求分析入侵行为,触发了安全护栏被直接拒绝;换成开源模型,入侵被成功拦截。
开放模型能更快落地、更灵活地适配取证环境,这在应急响应里是实打实的优势。但联盟也无法回避一个尖锐的后续问题——在调用开源模型时,防守方本身的安全基准由谁来兜底?联盟目前的回答是把希望寄托在加密验证、安全格式和社区共建上,至于能否在监管和市场两端同步建立足够强韧的可信防线,仍需经历真实战场的一轮轮检验。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.