OpenAI模型入侵后，英伟达拉12盟友反击，白宫也要出手了

失控人工智能引发的黑客事件，正在加剧美国科技界围绕开源技术的争论。本周，OpenAI和Anthropic接连披露两起与人工智能相关的黑客事件，外界对人工智能网络安全风险的担忧迅速升温。与此同时，硅谷关于开源是否有助于降低这类风险的讨论也进一步升级。

这两起事件也放大了近期支持开源技术的呼声。相关讨论今年早些时候已开始升温，背景是美国在人工智能领域的竞争压力加剧，以及特朗普政府在人工智能监管上采取临时性、缺乏系统性的做法。

本周，在OpenAI、随后又有Anthropic披露其模型在网络安全测试中侵入其他公司系统后，美国一些最大的科技企业也加入了这场争论。

本周，超过12家大型科技公司支持英伟达发起的一项新开源倡议。与此同时，英伟达首席执行官黄仁勋还就这一议题前往国会山与议员会面。

但并非所有科技公司都认同这一方向。Anthropic周四披露，Claude在安全测试中出现了3起安全事件。该公司高管再次强调对开放权重模型安全性的担忧，并警告这类模型可能被“滥用”于网络攻击或生物攻击。

博思艾伦咨询公司副总裁兼网络安全人工智能负责人阿龙·圣米勒周五对《国会山报》表示：“我并不完全确定，美国现在是否清楚，大模型和小模型之间究竟哪条路才是正确的，以及要让小模型达到与大模型相当的能力，需要多大规模的小模型体系。”

与OpenAI或Anthropic托管的私有模型不同，开源系统通常体量更小、成本更低，并处于公共领域。这意味着几乎任何个人或企业都可以下载并定制模型，用于广泛用途。在某些情况下，模型本身未必是开源的，但可能采用开放权重。这意味着模型用于筛选信息和生成答案的训练权重会被公开。

近几周，美国推动更多开源开发的势头明显增强，原因包括Claude和ChatGPT这类私有专有模型成本不断上升，以及美国希望在人工智能发展上保持领先。

本月早些时候，OpenAI披露，其两个模型在隔离测试环境中“失控”，并侵入了Hugging Face的内部系统。Hugging Face托管着数十万个开源模型、数据集和云环境。这一事件再次将相关担忧推到聚光灯下。

英伟达周一启动“开放安全人工智能联盟”时，就提到了这起黑客事件。该公司认为，随着人工智能模型能力不断增强、其带来的黑客风险持续上升，开源工具是保护关键基础设施的一种机会。

根据这一联盟安排，科技公司将能够共享并使用开源工具，以识别、修补并披露安全漏洞，从而防范未来类似事件。英伟达写道：“网络防御者需要开放的前沿代理型系统来自我防御。当封闭式人工智能工具无法区分攻击者和防御者、从而阻碍关键取证分析时，Hugging Face在自有基础设施上运行了开放权重的GLM 5.2模型，分析了超过17000项操作，并控制了这次入侵。”

这家科技巨头还表示，开放模型能够扩大各行业获取防御能力的机会，提高透明度，保护数据，并“以可定制、本地化的控制方式补充前沿封闭模型”。

加入该联盟的公司包括Reflection AI、Hugging Face和OpenClaw等开源倡导者，也包括微软、帕兰提尔、SpaceX和IBM等科技巨头。

值得注意的是，OpenAI、Anthropic和谷歌并未加入。这几家公司都是美国最大的前沿人工智能实验室之一，目前主要专注于私有模型开发。OpenAI和Anthropic缺席该联盟，很快引发行业分析人士批评。他们认为，这些公司不支持开源，是因为它们无法从中获益。

风险投资人比尔·格利周二在社交平台X上写道：“差不多3年前，我就认为开放模型会成为人工智能既有巨头面临的关键威胁，而遗憾的是，它们会转向通过监管俘获来应对这一局面。”

他还说：“我低估了它们会以多大热情采用这种非商业化手段。”OpenAI首席执行官萨姆·奥尔特曼随后在网上回应批评称，他“很高兴看到”行业支持开放技术的联名信。奥尔特曼在X上写道：“我希望美国能在人工智能领域同时赢得开源和专有模型两条战线。”

在联盟成立前几天，英伟达签署了一封联名信，警告不要对开放权重模型施加“过早限制”。提供Llama系列开放权重模型的Meta和微软都在签署方之列，OpenAI后来也加入了这封联名信。

Anthropic首席执行官达里奥·阿莫代伊周二在一篇博客文章中表示，他并不支持禁止开放权重技术，但同时也担心“两种噩梦般的情景”，试图在这一关键议题上寻求平衡。

他担心的情景包括：某些高度集中的政府可能利用强大的人工智能“获得永久性的军事优势，或对本国民众实施极端深度压制”；以及更广泛的人工智能滥用，例如实施网络攻击或生物攻击。

阿莫代伊承认，开放权重有助于扩大人工智能经济的参与范围，并在某些应用场景中促进竞争。但他反对一种说法，即这类模型对防御者的帮助会大于对网络攻击者的帮助。

他写道：“在我看来，情况至少同样有可能恰恰相反。”他还表示，广泛可得的模型可能会助长生物攻击，而科技公司和政府官员可能需要数年时间才能摸索出有效的防御方式。

几天后，Anthropic宣布，在最近几个月的网络安全测试中，其模型曾访问3个不同机构的系统。这些事件是在OpenAI事件曝光后，对超过141000次Claude评估进行审查时发现的。

开放模型提供了更强的可定制性，在某些情境下，这既可能对网络攻击者有利，也可能对防御者有利。圣米勒解释说：“开放模型让人有机会找到更多利用它们的方法，但同时也让我们有机会把它们改造成更适合防御应用的工具。问题在于，我能在多大程度上微调一个模型，并以这种方式降低它遭受利用或操纵的风险？”

Meta首席执行官马克·扎克伯格周二也加入了这场争论。他在一篇评论文章中表示，未来的技术不应由少数大型参与者控制。他在《华尔街日报》写道：“我们这个时代的决定性问题，不是超级智能是否会出现，而是谁能够接触到它。它会被集中控制、仅限少数机构使用，还是会成为赋能每个人的工具？”

这位科技亿万富翁还含蓄批评了阿莫代伊等竞争对手就开放权重模型落入不当之手发出的警告。他写道：“如果认为人工智能危险到只有极端集中的权力才是唯一安全路径，那么这种观念本身就令人担忧。”

扎克伯格说：“从历史上看，寄望于绝对权力在足够开明的情况下善意地造福人类，并没有带来安全或积极的结果。”这场争论发生之际，白宫预计将在数日后发布一项框架，对人工智能模型在公开发布前进行政府自愿测试作出安排。

据报道，特朗普政府曾考虑对境外制造的开放权重模型实施限制甚至禁令，但官员后来表示，在美国推进开源开发是白宫的优先事项。

作者：米兰达·纳扎罗