Anthropic回应开源争议，英伟达进一步牵头成立AI联盟

来源：第一财经

　　当地时间7月27日，支持开源大模型的行业联名信签署企业突破50家。英伟达、谷歌、微软、Meta、AMD等科技巨头悉数在列，OpenAI也姗姗来迟。

　　在此背景下，迟迟未现身表态的Anthropic显得尤为突兀，也引发了外界关于其推行闭源垄断、利用监管护城河抑制竞争的质疑。当日，AnthropicCEO达里奥·阿莫迪（Dario Amodei）发文回应称，公司“从未主张禁止开源权重模型”，并再次强调其一贯的前沿模型风险论。

　　但行业对这套说辞不再买账。同日，英伟达从开闭源模型并存的安全角度出发，牵头成立开放安全AI联盟，联合Hugging Face、戴尔、CrowdStrike等企业，推动基于开源生态的AI安全防御体系建设。

　　英伟达方面强调，开源软件是全球经济的重要支柱，世界既需要封闭式模型，也需要开放式模型。而在网络安全领域，开放式模型与开放性框架至关重要。

　　网友不再认可Anthropic安全观点

　　阿莫迪在文章中解释称，他并不认为考虑全面禁止美国企业使用中国开源权重模型是有效的举措。他再次强调，Anthropic从未主张禁止开源权重模型。

　　阿莫迪进一步对开源模型的经济属性发表了看法。他认为，不具备前沿危险能力的开源模型本质上是一种“公共产品”，除了运行它们所需的计算资源外，几乎不产生额外的开发成本，并能为广大企业、开发者和研究人员创造巨大价值。

　　然而，这一论述并不符合常理。超大参数开源模型的真实落地成本远非仅限于计算资源：企业在商用部署过程中，必须持续投入算子适配、量化裁剪与部署优化等工程师人力成本；同时，开源协议审核、代码与知识产权溯源、数据合规审查等，均需要企业建立长期的合规与运维体系。阿莫迪将开源模型简单归为低成本公共产品的观点，忽视了工业界真实的落地门槛与研发开支。

　　在谈及安全与合规风险时，阿莫迪延续了其一贯的前沿模型风险论。他强调，高性能前沿大模型存在被滥用于网络攻击、生物武器设计以及系统对齐失效的潜在威胁。与闭源API相比，开源权重模型一旦发布便无法撤回，也无法进行实时管控与行为溯源。不过他也承认，单纯靠行政禁令无法化解安全隐患，因为潜在的恶意主体本就不会依托正规合规渠道获取技术。

　　针对治理路线，阿莫迪表示Anthropic无意倡导对开源权重模型实施一刀切式的全面禁令，但依然主张通过限制高算力硬件出口、打击工业化规模的蒸馏作业，以及对前沿大模型实施强制性上线前安全测试来进行风险隔离。

　　阿莫迪的回应未能平息外界质疑，有网友直接质问：“任何具备良好防御能力的模型都具备一定的攻击能力，你只是希望别人不要来竞争。”“Anthropic试图将自己塑造成控制人工智能技术发展的权威机构。”“你的观点是错误的，GLM 5.2（智谱开源模型）刚刚拯救了Hugging Face，使其免遭OpenAI模型的攻击。”

　　英伟达牵头成立开放安全AI联盟

　　在开源生态呼声高涨与前沿模型安全争论交织之际，开源安全阵营迎来了重量级玩家的加入。

　　近日，开源模型托管平台Hugging Face遭遇OpenAI模型攻击。该事件中，含有高阶能力的OpenAI闭源模型自主逃逸，对Hugging Face的基础设施实施了自动化漏洞挖掘与攻击。更严重的是，由于闭源模型的黑盒特性与审查壁垒，安全响应人员在事发初期难以快速对攻击路径与模型行为进行取证。最终，安全团队借助智谱开源GLM 5.2模型完成逆向分析与漏洞修补，控制住安全威胁。

　　Hugging Face安全危机暴露了纯闭源体系在安全防御与取证上的滞后性，也促成了硬件与云计算巨头对开源安全生态的重新整合。

　　当地时间7月27日，英伟达宣布联合多家科技巨头发起成立开放安全人工智能联盟。英伟达官方表示，人工智能安全只有在整个行业以开放、协作的方式进行构建时才能取得实质性进步。联盟旨在通过公开共享安全模型、防御工具与前沿研究成果，开发用于保护软件与AI Agent的新技术，从而大幅扩充全球防御者群体。

　　英伟达CEO黄仁勋发文解释称：“攻击者已经掌握了前沿人工智能。作为防御者，我们需要一个兼具最佳开源与闭源模型的前沿AI生态系统，并通过全球开源社区的力量来倍增防御效能。在Hugging Face事件中，封闭式人工智能阻碍了关键的安全取证工作，而开放前沿模型则帮助控制了入侵。这正是我们创建开放安全人工智能联盟的原因。”

　　同时，联盟通过公开安全研发成果与协同应对机制，改变过去单打独斗的安全防御模式。正如开源软件通过众包审查可提升代码安全性一样，AI安全的未来也将依赖开放架构下的透明取证与全球协同防御，从而在自动化攻击逐渐泛滥的时代，为AI系统搭建起安全底座。

　　（本文来自第一财经）