五角大楼威胁：若Anthropic拒绝取消AI安全限制，将把其列为“行业弃儿”

来源：环球市场播报

　　哈达斯・戈尔德、黑利・布里茨基 报道

（左至右）：Anthropic 联合创始人兼 CEO 达里奥・阿莫迪、美国国防部长 皮特・赫格塞斯

　　美国国防部长皮特・赫格塞斯向 Anthropic CEO 达里奥・阿莫迪下达最后通牒：本周五前必须同意取消其 AI 模型的安全防护限制，否则将面临失去五角大楼合同的风险。

　　他还威胁要将这家 AI 公司列入事实上的政府黑名单。

　　争议焦点是 Anthropic 为其 AI 模型 Claude 设置的安全限制（guardrails）。据两名知情消息人士透露，五角大楼与 Anthropic 签有2 亿美元合同，军方要求该公司取消限制，以便军方将模型用于 “所有合法用途”。

　　但消息人士称，Anthropic 在两个问题上不愿让步：

1. AI 控制武器
2. 对美国公民进行大规模国内监控

　　一名知情人士表示，Anthropic 认为目前 AI 的可靠性尚不足以操控武器，且针对 AI 在大规模监控中的应用，目前尚无相关法律法规。

　　五角大楼：周五前不妥协就终止合同，还要动用《国防生产法》

　　据了解周二会谈的消息人士称，如果 Anthropic 不同意条款，五角大楼计划周五前终止合同。

　　一名五角大楼官员对 CNN 表示，该公司必须在周五下午 5：01 前“选择是否配合”。

　　如果拒绝，赫格塞斯将确保对 Anthropic 动用《国防生产法》，强制其为五角大楼服务，无论其意愿如何。

　　这名官员称，赫格塞斯还将把 Anthropic 认定为供应链风险。

　　《国防生产法》赋予政府出于国防利益干预企业的权力，特朗普政府曾在疫情期间动用过该法案。

　　“供应链风险” 认定将禁止所有持有军方合同的企业在任何军事项目中使用 Anthropic 产品。这对正试图拓展企业市场的 Anthropic 将是重大打击，因为许多大型企业都持有军方合同。通常，这一认定只用于被视为俄罗斯、中国等对手延伸的企业。

　　曾担任司法部与国防部联络官的凯蒂・斯威滕表示，她无法理解五角大楼如何能一边宣称一家公司是供应链风险，一边又强制其为军方服务。

　　“按理说，我们不会使用存在供应链风险的技术，对吧？所以我不明白这怎么自圆其说。”

　　“听起来，所谓供应链风险并非合理认定，更像是因对方不妥协而进行的惩罚。”

　　Anthropic：绝不松口，坚持安全红线

　　知情人士称，周二会谈气氛礼貌、互相尊重，并未出现争吵。赫格塞斯称赞了 Anthropic 的产品，并表示希望合作。

　　但阿莫迪重申了 Anthropic 的两条红线：

• 反对自主武器
• 反对大规模监控

　　消息人士称，Anthropic 无意妥协、不会遵从五角大楼要求。

　　五角大楼官员对 CNN 称，此事与大规模监控、自主武器无关，“五角大楼一向守法”。

　　“不能用例外方式指挥战术行动，合法性是作为最终用户的五角大楼的责任。”

　　Anthropic 发言人则称，会谈是一场 “善意” 的技术使用对话。

　　“Anthropic CEO 达里奥・阿莫迪今早于五角大楼会见了部长赫格塞斯。会谈中，达里奥对国防部工作表示赞赏，并感谢部长的服务。

　　我们就使用政策继续进行善意沟通，确保 Anthropic 能够在模型可靠、负责任的范围内，继续支持政府的国家安全使命。”

　　竞争格局：xAI 已 “站队”，给对手留出机会

　　双方谈判已持续数月，但近几周紧张关系被陆续曝光。

　　上周，Axios 报道称，赫格塞斯即将切断与 Anthropic 的合同，并将其列为 “供应链风险”。

　　Anthropic 发言人周二表示：

　　“Anthropic 致力于使用前沿 AI 支持美国国家安全。我们是第一家将模型接入机密网络的前沿 AI 公司，也是第一家为国家安全客户提供定制模型的公司。”

　　Anthropic 与五角大楼的冲突，可能为其竞争对手打开大门。

　　五角大楼官员证实，埃隆・马斯克的 xAI 已 “同意进入机密环境”，其他公司也 “接近达成”。

　　Anthropic 长期以高度重视 AI 安全自居。其创始人均为前 OpenAI 员工，因对 ChatGPT 开发方向、安全理念和 AI 发展速度存在分歧而离职。

　　该公司近期还宣布，将向一个推动 AI 监管的政治组织捐赠 2000 万美元。