英媒：遭“封杀”后，美AI企业将起诉政府

来源：环球时报

【环球时报报道 记者 杨舒宇】随着全球局势动荡、战争频发，人工智能（AI）在军事领域的应用边界成为热议话题。在美国，AI企业与军方在模型使用权限以及监管范围上的冲突正愈演愈烈。据英国《金融时报》报道，美国初创AI企业Anthropic公司日前表示将就五角大楼将其列为“供应链风险”的决定提起诉讼。

上周五，美国总统特朗普下令美国政府停止使用人工智能公司 Anthropic的产品，五角大楼随即宣布该公司构成国家安全风险。据美国《对话》杂志报道，双方冲突起源于Anthropic对“护栏”机制的坚持。今年1月，五角大楼突然提出要求，让Anthropic移除其模型Claude中两项安全限制：一项是禁止用于美国国内大规模监控，另一项是禁止用于全自主致命性武器。这些限制一旦取消，系统就可以在无人干预的情况下选择和攻击目标。而面对军方上述要求，Anthropic直到国防部在2月下旬发出最后通牒也没有松口。

据英国《卫报》报道，事实上双方矛盾在“强抓马杜罗”行动后就已激化。在强抓马杜罗行动之后，Anthropic提出抗议，表示其使用条款明确禁止将Claude用于暴力目的、开发武器或进行监视。也是自那以后，美国总统、五角大楼与这家人工智能公司之间的关系持续恶化。在无法与Anthropic达成协议后，美国国防部上周与美国企业OpenAI达成一项框架协议。

然而就在特朗普宣布“拉黑”Anthropic后不久，据英国《卫报》报道，在上周六开始的美以对伊朗的大规模联合轰炸中，美国军方还是利用了该公司的人工智能模型Claude来制订对伊朗的攻击计划。

这一事件的发生也直接引爆有关“AI在战争中使用权限”的讨论。据《卫报》报道，专家们表示，人工智能的打击速度将超过“思维速度”，但与此同时，人类决策者可能会被边缘化。伦敦玛丽女王大学伦理、技术与社会学教授大卫·莱斯利警告，对AI依赖可能会导致“认知能力下降”，负责做出攻击决定的人可能会觉得后果与预期相偏离，因为思考过程是由机器完成的。Anthropic的首席执行官达里奥·阿莫迪直言，“事实上，某些对人工智能的应用设想，已完全超出了当前技术所能安全、可靠执行的边界。”

值得关注的是，就在Anthropic与五角大楼的争端发酵之时，其大模型Claude在苹果应用商店的下载排名跃居榜首。美国《商业内幕》网站称，这场有关AI使用的争议，可能会重洗人工智能公司的竞争格局。