OpenAI遭强烈反对：被迫修改与美国军方合作协议

3月3日消息，据BBC报道，OpenAI 表示，它正在修改与美国政府就其技术在机密军事行动中使用而达成的“投机取巧且草率”的协议。

周一，OpenAI 首席执行官 Sam Altman 表示，该公司计划在其协议中添加条款，包括明确禁止使用其系统监视美国人。

此前， OpenAI 的竞争对手 Anthropic 与美国国防部就其人工智能模型 Claude 被用于大规模监控和全自动武器等问题发生争执，导致双方于周五达成协议。

但这引发了人们对人工智能在战争中的应用方式以及政府和私营公司各自拥有多大权力的质疑。

OpenAI 周六发表声明称，其与五角大楼达成的协议“比以往任何针对机密人工智能部署的协议（包括 Anthropic 的协议）都包含更多保障措施”。

但周一，奥特曼在 X 上发帖称，正在进行进一步的更改，包括确保其系统不会“故意用于对美国公民和国民进行国内监视”。

作为新修正案的一部分，国家安全局等情报机构也将无法使用 OpenAI 的系统，除非对合同进行“后续修改”。

奥特曼补充说，公司急于“在周五发布这个消息”是个错误。

他说：“这些问题非常复杂，需要清晰的沟通。”

“我们当时确实想缓和局势，避免更糟糕的后果，但我认为这看起来只是投机取巧和草率行事。”

OpenAI宣布与五角大楼合作后，遭到了用户的强烈反对。

据报道，该公司 Chat GPT 移动应用程序的日间卸载量在周六飙升至 295%，而通常情况下卸载量为 9%。

与此同时，Anthropic 的 Claude 登上了苹果应用商店排行榜榜首，截至周二仍保持在该位置。

由于 Anthropic 公司拒绝放弃其企业“红线”原则（即其技术不应用于制造完全自主的武器），该人工智能模型被特朗普政府列入黑名单。

尽管如此，在特朗普颁布禁令几个小时后，Claude在美以对伊战争中的使用情况就浮出水面了。

五角大楼拒绝就其与 Anthropic 公司的交易发表评论。

人工智能在军事领域有多种应用，例如简化后勤或快速处理大量信息。

美国、乌克兰和北约都使用来自 Palantir 的技术，这是一家美国公司，为政府客户提供数据分析工具，用于情报收集、监视、反恐和军事目的。

英国国防部最近与该公司签署了一份价值 2.4 亿英镑的合同。

去年年底，BBC采访了一些参与将Palintir的人工智能防御平台Maven整合到北约的人员。

Palantir 英国业务负责人路易斯·莫斯利表示，该软件汇集了大量的军事信息，从卫星数据到情报报告，然后可以由 Claude 等商业人工智能系统进行分析，以帮助做出“更快、更高效、最终在适当情况下更具杀伤力的决策”。

但是人工智能大型语言模型可能会犯错，甚至编造一些东西——这被称为“产生幻觉”。

北约特遣部队 Maven 的首席数据官阿曼达·古斯塔夫中校强调，他们始终进行人工监督，并补充说，他们“总是会引入人来参与决策”，而且“绝不会出现”人工智能“替我们做决定”的情况。

与 Anthropic 不同，Palantir 不支持全面禁止自主武器，而是表示应该“有人参与其中”。

但牛津大学的玛丽亚罗萨里亚·塔德奥教授告诉 BBC，随着安人智公司退出五角大楼，“最有安全意识的参与者”现在“离开了房间”。

“那确实是个问题。”她补充道。（鞭牛士、AI普瑞斯编译）