网易首页 > 网易号 > 正文 申请入驻

Claude卷入美以空袭伊朗实战?AI大模型正被纳入军事杀伤链引发担忧

0
分享至

天色微明,战斗机从以色列基地起飞,配备了远程高精度弹药,2小时5分后导弹击中德黑兰市中心一处领导人办公区,那里集中了伊朗多名政治安全高层人物。2月28日上午巨大的爆炸声之后,美以联合发动了对伊朗的军事行动。

《华尔街日报》和Axios报道称,在此次行动中,人工智能初创公司Anthropic开发的大模型Claude被用于支持军事行动。但五角大楼和Anthropic公司均未证实此说法。

就在对伊朗发动袭击前数小时,五角大楼与Anthropic因使用限制问题闹翻,特朗普下令所有联邦机构立即停止使用Claude。美防长赫格塞思2月27日发长文指责Anthropic“傲慢且背信弃义”。但他承认,由于Claude已被广泛使用,要迅速从军事系统中移除这一工具十分困难,Anthropic将在“不超过6个月”的过渡期内继续提供服务。

Anthropic是首家被美国国防部用于机密行动的AI公司,去年7月双方签署了2亿美元的合同。报道称,五角大楼在1月强掳委内瑞拉总统马杜罗的行动中也使用了Claude。当时Anthropic不置可否,该公司发言人回应:“无法评论Claude或任何其他AI模型是否被用于任何特定行动。”

伊朗最高领袖等多名高官被暗杀背后是否存在AI大模型的助力尚未得到核实,但许多国家的军队确实正越来越多地将AI纳入武器体系,包括以色列军方在加沙使用具有自主能力的无人机,并大量利用AI建立打击目标数据库。

将大型语言模型纳入军事杀伤链之中,让AI为军事行动提供后勤和决策支持的现实或许已经到来。

用于情报分析、作战规划和网络战

简单到处理PDF文件,复杂到操控自主无人机等任务,大模型Claude的功能范围广泛。据《华尔街日报》报道,知情人士称,包括美国在中东地区的中央司令部等全球多个作战指挥机构都在使用Claude。美国中央司令部拒绝就对伊行动中所使用的具体系统发表评论。

Anthropic公司2月26日表示,自Claude被部署到五角大楼以来,其技术已被用于情报分析、作战规划和网络战。自特朗普再次入主白宫并推动联邦机构迅速扩大AI使用规模以来,该公司与政府的合作进一步深化。

“在军事环境中有大量后勤问题。如何把物资从一个地方运到另一个地方?两地各有多少物资?怎样高效地向前推进?某项任务可能需要哪些补给?”美国国防部负责研究与工程的副部长埃米尔‧迈克尔近日在接受哥伦比亚广播公司(CBS)采访时表示,美军最初对Claude等工具产生兴趣,是因为现代军事部署的复杂性。

在对伊行动前夕,Anthropic与五角大楼围绕一个假设情景进行了讨论。美国国防官员告诉《华盛顿邮报》,在1月的一场会议上,五角大楼的技术主管描述了一个生死攸关的情境:如果一枚洲际弹道导弹飞向美国,面对核打击风险,军方是否可以使用Claude协助将其击落?Anthropic首席执行官达里奥·阿莫代回答: “你们可以给我们打电话,我们再一起商量。”

在上述情境下,技术能力与反应速度至关重要,从探测到反击的决策时间往往以分钟甚至秒计算。Anthropic发言人否认阿莫代曾做出那样的回答,称 “完全不属实”,并表示公司已同意允许Claude用于导弹防御。

针对伊朗最高领袖哈梅内伊的致命打击,《纽约时报》援引熟悉此次行动的人士称,美国中情局数月来一直在追踪哈梅内伊的行踪,对其所在地和活动规律掌握得越来越有把握。在今年1月美军强掳马杜罗的行动中,美媒曝光Claude被运用于其中。

美国外交关系委员会成员、前国防部副助理部长迈克尔·霍洛维茨分析,AI工具的作用很可能主要集中在开源情报(OSINT)方面。“我猜它可能被用于查看地图或实时监测委内瑞拉社交媒体信息流,试图为美国军方提供更多信息。”

然而,Anthropic与五角大楼的的裂痕不断加深,该公司的使用条款不允许将Claude用于暴力行为、武器开发或监控用途。霍洛维茨认为,科技公司对自主武器系统的顾虑不仅是道德层面的,也涉及技术成熟度问题。

“我非常担心未知风险。我们无法完全预测一切。”阿莫代在接受采访时说道。Anthropic成立于2021年,由一批出于安全考量离开OpenAI的人员创办。2024年底,该公司成为首家与美军机密网络合作的AI公司。之所以获得先机,一方面是因为美国情报界与亚马逊建立了合作关系,亚马逊向Anthropic投资了数十亿美元。另一方面,Anthropic与软件服务公司Palantir合作,后者是国防部的长期承包商。

赫格塞思1月在一场公开活动上表示,国防部不会“使用那些不允许你打仗的AI模型”。随着谷歌、OpenAI和xAI等竞争对手也分别与五角大楼达成合作协议,Anthropic的优势正在减弱。美国国防部已在使用定制版本的Google Gemini和OpenAI系统分析文件和支持研究工作。

以色列军事体系已深度整合AI

当美国仍在讨论AI战伦理问题时,以色列正将这些系统深度整合进军事体系,并运用于实战。

2023年底,以军在对加沙北部贾巴利亚难民营的第一次空袭中击毙了哈马斯高级指挥官易卜拉欣·比亚里。来自以色列和美国的3名官员告诉《纽约时报》,以色列运用了一款AI音频工具来监听比亚里的电话,这款工具能够大致判断打电话的位置,以军以此为据对该区域进行了空袭。

AI工具为以色列对哈马斯的报复行动提供了协助。据《时代》杂志报道,一款名为“福音”(The Gospel)的程序会生成建议,提示可能有武装分子活动的建筑和设施。“薰衣草”(Lavender)被编程用于识别哈马斯及其他武装团体的成员以进行暗杀,从指挥官到普通士兵皆在其范围内。“爸爸在哪儿?”(Where’s Daddy?)则通过追踪手机来跟踪其行踪。以色列国防军已承认开发这些程序。

为推动AI的军事应用,以色列国防军的8200情报部队与受雇于谷歌、微软和Meta等大型科技公司的预备役人员共同建立了一个“工作室”,这一创新中心将专家与人工智能驱动的信息战等相关项目联系起来。

“在我服役期间(2010年至2015年),需要大约20名情报官员工作约250天,才能收集200到250个目标。”耶路撒冷希伯来大学讲师、前以色列国防军法律顾问塔尔·米姆兰告诉英媒:“今天,AI在一周内就能完成这些工作。”

欧洲和美国防务官员表示,没有其他国家像以色列这样在实时战斗中大规模试验AI工具,这也预示了未来战争中类似技术的使用方式及潜在风险。

不少科技人士提醒“算法战争”的内在风险,尤其是模型幻觉或偏见问题。有专家指出,“如果系统在提供信息时加入自身偏见,就会引发信息可靠性的疑问。”

在伦敦国王学院最近举行的一场核战争模拟中,包括ChatGPT、Claude与Google Gemini在内的多种大型语言模型都迅速倾向于发射核弹头。非营利组织核威胁倡议全球核计划表示,即便保留人类决策者,AI的建议仍可能对开火决定产生重大影响。

包括国际红十字委员会在内的一些国际组织认为,AI需要新的法律工具,他们指出,随着AI武器系统变得更先进,确保人为控制和问责是至关重要的。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
879854文章数 5088586关注度
往期回顾 全部

专题推荐

洞天福地 花海毕节 山水馈赠里的“诗与远方

无障碍浏览 进入关怀版