让人工智能机器人控制核武器可能会引发第三次世界大战？

在俄罗斯库宾卡爱国者军事公园举行的 2021 年陆军国际军事和技术论坛开幕式上展出的 FAB-500 M-62 高爆飞机炸弹。

一位领先的专家警告说，让人工智能控制核武器可能会引发世界末日的冲突。随着人工智能在控制毁灭性武器方面发挥更大作用，技术犯错并引发第三次世界大战的可能性也在增加。其中包括美国的 B-21 核轰炸机、中国的人工智能高超音速导弹和俄罗斯的波塞冬核无人机。Schar 政策与政府学院政策研究员、专家 Zachary Kellenborn为 《原子科学家公报》撰文警告说：“如果人工智能控制核武器，我们所有人都可能死亡。”他接着说：“军队越来越多地将自主功能纳入武器系统，”并补充说，“不能保证某些军队不会让人工智能负责核发射。”

自称是美国陆军“疯狂科学家”的凯伦伯恩解释说，“错误”是自主核武器的最大问题。他说：“在现实世界中，数据可能以各种方式存在偏差或不完整。”凯伦伯恩补充说：“在核武器背景下，政府可能几乎没有关于对手军事平台的数据；现有数据可能在结构上存在偏差，例如依赖卫星图像；或数据可能无法解释明显的预期变化，例如在有雾、下雨或阴天拍摄的图像。”训练核武器人工智能程序也构成了一项重大挑战，幸运的是，核武器在历史上只在广岛和长崎使用过两次，这意味着任何系统都难以学习。尽管存在这些担忧，但包括核武器在内的许多人工智能军事系统已经在世界各地部署。

死手

近年来，俄罗斯还升级了其所谓的“末日装置”，被称为“死手”。核战争中的最后一道防线将同时发射所有俄罗斯核武器，确保彻底摧毁敌人。它最初是在冷战期间开发的，据信在过去几年中进行了人工智能升级。2018 年，核裁军专家布鲁斯·布莱尔博士告诉《 每日星报》在线 ，他认为被称为“周边”的系统“容易受到网络攻击”，这可能是灾难性的。死手系统旨在提供备份，以防一个国家的核指挥机构被杀死或以其他方式破坏。

美国军事专家亚当·洛瑟（Adam Lowther）和柯蒂斯·麦格芬（Curtis McGuffin）在 2019年的一篇文章中声称，美国应该考虑“基于人工智能的自动化战略反应系统”。

波塞冬核无人机

2018 年 5 月，弗拉基米尔·普京 (Vladimir Putin) 发射了俄罗斯的水下核无人机，专家警告称其可能引发 300 英尺高的海啸。波塞冬核无人机计划于 2027 年完工，旨在用 2 兆吨核能消灭敌方海军基地。美国海军文件将其描述为“洲际核动力核武装自主鱼雷”，或国会研究局的“自主水下航行器”，旨在在发生核攻击时用作二次打击武器冲突。

关于波塞冬的一个未解决的大问题是：它可以自主做什么。Kellenborn 警告说，它可能会被允许在特定条件下进行自主攻击。他说：“例如，如果在俄罗斯领导层担心可能发生核攻击的危机情况下，波塞冬鱼雷是在巡航模式下发射的呢？如果波塞冬号与主潜艇失去通信，它可能会发动攻击。”普京当时在宣布发射时吹嘘说，这种武器“几乎没有任何漏洞”，“世界上没有任何东西能够承受它”。专家警告说，它最大的威胁将是引发致命的海啸，物理学家雷克斯·理查森告诉《商业内幕》，这可能相当于 2011 年的福岛海啸。

B21轰炸机

美国已经发射了价值 5.5 亿美元的遥控轰炸机，可以发射核武器并躲避敌方导弹。2020年， 美国空军B-21隐身飞机亮相，这是美国30多年来第一架新型轰炸机。它不仅可以远程驾驶，还可以使用人工智能自行飞行以挑选目标并避免在没有人力输出的情况下被检测到。尽管军方坚称人类操作员将始终对是否击中目标做出最终决定，但有关飞机的信息一直很缓慢。

人工智能战斗机飞行员和高超音速导弹

去年，中国吹嘘其 人工智能战斗机飞行员“比人类好” ，并在模拟混战中击落了非人工智能战斗机飞行员。中国军方的官方报纸《解放军日报》援引一名飞行员的话说，该技术了解了敌人的行动，并且可以在一天后击败他们。中国旅长杜剑锋声称，人工智能飞行员还通过加强他们的飞行技术帮助人类参与者成为更好的飞行员。去年，中国声称其人工智能控制的高超音速导弹击中目标的精度是人控导弹的 10 倍。中国军事导弹科学家在《系统工程与电子》杂志上撰文，提议使用人工智能“即时”编写武器软件，这意味着人类控制人员将不知道按下发射按钮后会发生什么。

将死AI战机

2021 年， 俄罗斯推出了一款新的人工智能隐形战斗机 ，同时还对皇家海军进行了挖掘。这架名为 Checkmate 的时速 1,500 英里的飞机由高兴的弗拉基米尔·普京在俄罗斯航展上发射。自动驾驶飞机的一则广告——它可以躲避敌人——展示了皇家海军的 HMS Defender 在喷气式飞机的视线中的照片，标题是：“再见”。世界已经接近毁灭性的核战争，这只能通过人类的参与来阻止。

1983 年 9 月 27 日， 苏联士兵斯坦尼斯拉夫·彼得罗夫 (Stanislav Petrov ) 正在莫斯科以南的一个秘密指挥中心当值班，这时一个令人毛骨悚然的警报响起。这标志着美国发射了携带核弹头的洲际弹道导弹。面对一个不可能的选择——报告警报并可能开始第三次世界大战，或者认为这是一场虚惊——彼得罗夫选择了后者。他后来说：“我断然拒绝承认引发第三次世界大战的罪行。”

克伦伯格说，彼得罗夫做出了不信任自动发射检测系统的人为选择，并解释说：“计算机错了；彼得罗夫是对的。错误信号来自早期预警系统，将太阳从云层中反射出来的光误认为是导弹。“但如果彼得罗夫是一台机器，被编程为在信心足够高时自动做出反应，那么这个错误就会引发一场核战争。”他补充说：“不能保证某些军方不会让人工智能负责核发射；国际法没有规定应该始终有一个“彼得罗夫”守卫按钮。这应该很快改变。”