基辛格：人工智能的军备控制之路

《Foreign Affaris》，October 13, 2023

今年是历史上死伤最惨重的战争结束的第

78

周年，也是近代以来最长的无大国战争时期开始的

78

周年。由于第一次世界大战结束仅二十年后就爆发了第二次世界大战，第三次世界大战的幽灵覆盖着冷战后的数十年。当美国用原子弹摧毁广岛和长崎，迫使日本立刻无条件投降时

没有人会想到世界会在接下来的七十年里暂停使用核武器。近八十年后，核武器国家仅剩九个，这似乎更不可能。在这几十年里，美国在幸免核战争、减缓核扩散以及塑造国际秩序以提供数十年大国和平方面所表现出的领导力，将作为美国最重要的成就之一载入史册。

今天，当世界面临另一项前所未有、在某些方面甚至更加可怕的技术

人工智能

所带来的独特挑战时，许多人从历史中汲取教益也就不足为奇了。拥有超人能力的机器会威胁到人类作为宇宙主宰的地位吗

人工智能是否会破坏国家对大规模暴力手段的垄断

人工智能是否会让个人或小团体制造出能够大规模杀人的病毒，而这在以前只是大国的专利

人工智能是否会削弱作为当今世界秩序支柱的核威慑

目前，没有人能够肯定地回答这些问题。但在过去的两年里，我们与一群站在人工智能革命前沿的技术领导者一起探讨了这些问题，我们得出的结论是，

人工智能的无限制进展将给美国和世界带来灾难性后果的前景是如此令人信服，以至于各国政府领导人现在就必须采取行动。

尽管他们和其他人都无法知道未来会发生什么，但我们已经了解到足够的信息，可以从今天开始做出困难的挑选并采取行动

我们认识到，随着更多信息的发觉，这些挑选和行动将被反复修正。

在领导人做出这些挑选时，核时代的经验教训可以为他们的决策提供参考。即使是竟相开发和部署可杀死数亿人的空前技术的对手，也发觉了共同利益的孤岛。作为双头垄断者，美国和苏联都希望防止这种技术迅速传播到可能威胁到它们的其他国家。

华盛顿和莫斯科都认识到，如果核技术落入本国境内的不法分子或恐惧分子之手，那么美国和苏联都将面临威胁。

因此，双方都为自己的核武库开发了强大的安全系统。但是，由于如果对方社会中的不法分子获得核武器，双方也可能受到威胁，因此双方都认为，相互讨论这种风险并介绍各自为确保不发生这种情况而开发的做法和技术符合各自的利益。

一旦双方的核武库达到了一定水平，即双方都无法在攻击对方的同时不引发毁灭自己的反击，他们就发觉了相互确保摧毁(MAD)这一自相矛盾的稳定性。

随着这一丑陋现实的内化，每个大国都学会了限制自己，并想方设法说服对方限制自己的行动，以幸免可能导致战争的对抗。事实上，美国和苏联政府的领导人都逐步认识到，幸免本国成为首当其冲的受害者的核战争是他们的首要责任。

今天，人工智能带来的挑战不仅仅是核时代的第二章。

历史不是一本食谱

，按照食谱就能做出蛋奶酥。人工智能与核武器之间的差异与相似之处至少同样重要。然而，如果能够正确理解并加以调整，在塑造一个近八十年来没有发生过大国战争的国际秩序过程中汲取的经验教训，将为今天面对人工智能的领导人提供最好的指导。

目前，只有两个人工智能超级大国

美国和中国是唯一拥有训练最复杂的人工智能模型所需的人才、研究机构和大规模计算能力的国家。这为它们提供了一个狭窄的机会之窗，来制定指导方针，防止人工智能最危险的进步和应用。美国

和中国应该抓住这个机会，举行一次峰会

也许就在

11

月旧金山APEC峰会之后

在这次峰会上，他们可以就他们认为是当今面临的最重要问题之一进行深入、直接、面对面的讨论。

核时代的教训

1945

年，原子弹摧毁了日本的城市，打开潘多拉原子之盒的科学家们看到自己制造的东西害怕万分。曼哈顿计划的主要科学家罗伯特

奥本海默回忆起《薄伽梵歌》中的一句话：

现在我变成了死神，世界的毁灭者

。奥本海默极力主张采取激进措施来操纵原子弹，以至于他被剥夺了安全许可。

1955

年，

11

位顶尖科学家签署了

《罗素-爱因斯坦宣言》

，其中不仅包括伯特兰

罗素和阿尔伯特

爱因斯坦，还包括莱纳斯

鲍林和马克斯

玻恩，他们警告核武器的可怕威力，并恳求世界各国领导人永远不要使用核武器。

尽管美国总统哈里-

杜鲁门从未对他的决定表示过反思，但他和他的国家安全团队成员对于如何将这一令人敬畏的技术融入战后国际秩序都没有一个可行的看法。美国是否应该试图保持其作为唯一原子强国的垄断地位

这是否可行

为了实现这一目标，美国能否与苏联分享其技术

在一个拥有这种武器的世界中生存，是否需要领导人发明某种高于国家政府的权威

杜鲁门的战争部长亨利

史汀生

他刚刚帮助取得了对德国和日本的胜利

建议美国与苏联领导人约瑟夫

斯大林和英国首相温斯顿

丘吉尔分享其对原子弹的垄断权，以建立一个防止核武器扩散的大国

共管体

。杜鲁门成立了一个委员会，由美国副国务卿迪安

艾奇逊担任主席，负责为落实史汀生的建议制定战略。

艾奇逊基本上同意史汀生的观点：

防止核军备竞赛最终导致灾难性战争的唯一办法是建立一个唯一拥有原子武器的国际机构。

这就要求美国与苏联和联合国安理会其他成员国分享其核机密，将其核武器转让给新成立的联合国

原子能进展机构

，并禁止所有国家进展武器或建立自己生产武器级核材料的能力。

1946

年，杜鲁门派遣金融家兼总统顾问伯纳德

巴鲁克前往联合国，就实施艾奇逊计划的协议进行谈判。但这一提议遭到了苏联驻联合国代表安德烈

葛罗米柯的断然拒绝。

三年后，当苏联成功地制造出自己的原子弹时，美国和苏联进入了人们开始称之为冷战的时期：

一场在炸弹和子弹之外的一切手段的竞争。

这场竞争的一个核心特点就是争夺核优势。两个超级大国的核武库在鼎盛时期拥有6万多件武器，其中一些弹头的爆炸威力超过了有史以来所有战争中使用过的武器。专家们争辩全面核战争是否意味着地球上每一个生灵的灭亡。

几十年来

华盛顿和莫斯科在核武库上花费了数万亿美元。美国核事业目前的年度预算超过

500

亿美元。在这场竞争的最初几十年，美国和苏联都取得了以前难以想象的飞跃，希望取得决定性的优势。美国武器的爆炸威力需要制造新的衡量标准

从最初的裂变武器的千吨级

相当于

1000

TNT

炸药释放的能量

到氢聚变炸弹的百万吨级

相当于

100

万吨释放的能量

。双方发明的洲际导弹能在30分钟内将弹头投向地球另一端的目标，卫星能在数百英里的高空围绕地球，其摄像头可以在几英寸内识别目标的坐标，预防系统实质上可以以弹制弹。正如罗纳德-里根总统所说的那样，一些观察家认真地设想，预防系统将使核武器变得

无能和过时

概念器库

在试图塑造这些进展的过程中，战略家们进展了一种概念武库

将第一轮打击和第二轮打击区分开来。他们明确了可靠报复性反应的基本要求。他们还进展了核三位一体

潜艇、轰炸机和陆基导弹

以确保在对方发觉一个漏洞时，核武库的其他组成部分仍能做出毁灭性反应。对意外或未经授权发射武器风险的认识促使人们发明了同意行动链接

嵌入核武器的电子锁，可防止在没有正确核发射密码的情况下启动核武器。设计冗余是为了防止可能危及指挥

卡恩的名言所说，他们

在思索不可思议的事情

核战略的核心是

威慑概念

通过威胁付出与任何可想象的利益不成比例的代价，阻止对手发动攻击。

人们逐步认识到，

成功的威慑不仅需要能力，还需要可信度。

美国潜在的受害者不仅需要果断应对的手段，还需要意愿。战略家们进一步完善了这一基本思想，提出了

延伸威慑等概念

，试图利用一种政治机制

通过结盟保证提供保护

说服关键国家不要建立自己的武库。

1962年，当美国总统约翰-肯尼迪就苏联在古巴部署核导弹一事与苏联领导人尼基塔-赫鲁晓夫交锋时，美国情报界估量，即使肯尼迪成功发动第一次打击，苏联以其现有能力进行的报复性反击也可能导致6200万美国人丧生。

到1969年，理查德-尼克松就任总统时，美国需要重新思索自己的做法。

基辛格后来描述了这一挑战：

我们在优势时期形成的预防战略必须在新现实的严酷光照下重新审视。任何好战的言论都无法掩盖这样一个事实：

现有的核储备足以毁灭人类。没有比防止核战争灾难更崇高的责任了。

为了生动形象地说明这一情况，战略家们制造了具有讽刺意味的缩写词

"MAD"

，里根经常重复的一句话概括了这一缩写词的精髓：

核战争不可能打赢

因此绝不能打

从操作上讲，

MAD

意味着

相互确保的脆弱性

。尽管美国和苏联都试图摆脱这种状况，但它们最终认识到自己无法做到这一点，必须从根本上重新认识它们之间的关系。1955年，丘吉尔曾指出，

安全将是恐惧的结晶，而生存则是毁灭的孪生兄弟

，这是一种极大的讽刺。在不否认价值观差异或不损害重要国家利益的情况下，致命的对手必须制定战略，以除全面战争外的一切可能手段击败对方。

这些战略的支柱之一是一系列默示和明示的限制，现在被称为军备操纵。即使在

MAD

之前

当每个超级大国都在竭尽全力实现优势时

它们也发觉了共同利益的领域。为了减少犯错的风险，美国和苏联在非正式讨论中商定不干涉对方对其领土的监视。为了保护本国公民免受放射性尘埃的危害，两国禁止了大气层试验。为了幸免

危机不稳定性

当一方认为另一方马上先发制人时，他们在

1972

年的《反弹道导弹条约》中同意限制导弹预防。在

1987

年签署的《中程核力量条约》中，里根和苏联领导人戈尔巴乔夫同意排除中程核力量。

1972

年和

1979

年签署的《限制战略武器会谈条约》限制了导弹发射器的增加，后来，

1991

年签署的《削减战略武器条约》

(START)

2010

年签署的《新削减战略武器条约》减少了导弹发射器的数量。也许最重要的是，美国和苏联得出结论，核武器扩散到其他国家会对两国构成威胁，最终可能导致核无政府状态。他们建立了现在所谓的核不扩散机制，其核心是

1968

年的《核不扩散条约》，如今已有

186

个国家通过该条约承诺不进展自己的核武库。

操纵人工智能

在当前关于如何遏制人工智能的提案中，人们可以听到许多过去的回声。亿万富翁埃隆·马斯克要求暂停人工智能开发六个月，人工智能研究员埃利泽·尤德科夫斯基提议废除人工智能，心理学家加里·马库斯要求由一个全球政府机构操纵人工智能，这些基本上都是在重复核时代的失败提议。原因是每个国家都要求主要国家服从自己的主权。在历史上，

从来没有一个大国因为担心竞争对手可能会应用新技术来威胁其生存和安全而放弃为自己开发该技术。

即使是美国的亲热盟友，如英国和法国，除了依靠美国的核保护伞外，也挑选进展自己国家的核能力。

为了汲取核历史的经验教训来应对当前的挑战，必须认识到人工智能与核武器之间的显著差异。第一，虽然政府领导了核技术的进展，但私人企业家、技术专家和公司正在推动人工智能的进步。为微软、谷歌、亚马逊、Meta、OpenAI 和少数几家小型初创公司工作的科学家们远远领先于政府的任何类似努力。此外，这些公司现在陷入了一场角斗，这无疑推动了创新，但也付出了代价。当这些私人参与者在风险和回报之间做出权衡时，国家利益肯定会被轻视。

第二，人工智能是数字化的。核武器很难生产

需要复杂的基础设施来完成从浓缩铀到设计核武器的所有工作。产品是实物

因此是可计算的。在可以核实对方正在做什么的地方，就会出现制约因素。人工智能是一个截然不同的挑战。它的主要演变发生在人类的头脑中。其适用性在实验室中演变，其部署难以观察。核武器是有形的，而人工智能的本质是概念性的。

第三，人工智能的进展和传播速度之快，使漫长的谈判变得不可能。军备操纵进展了几十年。在人工智能融入每个社会的安全结构之前，也就是在机器开始设定自己的目标之前，就需要对人工智能进行限制。在这个时间点上，第一需要在全国范畴内，然后在国际范畴内进行讨论和分析，并在政府和私营部门之间的关系中注入新的活力。

幸运的是，已经开发出生成式人工智能并使美国成为领先的人工智能超级大国的各大公司认识到，它们不仅要对股东负责，还要对整个国家和人类负责。许多公司已经制定了自己的指导方针，在部署前评估风险

减少训练数据中的偏差，并限制其模型的危险用途。还有一些公司正在探究如何限制培训，并对云计算提供商提出

了解你的客户

的要求。拜登政府在七月宣布的一项倡议是朝着正确方向迈出的重要一步，该倡议将七家主要人工智能公司的领导人请到白宫，共同承诺制定指导方针，以确保

安全、保证和信任

正如基辛格在《人工智能时代》一书中指出的那样，当务之急是系统研究人工智能不断进展、往往令人叹为观止的发明和应用所带来的长远影响。尽管美国比南北战争以来更加分裂，但人工智能无限制的进展所带来的巨大风险要求政府和企业领导人现在就采取行动。每家拥有大规模计算能力以训练新人工智能模型的公司

以及每家开发新模型的公司或研究团体

都应成立一个小组，分析其商业人工智能业务对人类和地缘政治的影响。

这一挑战是两党共同的，需要采取统一的应对措施。总统和国会应本着这一精神成立一个由私营部门、国会、军方和情报界杰出的无党派前领导人组成的全国委员会。委员会应提出更具体的强制性保证措施。其中应包括要求连续评估训练GPT-4等AI模型所需的大规模计算能力，以及要求公司在公布新模型之前，对其进行极端风险压力测试。尽管制定规则的任务十分艰巨，但该委员会可以借鉴国家人工智能安全委员会的做法。该委员会于2021年公布的建议为美国军方和美国情报机构在与中国的人工智能竞争中采取的举措提供了动力和方向。

两个

AI

超级大国

即使在这个早期阶段，当美国仍在国内建立自己的人工智能治理框架时，与世界上唯一的另一个人工智能超级大国开始认真对话也为时不早。中国科技领域的国家冠军—百度

、字节跳动

、腾讯

和阿里巴巴

都在开发

ChatGPT

的专有中文类似软件……。虽然中国在制造先进半导体的技术方面仍旧落后

但它已经具备了在不久的将来取得进步的必要条件。

因此，美国与中国领导人应在不久的将来会面，就人工智能军备操纵问题进行私下交谈。11

月在旧金山举行的APEC峰会提供了这样一个机会。每位领导人都应讨论他个人如何评估人工智能带来的风险，他们的国家正在采取哪些指施来防止带来灾难性风险，以及他们的国家如何确保国内公司不输出风险。为了给下一轮讨论提供信息，他们应该成立一个咨询小组，由中美两国的人工智能科学家和其他对这些进展的影响进行过反思的人组成。这种方法可以借鉴其他领域现有的二轨外交模式，即由那些因其推断力和公正性而被选中的个人组成的小组，尽管他们并没有得到政府的正式认可。通过与两国政府的主要科学家进行讨论，我们相信这将是一次极富成效的讨论。

中美两国在这一议程上的讨论和行动将只是正在出现的全球人工智能对话的一部分，包括英国将于

11

月主办的人工智能安全峰会，以及联合国正在进行的对话。由于每个国家都将寻求利用人工智能改善本国公民的生活，同时确保本国社会的安全，因此从长远来看，需要建立一个全球人工智能秩序。这方面的工作应从各国努力预防人工智能最危险和潜在的灾难性后果开始。各国参与开发大型人工智能模型的科学家与国家委员会

如本文提议的国家委员会

成员之间的对话应作为这些举措的补充。第一应在拥有先进人工智能项目的国家之间进行正式的政府谈判，以寻求建立一个国际框架，以及一个类似于国际原子能机构的国际机构。

如果美、中和其他世界领导人现在采取行动，像他们的前任在早几十年应对核威胁时那样正视人工智能带来的挑战，他们会取得成功吗？从历史的大背景和当今日益加剧的两极分化来看，我们很难感到乐观。尽管如此，核大国之间和平相处78

年这一炽烈的事实应该勉励每个人去应对人工智能未来不可幸免的革命性挑战。