军备控制的经验教训：美中就人工智能达成协议势在必行

作者：彼得•比特纳（Peter Bittner）

加州大学伯克利分校讲师

随着人工智能日益成熟，其对国际稳定的影响越来越大。中美两国应借鉴历史上的武器条约，采取合作方式监管人工智能，以防止冲突，促进全球稳定。

作为加州大学伯克利分校人工智能领域的新闻撰稿人和讲师，以及此前报道亚太事务的记者，我职业生涯的大部分时间都在分析技术、政策和国际外交的交汇领域。今天，我想强调，美中借鉴全球武器条约的历史先例，包括标志性的《核不扩散条约》（NPT），就人工智能监管达成双边协定，是十分重要的。

今年，生成式人工智能技术蓬勃发展，表明人工智能已经迅速从科幻小说题材转变为现实生活的基础。人工智能系统驱动汽车，为各行各业提供动力，并且越来越多地影响着军事决策。人工智能有可能彻底改变我们生活的许多方面，这一点是无可争议的。然而，与所有强大的技术一样，它也带来了重大风险——如果不加以控制，可能破坏双边和全球关系的稳定。

人工智能可以为军事行动提供巨大的战略和战术优势。它能够快速处理大量数据，识别人类无法识别的模式，并在复杂且快速变化的情况下提供快速决策。然而，另一方面却是一场新的人工智能军备竞赛，有可能引发冲突、滋生不信任并破坏全球稳定。（今年早些时候，由于担心人工智能对社会造成的潜在危险和影响， 数千名科技领袖呼吁禁止开发最先进的人工智能系统。）

这种情况令人毛骨悚然地想起冷战期间世界面临的核难题。随着核技术的发展，出现了一个悖论——虽然具有发电等和平应用方面的潜力，但它也化身为“相互保证毁灭（MAD）”的幽灵。

正是在这种背景下，1968年《不扩散核武器条约》应运而生，它旨在防止核武器扩散、促进裁军、促进和平利用核能。该条约体现出对共同安全、建立信任和透明度的承诺，这对于维持脆弱的平衡至关重要。

▲《不扩散核武器条约》是英国、美国、苏联等59个国家1968年7月1日分别在伦敦、华盛顿和莫斯科签署的一项国际条约。

同样，人工智能的兴起也造成了军民两用的困境。人工智能具有显著提高生产力、解决复杂问题，并创造巨大经济和社会效益的潜力。然而，如果不受监管，它有可能对美中关系和全球层面的稳定构成重大威胁，特别是在军事领域。

人工智能驱动的军备竞赛可能带来的场景是，由机器驱动的快速决策绕过人类的深思熟虑和判断，从而无意中加剧冲突。这些自动化决策可能无法完全考虑地缘政治的细微差别和长期影响。此外，在追求优势的过程中，各国可能越过道德界限，创造出无需人类干预即可行动的人工智能武器，进一步扩大意外对抗的风险。缺乏标准化的人工智能规范，还可能导致各国沉迷于秘密的人工智能活动，从而加剧相互猜疑，并增加因为误解意图而采取先发制人行动的几率。某种程度上，冷战时期的核对峙因为“相互毁灭”而得到缓解。但是，人工智能缺乏这种相互明确性，尤其是在早期阶段。

以《不扩散核武器条约》为模式，美中就人工智能监管达成双边协议，可能有助于应对上述威胁。该协议应涵盖限制自主武器的开发和部署、提高人工智能研究和开发的透明度，以及促进共同利用人工智能应对气候变化和疾病爆发等共同挑战等。

考虑到中美之间持续的战略竞争，这样的协议至关重要。两国都处于人工智能技术的前沿，并且拥有保持竞争优势的巨大动力。如果没有达成协议，已经成为两国竞争新战线的人工智能，将有可能破坏稳定，加剧地缘政治紧张局势。目前的地缘政治紧张局势已经相当严重了。

▲6月，拜登在旧金山会见人工智能专家和研究人员。

在美国，正如科技领袖7月份在国会作证所说，人们担心中国可能在人工智能领域领先。一群受美国两党支持的参议员计划推出《全球技术领导力法案》，该法案旨在应对人工智能的崛起以及美国的竞争者和对手对人工智能的运用。该法案出台之际，参议院多数党领袖查克·舒默誓言要把解决人工智能问题作为优先事项。根据该法案，将设立一个办公室，分析相较于中国等竞争对手，美国在人工智能等关键技术方面的竞争力。

与此同时，中国领导层敦促中国抓住人工智能和其他新突破带来的机遇，以此促进国家工业体系的现代化。

这种双边协议不仅是为了防止冲突，它还将释放人工智能促进合作的潜力。人工智能领域的合作，可以帮助美国和中国更有效地利用这项技术造福社会，促进相互理解，促进共同的规范和价值观。

人工智能代表着前所未有的挑战，但也代表着机遇。汲取核时代的经验教训，我们可以开辟出一条利用人工智能潜力并降低其风险的道路。中美关于人工智能监管的双边协议是这条道路上的重要一步，不仅塑造着两国的未来，也塑造着整个世界的未来。尽管任何协议的执行都是极其困难的，但必须建立起有关人工智能的参与规范和规则，为全球稳定奠定基础。

我们必须记住：在互联互通的时代，全球安全比以往任何时候都更加相互交织。不受控制的人工智能军备竞赛不仅是双边问题，也是全球问题。为了我们共同的未来，让我们以应有的尊重、合作和严肃态度对待人工智能。

中美聚焦网｜中美交流基金会