美媒：人工智能时代的战争与和平

参考消息网2月27日报道 美国《外交》双月刊网站刊发题为《人工智能时代的战争与和平》的文章，选自基辛格等人著作《创世纪：人工智能、希望和人类精神》。文章编译如下：

从军事战略的再校准到外交政策的重塑，人工智能将成为世界秩序的关键决定性因素。人工智能不受恐惧和偏好的影响，为战略决策带来了实现客观性的新可能。但这种被战争参与者以及和平缔造者所利用的客观性也应当保留人类的主观性，而人类主观性对于负责任地使用武力来说至关重要。人工智能在战争中的使用将凸显人性中最好与最坏的表现形式。它将既可以充当发动战争的手段，也可以充当结束战争的手段。

带来史无前例的安全困境

许多国家都执着于如何“赢得这场人工智能竞赛”。从某种程度上说，这种驱动力是可以理解的。文化、历史、交流以及认知等诸多因素相互交织，在当今各大强国之间制造了一种让各方都产生不安全感且相互猜疑的外交局面。各国领导人认为，持续渐进的战术优势在未来任何冲突中可能起到决定性作用，而人工智能或许就能提供这样的优势。

如果每个国家都希望将自己的优势地位最大化，那么敌对的军队和情报机构之间在心理上的较量就会条件成熟，而这种较量是人类此前从未面对过的。一场关乎存亡的安全困境即将来临。对于任何掌握了超智人工智能（即一种目前只是假说的比人类更聪明的人工智能）的人类行为体而言，其合乎逻辑的首要愿望可能是试图确保其他行为体都无法掌握这一强大版本的技术。默认情况下，任何此类行为体也可能合理地假定，其竞争对手也纠结于同样的不确定性并面临着同样的利害关系，所以也正在考虑采取类似的行动。

重构全球政治格局和行为体

在人类每一个时代，总会出现一个社会组织，它“拥有力量、意愿以及知识和道德驱动力，能够按照自身价值观塑造整个国际体系”。人们最为熟知的人类文明体系就是威斯特伐利亚体系。然而，主权民族国家这一概念仅有几个世纪的历史，它源于17世纪中叶统称为威斯特伐利亚和约的一系列条约。它并非天注定的社会组织形式，而且可能并不适用于人工智能时代。事实上，由于大量虚假信息和自动化歧视现象的出现导致人们对这一体系失去信心，人工智能可能会对各国政府的权力构成内在挑战。或者，人工智能很可能会重置当今体系内各竞争方的相对地位。

如果人工智能的力量主要被民族国家自身所利用，人类可能会被迫陷入霸权停滞状态，或者走向由人工智能赋能的民族国家之间的新平衡。但这项技术也可能成为一场更为根本性转变的催化剂——转向一个全新体系：在这个体系中，各国政府将反过来被迫放弃其在全球政治基础设施中的核心角色。

一种可能是，拥有和开发人工智能的企业将积聚起综合了社会、经济、军事和政治等各方面的权力。还有另一种可能。不受控制的开源传播可能会催生出一些规模较小的团体或群体，它们的水准虽然差强人意，但在人工智能能力方面颇具规模，足以在一定范围内进行自我管理、自给自足以及自我防卫。

无论未来是由企业联盟主导，还是分散成松散的宗教群体，每个群体所宣称的新“领地”——以及它们争夺的对象——都不会是一寸寸土地，而是数字领地，它们都在争取个体用户的忠诚度。

能否替代人类解决和平问题？

民族国家的外交政策是靠平衡理想主义与现实主义来制定并不断调整的。回头来看，领导人达成的暂时平衡并非最终状态，而只是他们所处时代的短暂策略。在每个新时代，这种紧张关系都会催生出一种不同的表达，诠释了政治秩序的构成要素。

追求利益还是追求价值——或者说特定民族国家的优势还是全球福祉之间——的二分法一直在无休止地演变。在开展外交活动时，小国领导人历来的应对方式较为直接，即优先考虑本国生存的必要需求。相比之下，那些掌控全球帝国、有能力实现更多目标的领导人则面临更棘手的困境。

我们心怀这样一种期望：为实现国内外政治目的而部署的人工智能或许不仅仅能阐明权衡利弊后的平衡之策。理想情况下，它能够提供全新的、全球最优的解决方案，能在比人类所能企及的更长时间跨度内以更高的精准度采取行动，进而使相互竞争的人类利益达成一致。在即将到来的世界里，操控冲突、协商和平的机器智能或许有助于厘清甚至克服传统困境。

然而，如果人工智能真的解决了那些我们原本希望自己去解决的问题，我们可能会面临信心危机——过度自信的危机以及自信不足的危机。

就过度自信而言，一旦认识到我们的自我纠错能力有限，我们可能就很难承认我们在处理关乎人类行为的重大问题时已经将过多权力让渡给了机器。就缺乏自信而言，在我们意识到只需不让人类来处理事务就足以解决那些最棘手的问题后，人类自身设计的缺陷或许会过于直白地暴露出来。如果和平始终只是一个简单的自愿选择，那么人类因为自身不完美而付出的代价就是持续不断的战争。但凡我们知道解决方案一直存在，而我们却从未构想出来，那将对人类的自尊心造成沉重打击。（编译/涂颀）