基辛格遗作终极警示：AI 会对中美关系产生怎样的影响？

人工智能与人类价值

来源 | 秦朔的朋友圈

01

人工智能将重塑世界秩序

人类诸文明中最为人所熟知的安排是威斯特伐利亚体系。然而主权民族国家概念仅有几百年历史。这一概念产生于构成17世纪中叶《威斯特伐利亚和约》的一系列条约。该体系不是理所应当的社会组织单元，可能也不适合人工智能时代。海量虚假信息和自动分辨识别导致人们不再相信这种安排。

泰尔博赫绘于1648年的威斯特伐利亚和约确认仪式

人工智能也许会对各国政府的权力提出深层挑战。心理上的迷失和躲避现实的可能使问题变得更加复杂。另一种可能是，人工智能很有可能会重新确定竞争各方在当今体系内的相对地位。如果人工智能的力量主要靠民族国家自己约束，人类有可能被迫走向一种霸权式的静态平衡，或是走向人工智能赋能的民族国家达成的一种新平衡。不过这也可能会催化一次脱胎换骨的转换，走向一个全新体系。在新体系中，各国政府将被迫放弃自己在全球政治结构中的核心角色。

02

AI是人类社会的双刃剑

人工智能的先驱们可能低估了他们所引发的经济和政治挑战所涵盖的范围。没错，人工智能几乎无所不能。

前所未有的信息处理能力可以让人工智能实现真正高效的决策中央化。或许这会加深社会精英对管控的担心。不过这些系统的不透明性，以及在没有人干预的情况下这些系统的运作也许可以优化的念头会减轻社会精英对管控的担心。假以时日，外加经验，人类的管控有可能会显得更像是一种负担，而不是一种必要。18世纪的欧洲领导人在把管控权拱手让给无形的自私人性力量时，最初也许胆战心惊。21 世纪的领导人也许将不得不又一次在一个以全新形式囊括了大众智识的系统前低下自己骄傲的头。

从重新矫正军事战略到重构外交，人工智能将成为世界秩序中的一个关键因素。零恐惧、零偏袒的人工智能为客观的战略决策引入了一种新的可能。但是，为参战者与和平缔造者所用的这一新的客观性应该维护人类智慧的主体性。人类智慧的主体性对于负责任地使用武力至关重要。人工智能主要揭示了人类的生存现状，而不是又发现了新的未知。用于战争的人工智能将把人类的善恶两面清楚地呈现在世人面前。人工智能既可以是冲突的手段，又可以是终止冲突的设计师。

倘若人工智能成为一个实际上自主的政治、外交和军事实体群体，古老的均势势必会被一种毫无规则可言的新失衡取代。民族国家在国际上达成的一致乃是过去几百年里取得的一种脆弱平衡，其内部变幻无常。国际社会协调一致之所以得以保持，原因之一是参与者的内在力量势均力敌。一个严重不对称的世界，比如某些国家比其他国家更快地把人工智能引入了政治层面决策，会远比今日世界更难预卜。人类中的有些人面临的军事和外交对手或许是一个高度人工智能赋能的国家，抑或就是人工智能。在此情况下，有可能人类看似自身难保的过河泥菩萨，遑论与人工智能较量了。这一过渡性秩序也许会目击人类社会的内爆和完全失控的外部冲突爆发。

03

人工智能加剧全球的权力博弈

如今，先进人工智能的绝大部分收益和几乎独有的控制权都掌握在极少数人手中。他们会放弃自己的优势吗？如果他们这样做了——而且当更多的利益和更多的控制权在国家层面共享时——那么要求将两者全球化的呼声就会立即响起。

一个国家会将其主权财富转化为全人类的共同利益吗？有些人可能会说，一旦这个世界不再是零和博弈，将其视为牺牲的心理障碍就会消失。但这是以一种尚未实现的转变为前提的，这种转变似乎与今天的现状背道而驰，而且如果要实现这种转变，它就必须是人类选择的产物。

各国在探寻确保人工智能技术安全的办法的同时，还全神贯注于如何“赢得人工智能竞赛”。在一定程度上这种做法可以理解。文化、历史、交流和观点加在一起为当今世界大国打造了一种外交环境，加深了各方的不安全感和猜疑。作为未来世界的一个首要特征，人工智能在一个已经动荡不安的组合体中降低了爆发冲突的门槛。在这种组合体中，每一方都认为，新增的点滴战术优势有可能对自己的长远利益起决定作用。

倘若每一个人类社会都跟着维护自身生存的直觉走，都想最大限度地扩充单边实力，势必会引发敌对双方的军队和情报机构展开一场迄今人类闻所未闻的心理战。从今天起，直至首个超级智能降临前的数年、数月、数周和数天内，事关人类生存的安全困境始终等待着我们。对于即将拥有此种能力的任何人类行为体，首要愿望也许是设法确保自己生存的延续。任何这样一个行为体或许还会想当然地认为，同样身处变幻莫测的环境、面对同样利害的竞争对手也会考虑类似做法。

目前人类也许还没有走到这一步，但应未雨绸缪，为管理人工智能时代事关人类生存的竞争及连带的种种风险做好准备。一个实力二流却不容小觑的行为体，无论是不达目的誓不罢休，还是孤注一掷，都会紧盯人工智能佼佼者。倘若这个二流行为体察觉到，更强大的对手很快会获得一种碾轧一切的能力，哪怕是它看走了眼，也许会先发制人使用电子或常规武器攻击对方，从而引发一轮难以想象的升级和报复。相互毁灭的可能性随之螺旋式上升。

不确定性给了我们一线希望，至少是目前。含糊不清可以是培育对话的沃土。由于不确知今天做出的人工智能决策或许会让哪一国或哪一个集团抢占先机或处于不利地位，全球领导人有一个机会窗口在人类共存的基础上开展讨论。

电影《2012》剧照

04

中美必须合作才能有效管控AI

对全球科学界而言，当务之急是找到可以在每一个人工智能系统中加入内在安全保障的技术手段。各国和国际组织一旦达成共识，就必须为监督、执行和应对危机建立新的政治结构。这需要解决两个而不是一个“对齐问题”：一个是人类价值观和意图与人工智能行动在技术层面的对齐，另一个是人与人之间在外交层面的对齐。

在2023年9月与清华大学教授钱颖一的对话中，基辛格谈到，人工智能是一个新的因素，使得目前形势变得更复杂，所以他希望中美之间一定会在人工智能时代引领全球治理体系，并纳入其他国家的意见。

“人工智能技术的发展必须得到有效的管控。这可以从中美两国开始合作。面对更加复杂的形势，中国和美国应该更多地进行对话，这样才能共同发展好科技，为人类社会造福。但也必须让世界上其他国家参与制定全球治理体系的规则，这样才能采取安全的措施——最终结果应该是形成类似国际原子能机构的某种国际机构。

“中国和美国必须合作，基于信任进行合作，同时不应该让任何一方处在更有利的地位。这种国际之间、国家之间的沟通交流，才能让人工智能技术得到更好的、合理的应用。

“我们需要认识到这个体系的复杂性。因为取得好的成果的话，会给人类带来巨大的好处。

“我们希望能共同拥有这样一个目标，使得中美一起携手解决一系列全球面临的挑战和困扰，这样全球能建立一个全新的当代的全球秩序。”