走向超级智能进程中的认知不对称极化值得关注

当前，由生成式大模型驱动的通用目的的人工智能迅猛发展，有关与人类智能相当的通用人工智能乃至更强大的超级智能的可能性成为人工智能未来发展的焦点问题。而从类似物理学相变的角度来讲，通用人工智能和超级智能的出现很可能并没有一个固定的相变点，而是一个事后追认的时间段。

这么讲并不是要提出超级智能如何发生的理论，而是为了提出一个时代性的警示：由于人们的注意力主要放在何时实现通用人工智能和超级智能，而没有意识到掌握了或者说敢于运用足够强大的人工智能的实体和群体可能会获得某种认知优势，而由此形成的认知不对称可能在不经意间产生重大的力量转移。就像大数据分析、算法推荐等人们实际上是在大科技公司这么做很多年以后才知道一样，足够强的人工智能的大胆应用很可能已在悄然进行。

如果你对人工智能的嗅觉比较灵敏的话，就应该看到最近一两年出现了一些奇怪的现象。有的可能没什么杀伤力，比方说现在很容易看到一些公众号文章介绍某个哲学家（比方说西蒙东（栋））的思想什么的，你会发现流畅得不像人写的，看起来特别全面、整齐、圆润，给人一种薛宝钗加汪国真的感觉。但读的过程中，就觉得哪些文字像小学生范文，左眼进、右眼出，完全不走心。有的则细思极恐，比方说某国自动飞行武器偷袭另一国的策略，有可能真是诸葛亮问AI的结果。还有某国为何能让对手产生那么多间谍，某酋长何以不堪一击等谜团的背后很难说没有AI的魅影——至少AI用于遴选与搞定内鬼、猜测对方酋长的战略定力什么的还是有潜力的。

这么说看似八卦，其实不然。基辛格在他最后一本书《人工智能时代与人类价值》（与施密特、蒙迪合著）中就谈到了这种可能性：“人类最强大的创作成果可以比人类更好地运用和维持全球事务的一种平衡。这一平衡汲取了（但不限于）人类旧日先例。非人智能于是可以管理自己的崛起，至少是在国家安全和地缘政治领域。”（第135页）稍微想象一下，你可以问大模型跟谁搞对象、喜欢谁了怎么追？川普什么的敢说马上让谁跟谁谈判就不是从大模型那搞了几个锦囊才信心满满的，而后来防空炮可能是着急锦囊打开得太早了。

以往刘备遇事问诸葛亮。可拿到现在，保不齐诸葛亮会说：主公稍后，容亮内急如厕，稍后答复您老。其实，他是去问DEEPSEEK、通义千问、豆包什么的了。当然，刘备如果识破了，他会说模型们七嘴八舌，各出的答案各异，而且还初一十五不一样，他是占了八卦，看了天象，用尽了人类判断力，最终从里面找到了最佳答案。这个故事虽然是编的，但并非没有道理。就拿用AI写论文这事来说吧，虽然有各种规范希望对其加以矫正，但实际上，现在会流畅地用AI辅助写作，就像四十年前能流畅地讲英语——哈哈，流畅！老同志们不难想起新概念英语第四册叫什么来着......

书中还谈到了由此可能导致人类对人工智能的依赖：“为解决外交和安全这类根本问题提出机器解决方案，自然而然会导致更加依赖人工智能的能力。如果人类需要断然采取措施干预国际事务，这种依赖就很难打破。无论人类的治国方略多么不完美，至少人类为自己做出的抉择承担了责任。选择依赖人工智能则不然，这样会削弱人类对自己的基本判断力的信任。”（第137页）

问题是，这种担忧的出发点是人和机器这种抽象的关系。而实际上，人和机器并不是分立的。简单讲，就像刀枪的完整呈现方式是“挥刀的人”和“拿枪的人”一样，人工智能不是一种独立的存在，而是一种为人类实体、组织、群体和个人所用的人工智能。因此，不能因为对通用人工智能和超级智能超越和取代人类智能的担忧而忽略了我们真正面临的问题——掌握强大的人工智能的实体之间的认知不对称，特别要关注在战略博弈的情况下无所不用其极的可能性及其后果。大体而言，在走出通用人工智能和超级智能的进程中以下四个方面可能出现的认知不对称及其后果值得关注。

1. 人工智能加持下的地缘政治力量转移与认知不对称的极化。拥有先进超级智能能力的实体将获得不成比例的地缘政治力量，类似于核武器在20世纪的作用。简言之，掌握并敢于尝试足够强AI的实体可以实施更具谋略性、更为巧妙和更不易识别的外交策略，人工智能强国将在国际议程设置中掌握主导权。由此必然出现认知不对称的极化。例如，在科技战略方面，缺乏先进人工智能的实体甚至不能理解科技强国运用AI制定的科技发展战略的内涵——即便参与制定的人也可能不完全理解。

2.在文化层面，超级智能可能会强化主导语言和叙事，从而使资源较少的文化实体的语言与叙事边缘化。但这并不一定意味着处于优势的实体在文化和话语权方面可以高枕无忧。因为足够强的人工智能驱动下的合成数据、合成内容与合成媒体将模糊真实与虚构的界限，使人们无力或无意通过验证获得对信息的基本信任。让人好奇的是，通用人工智能或超级智能等人类可能创造出的“外星智慧”对付信息茧房、虚拟成瘾和新近出现的“人工智能虚胖”又何高招？是体验机、可口可乐还是北京豆汁？

3.在科技竞争层面，将会导致发现和创新加速再加速，但也意味着知识拥有上的集中再集中。如果超级智能系统可自主生成假设、设计实验和解释数据，无疑将彻底改变发现和创新，但人类有可能不再是主要的发现者和创新者。这种认知不对称会不会带来人类认识论的末日：机器人科学家搞科学与魔法无异，对人类来说不可解释但不再有多大关系了——因为人类已经第二次向化身超级智能的魔鬼梅菲斯特出卖灵魂：我们相信你，信赖你，这个世界如何认知和创造全部交给你了！

由此带来的认知不对称无疑是前所未有的：少数实体不仅将垄断前沿知识，而且只有它们才有能力拥有全部的知识——因为人工智能驱动的自动化知识生产呈指数增长，前沿知识大大超过此前人类知识的总和，并且呈现出加速覆盖既有知识的趋势。而这些知识不再是人类所理解的，人类研究者的研究伦理所要求的透明、开放、可解释、可重复之类的诚信规范是否必要，得看人工智能信任生态系统是否需要了——科学家将来可能不再是科学共同体的主要成员了——甚至科学共同体这一人类小社会也不再成立了。

4. 在战略冲突层面，人工智能将可能导致非对称对抗的极化。如果超级智能被用于战略突袭，将对全球稳定造成严重后果。对此，值得关注的问题或悖论有三。

其一，超级智能或足够强大的人工智能加持下采取先发制人战略的超级风险。很多人只看到了先发制人的绝对优势，即将认知不对称极大化而获得极大的胜算。而没有意识到，超级智能并非完美，无论是不顾一切和无所不用其极，还是神龙不见首尾让自己都摸不着头脑，先发制人策略最终的结果实质上是毁灭性的。如果有超级智能哲学家的话，它会提出的首要的超级智能的本体论承若是：超级智能并非完美智能，或者说世界上不存在完美智能，再或者说完美是一种修辞而非存在。

其二，超级智能加持下的战略突袭具有终极的不透明性，这使得受到极端打击者难以找到原因以实施报复与追责，可能因此成为针对任意目标的末日报复者和随机爆发的终极毁灭者。

其三，超级智能加持下的战略突袭是一种基于认知极端不对称的不稳定威慑，无法引入类似传统的威慑框架（如相互确保摧毁）而使其削弱或消解。