谷歌发文：AI奇点不会是一个超级大脑，而是万亿智能体的社会

长期以来，我们对于 AI“奇点”似乎总是这样的：一台超级机器，不断自我迭代，像黑洞一样吞噬一切认知能力，最终升格为某种硅基神灵。但一篇刚刚发表在《科学》（Science）上的评论文章对这种想法进行了根本性的反驳，研究团队认为，智能爆炸不会以“独裁者”的面目出现。它更像一座不断扩张的城市，而非一个不断膨胀的大脑。

这篇文章题为《Agentic AI and the next intelligence explosion》，由芝加哥大学社会学与数据科学教授 James Evans、加州大学圣迭戈分校技术哲学教授 Benjamin Bratton，以及谷歌副总裁兼 Fellow Blaise Agüera y Arcas 联合撰写。

（来源：Wikipedia）

文章的第一个关键论据来自一项此前由同一团队发表的实证研究。他们发现，当前最强的推理模型，如 DeepSeek-R1 和阿里的 QwQ-32B，并不是靠“想得更久”来提升表现的。真正起作用的，是这些模型在推理链（chain of thought）内部自发生成了一种类似“多智能体辩论”的结构，研究者将其命名为“思想社会”（society of thought）。

简单说，模型在解决一道复杂化学题时，不会沿着一条线性逻辑走到底，而是会“分裂”出具有不同认知风格的内部角色：一个凭直觉提出假设的“联想专家”，一个立刻质疑它的“批判验证者”，以及负责调和冲突的“整合者”。这些角色的人格特征甚至可以用大五人格量表来度量。

（来源：arXiv）

且让人意外的是，这种行为是涌现的。没有任何训练信号明确要求模型进行多角色辩论。当强化学习只以“答案正确”作为奖励函数时，模型自发地增加了内部对话行为。研究团队还做了一项因果验证实验：他们使用稀疏自编码器（Sparse Autoencoder）在 DeepSeek-R1 的激活空间中找到了一个与“惊讶/顿悟”语义高度相关的特征向量，通过人为增强该特征，模型在算术推理任务上的准确率从 27.1% 几乎翻倍到 54.8%。

抑制这个特征，对话行为减少，表现也随之下降。换言之，推理模型的能力优势，可以因果地归因于它们内部的“社会过程”。

三位作者由此跳出了 AI 技术的范畴，把视野拉到了整个智能演化史。他们的核心主张是：历史上每一次“智能爆炸”，都不是个体认知硬件的升级，而是一种新的社会化认知单元的诞生。灵长类的智能与社群规模正相关，而非环境难度。人类语言开启了发展心理学家 Michael Tomasello 所说的“文化棘轮”（cultural ratchet），知识跨代积累而无需每个个体从头重建；文字、法律和官僚体制则把社会智能外化为基础设施。一个管理谷物账目的苏美尔书吏并不理解他所在系统的宏观经济功能，但那个系统在功能上比他更聪明。

按照这个框架，大语言模型是同一条线索的最新延伸。它们训练于人类社会认知的累积输出，每一个参数都是交流互动的压缩残留。迁移到硅基的并非抽象推理能力，而是外化形式的社会智能。

既然智能天然是社会性的，那么通往更强 AI 的路径就不在于造一个全知全能的“神谕”，而在于组合出更丰富的混合系统。文章在这里借用了国际象棋界的老概念：半人马（centaur）。1998 年卡斯帕罗夫输给“深蓝”之后，他提出了“人机协作赛”的想法，人类棋手加上 AI 辅助，组合成“半人马选手”，能击败单独运行的最强 AI。

Evans 等人把这个概念推广到了更一般的场景：一个人指挥多个 AI 智能体，一个 AI 服务于多个人类，或者更复杂的多人多机协作。我们每个人可能每天进出多种这样的组合，多数时候甚至没有意识到。

图丨深蓝 AI（来源：IBM）

由此引出的问题就不再是“AI 会不会超过人类”这样的科幻命题了，而是更现实的治理难题。文章锐评道，当前 AI 对齐的主流范式如基于人类反馈的强化学习（RLHF），本质上是一种“亲子模型”的纠错方式，是双人对话式的，无法扩展到数十亿智能体的规模。

取而代之的应该是“制度性对齐”（institutional alignment）：就像人类社会不依赖个人美德而依赖法庭、市场、官僚制度等角色化的制度模板一样，可扩展的 AI 生态也需要数字化的等价物。法庭之所以运转，不是因为某个具体的人是法官，而是因为“法官”、“律师”、“陪审团”是定义清晰的角色槽位，谁坐上去并不影响系统功能。

文章还讨论了开年来爆火的 OpenClaw 及其衍生智能体社交网络 Moltbook，认为它们代表了智能体的自我复制与分化的萌芽。当一个 AI 智能体面对复杂任务时，它可以复制自己、分配子任务、再合并结果。如果其中一个“分身”遇到了超出能力的子问题，它可以进一步生成自己的内部“思想社会”，形成一种递归式的集体审议，在复杂性需要时展开，在问题解决后收缩。冲突在这里不是 bug，而是资源。

如果再把这套逻辑推到政府治理层面，当 AI 系统被部署于招聘、量刑、福利分配等高风险决策时，“谁来审计审计者”这个问题就无可回避了。文章认为其答案可能是宪政性的：政府需要具备不同价值取向的 AI 系统（透明度、公平性、正当程序）来相互制衡。

一个劳工部门的 AI 可以审计企业招聘算法的歧视性影响，一个司法分支的 AI 可以评估行政分支 AI 的风险评估是否符合宪法标准。而如果不这样做呢？文章半带嘲讽地给出了替代方案：让金融监管机构继续派一群拿着 Excel 表格的商学院毕业生，去对付已经用 AI 武装到牙齿的华尔街算法交易。

三位作者给出了一个非常克制的收尾：我们描述的这个愿景既不是乌托邦，也不是反乌托邦，而是演化性的。任何即将发生的智能爆炸，都将由 80 亿人与数千亿乃至万亿 AI 智能体的交互所催生。它的脚手架不是一个不断攀升的单一心智，而是一个不断复杂化的组合式社会。智能像一座城市那样生长，而非像一个超级大脑那样膨胀。

用文章结尾的话说：没有任何心智是一座孤岛。

参考资料：

1.https://www.science.org/doi/10.1126/science.aeg1895

2.https://arxiv.org/pdf/2601.10825

运营/排版：何晨龙