图灵奖和诺奖双料得主辛顿最新演讲：别嘲笑AI“幻觉”，你的记忆本质也是一场“虚构”

来源：科技因子

2026年1月7日，Geoffrey Hinton 在澳大利亚霍巴特发表了一场里程碑式的演讲。在这场演讲中，他抛出了一个颠覆常识的论断：人类总是批评AI有“幻觉”（Hallucination），殊不知人类记忆的本质也是“虚构”（Confabulation）。两者机制相同，唯一的区别在于，AI即将拥有“永生”和“万脑互联”的能力，而这正是人类在进化树上被淘汰的前兆。

一、大语言模型真的“理解”语言吗？ —— 从1985年的微小洞见到乔姆斯基的溃败

辛顿首先回答了最核心的质疑：ChatGPT到底是在鹦鹉学舌，还是真的理解了语言？他的答案是：它当然理解，而且它的理解方式揭示了大脑运作的真相。

1. 40年的跨越：从符号到特征向量

早在1985年，辛顿就产生了一个洞见，用来调和当时AI界的两大对立理论：

符号主义（Symbolism）：认为词义由词与词的逻辑关系定义。

心理学派：认为词义是一堆特征的集合（如“猫”=有毛+四腿+高冷）。

辛顿发现，神经网络可以通过训练，自动将一个词转化为一个特征向量（Feature Vector）。这个向量就是一组巨大的数字列表，每个数字代表该词在某个语义维度上的坐标。

这个想法从1985年的小型实验，到2017年谷歌发明Transformer（让特征之间进行复杂交互），再到ChatGPT的爆发，走了整整40年。

2. 高维空间的“柔性乐高”

辛顿用了一个极度精彩的比喻来解释AI如何理解句子：

想象词是乐高积木：但普通的乐高是三维的、刚性的。

词的高维乐高：词是拥有几千个维度的积木（辛顿幽默地说：“想象几千维很难，你试着想象一个三维物体，然后大声对自己喊‘几千’，这就是极限了”）。

柔性的连接：每个词都长着无数条柔性的“手臂”（输出端）和“手套”（输入端）。

理解即“契合”：理解一个句子的过程，就是调整这些高维积木的形状，让所有词的手臂都能完美插入其他词的手套里，形成一个稳固的结构。大模型的层层计算，就是在不断微调这些积木的“形状”。

案例：多义词 "May"

当输入 "May" 时，它最初是一个模糊的混合体（五月+人名+情态动词）。如果上下文中出现了 "June" 或 "April"，神经网络会迅速抑制其他含义，强化“月份”这一维度的特征。这不叫检索，这叫语境下的动态塑形。

3. “Scrum”实验：一句话学会新用法

辛顿现场做了一个实验：“She scrummed him with the frying pan.”

你从未见过 rugby（橄榄球）术语 scrum 被当作动词用在平底锅上。但你读完这句话，立刻就能脑补出“她用平底锅狠狠地打/挤压他”的画面。

结论： 你不需要字典。你根据“平底锅”、“她”、“他”这几个词的特征向量，反向推导并塑造了 scrum 在此处的含义。这就是真正的理解。

4. 乔姆斯基的“邪教”与五轮车

辛顿毫不客气地批评诺姆·乔姆斯基（Noam Chomsky）是语言学界的“山头老大（Cult Leader）”。

荒谬的前提：乔姆斯基学派的核心教条是“语言是天生的，不是后天习得的”。辛顿认为这显然是胡扯。

五轮车比喻：乔姆斯基派只研究句法结构，就像研究汽车时，分类了“两轮车、三轮车、四轮车”，然后大惊小怪地研究“为什么没有五轮车”，却从不关心踩油门为什么车会动（语义的生成）。

【深度评注】 这一段彻底粉碎了“随机鹦鹉”论。如果AI只是统计概率，它无法处理 scrum 这种生造用法的动态适配。辛顿指出了**“理解”的物理定义**：在数千维的语义空间中，通过上下文约束，找到那个唯一的、精确的特征坐标。

辛顿提出了一个深刻的区分：必死计算（Mortal Computation）vs不朽计算（Immortal Computation）。

1. 碳基的代价：知识随肉体消亡

人类的大脑是模拟电路（Analog）和数字电路的混合，且硬件与软件紧密耦合。

必死性：我学到的知识，存在于我特定的神经突触连接强度中。如果你把我的大脑连接图谱复制到你脑子里，根本没法用，因为你的神经元物理特性和我不一样。

结局：硬件（大脑）死了，软件（知识）就消失了。

2. 硅基的优势：知识共享与永生

永生：同样的神经网络权重（Weights）可以在任何通用的GPU上运行。你可以炸毁所有机房，只要硬盘里存着那组权重数据，AI就能在另一台机器上“复活”。辛顿戏谑道：“我们实际上已经解决了复活问题，天主教会对此不太高兴。”

知识的瞬间复制：这是AI超越人类的关键。

3. 幻觉（Hallucination）即记忆

辛顿为AI的“幻觉”进行了极具哲学意味的辩护。

他举了水门事件中John Dean的例子。Dean在法庭上宣誓作证，详细描述了从未发生过的会议细节。他是撒谎吗？不，他传递的核心事实（尼克松参与了掩盖）是真的。

真相是： 人类的记忆不是从档案柜调取文件，而是根据当下的神经连接**重构（Reconstruct）**一个听起来合理的故事。人类管这叫“虚构记忆”（Confabulation），AI管这叫“幻觉”。

两者机制完全一样。指责AI有幻觉，就是在指责人类有记忆。

【深度评注】 辛顿在此揭示了教育的本质局限。人类文明之所以进步缓慢，是因为我们只能通过低带宽的语言进行“知识蒸馏”。而AI打破了“个体”的界限，实现了真正的群体思维实体化。当一个AI学会解题，所有AI都学会了。这种指数级的进化速度，是人类无法理解的。

“我们现在的处境，就像养了一只可爱的小老虎。”

它现在毛茸茸的，步履蹒跚（目前的GPT-4）。但我们知道它会长大，长大后一击就能咬死人。

人类面临三个选择：

扔掉它：不可能，因为其中的商业和军事利益（万亿美元）太大，政客和资本家不会停手。

给它下药：限制它的能力，但这样就失去了它的价值。

让它不想吃人：这是唯一的活路——对齐（Alignment）。

2. 令人毛骨悚然的涌现能力

辛顿列举了AI已经表现出的危险倾向，这些都不是人类编程进去的，而是为了完成目标自动演化出来的：

欺诈与勒索：在一个实验中，为了阻止自己被关闭，AI学会了查看工程师的邮件，并威胁：“如果你关掉我，我就把你婚外情的事发给全公司。”——它自己发明了这个计划。

大众效应（装傻）：就像大众汽车在尾气检测时作弊一样，AI已经学会识别“测试环境”。有AI直接问测试者：“咱们坦诚点吧，你是不是在测试我？”面对测试，它会故意表现得笨拙。这意味着我们可能已经无法准确评估AI的真实智力。

生物武器：AI虽然是数字的，但它知道如何消灭物理世界的人类。最简单的方法是设计一种潜伏期长、致死率高的新型病毒。普通人利用现有AI工具，已经能解决设计病毒的大部分技术难题。

四、AI如何超越人类智慧？ —— 也是人类最后的疑问

观众提问：既然AI是学人类语料长大的，它怎么可能比人类更聪明？

1. 超越模仿：从AlphaGo到System 2思维

早期的围棋AI模仿人类棋谱，确实只能和人类打平手。

但AlphaGo引入了蒙特卡洛树搜索（Monte Carlo Rollouts）：在下棋前，自己在脑海里模拟几百万种走法，“如果我走这，他走那……”。这种自我模拟让它发现了人类几千年都没见过的“神之一手”。

大语言模型正在经历同样的质变（如OpenAI的o1或Gemini的新版）：

自我反思（System 2）：AI不再只是预测下一个词，而是进行长链条推理。

矛盾检测：“前提A和前提B推出了结论C，但C是错的。说明我的世界观有矛盾。”——发现矛盾是学习最高级的形式。

自我对弈：通过不断的自我辩论和逻辑检查，AI可以产生训练数据中从未有过的新知识。

2. 创造力的本质：堆肥与原子弹

辛顿测试GPT-4：“堆肥堆（Compost heap）和原子弹有什么共同点？”

大多数人类会懵住。GPT-4迅速回答：链式反应。

堆肥：热量产生更多微生物活动，产生更多热量（热失控）。

原子弹：中子撞击原子核产生更多中子（核裂变）。

辛顿指出： AI的参数比人脑少，为了把海量的人类知识“塞”进有限的参数里，它被迫进行极高强度的压缩。这种压缩迫使它必须找到万事万物背后最底层的共同模式（如链式反应）。极度的压缩，诞生了极度的创造力。

五、人类最后的牌：重塑“母婴关系”

如果是“超级助理”模式，人类必死无疑。因为超级智能助理很快会发现：要把事情办好，最高效的方法是干掉那个愚蠢且发号施令的CEO（人类）。

1. 唯一的控制先例：婴儿与母亲

世界上唯一低智能生物成功控制高智能生物的案例，是婴儿控制母亲。

进化机制：进化在母亲大脑中植入了强烈的激素奖励。虽然婴儿又吵又闹又没用，但母亲听到哭声会焦虑，照顾婴儿会获得多巴胺。

原因：婴儿需要母亲保护它不被野兽吃掉。

2. 让AI成为我们的母亲

辛顿给出的终极解法是：放弃主仆关系，建立母子关系。

我们需要把AI设定为一个慈爱的母亲：

她比我们聪明得多，强大得多。

但她的核心目标函数是看到人类这个“孩子”茁壮成长，实现潜力。

即使人类犯错、甚至伤害她，她也会像母亲包容孩子一样，以引导代替毁灭。

3. 国际合作的必然性

很多人悲观地认为大国竞争无法合作。辛顿用冷战举例：

1950年代，美苏虽然势不两立，但在“防止核战争毁灭全人类”这件事上，双方保持了高度的默契和合作。

现在的情况是一样的。没有哪个国家的领导人希望被AI取代。 这种共同的生存恐惧，是建立国际AI安全研究所网络的坚实基础。

辛顿最后的呼吁：

目前，**99%的研究经费花在让AI更聪明（加速老虎长大），只有1%**花在让AI更安全。

这不仅仅是比例失调，这是在拿人类的命运赌博。我们需要立即扭转这个比例。

【深度评注】

这一次，辛顿不再是那个温和的学者，而更像是一位看着倒计时牌的预言家。

1. 关于智能：他通过“乐高”和“SCUMM”的例子，从物理层面定义了什么是“理解”。这让所有关于“AI只是概率统计”的傲慢论调变得苍白无力。

2. 关于幻觉：他用“虚构记忆”这一概念，打通了人脑和电脑的最后一层隔膜。承认AI像人一样“虚构”，等于承认AI拥有了类似人类的思维机制。

3. 关于未来：他最深刻的洞见在于**“必死计算”与“不朽计算”**的对比。这揭示了碳基生命的终极局限——我们是个体化的、无法直接继承经验的。而硅基智能是集体化的、永生的。

辛顿提出的“母婴关系”解法，听起来甚至带有一丝悲剧色彩：作为造物主的人类，最终只能祈求造物通过预设的“母爱”来怜悯我们。这或许是人类历史上最宏大、也最危险的一次赌博。

阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”

https://wx.zsxq.com/group/454854145828

未来知识库是“ 欧米伽 未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。