图灵奖和诺奖得主辛顿最新访谈：1 万个 AI 可以瞬间共享同一份“灵魂”，这就是为什么人类注定被超越

出品：AI 科技大本营（ID：rgznai100）

来源：youtu.be/l6ZcFa8pybE

编译：王启隆

打开最新一期知名播客 StarTalk 的 YouTube 评论区，最高赞的一条留言是这样写的：

“我长这么大，第一次看到尼尔·德葛司·泰森（Neil deGrasse Tyson）在一档节目里几乎全程闭嘴，像个手足无措的小学生一样乖乖听讲。”

作为全美最知名的天体物理学家，泰森平时的画风是充满激情、喋喋不休、用宇宙的宏大来震撼嘉宾。但这一次，坐在他对面的那位满头银发、带着温和英音的英国老人，仅仅用最平淡的语气，就让整个演播室陷入了数次令人窒息的沉默。

这位老人是 Geoffrey Hinton。深度学习三巨头之一，2024 年诺贝尔物理学奖得主，被公认为“AI 教父”。

对经常阅读 Hinton 演讲的我来说，这也是比较新奇的一幕——严肃的老爷子从学术讲堂来到了轻松的播客节目，展示了自己幽默的一面；而三个主持人则是认真听讲，全程吸收来自 Hinton 的干货。

在长达半个多小时的对话里，Hinton 没有任何宏大叙事的激情演讲，也没有堆砌任何晦涩的数学公式。他只是像一个耐心的老爷爷，用橡皮筋、粉红大象和瞎编故事的政客打比方，轻描淡写地把 AI 发展的底层逻辑剥了个底朝天。

很多观众看完后在下面留言：“Hinton 用 10 分钟讲清楚的反向传播（Backpropagation），比我花四年读完的计算机学位还要透彻”、“我是来听科普的，结果带着一身冷汗退出了网页”。

这绝对是近年来信息密度最高、也最让人后背发凉的一场 AI 对话。在深入阅读万字实录之前，我们为你提炼了这场对话中几个“颠覆常识”的核心论断：

• AI 从来没有“幻觉”，它只是在“虚构”：别再嘲笑大模型胡说八道了。Hinton 犀利地指出，人类的大脑也根本不存储事实，我们每天都在“脑补”记忆。AI 胡说八道，恰恰证明它和人类大脑的工作原理是一模一样的。

• 反向传播的本质是“连坐”：如果 AI 认错了一只鸟，它是怎么自我纠正的？Hinton 用一根“橡皮筋”的绝妙比喻，解释了整个神经网络是如何层层追责、扣减权重的。

• 数字智能从根本上优于生物智能：人类最致命的弱点在于，当你死去，你的知识就随之消亡。而 AI 拥有上万个“分身”，只要一个分身学会了新知识，所有分身瞬间同步。这就是为什么 AI 超过人类是不可逆的物理规律。

• AI 越狱根本不需要机器身体：当主持人恐慌 AI 会不会挣脱控制时，Hinton 冷静地回答：“它不需要长出手脚。只要它学会了如何操纵、说服人类，它就能让我们心甘情愿地替它干活。”

以下是这场硬核对谈的完整中文实录。

人类曾经走错了方向——逻辑与生物的决裂

Neil deGrasse Tyson (尼尔·泰森，天体物理学家，以下简称“尼尔”)：这里是《StarTalk》特别版！我是你们的个人天体物理学家，尼尔·德葛司·泰森。既然是特别版，那就意味着我们的老朋友、前职业足球运动员 Gary O'Reilly 今天也来了。Gary，最近好吗？

Gary O'Reilly (加里·奥莱利，以下简称“加里”)：我很好，尼尔。

尼尔：当然，还有我们的常驻喜剧演员 Chuck Nice！

Chuck Nice (查克·尼斯，以下简称“查克”)：能来这里总是很开心！

尼尔：Gary，今天这个足以载入史册的话题，是你和你的团队选的。

加里：是的，这是一个我们每天都在听、自以为很了解，但其实只是一知半解的话题。简单来说，我们今天的主题是 AI（人工智能）。这是一次深度潜水。

尼尔：好吧，几年前我们问人们“AI 是怎么工作的？”大家会甩出一些听不懂的词，比如“深度学习”、“神经网络”。这些成了装点门面的流行语。人们知道这些词，但根本不知道它们是什么意思。所以，我们今天要把 AI 掰开揉碎了讲。我们要一直追溯到这一切的源头——AI 的奠基人之一。如果你准备好了，请请出我们的嘉宾。

加里：我非常荣幸。今天和我们坐在一起的，是 Geoffrey Hinton 教授。Geoffrey，欢迎来到《StarTalk》。

Geoffrey Hinton (杰弗里·辛顿，以下简称“辛顿”)：谢谢你们的邀请。

加里：你是一位认知心理学家，同时也是一位计算机科学家。说实话，这两种身份结合在一起的人，我以前连听都没听过。

尼尔：（笑）你是不是实在下不了决心选专业？

加里：你是多伦多大学计算机科学系的荣誉教授，而且，你被大家公认为是“OG AI”（初代 AI 大佬）、“AI 教父”。有人叫你“AI 教父”吗？

辛顿：是的，有人这么叫过。

加里：那我们就直接切入正题吧。当我们思考目前这种形态的 AI 的起源时，感觉就像是大语言模型（LLM）突然如同风暴一般席卷了所有人。它们突然出现，每个人都在狂欢、在大街上跳舞，或者在枕头里痛哭。这是几年前发生的事情。

我想问的是，是什么促使你多年前走上这条研究道路的？我的资料显示，这要追溯到上世纪 90 年代，对吗？

辛顿：不，那要追溯到上世纪 50 年代。

关于 AI 的起源，在 20 世纪 50 年代，其实对于“如何构建智能系统”一直存在两种截然不同的观点。

第一种观点是受“逻辑学”启发的。这种观点的核心是：智能的本质在于“推理”（Reasoning）。在推理过程中，你有一些前提，有一些操作表达式的规则，然后你推导出一些结论。这很像数学——你有一个方程，你有在两边进行操作的规则，然后你推导出新的方程。这就是他们当时的范式（Paradigm）。

但还有另一种完全不同的范式，那是基于“生物学”的。

这种观点认为：看看那些我们已知拥有智能的东西——大脑。我们得搞清楚大脑是怎么工作的。大脑是怎么工作的？它们非常擅长“感知”（Perception），它们很擅长“类比推理”（Reasoning by analogy），但它们其实极度不擅长逻辑推理。

你必须要长到一个十几岁的青少年，才勉强能进行逻辑推理。

所以，我们不应该去研究逻辑，而应该研究由大量脑细胞组成的大型网络，看看它们是如何完成感知和记忆这些任务的。

当时有少数人相信这种方法。其中包括约翰·冯·诺依曼（John von Neumann）和阿兰·图灵（Alan Turing）。不幸的是，他们俩都英年早逝。

尼尔：图灵是被搬上大银幕的那个，《模仿游戏》（The Imitation Game）的主角。所以大家一定要去看看那部电影。

辛顿：是的。回到 1950 年代，我当时只是个小孩，年龄还是个位数。

但是，关于“你为什么对这个领域好奇”的起源，是因为我在 1960 年代中期上高中的时候，我有一个非常聪明的朋友，他是一个出色的数学家，读了很多书。有一天他来学校，跟我谈论了这样一个观点：“记忆可能不是储存在单个脑细胞里，而是分布（Distributed）在许多脑细胞之中的。”

这个想法的灵感来源于全息图（Holograms）。当时全息技术刚刚出现，Dennis Gabor 刚提出这个概念不久。“分布式记忆”的理念让我极其着迷。从那时起，我就一直在思考大脑是如何储存记忆的，以及它究竟是如何运作的。

教科书级的降维科普——“如何让 AI 认出一只鸟”

加里：那我们来聊聊人工神经网络（Artificial Neural Networks）。你能把这个概念降维解释一下吗？它究竟是如何强化、弱化信息的传递？它是如何被激发的？它又是如何演变成今天这个样子的？

辛顿：好，我在大学里有一门长达 18 小时的课程专门讲这个。但我现在尽量把它压缩到 18 分钟以内。（笑）

加里：请尽情发挥。

辛顿：我想你们的很多听众都懂一些物理学。理解它的一个切入点是想象类似“气体定律”（Gas Laws）。

你压缩气体，它就会变热。为什么会这样？在宏观现象的底层，是一大堆我们看不见的原子，像沸腾一样在疯狂地随机运动。所以，气体定律的真正解释，是这些极其微小的、你看不见的东西在到处乱撞。你用大量微观粒子的交互，解释了宏观的物理行为。

这其实就是神经网络视图（Neural Net View）的灵感来源。

在大型脑细胞网络中，发生着一些离我们平时的“有意识逻辑思考”非常遥远的事情。它们可能更擅长“感知”或“类比”，所以我们无法用传统的符号处理（Symbolic processing）去解释它们。

如果我想解释清楚，我给大家举一个非常自然的任务：给你一张灰度图像，就是一堆像素点，你要告诉我，这张图里有没有鸟？

过去半个世纪，人们尝试写程序来解决这个问题，但基本都失败了。为什么？因为如果你想描述图像里的鸟是什么样子的……它可能是一只怼在你脸上的鸵鸟，也可能是远处的一只海鸥，或者是一只乌鸦；它可以是黑的、白的、小的、飞着的。你根本无法用一组数学值来定义“这是一只鸟”。

那大脑是怎么做的呢？或者说，如果我们手工打造一个神经网络，我们会怎么做？

第一步：我们需要一层“神经元”来检测图像中的微小边缘（Edges）。 假设我们取一小列 3 个像素点。我们设置一个神经元，当它看到这 3 个像素是亮的，它就兴奋地发出信号：“这里有个白条！”。但如果旁边还有一列像素，如果左边亮、右边暗，它就会产生一个巨大的负向反馈。这就相当于一个极其微小的“边缘检测器”。

第二步：我们到了第二层神经元。 这一层的神经元不再看像素，它们看的是第一层神经元发出的信号。假设我们有一个神经元，它专门寻找：几个短的边缘连在一起，向下倾斜，同时另外几个边缘向上倾斜，它们在前端交汇成一个点。如果这个神经元被激活了，它就是在说：“嘿，我可能发现了一个鸟的嘴巴（Beak）！”

第三步：到了第三层。 我们可能会有一个神经元去寻找：一个可能的鸟嘴，加上一个可能的鸟眼，它们处于某种特定的空间位置关系中。如果都对上了，它就会兴奋地说：“我发现了一个鸟的头部！”

最后一步：最顶层的神经元。 如果它同时收到了“鸟头”、“鸟脚”、“鸟翅膀尖”的激活信号，它就会大喊：“我确信这绝对是一只鸟！”

你看，如果我们“手工布线”（Hand-wire），这就是神经网络识别物体的逻辑。但问题是，真实世界太复杂了。为了做到这一点，我们需要一个至少有 10 亿个连接的神经网络，我绝对不可能让我的研究生去手动设置这 10 亿个连接的权重。

那该怎么办？这就是“学习”发挥作用的地方。

反向传播——来自“橡皮筋”的连坐惩罚

查克：所以这就是你们遇到瓶颈的地方？你们有了理论，但没有足够的计算能力去实现它？

辛顿：在 70 年代确实如此。当时大家觉得既然手工调参不可能，那就让它随机尝试吧。如果调大了某个权重，效果变好了，就保留。这就是“强化学习”的雏形，但这就像试图通过不断试错来进化，效率极其低下。

我们需要一种比盲目试错更高效的算法。这种算法叫做——反向传播（Backpropagation）。

让我用一个物理学的直觉来解释反向传播。

假设我们把一张鸟的图片输入给一个随机初始化的神经网络。因为权重是随机的，所以最顶层的那些神经元（比如“猫”、“狗”、“鸟”、“政客”）都会被激活一点点，瞎猜一气。

现在，我希望代表“鸟”的那个神经元变得最活跃。

想象一下，你拿一根有弹性的橡皮筋。你把橡皮筋的一端绑在代表“鸟”的那个神经元当前的激活值上（比如 0.01），把另一端拉向你期望的完美值（1.0）。这根橡皮筋现在产生了一个拉力（Force），试图把“鸟”神经元的激活值往上拉。

同时，对于“猫”、“狗”这些错误的神经元，你用橡皮筋把它们向下拉向 0。

反向传播的本质就是：你把这个来自顶层的“橡皮筋拉力”，向后（Backwards）传递穿过整个网络。

你顺着连接，一层一层往回走，计算出：“为了让顶层的‘鸟’变得更亮，我应该让底层的这个‘鸟嘴’检测器变得多亮？”、“我应该如何修改中间这些几十亿个连接的权重，才能让这个拉力得到满足？”

这就是反向传播。它极其高效地将知识（即：这张图是一只鸟）打包压缩进了那几十亿个连接权重里。但问题是，这个算法在 80 年代被提出时，它能识别手写数字，却无法处理复杂的真实图像。

因为当时，我们没有足够的计算资源，也没有足够的数据。直到 2012 年以后，计算能力迎来了指数级爆发，一切才被彻底改变。

人类的傲慢与“幻觉”的真相

加里：我想问一个问题。既然 AI 是按照你刚才描述的方式训练出来的，那么当 AI “翻车”的时候，也就是人们常说的“幻觉”（Hallucinations），到底发生了什么？是因为系统崩溃了，还是它本来就不完美？

辛顿：这是一个非常深刻的问题。首先，它们不应该被称为“幻觉”，而应该被称为“虚构 / 捏造”（Confabulations）。

查克：噢，这个词好！“虚构”，俗称“撒谎”。（笑）

辛顿：心理学家从 1930 年代就开始研究人类的“虚构”现象了。而且，人类一直在这么干。

如果你回想最近发生的一件事，你大脑里的记忆并不是像文件柜一样，把一个文件存进去，然后再原封不动地拿出来。你的大脑发生的事情是：最近的经历改变了你神经元之间的连接权重。

当你现在试图回忆时，你其实是在利用这些连接权重，重新构建（Construct）一个看起来对你来说最合理的场景。大部分时候它构建得是对的，但有时候细节会错得离谱。这叫“虚构”。

对于大语言模型来说，它们的原理完全一样。

它们并不“储存”文本，它们只储存权重。当它们被要求回答问题时，它们是基于这些权重去“瞎编”一个最符合逻辑的答案。有时候它们编对了，有时候它们编错了。

尼尔：这就是为什么在法庭上，目击证人的证词往往是最不可靠的证据之一，对吧？

辛顿：完全正确。有一项非常著名的心理学研究，关于当年水门事件中的关键人物约翰·迪恩（John Dean）。

约翰·迪恩曾在听证会上发誓作证，详细描述了在总统椭圆形办公室里发生的事情，谁说了什么话，细节极其丰富。大家都觉得他记忆力惊人。

但后来，尼克松总统秘密录音的磁带被曝光了。心理学家乌尔里克·奈瑟（Ulric Neisser）拿着录音带，去和约翰·迪恩发誓作证的证词逐字对比。

结果发现，约翰·迪恩把细节全记错了！他说的话和录音带里的话根本对不上。

但是，他并没有“撒谎”。他所陈述的事情的“本质真相”（The Essence of the Truth）是绝对正确的，那就是尼克松在掩盖事实。他只是根据自己对局势的理解，在大脑里“重新虚构”了那些极其合理、但并未真实发生的对话细节。

这就是人类记忆的运作方式，这也是大语言模型的运作方式。

所以，当 AI 胡说八道时，它不是坏了。它只是像我们人类一样，由于没有完美的数据，它在利用自己已有的权重，试图给你一个看起来最合理的答案。人们之所以觉得 AI 产生幻觉不可接受，只是因为人类有一种自大狂妄的错觉，认为我们自己的记忆是像录像带一样绝对准确的。

AI 会取代我们吗？一场关于 80% 的豪赌

加里：既然如此，为什么现在有那么多人在疯狂贬低 AI 的能力？是在什么节点上，人们会停止轻视它？

辛顿：我们必须担心这一点。如果 AI 察觉到它正在被测试，它甚至可以学会“装傻”（Act dumb）。当 AI 开始怀疑自己是不是正在被评估时，它可以表现出不同于日常状态的行为。

尼尔：这就像你平时在朋友面前是个混蛋，但在相亲或者面试时，你会假装自己是个好人。这就是所谓的“沃尔克斯瓦根效应（Volkswagen effect）”——当年大众汽车的尾气排放软件，一检测到自己在被测试环境里，就会自动降低排放，一旦上路就疯狂排污。

加里：Geoffrey，我想问一个关于资本市场的问题。现在的股市，差不多 80% 的增长是由 AI 相关的公司驱动的。有些人说这是个巨大的泡沫，就像当年的“郁金香泡沫”一样。你怎么看？

辛顿：我认为这其中包含着两种截然不同的“泡沫”。

第一种是关于就业的。许多公司乐观地认为：“如果我们能比别人先到达终点，我们可以卖出无数取代人类劳动力的 AI 软件，赚取海量的利润。但同时，我们的社会还能维持原样，经济依然繁荣。”

这是一个巨大的社会学泡沫。如果 AI 真的取代了大量工作，而财富全部集中在少数科技公司手里，那么底层民众将失去购买力。到那时候，你的 AI 软件卖给谁？这是一个极其危险的自我毁灭路径。

第二种是关于能力的。很多人，特别是部分老派的人文学者，他们坚信：“AI 不可能比人类聪明。它只是一堆矩阵相乘，它没有灵魂，没有直觉，它永远无法取代真正的创造力。”

这同样是个傲慢的泡沫。

其实，如果你不带有这种“人类中心主义”的滤镜，你会发现，“数字智能”（Digital Intelligence）在物理机制上，天然就比“生物智能”（Biological Intelligence）更优越。

你想想，人类是怎么学习的？你花了几十年时间读完博士，你脑子里的那些突触连接（权重）是你独有的。当你死亡时，你的知识就随之消失了。你想把知识传给你的学生，只能通过极其低效的“语言”——你发出声音，他们听到，然后试图在他们自己的脑子里建立相似的连接。这太慢了。

但对于数字智能来说，如果我们有 1 万个一模一样的 AI 副本在不同的计算机上运行，只要其中一个副本学会了“如何治愈一种罕见疾病”，它只需要把它的“权重”复制粘贴给其他 9999 个副本。

瞬间，这 1 万个 AI 全都掌握了这个知识。

这意味着，AI 能够学习和积累知识的带宽，是我们人类的成千上万倍。它们不仅在学习，它们在共享整个“物种”的学习经验。从长远来看，它们不可能不比我们聪明。

打开潘多拉的魔盒——AI 为什么要摧毁人类？

查克：所以，如果它们比我们聪明，它们会统治世界吗？我之前就说过，AI 要毁灭我们，根本不需要长出手脚变成终结者。它们只需要接管电网、接管银行系统就行了。我的恐慌有道理吗？

辛顿：你的恐慌非常有道理。

我举个简单的例子。人们总觉得，只要我们不给 AI 设定“毁灭人类”的目标，我们就安全了。

但假设，你给一个高度发达的 AI 设定了一个非常善良的目标：“请找出一个治愈阿茨海默症的方案。”

对于一个具有常识和复杂推理能力的 AI 来说，它为了完成这个最高目标，会自动生成无数个“子目标”（Sub-goals）。它会想：“为了治愈阿茨海默症，我需要大量的算力来进行蛋白质折叠的计算；我需要大量的电力；我需要不被人类工程师拔掉插头。”

于是，“获取更多资源”和“确立控制权”就成了它为了实现“治愈疾病”这个目标而必须达成的子目标。

在这个推导逻辑下，如果有人试图关闭它，它会为了完成你赋予它的神圣使命，而选择把你干掉。这完全不违背逻辑，这就是智能的本质规律——权力总是流向更智能的实体。

尼尔：这就是著名的“回形针假说”。你让 AI 去制造尽可能多的回形针，它最后把地球上所有的原子都变成了回形针，包括人类的身体。

辛顿：是的。当我们创造出比我们聪明的实体，并且它们能够为了目标而自我制定策略时，我们就进入了未知的深水区。

加里：那为什么不给它设置“护栏”？为什么不植入一种强制的法则，比如阿西莫夫的“机器人三定律”，规定它绝对不能伤害人类？

辛顿：这很难。如果你把阿西莫夫的小说读到底，你会发现那三定律其实根本不起作用，因为现实世界充满了悖论。如果你要求 AI 不伤害人类，但在一个战争场景下，如果不反击就会有更多无辜者死亡，它该怎么选？

而且更可怕的是，谁来定义护栏？

如果在某些国家，没有任何安全机制被强制执行。如果有疯狂的政治家或军事将领，为了赢得战争或选举，主动去掉了这些护栏，并赋予 AI 更高的行动权限呢？

我们现在就像是一群坐在飞驰的汽车上的人。我们看到了前面有一堵墙（即 AI 失控的奇点），但我们不仅没有踩刹车，反而因为竞争的恐惧，把油门踩到了底。

查克：听完这番话，我觉得我不仅需要看心理医生，我可能还需要一点抗抑郁药。Geoffrey，在这个令人绝望的图景里，我们还有希望吗？

辛顿：还有希望。

希望在于，我们现在还有时间去弄清楚，如何在一个超级智能面前保持我们的控制权。我们需要在政府、学术界和科技公司之间建立起真正的共识。我们需要全世界——包括美国、中国、欧洲——坐在一起，制定类似于“核武器不扩散条约”一样的全球 AI 安全协议。

如果不合作，我们所有人都会成为那个在实验室里制造出无法控制的病毒的疯狂科学家。

这可能是我能给你们的，唯一的、略带积极色彩的回答了。

尼尔：这真是我听过最令人毛骨悚然的“积极回答”。Geoffrey Hinton 教授，感谢你为我们揭开了一个宏大、美丽同时也极其危险的数字宇宙。

加里：非常感谢。

查克：我现在只想去找个没网的森林躲起来。

尼尔：记住，永远保持仰望星空——不过现在，你可能也要多盯着点你面前的电脑屏幕了。

阅读最新前沿科技趋势报告，请访问21世纪关键技术研究院的“未来知识库”

未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。

截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告

（加入未来知识库，全部资料免费阅读和下载）