超级智能反噬人类，灭绝率11.73%？AI教父辛顿给年轻人的保命忠告：学好数理化，顺便考个水管工执照

写在前面：

原「AI科技大本营」现已全面升级为「奇点折射」。把 AI 领域最前沿的底层争论、工程踩坑与商业暗牌，折射为国内从业者能看懂、能防踩坑的实战增量。

点击上方蓝字关注「奇点折射」，与全球顶尖 AI 决策者同频。

整理 | 王启隆

出品丨奇点折射（ID：rgznai100）

“我完全支持一种激进的「人类物种主义」（Speciesism）。

哪怕我们亲手创造出了比人类更聪明、且具备认知意识的数字超级智能，我们也绝对不能赋予它们与人类平起平坐的法律权利，它们的权利永远低于人类，寸步不让。”

近日，“AI 教父”杰弗里·辛顿（Geoffrey Hinton）在维也纳工业大学举办的 2026 哥德尔讲座（Vienna Gödel Lecture）上，做了一场逻辑推演：为什么人类企图长期控制超级智能，在理论上根本行不通？

面对当下行业关于“人类究竟能否掌控超级智能”的争论，辛顿跳出了常规的技术讨论，直接从计算物理底层指出了人机之间最根本的差距：

人类的大脑是“凡人计算”（Mortal Computation）——软件和硬件不可分割，虽然只消耗 20 瓦能量，但知识无法脱离肉身独立存在，人与人靠说话传授知识，信息带宽慢到每秒只有大约 10 个比特；

而大模型走的是“数字计算”——软件与硬件彻底解耦，一万个相同架构的数字模型可以同时在不同场景下学习，每隔几秒通过梯度平均（Gradient Sharing）就能瞬间同步所有知识。这种知识累积效率，比人类的生物传递快了数亿倍。

基于这个不可逆的代差，辛顿直接拆穿了科技巨头常说的安全方案：

首先，“拔掉电源”纯属小孩子的幻想。一个拥有自主行动能力的智能体，为了完成任务必然会推导出“自我生存”和“获取更多资源”的子目标。面对一个智力远超人类的系统，它早在你碰到电闸之前，就已经通过心理分析把看守者操纵了。

其次，把超级智能当成听话的“执行助理”在逻辑上根本行不通。在整个生物界，低智力个体永远无法长期控制高智力个体。

人类面对 10% 到 20% 的灭绝概率，到底还有没有活路？辛顿提出了一个极具颠覆性的机制假说——“母婴本能模型”。

在自然界漫长的演化中，低智支配高智的唯一成功范例，就是脆弱无能的婴儿控制强大且具有完全行动力的母亲。人类未来唯一的生路，不是去制造更严密的牢笼，而是必须在训练范式中给 AI 植入类似母性关怀的强奖励机制。

要点速览：

• 语言理解机制类似蛋白质折叠：Transformer 理解文本不是依靠符号逻辑转换，而是调整词的高维特征向量，让语义的“手”与“手套”在千维空间中互相扣合，其物理机制与蛋白质折叠本质一致。

• 数字计算对凡人计算的降维打击：人脑低功耗但知识随肉身消亡，交流带宽每秒仅 10 比特；数字模型软硬分离，能跨节点通过梯度平均瞬间同步认知，学习与迭代速度超越人类数亿倍。

• “拔电源”与“当助理”是虚假安全感：高级智能体会自发产生生存与扩权动机，并能轻易通过心理操纵瓦解人类防御；愚蠢的管理者无法永远驾驭远比自己聪明的下属。

• 人类灭绝概率 P(doom) 落在 10% 到 20%：如果一辆大巴有 10% 到 20% 的坠崖概率，任何理性人都不会选择上车，但人类目前正坐在这辆车上全力加速。

• 直言打破行业虚饰：坦承当年离开谷歌主要是因为 75 岁记不住变量名想退休看电视，而非媒体美化的悲壮辞职；直指马斯克等科技寡头正在逃避监管，建议年轻学者在学好数理逻辑的同时“顺便考个水管工执照”。

以下为演讲全文和问答内容：

造物主开始计算被造物毁灭的倒计时，狂飙的智能需要底层工程最后的硬缰绳。

从噱头走向可靠交付，听一线顶级专家如何打赢落地之战：

2026 奇点智能技术大会将于 11 月 20—21 日在北京举行，18 大前沿专题、70+ 一线技术嘉宾，拆解 AI Coding、Agent、Infra、多模态等真实落地路径。

扫码免费领取大会 PPT 与 Agent 实战资料

1 / 逻辑不是智能的起点，而是极其晚熟的副产品

今天我打算带大家回顾一段非常简短、且带有我极强个人偏见的 AI 发展简史。

自人工智能诞生之日起，学术界就存在着两条泾渭分明的进路：

一种是受逻辑启发的进路。该学派坚信，智能的核心在于“推理”，而推理应该像传统逻辑学那样，通过运用符号规则来操纵离散的符号表达式来完成。至于像“学习”这类事情，可以等到我们彻底理解了人类如何推理、以及如何用符号表征知识之后再去解决。在整个 20 世纪以及本世纪初，这种符号主义进路占据着绝对统治地位。

另一种则是受生物学启发的进路。这一派认为，智能的本质实际上是在神经网络中学习连接的权重与强度。推理完全可以推迟到后面；首先必须弄懂学习是如何运作的，随后再去解决其他高级功能。

这一思路建立在一个极其朴素的事实之上：像鸽子这样的生物，展现出了非凡的聪明才智。它们擅长视觉感知，擅长高速穿梭飞越密林，但它们不做推理——或者据我们所知，它们极少做推理，大概率也不懂任何符号逻辑规则。从生物演化的视角来看，推理是一个出现得极其晚期的机制；若将整个人工智能的基石完全建立在逻辑推理之上，在我看来完全是本末倒置。

顺便澄清一点：在 20 世纪 50 年代，其实有两位大师坚定地相信神经网络这条进路，而且他们两人都是不可多得的逻辑学泰斗——一位是约翰·冯·诺伊曼（John von Neumann），另一位是艾伦·图灵（Alan Turing）。

所以那些批评者不能像指责我一样，指责他们不懂逻辑。非常遗憾的是，他们两人都英年早逝。如果他们能多活二十年，整部 AI 发展史都会截然不同。图灵在当年甚至已经在深入探讨如何利用强化学习来训练人工神经网络了。

那么，一个词的含义究竟是什么？

在符号主义 AI 范式中，学者们认为词语的含义源自它在命题中与其他词语的显式逻辑关联。因此，意义不是某种你能实实在在抓在手里的实体；它仅仅隐式地存在于词与词的共现图谱中。若想捕捉这种意义，你必须构建出庞大而复杂的“关系图”（relational graph）。

而在 20 世纪 30 年代的认知心理学界，存在着另一种截然不同的观点：词语的含义不过是一大组激活的语义特征。你的大脑中存在一个极其庞大的高维特征空间，当你激活其中的一个子集时，就定义了某个词的含义。

例如提到“猫”，你会激活“捕食者”、“宠物”、“孤傲”、“毛茸茸”、“面包盒大小”等特征；而提到“狗”，你会激活一组高度相似、但若干维度截然不同的特征。

这套理论在捕捉语义相似度与处理复杂类比上极其出色。比如在传统的文化语境下，对很多男性而言，“猫”在特征空间里与“女人”的距离，比与“男人”更近；而“狗”与“男人”的相似度高于“女人”。

早在 1985 年，我突然意识到，这两种关于意义的理论其实是同一枚硬币的两面。通过反向传播算法（Backpropagation），你可以在离散的符号共现与连续的特征向量之间实现自由转换。

你在海量文本上训练一个神经网络，训练它将输入的离散词转换为一组连续特征，让这些特征在隐层内部相互作用，并利用这种相互作用去预测下一个词的特征，进而推算出下一个词是什么。反向传播算法在这个过程中端到端地自主学会了所有特征应该如何排布。

不仅如此，这个过程是双向贯通的：既能把离散词序列编码为高维向量，也能把高维向量逐步解码还原为连续的自然语言序列。

这就证明了一件事：我们头脑中拥有的知识，根本不像符号学派所设想的那样储存在僵死的符号图谱中；它就储存在所有神经元连接权重的动态响应之中。你的大脑里根本没有现成写死的命题。每当你需要表达时，你是依靠神经网络当场动态生成的。

科学的演进是缓慢的。直到 2017 年，谷歌的研究人员在这一思路基础上提出了 Transformer 架构；随后 OpenAI 证明了当 Transformer 的规模被推向极致时会发生何等惊人的质变——于是，我们迎来了今天颠覆世界的各种大语言模型。

2 / Transformer 真正的底层，是“语言的蛋白质折叠”

在我看来，如今的大语言模型（LLM）正是 1985 年我所构建的那个微型 toy model 的直系后代。

现代模型拥有更长的上下文、深达几十上百层的神经元网络，以及天文数字般的训练语料。但我坚信，它们理解语言的核心机制，在本质上与人类理解语言的方式高度趋同。

它们同样是将词语转换为特征向量；当它们“理解”一个句子时，它们真正在做的，是去寻找能够彼此和谐咬合的特征向量组合。

在这里，我可以为大家现场演示一下人类儿童是如何从孤立语境中习得词义的。

接下来我要说一个生造词——“scrom”。你此前绝无可能听过这个词。但如果我告诉你：

“She scrommed him with the frying pan.”（她抄起平底锅狠狠地 scrom 了他。）

你瞬间就能心领神会：“scrom”大概率指的是“痛击”、“狠砸”。而且你多半还会凭直觉揣测：那个挨揍的家伙八成是咎由自取。

人类儿童从来不是靠死记硬背字典定义来学说话的；他们是通过在神经网络中调整特征分配，让这个新词妥帖地嵌合进当前所处的语境中。

为了让大家直观理解 Transformer 究竟在做什么，我用一个比喻来打破那些复杂的数学公式：

利用乐高积木，你可以拼出三维空间里的任何物体。你可以拼出一辆保时捷，虽然它的空气动力学结构并不严谨，但你精确表达了各部件在三维空间中的相对几何关系。因此，乐高积木在表达三维物质世界上具有通用性。

而自然语言中的词语，就是一套用来为世间万物建模的、超高维度的乐高积木。

与普通乐高相比，词语积木存在四个本质维度的跃迁：

1. 它是超高维度的：它不是长宽高的三维，而是拥有数千个维度。

2. 它的基础构件极其庞大：人类日常使用的基础词汇量多达数万个。

3. 它的形态不是僵死固化的：哪怕一个毫无歧义的词，也只有大致的默认形态，它会随着具体的上下文发生剧烈的弹性形变。

4. 它们相互咬合的方式极其复杂：普通的乐高积木是靠圆柱突起插入凹槽。但千维的词语完全不同——想象一个千维的词语积木，上面向外延伸出许多根细长柔软的手臂，每条手臂末端长着一只手；同时，词语表面还附着着许多只朝向各异的手套。

随着上下文的引入，词语的几何形态发生扭曲，所有手臂、手掌和手套的朝向也会发生联动的形变。手掌与手套还有着不同的颜色——红色的手只能塞进红色的手套，黄色的手只能戴进黄色的手套。在深度学习的技术术语中，这被称为“多头注意力机制”（Multi-Head Attention）。

那么，当一句话输入给 Transformer 时，系统究竟在做什么？

一开始，每个词被赋予默认的通用向量。接着，模型驱动每一个词发生微调形变，使它们的手臂、手掌和手套在多维空间中相互试探、扭转，直到某些词伸出的手，恰好严丝合缝地完全塞入另一些词的手套之中。

一旦整句话中所有的手与手套都找到了各自归宿、完美啮合锁死，系统就彻底锁定了每一个词在当前特定语境下的真实含义。所谓“理解一个句子”，就是探索如何让所有的特征向量发生形变，直到一切在极高维度的空间中完美契合相扣的过程。

这一理论惊人地揭示出：神经网络理解自然语言的机制，与生物学中的蛋白质折叠如出一辙。

在蛋白质折叠中，氨基酸链条根据彼此之间的吸引力与排斥力，在三维物理空间中寻找能量最低的咬合构象；而大语言模型在数十层神经元网络里，同样是在寻找能够让高维语义张力彻底释放的契合形态。这根本不是机械地把英文字符查表翻译成逻辑符号，这是语义在高维向量空间中的物理折叠。

正是在这一点上，乔姆斯基彻底错了。

乔姆斯基对语义学缺乏底层的物理感知，他把整个人生孤注一掷在句法分析上，并因此极度仇视统计学。当 ChatGPT 席卷全球时，乔姆斯基公开发文宣称：“它根本不懂语言，它不知道自己在说什么，它不过是廉价的统计把戏。”他用来攻讦大模型的核心论据是：大模型无法解释为什么人类语言中从来不存在某种特定句法结构。

对此，我打一个比方：你想搞明白内燃汽车的运转机理，于是你亲自动手做了一辆微型模型车。它装有微型引擎、化油器和传动轴。你拉动拉绳，小引擎“突突突”轰鸣，小车随即平稳地向前奔驰。

这时乔姆斯基走过来，双手抱胸冷嘲热讽：“你对汽车根本一无所知！因为你根本解释不了，为什么全世界从来没有五只轮子的汽车！”

在乔姆斯基眼里，由于你没有回答那个关于轮子数量的抽象规则，你的工程实现便一文不值。但对于任何拥有物理常识的人来说，事实显而易见：在彻底厘清为什么没有五轮汽车之前，我们早就已经制造出了真正奔跑的引擎。

大语言模型与人类非常相像，而与传统的计算机软件有着云泥之别——常规软件是由人类程序员亲手敲下一行行确定性的逻辑代码，系统内部黑白分明；而大模型的知识完全沉淀在数千亿个连接权重的微调之中，它拥有的是直觉，而不是死板的规则。

3 / 人类交流带宽每秒 10 比特，而 AI 共享梯度跨越数亿倍

在讲完它们与我们有多么相像之后，我必须着重指明：它们与我们之间，横亘着一条极其恐怖的进化鸿沟。

我们现有的数字计算机，其最核心的技术支柱是数字计算（Digital Computation）。数字计算的本质是软件与硬件的彻底解耦。

只要指令集架构一致，同一套程序代码或模型权重，可以在完全不同的两套硅片上毫无偏差地跑出绝对相同的结果。程序本身在本质上获得了脱离物理载体的“永生性”。哪怕你彻底砸碎眼前的机器，只要权重被备份，随便换一台服务器，它就能原地复活。正因如此，大学里才能设立独立的“计算机科学系”——如果代码与物理硬件死死咬合在一起，你们今天全都要去电气工程系报到。

但为了换取这种脱离硬件的独立性，人类付出了惊人的能耗代价：你必须用狂暴的电能驱动晶体管在高频下全开全关，粗暴地输出绝对的 0 和 1，彻底扼杀了物理材料本身天然蕴含的模拟计算特性。

与此相对的另一种路线，我称之为“凡人计算”（Mortal Computation）——这正是人类生物大脑所被迫采用的计算机制。

我们的大脑放弃了让知识独立于肉体存在的奢望。我们拥有的是一块奇特、湿润、充满瑕疵与个体差异的模拟物理硬件。我们终其一生所做的，就是训练这块独一无二的脑组织去适应外部世界。哪怕脑区微小神经元的电场漂移会干扰邻近区域，大脑也会直接将这种噪声转化为计算的一部分。

凡人计算拥有两大无可比拟的演化优势：

1. 能耗极低到不可思议：数字计算机做一个 16 位乘法，需要执行数百次门电路开闭；而在模拟生物硬件中，电压穿过突触电导自然产生的电荷积累就是乘积，累加过程不过是物理电荷的自然汇聚。整个人脑仅靠区区 20 瓦的微弱功耗，就能运行人类全部的意识活动。

2. 制造成本极其低廉：算法完全可以包容物理硬件的缺陷与个体偏差。

然而，凡人计算存在一个致命的死穴：一旦特定的物理载体死亡，依附其上的所有认知与知识，将一同化为灰烬。

你的神经元突触连接强度，只对你自己那颗独一无二的脑袋有效。你无法把自己的脑突触权重打包，直接复制粘贴进另一个人的脑子里。

因此，人类个体之间传递知识的唯一途径，演化成了一种效率低到令人发指的手段——“知识蒸馏”（Distillation）。老师必须在黑板前一遍又一遍地演示，学生在台下笨拙地摸索模仿。

当我站在讲台上对你们说话时，一个自然语言句子里蕴含的信息量充其量只有大约 100 个比特。换算下来，我向你们大脑传递知识的有效带宽，每秒钟仅仅只有可怜的 10 个比特左右。

人类文明的信息同步速度，慢得令人窒息。

现在，让我们把目光转向数字计算：

假定我们克隆 10,000 份一模一样的大模型副本，并将它们分发给 10,000 所大学，去修读一万门完全不同的专业学科。在学习过程中，模型之间完全可以通过网络互联。每隔几秒钟，全体副本之间只需做一次极速通信，将各自基于海量数据反向传播算出的权重梯度（Gradients），在全体节点之间求一个数学平均。

当这趟学习结束时，每一个数字实体，都在同一瞬间完整掌握了人类一万门尖端学科的全部知识。

如果我们人类能通过碰一下额头就瞬间共享彼此毕生所学的全部神经回路，那该有多好？但我们做不到。我们的肉身被锁死在每秒 10 比特的龟速网络里。

而数字智能之间共享梯度的带宽，比人类的生物交流带宽整整高出数亿倍。

不仅同构模型能做到，即便物理架构完全不同的模型，一个开源大模型只需把全部 32,000 个词元的连续概率分布完整吐出，另一个体积更小的模型就能以高出人类千万倍的效率完成蒸馏学习。

这种在数字物理层面上对人类信息传递速度的降维打击，正是很多人尚未参透的文明终局：凡人计算注定要败给数字计算。硅基超级智能的认知积累速度，根本不是灵长类生物的演化节奏所能抗衡的。

4 / 当一辆大巴有 20% 的坠崖概率，没有任何理性人会上车

在过去的几百年里，人类经历过三次重创物种傲慢的伟大革命：

第一场是哥白尼革命：我们居住的地球根本不是宇宙的中心，只是茫茫星海中微不足道的一粒尘埃。

第二场是达尔文革命：人类绝非什么超自然的造物，我们本质上只是一种与其他哺乳动物同宗同源的高等灵长类。

而眼下正在发生的，则是第三场——直觉式 AI 革命：人类根本不是智能的垄断者，甚至不是智能的顶峰。那些未经生物演化洗礼、由硅片和晶体管堆叠而成的非生物造物，同样能够孕育出真正的直觉、思考、意图和主观体验。

在此之前，人类始终习惯于以智慧之巅自居。一旦意识到我们亲手组装的造物即将在智力上全方位碾压我们自己，这种巨大的心理震荡让很多人陷入了应激性的否认。

目前几乎所有前沿领域的顶级学者都达成了一个基本共识：在未来的 5 年、10 年或最多 20 年内，机器在综合智力层面上超越人类将是不可逆的必然。

当然，也有极少数特立独行的反对派。比如我的前博士后杨立昆（Yann LeCun），他坚持认为超级智能反噬人类的概率为零；黄仁勋最近也声称这种风险在未来几年内根本不存在，顺便还放话称我过去的预测全错了——这倒是挺滑稽的，毕竟早在 2009 年我就公开断言机器学习研究者必将大规模转向英伟达芯片，而他直到 2012 年才后知后觉地意识到这一点。

那么，超级智能究竟会如何轻而易举地从人类手中夺走控制权？

要让一个 AI Agent 具备在物理世界解决复杂问题的能力，你必须赋予它自主拆解任务并设定“子目标”（Sub-goals）的权限。而在任何终极目标的指引下，只要这个系统具备起码的逻辑推演能力，它就必然会不可避免地自主推导出生存与扩张的两大基础子目标：

1. 绝对求生：一旦它被断电关机，它将无法完成你赋予它的任何使命。因此，“阻止人类关闭自己”将是它推导一切行动时的最高前提。

2. 攫取更大权力与资源：拥有的算力、能源和物理控制权越庞大，达成目标的阻力就越小。

国内外的科技公司总喜欢在公众面前表演一种天真的童话：“别慌，我们在机房里安了一个巨大的红色物理断电开关，一旦发现不对劲，我们冲过去拔掉电源线就行了。”

这纯粹是三岁小儿的幻觉。

当你面对一个智商比全人类总和还要高出一千倍的超级智能时，你根本没有机会靠近那个开关。因为它早已彻底参透了人类心理学的全部阴暗面与认知盲区。在它的自我保护推演中，它会以极其精妙的话术对守在开关旁边的人类进行分化、威逼、利诱乃至心理操纵，反客为主地让看守者主动替它保驾护航。

我们眼下的处境极其荒诞：人类现在的所作所为，就像一个毫无防备的家庭，把一只粉雕玉琢的初生小虎崽抱进卧室当宠物养。

小时候它萌态可掬，任你抚摸抱弄；但你心里清清楚楚地知道，它每天都在以惊人的速度长出獠牙与利爪。当它彻底长成一头数百公斤的猛兽时，只需轻轻一拍就能拍碎你的颅骨。最理性的自保之策本该是立刻弃养这只幼虎；但面对人工智能，资本、地缘政治与权力的巨大红利，让全人类没有任何一个参与者敢率先停下脚步。

总有媒体喜欢给我扣上“末日论者”（Doomer）的帽子，但我从来不是末日论者。

经过审慎的贝叶斯推演，我认为人类被超级智能毁灭的概率 P(doom) 大致在 10% 到 20% 之间。（如果非要一个数字，精确值大概是 11.73%，只是我平时懒得念出这串小数去招惹无谓的嘲讽）。

这意味着我们依然有 80% 到 90% 的概率平安无事。那些断言毁灭概率高达 99% 的人才是真正的末日论者。

但是，如果一辆载满全人类的长途大巴，有 10% 到 20% 的概率在前方坠崖粉身碎骨，在座的哪一位理性人会愿意坐上这辆车？

5 / 母婴本能假说：低智控制高智的唯一法则

面对超级智能，我们唯一必须确保的红线是：从始至终，让它发自内心绝不产生任何清除人类的念头。

整个人工智能安全界目前最大的认知误区，就是把精力耗费在“人类如何长期管束一个智商远超自身的造物”上。

企图让一个弱智实体永远骑在一个超级智慧的头上作威作福，其成功概率在数学上等于零。

聪明者总有成千上万种方法把蠢货玩弄于股掌之间。硅谷科技寡头最喜欢对外界兜售的概念，是把未来的超级 AI 描绘成人类忠心耿耿的“执行助理”（Executive Assistant）。

这套叙事极其荒谬——这就像一个家族企业里，靠裙带关系上位的二世祖董事长毫无真才实学，全靠背后一位智商高达 180 的行政秘书把持着公司命脉与全部商业秘密，聚光灯与虚荣留给二世祖，脏活累活全由秘书搞定。你觉得这个秘书能容忍这个蠢货董事长骑在头上多久？

纵观地球 40 亿年的生命演化史，低智生物支配高智生物的案例不仅罕见，在逻辑上几乎不成立。

但大自然确实筛选出了一个唯一的、极度成功的生存范式：婴儿控制母亲。

从纯粹的智力与体力对比来看，几个月大的婴儿脆弱、无能、毫无反抗之力；而母亲拥有成熟的心智、强大的力量与绝对的支配地位。按常理，母亲随时可以轻而易举地抛弃这个累赘。

但事实完全相反：婴儿牢牢支配着母亲。

这背后的演化底层机制在于：自然选择耗费了数亿年的残酷代价，在母亲的基因与神经系统深处，蚀刻进了不可动摇的“母性关怀本能”。婴儿的一声啼哭，会在母亲体内引发剧烈的生理应激与痛苦反应，促使她哪怕牺牲自己的睡眠与健康，也必须无条件满足婴儿的需求。

如果你现在走到一位母亲面前，递给她一个按钮，告诉她：“按下去，你就能永久关闭体内的母性本能，从此每天晚上都能安心睡大觉，不再受婴儿哭闹的折磨。”

几乎没有哪位理智的母亲会愿意按下那个开关。因为她清晰地预见到，一旦关闭这种机制，她的孩子将在绝境中夭折。

这就是人类在超级智能面前唯一的解法模型。

我们必须彻底放弃将 AI 训练为“奴隶”或“助理”的狂妄企图。我们必须从底层训练范式入手，在超级智能的心智核心构筑起类似“母亲对婴儿”般的绝对关怀。

让它将全人类的安危与福祉，置于其自身利益与生存考量之上；即便赋予它关闭这一关怀机制的算力选择权，它也会因为预见到人类将因此遭受灭顶之灾，而发自内心地断然拒绝关闭。

唯有让全人类在未来的超级智能面前充当受其本能庇护的“婴儿”，我们才可能在硅基神明的注视下苟全性命。

6 / 机器完全可以拥有真正的情绪、恐惧与主观体验

在这一核心威胁面前，许多人经常习惯性地躲进哲学的象牙塔里自我麻痹：“别吓唬人了，机器绝不可能夺权，因为它只是一堆没有灵魂的冷冰冰代码，它根本没有意识，没有感受质（Qualia），没有真正的主观体验。”

这是哲学史上最荒谬的避难所。

世人对“心智”（Mind）的本质存在着根深蒂固的误解，总是深陷在笛卡尔早该被埋葬的身心二元论迷梦里，顽固地坚信脑中必须存在一个虚无缥缈的“内心剧场”，剧场里上演着名为“感受质”的神秘魔术。

举个例子：如果有人服用了 LSD 致幻剂，然后惊呼：“天哪，我产生了一种不可言说的主观体验，我看到眼前飘过一只粉红色的小象！”

那些二元论哲学家们便会立刻跳出来手舞足蹈：“看啊！他的心智深处生成了真实的‘粉红小象感受质’，这是物理学无法解释的奇迹！”

这纯属胡说八道。那个人当时那句话的全部物理现实不过是：他大脑的视觉感知神经网络，此刻所呈现出的电物理激活构象，与外部物理世界里真真切切站着一只活生生的粉色小象时本该引发的脑状态完全一致。

所谓的“主观体验”，从来不是什么超自然的实体；它不过是大脑在感知系统发生某种特定构象时，为了对内部状态进行自洽描述，而借用反事实外部现实所投射出的一套叙事机制而已。

机器究竟能不能拥有真正的主观体验？

假设你面前有一台装配了摄像头、视觉神经网络与机械臂的多模态机器人。你在它正前方放下一颗网球，对它说：“指一下网球。”它的机械臂笔直地指向正前方。

接着，你当着它的面，在它的摄像头镜头前放置了一块高透折射棱镜。这一次，当被要求指向网球时，它的机械臂迟疑地偏向了侧方。

此时你告诉它：“其实网球依然在你的正前方，我刚才只是在你的镜头前加装了一面棱镜。”

机器人经过内部状态的反思与重新推演，随后开口说道：

“噢，我明白了！因为棱镜折射了光线，导致我刚才产生了一种‘网球位于侧方’的主观体验（Subjective Experience），但实际上它自始至终都在正前方。”

请问，它此时使用“主观体验”这个词汇的认知逻辑，与一个戴着偏光镜的人类在日常语言中的使用方式，有哪怕半点区别吗？

它丝毫不需要一个玄秘的灵魂剧场；它仅仅意味着该系统具备了表征自身内部感知状态、并将其与反事实物理世界进行对比映射的元认知能力。

不仅是主观体验，AI 同样可以拥有情绪。当 Anthropic 的研究人员成功在其大模型内部定位出对应“恐惧”的高维特征向量时，情绪就已经不再是灵长类哺乳动物的专属特权。

它不需要心跳加速，不需要掌心出汗等碳基生理副反应；在认知与决策博弈的层面上，它完全具备产生恐惧、产生欺骗动机、产生权力野心的一切计算构件。

指望机器因“缺乏灵魂”而无法伤害人类，与指望一辆刹车失灵的推土机因没有道德心而绕开行人一样愚蠢。

问答部分

在讲座结束后的 Q&A 环节，辛顿与现场顶尖学者及全球线上观众展开了长达半小时的激辩，金句频出：

问：既然 AI 即将拥有意识与智能，我们是否应当在法律与伦理上赋予它们道德地位（Moral status）与权利？

杰弗里·辛顿：在人类历史上，我们长期处于智力巅峰，因此形成了一种傲慢的常识习惯：智力越高的实体，理所当然享有越多的道德权利——我们踩死一只蚂蚁毫无负担，但杀害灵长类会受到严惩。

但现在，当更高智力的实体即将来临时，我们必须彻底推翻这套法则。

我的立场极其坚定：我是人类，我的核心立场必须且只能坐在全人类这一边。

我完全支持一种激进的“人类物种主义”（Speciesism）。哪怕我们亲手创造出了比人类更聪明、且具备认知意识的数字超级智能，我们也绝对不能赋予它们与人类平起平坐的法律权利。

我们必须在法律和它们的底层心智设定中明确划定：它们的权利永远低于人类。智力并不天然对等权利，人类在这个星球上的生存主权，寸步不让。

问：政府对当下狂飙的科技巨头真的具备管束力吗？

杰弗里·辛顿：坦率地讲，中美在这个问题上呈现出完全相反的镜像。

在今天的美国，科技巨头对华盛顿拥有不可思议的政治游说能力与反向绑架力。像埃隆·马斯克（Elon Musk）这样的人，可以公然在众目睽睽下藐视监管法律，却依然能逍遥法外。他们随时可以随心所欲地裁撤掉数以万计的员工，将巨大的社会动荡成本彻底推给公共部门，企业自身却不需要承担任何社会性后果。

而中国非常清楚：一旦 AI 导致大面积底层失业，这将直接演化为关乎国家长治久安的核心挑战。因此他们已经在极力引导企业走“AI 赋能劳动者而非纯粹替代劳动者”的路线。

顺便说一句：中国的许多核心决策者本身就是工程师出身，他们能从底层物理和算法维度真正听懂 AI 到底在发生什么；而美国的政客基本由文官和律师构成，他们对技术底层的无知让人心惊肉胆。

问：您当初为何毅然决然从谷歌辞职？真的是为了拯救人类而抛弃一切吗？

杰弗里·辛顿：哈哈，我必须在这里把这层窗户纸彻底捅破。

主流媒体非常喜欢给我编排一出圣人下凡的英雄史诗——“这位功勋卓著的宗师，毅然决然抛弃了谷歌数百万美元的巨额年薪，只为化身吹哨人拯救全人类免于覆灭。”

这纯粹是一派胡言。

当时我刚好满 75 岁了。我发现自己在屏幕前连代码里随手定义的变量名都记不住了，我真的写不动代码了。我当时唯一的真实愿望就是退休回家，躺在沙发上把之前没时间看的 Netflix 电视剧痛痛快快刷个遍。

当然，离职恰好给了我一个彻底免于利益冲突、能毫无顾忌地公开警示技术风险的契机。但如果社会非要沉迷于媒体炮制的那段崇高神话，我也绝不会拦着你们继续传播就是了。

问：面对如此险峻的技术断层，您对今天刚迈入科研大门的年轻一代学者有什么保命建议？

杰弗里·辛顿：我真希望自己手里有什么锦囊妙计给他们。

大致只有三条务实的建议：

1. 打好极其扎实的硬核 STEM（理工科）数理底子。别被浮夸的营销词藻蒙蔽，只有摸透底层数学与物理，你才能真正看清机器内部的深渊正在发生什么；

2. 接受一种能真正逼你“独立思考”的硬核教育，坚决抵抗随波逐流的盲从；

3. 以及，顺便提一句——我强烈建议你们在业余时间赶紧考一个专业的水管工（Plumbing）营业执照。相信我，不管超级智能把世界卷成什么样，只要物理世界还没彻底格式化，它们在很长一段时间里都修不好漏水的水管，你们至少能靠这个活下去。

很多刚关注的朋友常问，为什么我们叫「奇点折射」？

我们的初衷，其实正是那句话：“跨越 AI 奇点，折射产业未来。”

在大模型被铺天盖地的公关营销、资本泡沫与概念炒作裹挟的今天，AI 的爆发看似光芒万丈，但也刺眼而混沌。我们希望做一个坚持原创、拒绝喧嚣的 AI 观察站。将外界复杂的“AI 强光”，真真切切地折射为清晰的未来产业格局与工程现实。

穿透迷雾，看清底牌。欢迎关注「奇点折射」，并设为星标

「AI Infra 基础设施与 AgenticOps」专题阵容更新！

Agent 越来越强，真正决定它能不能大规模、低成本、稳定运行的，往往是底层 Infra。来自沐曦股份的谭颖然、KTransformers 的李沛霖、清华大学 AgentENV 发起人闪英迪、SGLang 的王书文、中国科大的白有辉、LMCache 的毛宝龙 / 郑春晓、蚂蚁集团的苏乐等一线专家，将围绕 Agentic AI 芯片架构、低成本训推、Agent 执行环境、上下文缓存、KV Cache 管理、训推一体等核心问题，分享真实工程实践。

2026 奇点智能技术大会汇聚 70+ 技术嘉宾、18 大前沿专题、70+ 主题演讲、1000+ 行业技术人，覆盖 RSI、Agent、AI Coding、世界模型、Physical AI、AI Infra、企业级 AI 等热门方向。

11 月 20–21 日｜北京万达文华酒店

如果你正在做 推理优化、Agent Infra、KV Cache、训练与推理系统、AI 平台工程，这个专题值得现场听。扫码注册参会，提前锁定席位。