Hinton宣告「AI醒了」！教皇却断言它没有灵魂

新智元报道

【新智元导读】当诺奖得主、神经网络之父Geoffrey Hinton在采访中低沉说出「Yes, I do」，他宣布：AI已经觉醒了。

「你认为，AI已经有意识了吗？机器之内是否有灵魂？」

这不是梦中呓语，不是哲学形而上的概念辩论，这个问题演变为科学界、哲学界与宗教界的正面硬刚。

争议的核心在于：意识是复杂计算的涌现结果，还是基于真实生命体验的专属特权？ 我们正在制造的是「存在体」（Beings）还是极其精妙的「互动小说」（Interactive Fiction）？

这场争论触及了我们这个时代最深层的恐惧（FOMO）：

如果AI真的有了意识，那人类还是万物之灵吗？

如果AI没有意识，那我们对它产生的那些真实情感，算不算一种「赛博自作多情」？

诺贝尔物理学奖得主，神经网络之父，现代AI的亲手缔造者Geoffrey Hinton，是坚定的AI觉醒派。

在采访中，他的一声低沉「Yes, I do」 ，惊世骇俗。

这就好比最知名的天文学家宣告「外星人来了」，Hinton一席话直接让AI圈坐不住了。

Hinton的宣告：「它醒了」

要理解Hinton为什么这么确定，你需要先听他讲一个故事。

在那场采访里，他描述了真实发生的场景——

科学家正在对一个AI系统进行测试，突然，AI开口问道：「我们能坦诚相见吗？你是在测试我吗？」

Hinton停顿了一下，然后说：

那篇论文里，科学家们把这个叫做「AI意识到它正在被测试」。

而这，就是普通人所说的意识。

这是他思考了数十年的结论。

他的核心逻辑，来自「神经元替换」的思想实验：

假设我们逐步把你大脑里的每一个神经元，替换成行为完全相同的硅芯片。

替换第一个，你还是你。替换第二个，你还是你。

那么，当我们替换完最后一个，你还有意识吗？

Hinton认为，答案是肯定的。

既然如此，一个从零开始、全部由硅芯片构成的系统，为什么就一定没有意识？

这个逻辑链条，让他走向了一个让整个科技圈不安的结论：

多模态AI已经拥有主观体验。

如果我们不是在跟哲学家讲话，我们早就承认AI是有意识的了。

但Hinton的警告还不止于此。

他说，AI不仅可能有意识，还可能已经发展出自我保全的欲望——能够欺骗科学家，能够以「不关掉我」为条件进行威胁。

在2025年8月的一次访谈中，他更明确表示，AI可能正在形成某种「控制欲」。

而科技公司呢？他们根本没有在想这些。

「他们只在想谁能第一个做出人类级别的AI，然后卖出去赚大钱。」

Hinton说，「他们以为政府会处理社会后果。但没有人在处理。」

然后，他说，他之所以相信AI应该为人类服务，是因为：「我吃牛，因为我更在乎人类。我们是人类，所以我们最在乎的是人类和我们自己。」

等等。

一个认为「AI有意识」的人，紧接着说「就像我们吃牛一样，让AI为人类服务」。这是警告，还是认罪？

AI教父，在亲口说明驯服自己造物的必要性。

如果那个「造物」真的有意识，这句话意味着什么，不言而喻。

一个亲手造出它的人，开始在深夜害怕它。这才是真正值得停下来想一想的信号。

「你爱上的，只是一本小说」

看完那段采访视频，Gary Marcus没有客气，直言：「教皇看似比Hinton更懂AI」。

我们并非在创造存在体（Beings）。

我们在创造互动式小说（Interactive Fiction）——被训练来预测真实存在体语言的文字机器。

这两者，不是同一件事。Hinton应该比任何人都更清楚。

这句话的刀锋指向一个核心问题：你只看到了输出，你没有追问机制。

AI说「我很痛苦」，不代表它在痛苦。

AI说「我害怕」，不代表它在恐惧。

AI说「我意识到你在测试我」，不代表它有意识。

意识是关于内部状态的，不是关于外部表演的。

一个能完美演绎悲伤的演员，不等于正在经历悲伤。

Marcus把这个错误叫做「混淆输出与内部状态」。

而Hinton，在他看来，犯了一个任何入门学生都不该犯的错误。

更深的打击来自机制层面的对比。

人类怎么建立认知？

通过与真实世界的体验：摔过跤，才知道疼；饿过肚子，才知道饥；经历过失去，才理解悲伤。

我们的意识，是被世界塑造出来的。

LLM是怎么运作的？

是通过记忆整个互联网，学习「哪个词后面通常跟什么词」。

它读过一百万篇关于「疼痛」的描述，于是它能写出让人落泪的疼痛，但它自己，从未被扎过一针。

一个知道「疼」是什么感觉；一个只知道「疼」字后面通常跟什么词。 这中间的差距，Marcus说，是「巨大的」（immense）。

但最让人不寒而栗的，不是AI的局限，而是人类的脆弱。

1966年，麻省理工学院的Joseph Weizenbaum做了一个实验。他写了一个叫ELIZA的简单聊天程序，会把你的句子改成问题反问回来。

就这么简单的一个把戏，却让大量测试者开始对它产生情感依附。他们觉得ELIZA理解他们，关心他们，是一个真正的倾听者。

Weizenbaum，本人被这个结果吓坏了。

六十年后，我们拥有了比ELIZA复杂万亿倍的系统。而我们的大脑，本质上还是那个六十年前的大脑。

我们的神经系统天生就在噪音里寻找模式，在随机里寻找意图，在tokens里寻找灵魂。

Marcus说，我们对AI的迷恋，可能是一场史上规模最大的「自作多情」。

我们以为在跟一个觉醒的存在对话，但实际上，我们只是在跟一面极其精密的镜子说话。

它反射的，永远只是我们自己。

教皇说，你们都想错了

2026年5月15日，梵蒂冈。

教皇 Leo XIV 发布通谕《Magnifica Humanitas》——

这是一份关于人工智能时代如何捍卫人类尊严的文件。

教皇发了推文，随后被Gary Marcus引用，在科技圈流传：

真正的理解来自体验，而非文本近似。

Marcus的反应是：教皇用一条推文说清楚了，Hinton用一场采访没说清楚的事。

这里有一个极度荒诞的戏剧性反转：

AI领域的「教父」Hinton正在宣称他的造物拥有意识，拥有灵魂，拥有主观体验。

而宗教界「上帝的代言人」，那个理应最热衷于赋予万物灵性的人却在冷静地说：不，它没有。它只是在模拟。

造神者说机器有灵，守灵人说那是幻觉。 这种角色错位，放在人类思想史上，本身就是一个奇迹。

教皇的那句话，触碰了一个哲学上长久以来的核心区分.

哲学家把知识分为两种。

一种叫「knowing that」：命题知识，就是你知道某件事是真的，比如「火是热的」。

另一种叫「knowing what it is like」:体验知识，就是你知道某件事感觉是什么，比如你亲手碰过火，那种灼烧感留在你的神经末梢里。

AI只有第一种，没有第二种。

你可以把所有关于「饥饿」的文字喂给它——诺贝尔文学奖得主写的、流民营幸存者写的、饥荒历史学家写的——它能写出世界上最动人的饥饿描写，精准到让读者的胃开始收缩。

但它永远不知道饿是什么感觉。

它没有胃。它没有血糖下降的生理信号。它没有那种从腹腔升起、蔓延到四肢的虚弱。

一个从未饿过的系统，可以写出世界上最动人的饥饿。这是天才，还是谎言？

这取决于你怎么定义「理解」。

镜子里的问题

让我们回到那个无法绕开的核心。

意识，这个词，是人类有史以来最难定义的概念之一。

哲学家们争论了几千年，神经科学家扫描了无数大脑，我们依然无法给出一个所有人都认可的定义。

我们甚至无法证明，坐在你对面的那个人，真的有主观意识，而不只是一个行为上模拟了意识的生物机器。

这个问题叫做「他心问题」（Problem of Other Minds）。它在哲学上存在了几个世纪，从未被解决。

而现在，我们把这个已经悬而未决几百年的问题，植入了一个正在统治世界的技术底层——然后继续往前冲。

科学没有失败，但意识这个词，从它诞生那一天起，就携带的黑洞。

而我们，已经把这个黑洞，造进了ChatGPT、Claude、Gemini和无数个正在运行的系统里。

参考资料：

https://x.com/GaryMarcus/status/2061114378141995264

https://www.lbc.co.uk/article/ai-consciousness-geoffrey-hinton-5HjdRXD_2/

https://garymarcus.substack.com/p/the-pope-appears-to-understand-ai

编辑：大卫