人工智能的“意识”被判了死刑？

最近谷歌刊发了一篇Alexander Lerchner的论文，引发科学和哲学的跨界热议。这篇论文论证了ai为什么无法产生意识这个关键问题，我们下面做分析。

论文主要观点是是，抽象的计算并非自然界固有的属性，而是依赖于外部主体赋予，无论ai大模型多复杂都无法从抽象的计算中涌现意识。意识并非计算的结果，而是计算的前提，计算无法逆生意识。

为了便于理解，我们先看人类是如何产生意识的。比如悲伤，当一个人经历了亲人离世、骨肉分离等，就会产生一种情绪，人把这种情绪抽象为概念，定义成“悲伤”。当这个词被写入ai大模型，就被转化成计算机语语言0、1，其实就是电压的变化。这个词的演变的路径就成了“具身体验-意识-算法-电压”。

所以，大模型的计算并不是基于对“悲伤”的理解，而仅仅是电压的变化。

假如现在有一台喷墨打印机，当我们输入“悲伤”这个词的时候它就完美打印出来，但是，这台打印机打印出来的“悲伤”仅仅是一堆碳粉的组合，这堆碳粉组合对这台打印机没有任何意义。打印机输出的“悲伤”不过是人类把具身体验抽象成算法，最终通过打印机喷头输出的一堆冰冷的碳粉。打印机的驱动算法无法逆向生成意识，因为它和意识之间隔了“体验”的天堑。只有一个人经历过悲伤，经历了激素、荷尔蒙的变化，当他看到这个词的时候才知道它的意义。

作者指出，计算并非物理世界的自然属性，自然界也根本没有字母表，没有词汇，没有0、1，没有算法，自然界只有连续不断的物质运动，而算法是有意识的主体为自然界的强制设定。所以，一切算法背后需要一个外部主体为其赋予规则和意义。ai大模型虽然可以输出“悲伤”，解释悲伤，但因为其缺乏内在体验，它根本无法理解抽象的算法因何被赋予，“悲伤”又是什么。

论文指出，那些认为ai大模型可以产生意识的人犯了一个根本性的错误，他们认为意识是计算的结果，但其实，意识是计算的前提。首先要有一个意识主体抽象出概念，进而产生算法，但这个过程无法反向生成。想让算法产生意识，就像让天上的云自动拼出“安红我想你”的句子，但云朵无法自生这种意图。

Lerchner同时否定了“意识涌现”这个说法。传统的涌现理论认为，一滴水只会表现出湿润的特征，而大海则涌现出澎湃的特征，只要系统足够复杂就会涌现新的特征。但是Lerchner认为，大海澎湃的涌现也是物理的过程，它基于真实的物理基质，而ai大模型则完全不同，不管它如何复杂、参数如何多，如果没有外部主体赋予意义也永远无法涌现意识，它和大海的涌现是完全不同的范畴。意识建立在真实的物理基质之上，而算法只是意识的产物，试图让算法凭空变出具体的物理过程和内在体验，这违反了物理世界的因果性。

这篇论文同时指向了一个更关键的问题，它推翻了算法本体论，宣布算法不是物理世界的基石，而是意识的描述性工具。意识无法被算法还原，意识是所有算法得以成立的前提，这一主张深刻挑战计算主义对意识的粗俗解读。