DeepMind科学家万字长文：为什么AI永远不可能有意识？

文 | Omni实验室

近期，谷歌DeepMind高级科学家Alexander Lerchner发表了一篇论文。

结论非常清晰：

算法符号操作在结构上不可能有能力产生意识，无论模型多大、架构多复杂、是否拥有人形身体。

仔细看这句话，AI有意识这件事儿不是现在不行，而是从逻辑上看永远都不行~

这篇论文的标题为《The Abstraction Fallacy： Why AI Can Simulate But Not Instantiate Consciousness》

（译 | 《抽象谬误：为何人工智能只能模拟意识，但不能实例化意识》）

论文发出后，引发广泛讨论~

（一) 主流范式错在哪里?

Lerchner要反驳的，是目前AI意识讨论中最主流的一个理论框架——计算功能主义。

计算功能主义拆开来看包含几个核心信息：

1.意识的本质是一套因果拓扑结构，跟底层物理材质没有关系;

2.同一套功能可以在人脑的生物神经元上实现，也可以在硅基芯片的数字电路上实现;

3.只要一个数字系统精准复刻了意识的因果逻辑，主观体验就会自动涌现;

说白了就是一句话：意识不挑硬件，碳基还是硅基都不重要。

但Lerchner认为，这套理论看着没有错误逻辑，但实则从一开始就建立在错误的前提上。

他给这个错误起了个名字：抽象谬误。

（二) 抽象谬误：把地图当成领土

他为抽象谬误提供了两个比喻:

1、地图不是领土

无论把一张城市地图画得多精细，完整复刻每一条街道、每一栋建筑、每一个红绿灯，这张地图都不会变成它描述的那座城市。

地图是对城市的抽象关系描述，城市是具备真实物理因果力的实体存在。

2、公式不是引力

写在纸上的万有引力公式可以精准描述引力规律，但这个公式本身不会产生质量，也不会产生引力。

公式是对引力的抽象逻辑描述，引力是物理世界的内在因果属性。

Lerchner认为，计算功能主义正好陷入了这个谬误：

把对意识行为和逻辑的抽象符号模拟等同于意识本身的真实生成。

一个系统可以把意识的行为模仿得惟妙惟肖，但这只是模拟，模拟不等于真正拥有。

（三) “制图者”：被忽略的前提

论文引入了两个关键概念：“模拟”和“实例化”。

模拟可以理解为对某一现象的外部行为复制。

比如一台机器可以模仿心脏泵血的动作，但它不会因此变成真正的心脏。

真正的心脏有其内在的物理构成和热力学动态，这是“实例化”。

论文严格区分了这两个概念的前提，是找到了整个计算范式中一个长期被忽略的要素——制图者（Mapmaker）。

制图者，是任何一个拥有主观体验的生命体，它完成的工作是对物理世界的语义切分。

计算机里运行的0和1不是宇宙的固有属性，物理世界不“知道”什么是1什么是0。

芯片里只有实实在在的电压和电荷的连续流动，是人类观察者为这些物理信号设定了阈值，赋予它们符号意义。

如果没有一个拥有主观体验的主体来“制图”，物理世界的状态就只是状态，不构成任何符号。

计算功能主义假设了物理状态到符号状态的映射关系，但从来没有想过这个映射要在哪里才能真正成立。

换句话说：一套算法可以在不同的解读框架下构成完全不同的意义~

同一个物理载体可以承载不同的抽象关系，真正赋予它意义的是对它做出解读的那个认知主体。

（四) 算力解决不了的问题

Lerchner认为，意识的来源不是系统规模问题，不是复杂性问题。

无论模型参数堆得多大，无论神经网络架构多复杂。

如果底层机制仍然是符号操作，那么意识就永远不可能从中凭空出现。

有人可能会追问：具身化的机器人呢？

给它装上摄像头和传感器，让它和环境交互，是不是就能具备意识？

Lerchner认为不能。

机器人采集到的信号只是连续的物理信号，不管是通过ADC（模数转换器）还是其他方式转换为数字信号.

运算的核心仍然在跑那些被提前赋予了符号意义的数字。

运算之前的信号输入已经被做了字母表化。

运算过程中的逻辑演化同样是建立在已符号化的数据之上，最终输出同样只是符号操控的结果。

整个过程从输入端到输出端，都没有脱离符号操作的框架。

（五) 接受批判，但暂不宣判

有学者对Lerchner的论证表示了一定程度的支持。

其中一种观点认为:

这篇论文成功挑战了计算功能主义中过于天真的简化解读~

也有效提醒了学界不要只凭外在行为的复杂性就随意为AI赋予本体论地位。

同时，也有中立立场观点认为：

Lerchner对计算功能主义的批判很有价值，但无需立即得出“所有算法都不能拥有意识”的强结论。

目前的系统确实没有令人信服的意识证据，计算的本体论地位确实存在争议，但这些并不足以成为最终宣判。

其实

当讨论AI是否有意识这个话题的主体从局外的哲学家变成了业内的科学家时，问题的性质就已发生变化。

这种观点的对立并不会阻碍技术前行，反而让人们更清楚~

真正值得珍视的，不是对意识的模拟，而是意识本身。