北京
文 | Omni实验室
近期，谷歌DeepMind高级科学家Alexander Lerchner发表了一篇论文。
结论非常清晰：
算法符号操作在结构上不可能有能力产生意识，无论模型多大、架构多复杂、是否拥有人形身体。
仔细看这句话，AI有意识这件事儿不是现在不行，而是从逻辑上看永远都不行~
这篇论文的标题为《The Abstraction Fallacy： Why AI Can Simulate But Not Instantiate Consciousness》
（译 | 《抽象谬误：为何人工智能只能模拟意识，但不能实例化意识》）
论文发出后，引发广泛讨论~
（一) 主流范式错在哪里?
Lerchner要反驳的，是目前AI意识讨论中最主流的一个理论框架——计算功能主义。
计算功能主义拆开来看包含几个核心信息：
1.意识的本质是一套因果拓扑结构，跟底层物理材质没有关系;
2.同一套功能可以在人脑的生物神经元上实现，也可以在硅基芯片的数字电路上实现;
3.只要一个数字系统精准复刻了意识的因果逻辑，主观体验就会自动涌现;
说白了就是一句话：意识不挑硬件，碳基还是硅基都不重要。
但Lerchner认为，这套理论看着没有错误逻辑，但实则从一开始就建立在错误的前提上。
他给这个错误起了个名字：抽象谬误。
（二) 抽象谬误：把地图当成领土
他为抽象谬误提供了两个比喻:
1、地图不是领土
无论把一张城市地图画得多精细，完整复刻每一条街道、每一栋建筑、每一个红绿灯，这张地图都不会变成它描述的那座城市。
地图是对城市的抽象关系描述，城市是具备真实物理因果力的实体存在。
2、公式不是引力
写在纸上的万有引力公式可以精准描述引力规律，但这个公式本身不会产生质量，也不会产生引力。
公式是对引力的抽象逻辑描述，引力是物理世界的内在因果属性。
Lerchner认为，计算功能主义正好陷入了这个谬误：
把对意识行为和逻辑的抽象符号模拟等同于意识本身的真实生成。
一个系统可以把意识的行为模仿得惟妙惟肖，但这只是模拟，模拟不等于真正拥有。
（三) “制图者”：被忽略的前提
论文引入了两个关键概念：“模拟”和“实例化”。
模拟可以理解为对某一现象的外部行为复制。
比如一台机器可以模仿心脏泵血的动作，但它不会因此变成真正的心脏。
真正的心脏有其内在的物理构成和热力学动态，这是“实例化”。
论文严格区分了这两个概念的前提，是找到了整个计算范式中一个长期被忽略的要素——制图者（Mapmaker）。
制图者，是任何一个拥有主观体验的生命体，它完成的工作是对物理世界的语义切分。
计算机里运行的0和1不是宇宙的固有属性，物理世界不“知道”什么是1什么是0。
芯片里只有实实在在的电压和电荷的连续流动，是人类观察者为这些物理信号设定了阈值，赋予它们符号意义。
如果没有一个拥有主观体验的主体来“制图”，物理世界的状态就只是状态，不构成任何符号。
计算功能主义假设了物理状态到符号状态的映射关系，但从来没有想过这个映射要在哪里才能真正成立。
换句话说：一套算法可以在不同的解读框架下构成完全不同的意义~
同一个物理载体可以承载不同的抽象关系，真正赋予它意义的是对它做出解读的那个认知主体。
（四) 算力解决不了的问题
Lerchner认为，意识的来源不是系统规模问题，不是复杂性问题。
无论模型参数堆得多大，无论神经网络架构多复杂。
如果底层机制仍然是符号操作，那么意识就永远不可能从中凭空出现。
有人可能会追问：具身化的机器人呢？
给它装上摄像头和传感器，让它和环境交互，是不是就能具备意识？
Lerchner认为不能。
机器人采集到的信号只是连续的物理信号，不管是通过ADC（模数转换器）还是其他方式转换为数字信号.
运算的核心仍然在跑那些被提前赋予了符号意义的数字。
运算之前的信号输入已经被做了字母表化。
运算过程中的逻辑演化同样是建立在已符号化的数据之上，最终输出同样只是符号操控的结果。
整个过程从输入端到输出端，都没有脱离符号操作的框架。
（五) 接受批判，但暂不宣判
有学者对Lerchner的论证表示了一定程度的支持。
其中一种观点认为:
这篇论文成功挑战了计算功能主义中过于天真的简化解读~
也有效提醒了学界不要只凭外在行为的复杂性就随意为AI赋予本体论地位。
同时，也有中立立场观点认为：
Lerchner对计算功能主义的批判很有价值，但无需立即得出“所有算法都不能拥有意识”的强结论。
目前的系统确实没有令人信服的意识证据，计算的本体论地位确实存在争议，但这些并不足以成为最终宣判。
其实
当讨论AI是否有意识这个话题的主体从局外的哲学家变成了业内的科学家时，问题的性质就已发生变化。
这种观点的对立并不会阻碍技术前行，反而让人们更清楚~
真正值得珍视的，不是对意识的模拟，而是意识本身。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
