追问快读 | Anil Seth：机器的思考是否触及灵魂？

太难了，没关系，“追问快读”又快又通俗！

机器能否真正拥有意识？很多科学家认为，只要算力足够，机器就能产生意识。这种观点被称为计算功能主义，它将意识与特定计算能力绑定在一起。但神经科学教授Anil Seth对此充满异议，在最新的论文中，他提出了一系列神经科学和哲学上的观点对此加以反驳。

▷Seth, Anil. "Conscious artificial intelligence and biological naturalism." (2024).

阿尼尔·赛斯

Anil Seth

认知和计算神经科学教授，

萨赛克斯大学塞克勒意识科学及心理中心创始人之一

意识与物质基础的绑定

Anil Seth指出，硅基和碳基系统在内部运作方式上存在本质差异，比如一氧化氮等神经递质的代谢作用对意识的影响，这在硅基系统中难以模拟。此外，我们的新陈代谢会直接影响到大脑的通信，但硅基算法本身是不变的，无法模拟这种持续变化的环境。换言之，我们的大脑不应仅被视为计算机，它是一个动态变化的系统。所以，我们不可能指望将你的身体一点点更换成电子器件，直至机器完全替代你，你还能拥有意识。

生物自然主义：

意识是生物现象

生物自然主义认为，意识是生物现象，源于大脑和身体中的生物过程。预测性编码和自由能原理都能支持这一观点。其中，预测性编码认为，意识内容是大脑“最佳猜测”的产物，是自上而下的感知预测对多感官产生的内容整合。这种整合与生物本身的物质存在，存在利益相关。

从自由能原理的角度来看，计算机只能模拟大脑信息处理过程，但生物脑不同区域间的因果联系直接且复杂，计算机的模拟无法反应生物脑中的因果结构。因此，当前传统类型的人工智能系统不太可能具有意识。

凡人计算：

生物大脑中软件与硬件相互绑定

Hinton提出的凡人计算概念，挑战了传统的硬件与软件分离原则。凡人计算主张软件与其运行的硬件紧密绑定，一旦硬件损坏，相应的软件也会丧失，以此反映出生物大脑的易逝性计算特征——生物大脑的计算活动与其物理基础不可分割。相比冯诺伊曼范式，在生物自然主义的框架下，完全突破现有硬件约束的凡人计算，更有可能具有意识。

机械姬中的意识测试问题

此外，Anil Seth批评了反向意识测试，如《机械姬》中的类图灵测试。他指出这些测试可能更多地评价人类的轻信程度，而非机器的智能或意识。这种测试方式忽略了意识的主观体验，而更多地关注了外部行为的表现。

▷图3：四种不同判断机器能否具有智能/意识的方式

有意识AI的可能性

意识可能有两种基础形式：一种是基于特定的生物结构，另一种是基于功能或计算过程。同时，意识的实现可能体现在从简单到复杂的各种现象中。

如果意识确实与功能紧密相关，那么现有的大型语言模型（LLMs）可能已经在逐渐接近具有意识，未来技术的进步有可能使这些系统真正意识化。相反，如果意识依赖于特定的生物结构，那么不论复杂性如何，LLMs都不会实现真正的意识，因为它们无法在适当的物理结构上实现意识。

▷来自：https://www.nature.com/articles/s41599-024-03553-w

不同的意识理论及可实现性

在探索有意识的人工智能可能性的问题上，科学家们提出了几种不同的理论：

（1）意识作为计算形式的自然发展：一种观点认为，随着人工智能的智能水平不断提升，它们最终会在达到通用人工智能的阶段时自然地获得意识。然而，这种看法常常受到心理偏见影响，依赖于未经证实的计算功能主义假设，因此不太现实。

（2）意识作为涉及目标的的计算形式：意识可以通过精心设计融入人工系统中。这种方法看似更为可行，但其成功取决于多个关键因素：对计算功能主义原理的准确理解和实现，以及意识存在的必要条件是否能在非生物基础上实现。

（3）意识与特定物理基础的计算绑定：有理论指出，意识可能与特定类型的物理基础有紧密的联系，可能只有在这种特定物理环境中，意识才能存在。这意味着传统的计算机架构可能无法支持有意识的AI，而需要类似于生物大脑的计算方式，例如神经形态计算实现的凡人计算。

（4）意识依赖于非计算的神经系统特征：第四种情况认为意识不仅仅依赖于计算过程，而是与神经系统的动态特性有关。这种理论，被称为“弱生物自然主义”，认为只有生命系统才能具备支持意识的组织结构。

（5）强生物自然主义：最后一种观点是强调意识依赖于生命系统的物质特性，类似于风暴依赖于水和风一样。在这种观点下，有意识的人工智能需要在某种程度上是“活着的”，即使不是基于碳的生物体。

Anil Seth强调，将智能和意识混为一谈，可能会导致人们过分乐观地估计有意识的AI出现的可能性。尽管人类中心主义和拟人化倾向可能推动了这种趋势，但意识并不会随着AI智能的提升而自动产生。

Anil Seth建议，有我们不应将有意识的AI的发展视为一个既定目标，而是应该基于对生物意识深入的理解来引导AI的发展方向。这意味着我们可能需要重新评估和调整我们对意识的信念，并以此指导技术的进步。此外，有意识的AI的出现并非不可避免，我们需要深入理解生物意识的神经科学机制，而不应仅仅依赖于机器的性能指标来评估意识。

追问快读版不过瘾，那来看看原文吧：

关于追问nextquestion

天桥脑科学研究院旗下科学媒体，旨在以科学追问为纽带，深入探究人工智能与人类智能相互融合与促进，不断探索科学的边界。如果您有进一步想要讨论的内容，欢迎评论区留言，或添加小助手微信questionlab，加入社群与我们互动。

关于天桥脑科学研究院

天桥脑科学研究院（Tianqiao and Chrissy Chen Institute, TCCl）是由陈天桥、雒芊芊夫妇出资10亿美元创建的世界最大私人脑科学研究机构之一，围绕全球化、跨学科和青年科学家三大重点，支持脑科学研究，造福人类。TCCI与华山医院、上海市精神卫生中心设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室；与加州理工学院合作成立了TCCI加州理工神经科学研究院。TCCI建成了支持脑科学研究的生态系统，项目遍布欧美、亚洲和大洋洲，包括学术会议和交流、、、科研型临床医生奖励计划、、中文媒体追问等。