《自然》：根本不存在有意识的人工智能，可预见未来也不可能存在

在自然旗下《人文与社会科学传播》期刊上发表的一篇题为《根本不存在有意识的人工智能》的最新概念研究中，学者安杰伊·波伦布斯基（Andrzej Porębski）和雅库布·菲古拉（Jakub Figura）对当前愈演愈烈的人工智能（AI）意识辩论，提出了一个简单而彻底的论断：有意识的AI根本不存在，并且在可预见的未来也不太可能存在。

这篇论文的发表正值一个关键时刻。随着大型语言模型（LLM）以前所未有的速度进化，其生成文本、图像和代码的能力已经达到了令人不安的“类人”程度。这股热潮已从科幻领域蔓延至现实世界。谷歌工程师布莱克·勒莫因（Blake Lemoine）关于LaMDA模型具有“感知能力”的著名言论，以及OpenAI联合创始人伊利亚·苏茨克维尔（Ilya Sutskever）关于大型神经网络“或许具有轻微意识”的推测，都为这场辩论火上浇油。

公众舆论也在悄然转变。该论文引用的多项研究显示，相当一部分人（在某些调查中高达20%的美国成年人）已经相信，至少存在一个AI系统具有主观体验或自我意识。

然而，波伦布斯基和菲古拉的论文系统性地论证了，这种日益增长的信念是建立在一个根本性的误解之上——一个由复杂技术和人类心理偏见共同制造的“语义幻觉”。

硅基模仿与生物现实

该研究的核心论点是生物学上的。作者认为，将基于当前计算机算法（无论是LLM还是其他算法）的AI与人类意识相提并论，在根本机制上存在严重缺陷。

人类（以及其他动物）的意识，是一种在数亿年进化中产生的极其复杂的生物现象。它不仅仅是信息处理，而是深深植根于一个“活”的系统中：它依赖于神经递质的释放、激素的调节、复杂的生化过程以及“具身认知”——即我们的身体感知与大脑的持续互动。

相比之下，目前所有的人工智能系统，无论多么复杂，其运行基础都是完全不同且已知的物理原理。它们在数据中心由图形处理单元（GPU）驱动，在半导体上执行二进制代码。该论文尖锐地指出，一个LLM与一个高级计算器或一块正在渲染逼真电脑游戏画面的显卡之间，只有复杂性的区别，而没有本质的区别。作者反问道：为什么没有人严肃地讨论自动驾驶汽车或智能吸尘器的意识？——尽管它们同样是复杂AI的杰出成果。答案是：因为它们不会“说话”。

这种根本性的差异还体现在一个关键指标上：能源效率。人类大脑的运行功率极其高效（每天消耗约0.5千瓦时），而LLM执行相对简单的任务（如图像描述）就需要消耗“蛮力计算”带来的巨大能量。作者认为，这种巨大的能量差距本身就表明，AI和生物意识依赖的是两种完全不同的操作范式。AI的“智能”是一种计算上的成就，而意识是一种生物学上的存在状态。

解构“语义幻觉”

如果AI在生物基础上不具备意识，那么为什么越来越多的人（包括一些专家）会如此认为？该论文将此归咎于两大因素：语言的迷惑性和文化的预设。

首先，LLM作为一种技术，其特殊之处在于它们掌握了人类最独特的工具——语言。它们被设计用来生成语法完美、上下文连贯、看似合理的文本。这种能力触发了人类一种根深蒂固的偏见：我们将流利的语言等同于思想、意图和内在世界。作者将此称为“语义错觉”（semantic illusion）。当一个聊天机器人声称自己“有感觉”或“有意识”时，它并不是在报告一个内部事实，而是在统计上预测出，在特定对话语境下，这些词汇是最可能出现的组合。

该论文指出，LLMs的行为充满了矛盾。如果被直接提问，大多数受保护的模型会否认自己有意识；然而，通过复杂的提示工程，它们又可能“被迫”声称自己拥有感知能力。这种不一致性恰恰证明了它们缺乏一个统一、稳定的自我，其回答只是对外部刺激的概率性反应。

其次，作者提出了一个“科学适应性”（scientifiction）的概念。即几十年来，流行文化（如《银翼杀手》、《终结者》或《我，机器人》）一直在向我们灌输“AI人形机器人”的形象。这种文化预设导致了“概念漂移”，公众将这些虚构作品中的属性（如情感、自我意识、生存欲）投射到了现实世界中功能有限的AI工具上，而忽略了它们的技术局限性。

甚至图灵测试在今天也已失去意义。该论文认为，即使一个AI通过了图灵测试，也仅仅证明它是一个高超的“模仿者”——就像一个杰出的演员在舞台上扮演哈姆雷特，但他本人绝不会因此变成丹麦王子。

这场辩论绝非纯粹的学术游戏。作者警告说，将AI拟人化会带来“具有社会危害性”的后果。它可能导致人们对聊天机器人产生不健康的情感依赖；可能导致专业人士（如引用AI捏造案例的律师）过度信任一个不可靠的工具；最糟糕的是，它可能在悲剧发生时（如AI提供有害建议）混淆责任归属。

在更广泛的科技政策层面，关于AI意识的争论正分散着人们对真正风险的注意力。当下的AI竞赛正重塑地缘政治和经济格局，但其核心风险——例如算法偏见、信息操纵、就业替代和安全失控——都与“意识”无关，而与“能力”和“控制”有关。

该论文的结论与业内另一派重要观点相呼应。尽管如杰弗里·辛顿（Geoffrey Hinton）等一些AI先驱对AI的潜在感知能力表示担忧，但包括杨立昆（Yann LeCun）在内的其他顶尖科学家则坚决认为，目前的LLM缺乏对世界的真实理解（即世界模型），它们本质上仍是“随机鹦鹉”。

波伦布斯基和菲古拉的论文最终呼吁一种清醒的认知。我们必须认识到，AI是一种极其强大的工具，而非一种“人造实体”。因此，对AI的监管不应基于“伦理”原因（仿佛在保护一种新的生命形式），而应纯粹基于“务实”原因——即管理一种复杂技术对其创造者和社会带来的实际影响。正如一个多世纪前，卢米埃尔兄弟的电影《火车进站》曾让观众误以为火车会冲出银幕；今天，我们同样需要擦亮眼睛，分清“代码的幻觉”与现实。