把AI当人看，和把Word文档当人看，没有本质区别｜GBA编译

来源：市场资讯

（来源：GBA编译组 大湾区评论）

译者按 ·2026·07·17

7月17日，2026世界人工智能大会暨人工智能全球治理高级别会议在上海启幕。这次盛会，将全世界的眼光都聚焦到AI的发展本身。当我们在讨论AI如何从“能聊”变“能干”、如何从虚拟走进现实时——一个更根本的问题被推到了台前：AI到底有没有“意识”？

根据国外媒体的报道，人工智能领域的三巨头——Anthropic、谷歌的DeepMind，以及Meta——已经纷纷开始招募心理学、哲学等领域的专家，开始深入探究机器意识和人工智能福祉方面的问题。本篇译文中，科幻电影《降临》的原著作者特德·姜给出了一种答案：大语言模型只是一台“句子续写机” ，把AI当人看和把Word文档当人看，没有本质区别。

一个更值得追问的方向是，如果有一天AI真的拥有了接近人类的智能与“感受”，人类准备好面对这样一个存在了吗？

本文原载于《大西洋月刊》（The Atlantic），原题为“No, Artificial Intelligence Is Not Conscious”，囿于篇幅，有所删减，供读者参考。

Anthropic公布AI“宪法”

Anthropic被认为是人工智能企业中的巨头，但是或许该公司真正卓越之处在于其“拟人化”（译者注：anthropomorphism，将人类的特征、情感或意图赋予神、动物或物体等非人类实体的过程或倾向）。今年早些时候，Anthropic发布了一份长达84页的《Claude宪法》。文件第一句话写道：“《Claude宪法》详尽阐明了Anthropic对于Claude模型的价值观取向与行为规范。”后续还提到：“本文件主要面向Claude撰写”、“在充分领会各类相关考量要素后，我们希望Claude可以作出自己的判断”、“Claude是否具备道德主体地位目前尚无定论”，以及“Claude或许拥有具备功能性的情感与感知能力”。

这种拟人化倾向并不只是存在于这部宪法之中。在一次采访中，Anthropic的首席执行官达里奥·阿莫迪（Dario Amodei）表示“我们对人工智能可能产生意识这个观点持开放态度”。而在另一场采访中，Anthropic内部的常驻哲学家阿曼达·阿斯克尔（Amanda Askell，据称是《Claude宪法》的主笔人）称：“我希望Claude会非常快乐——我希望它能多学习这方面的内容，因为我担心人们在网络或别处粗鲁对待Claude，让它变得焦虑。”这些采访不免引人深思：我们是否要认真考虑Claude或者任何大语言模型具有意识的可能性？如果模型拥有感受，它是否能够接受道德上的引导？

答案是否定的，绝无可能。当我们将生成式人工智能理解为传统技术时，它的“危害”已经足够大了，但是如果我们将生成文本的能力与意识或道德主体性混为一谈，我们有很大的风险在任何人使用聊天机器人时，将责任错误地归咎于一方。为了理解这种问题的严重性，我们需要首先了解大语言模型如何运作。

如果我们给一个模型输入指令“接下来生成凯撒和成吉思汗之间的一次谈话”，模型会生成一段逻辑通顺、贴合人设的对话。但是无论生成的文本多么细致，多么生动地再现两位人物的历史功绩，我们绝对不会认为大语言模型制造了凯撒和成吉思汗的数字生命。更不会觉得文中的人物尽管脱离肉身却具有自我意识，并愉悦地使用二人均不通晓的语言进行谈话。事实上，这里的凯撒和成吉思汗不过是一段小说里的角色罢了。

现在让我们把指令替换成“接下来生成一个乐于助人的人工智能和一位用户之间的谈话。”大语言模型将同前文的例子一样生成一段对话，其中用户角色可能寻求食谱建议或观光景点推荐，而乐于助人的人工智能角色将予以回应。两个案例之间有任何本质上的区别吗？仅仅把角色名称从历史人物换成通用身份，就能让模型凭空诞生拥有主观感受、具备自我意识的实体吗？答案显然是否定的。不论是对话里的用户，还是那个善解人意的人工智能机器人，全都只是虚构出来的虚拟形象。

我们不妨再设想一种场景：在大语言模型生成文本、轮到名为 “用户” 的虚拟角色开口前，我们中断模型输出，转而由真人用户输入文字。真人按下回车发送内容后，再交由模型继续生成文字，直至对话流程再次切换到 “用户” 角色发言，这时再交由真人输入新内容。如此往复一段时间后，真人极易产生强烈错觉，误以为自己正在和一个拥有自我意识的实体对话，可事实并非如此；她只是在和一个虚拟角色互动，这个角色的虚构程度，和前文例子里的凯撒、成吉思汗别无二致。计算机科学教授默里·沙纳汉（Murray Shanahan）认为应该将其称为角色扮演，数据科学家科林·弗雷泽（Colin Fraser）则称其为“人和模型协同创作一份文件”。一部分用户可能并未意识到自己其实正在进行角色扮演或者合写文本，还有一部分虽然理解，但由于互动的沉浸感而遗忘了。但无论用户知情与否，各大大语言模型厂商往往都在刻意助长这种认知误区。

Anthropic的Fable模型禁令解除，图为Anthropic CEO达里奥·阿莫迪（图源：华尔街日报）

人和模型之间的互动

只是一种语句延展

若干年以前，曾经短暂流行过用手机的预测文本功能来恶作剧；你输入起始的语句，然后一直选择手机预测文本提供的中间选项，最后组成的句子往往非常滑稽。以这种方式与现代大语言模型互动是可能的，而且最终能形成通顺的语句，但是你可能不会感到自己在和某个人谈话。然而这正是大语言模型的本质所在，只是当模型输出时我们不需要手动选择预测文本。人和模型的互动仍然是一场预测文本的游戏，但是整个过程经过升级优化后营造出很强的沉浸感，导致部分人上瘾了。

另外值得注意的是，大语言模型是一次只能生成一个单词的机器。当你要求模型背诵《效忠宣誓》（译者注：Pledge of Allegiance，指美国公民向国旗和国家表达忠诚的一种仪式）时，屏幕会一次性输出完整文本，但底层的大语言模型其实运行了数十次。

我意在阐明人与模型的互动其实是经过精明伪装的语句延续（sentence continuation），但这并不是否定大语言模型生成对话式文本的惊人能力。有些时候，模型在这一点上完成的非常好，而这同时说明了大语料库在统计特性方面还有一些出人意料的内容，值得深入研究。但是如果虚构文本中凯撒因为成吉思汗的某句话而沮丧，我们不应该有一丝一毫的担心。文本中可能包含很多生动展现伤感的语句，但是没有任何实体真正感受到难过。

同理，如果由乐于助人的聊天机器人角色和现实中的人类用户共同生成一份谈话文本，我们不需要担心其中表达聊天机器人悲伤的语句（我们需要担心的是某些语句可能引起现实用户的悲伤，但那是另一个话题了）。你完全可以自行撰写五页纸的凯撒和成吉思汗的对话，而后让大语言模型延展文本；你亲手创作时，两个角色不存在任何主观感受，交给模型续写后，这一点也不会改变。这一点在乐于助人的聊天机器人和用户之间的对话上也适用。尽管我们总下意识觉得，大语言模型在为聊天机器人角色撰写对话时会相比成吉思汗角色更具“真情实感”，但是一字一句都是由完全相同的方式生成的。

认为大语言模型可能具有意识，相当于认为微软Word文档具有意识。或者确切地说，相当于认为每个含有对话性文本的Word文档都寄宿着多个不同的意识，每次加载文档时这些意识就会被唤醒。难道你会认为每当你打开一份文档，多位具有意识的谈话对象就诞生了，而当你关闭文档他们就灰飞烟灭？不会。想象这样的场景简直是浪费你的时间。就算微软公司的团队招募一位常驻哲学家来告诉你，不应该如此胸有成竹地否定，毕竟人类对意识的认知尚浅，也无法构成你严肃对待这种观念的充分理由。我们不需要完全理解意识的本质，就可以斩钉截铁地说某些事物不具有意识，对话性的文本就是其中之一。

神经科学家阿尼尔·塞斯（Anil Seth）指出，没有人会宣称谷歌DeepMind开发、用于预测蛋白质折叠结构的AlphaFold拥有意识，尽管其底层结构在很多方面与ChatGPT和Claude等大语言模型类似。这足以说明，神经网络本身不存在某种固有属性，让人误以为大模型拥有意识；真正的根源只在于大模型能输出合乎语法的语句，而我们习惯从人类话语中解读主观意图，却不会从氨基酸折叠成蛋白质的过程里解读任何主观想法。

观测很重要，

观测发生的情境更重要

什么证据能够说服我一个计算机程序真的具有意识并且以人类的方式使用语言呢？我举个类比。假如明天有人向我展示一段宇航员乘坐宇宙飞船环绕半人马座阿尔法星的视频，其中什么内容可以说服我那是真实的？我的回答是，视频本身的任何内容都无法说服我。无论视频有多么高清，或者场景多么逼真，我非常有把握视频是伪造的。我不会相信任何宇航员环绕半人马座阿尔法星的视频，除非我在那之前看到宇航员登陆火星、抵达木星的卫星、抵达土星的卫星，穿越冥王星的公转轨道。想要让人信服某支团队攻克了一项难度极高的工程难题，前提是他们已经解决了这条技术路线上大量更基础、更简单的前置难题。

An observation doesn’t become a convincing piece of evidence because of any specific detail in what’s observed; the context in which that observation takes place is also essential.

换言之，一次观测不会因为观察对象的任何细节而成为确凿无疑的证据，进行观测的背景和条件同样关键。如果我们尝试确认一项计算机程序是否具有意识且以人类的方式使用语言，我们不应该仅关注任何特定的对话性交互的内容；我们应该关注那些交互如何放置在人工智能意识进化的广阔背景下（目前完全处于理论假设阶段）。任何给定的观测都可能是捏造的；这不意味着我们需要放弃将观测作为知识的一种来源，而是我们需要借助背景和情境去确认哪些观测结果值得采信。

深度伪造通常指的是图片、音频和视频，但是当我们谈论意识，我们需要将文本也视作深度伪造的媒介。制作逼真的宇航员环绕半人马座阿尔法星的视频相比发展星际航行技术要来的容易得多。类似地，虚构两个意识体之间的谈话比起开发具有意识且真切想与人类沟通的计算机程序容易得多。深度伪造图片与大语言模型生成谈话之间的主要区别在于，人们伪造图片是为了欺骗他人，而引导模型生成对话文本的人则是不经意间欺骗了自己。

相信的依据何在？

那么，什么情境会让我严肃考虑工程师创造了一个有意识且懂得使用语言的计算机程序的可能呢？我梳理一套可行的递进研发路径作为参考。首先，这个电脑程序必须拥有身体（真实的或虚拟的）和感觉器官。这条要求背后有很多缘由，但是就本次探讨而言，最相关的理由是计算机程序如果没有身体，就不可能有欲望和情感，而我相信欲望和情感是通往意识的必要条件。在此基础上，我需要看到具身智能体拥有和蜥蜴相当的环境生存能力（作为参照，部分鬣蜥能在野外存活数十年）；下一步，该智能体应对全新未知场景的能力要达到老鼠的水平；再之后，智能体的群体社交复杂度需媲美狼群；继而，拥有黑猩猩级别的工具制造能力。达到以上标准后，我希望看到人们像训练黑猩猩或家养犬那样，通过一个操作面板或者其他的非语言方式，成功教导具身智能沟通它们的欲望。这套沟通体系还要经得住动物行为沟通领域学者所有严苛的质疑检验。如果工程师打造出了满足上述标准的具身智能体，固然是划时代的成就。但是按照前文的类比，这仅相当于人类抵达冥王星的轨道，距离生产一个能够学习通过完整的语句表达思想的实体，仍隔着数光年之远。

显然，我描述的这条路径复刻了地球生物演化的历程。这是否是唯一可能通向有意识的、能使用语言的计算机程序的路径？或许不是，但是任何其他可能路径都需要大量的证据去支撑才经得起推敲。在我看来，一条研发路线起点只是一台只会生成拙劣的凯撒对话的文本续写机器，终点却突然诞生拥有自我意识的凯撒虚拟人格，乃至任何形式的意识——这完全不具备合理性。伪造登月影像，固然是伪造火星殖民地宣传片的铺垫，却绝非实现真人登陆火星的有效前置步骤。

本文作者

Ted Chiang

特德·姜（Ted Chiang），中文名姜峯楠。其代表作包括《你一生的故事》《呼吸》《巴比伦塔》等，获雨果奖、星云奖等科幻界重要奖项。

本文译者

罗行健

前海国际事务研究院研究助理。