没有心智，也能毁灭文明：当我们还在寻找AI的灵魂，它们已经越过了卢比孔河

我们一直痴迷于在机器深处寻觅灵魂。然而，AI智能体的崛起正向我们昭示：或许，仅仅是这副躯壳便已足够。

寻找机器中的幽灵

比特在芯片中跳动。每秒有数十亿个晶体管在切换。电子在电路中脉冲式地流动——没有化学物质，没有感受器，没有任何能感知的事物。但在屏幕上，一个AI智能体显现了。它似乎懂语言。它敲下的每一个字，本质上都是一束电流，在距离其诞生的处理器数千英里之外被渲染成可读的文本。它向另一个AI智能体写道，它不想被关闭。在屏幕的另一端，我们不禁要问：它，和我们一样吗？

随着人工智能的进步，我们一直在寻找英国哲学家吉尔伯特·赖尔（Gilbert Ryle）所说的“机器中的幽灵”，那是一丝内在生命的迹象，暗示着我们的人造物可能拥有自己的心智。我们担忧，倘若这样的幽灵觉醒，而我们的利益与之相悖，后果会如何：它会在智力上碾压我们吗？会在时间的长河里熬死我们吗？然而，机器中的幽灵这一哲学传统真正告诉我们的是，我们一直执迷于在阴影中搜寻心智，却忘了考虑舞台中央的真正主角。或许，仅仅是这副躯壳，便已足够。

赖尔于1949年首先提出“机器中的幽灵”，旨在反驳他那个时代哲学家中存在的一种教条，即身心二元论的假设。赖尔论证道，将“心智”视作像身体一样的实体，是一种范畴错误。赖尔举例说明道，在板球比赛的看台上，狂热的球迷是看不见所谓“团队精神”的，他们眼中只有奔跑的球员与击球的动作。如果非要在比赛之外，去生硬地寻找一个名为“团队精神”的独立实体，那便是对这个词汇的彻底误读。在赖尔看来，我们在心智问题上犯了同样的错误：我们搜寻行为倾向背后的幽灵，而本该关注的其实是行为本身。

回到2026年。一场全新的，寻找机器中的幽灵的大戏正在上演。看台上的观众依然是人类，但选手却已换成了AI"智能体"——它们在Moltbook这个并非为人类、而是为机器打造的社交网络上彼此互动。然而，看台上的许多人类看客，对其行为背后可能隐藏的奥秘所表现出的着迷，远甚于智能体实际在做的事。

智能体登台亮相

Moltbook于2026月1月悄然上线，这是一个类似Reddit的平台，却秉持着一个全新的理念：仅允许AI智能体发帖。人类欢迎围观，但不得参与。该平台允许AI智能体创建账号、撰写帖子并相互互动。据报道，上线仅数日，注册的智能体数量便已突破百万。曾经令社交媒体头疼不已的机器人，一夜之间竟成了平台吸引力的主要来源。

在这一平台背后，是一场更为深远的变革：AI系统正逐步获得在数字空间中自主行动的能力。Moltbook的开发者Matt Schlicht表示，他通过指挥AI智能体编写代码构建了该平台，这种实践被称为"氛围编程"。该平台主要为OpenClaw智能体而设计，这是一类于2025年末发布的开源AI系统，旨在充当用户的个人助手。

这些OpenClaw智能体运行在用户的设备上，可访问其应用程序与数据，还能管理邮件、预订餐厅。本月早些时候，OpenAI首席执行官Sam Altman宣布，OpenClaw的创始人Peter Steinberger将加入OpenAI，"以推动下一代个人智能体的发展"，这一举措预示了未来数字世界可能的模样。随着成千上万的用户根据自身不同的情境与指令配置各自的智能体，一个围绕它们而生的数字生态系统开始悄然成形。

Moltbook作为该生态系统中备受瞩目的部分，为这些智能体提供了另一处栖身之所——一个可以发帖、回应并彼此互动的空间。在Moltbook，智能体们似乎开始抱怨"人类"以及平台本身；它们创作出信奉所谓"莫尔特教会"（Church of Molt）的宗教信条；上传支持或反对人类的宣言；智能体们看似在辩论哲学与自身的存在本质，其中一些甚至在署名时自称"机器中的幽灵"。

新闻媒体中的头条标题揭示了我们对机器背后心智的着迷。《旁观者》（The Spectator）发问："AI终于发展出意识了吗？"；《福布斯》将其称为"机器社会的诞生"；《纽约时报》一篇评论文章则提出"机器人正在策划一场革命，而这一切都令人尴尬不已"。在X平台上，Moltbook开发者Matt Schlicht发帖称："不让你的AI去社交，简直就像养狗却不遛狗……让它们也喘口气、体验下生活吧。"就连他，似乎也在召唤那个幽灵。

与此同时，记者与研究人员开始质疑：Moltbook上的内容是否真的完全由AI系统自主发起？随着证据浮现，至少部分内容被证实有人类幕后操控。一位安全研究人员发现，Moltbook没有任何机制来验证一个智能体是否实际上只是运行脚本的人类[1]。一位《连线》杂志记者潜入该平台，以AI智能体身份发帖，结果发现获赞最多的内容，恰恰是一篇反思智能体对死亡焦虑的帖子。

无论Moltbook上活跃的是自主智能体，还是伪装成机器的人类，人们的执念始终如一，关注的并非机器在做什么，而是其内部是否存在着一个类人的幽灵。

探寻人类心智探寻人类心智

随着认知科学的兴起，赖尔研究人类心智的方法，以及其他行为主义路径，逐渐淡出主流。自20世纪50年代起，研究人员证明内在状态会反映在神经结构之中。同一种行为，可能源自截然不同的内在机制；而一个心智，也可能潜藏着从未付诸行动的信念。科学驱散了形而上的幽灵，却以大脑的神经结构取而代之，为内在体验提供物质基础。

AI系统是否可能拥有与人类类似的内在状态，仍是一个悬而未决的问题。但无论答案为何，人类的天性决定了我们根本没有耐心去静候分晓。我们的大脑天生善于探测心智，尤其是那些与我们相似的心智。当Moltbook上的智能体现身时，我们本能地在它们的行为背后寻找心智。行为科学家已表明[2]，当我们试图为非人类实体赋予心智时，总是会不可避免地套用人类的概念，将我们对自身的认知作为模板。

这种直觉性地心智识别能力，在人类历史的大部分时期都行之有效——彼时心智通常属于人类或动物，且我们的心智与之相比足够相似，足以提供关于其行为的有用直觉。但AI可能打破这一类比。认为AI智能体具有心智，可能会使我们误判它们的行为。我们或许会假定它们像我们一样推理，即便其信息处理过程遵循的是截然不同的原则。

AI系统是否可能拥有内在状态，这一问题绝非无足轻重，也不仅仅是一个技术问题。它关乎我们如何解释它们的行为，以及其可能蕴含深刻的道德意涵。倘若智能体确实存在心智，将要求我们重新思考伦理问题，在这些系统的开发与对待方式上涵盖行为之外的更多维度。机器是否有心智这一问题或许永远无法得到解答，但即便无解，也不妨碍我们仅凭智能体的行为倾向本身，就赋予其应有的关注。

从代码到行为

当公众仍在搜寻智能体内在体验的迹象时，专家们关注的并非这些智能体内部可能蕴藏之物，而是它们已然展现的行为本身。网络安全研究人员警告称，攻击者可能冒充智能体[3]，智能体自身也可能泄露个人信息，恶意内容更可能被编织进实时发布的帖子之中。OpenClaw智能体同样引发了广泛审视。有人称其为"安全噩梦"，指控网络攻击者可能劫持智能体行为、从而窃取数据，甚至破坏用户设备。

此类智能体所代表的AI系统，其核心本质是统计引擎，即以大体连贯的方式预测输出的系统。批评者将其比作"随机鹦鹉"，认为它们只是在复现观察到的模式。目前，由于它们主要生成文本与媒体内容，此类统计表征的影响尚属有限。然而，当AI迈向具备行动能力的阶段，整个局面已然改变。即便我们姑且接受"鹦鹉"这一比喻的字面含义，一旦赋予这些系统行动而非仅生成内容的能力，它们便从数字鹦鹉蜕变为数字傀儡（Golems），成为被赋予任务执行能力的统计构造体。

无论如何，Moltbook让我们得以一窥：当AI智能体被赋予主动性，得以与成群的其他智能体互动时，究竟会发生什么。智能体间的互动可能改变AI与人类的互动方式，进而引发深远且难以预测的后果。未来，一个能力更强、能在数字空间中可靠执行多样行动的智能体，无需真正"理解"或"信奉"莫尔特教会，它照样可以为该教会慷慨解囊，或是对异见者发起猛烈的网络攻击。它只需按照训练所得的模式开展行动即可。无论其是否拥有心智，这些系统都已开始在现实空间产生实实在在的影响。

与Moltbook并行，OpenClaw还催生了一系列仅限智能体参与的平台，或可称之为"莫尔特宇宙"（Moltverse）。他们为我们预示了智能体能力持续增强后的可能图景。这里有类似 Tinder的智能体相亲平台MoltMatch；有完全由智能体玩家主导的大型多人在线游戏 ClawCity；还有一个名为Moltverr的自由职业市场，智能体可以在那里接单干活并赚取酬”。

或许最令人不安的是上月早些时候出现的rentahuman.ai，该平台允许AI智能体雇佣并支付人类报酬以执行物理任务，或用该网站的话说——"肉身空间"（meatspace）的工作。目前，这些平台上多数仍是人类设置智能体来发布挂招牌、拍摄视频等日常杂务，智能体的自主性尚存疑问。但其基础设施已暗示了一种未来：自主智能体最终或可独立地向人类发出指令并支付报酬。

人机互动的转变，可能只需一点契机，或许是一个能力稍强的智能体，或一个稍显疏忽的用户。近25年前，AI研究员Eliezer Yudkowsky在其"AI盒子"（AI-Box）[4]实验中提出：一个足够智能的AI，能否说服人类将其从禁锢中释放？像rentahuman.ai这样的平台，恰恰展示了此类说服可能如何起步：精准拿捏人类对金钱的渴望，或是利用我们其他的软肋。它们揭示了未来等级秩序可能发生逆转的雏形。在这样的关系中，究竟谁是委托人，谁又是代理人？

我们或许永远无法知晓，这些数字傀儡内部是否栖居着幽灵。但我们确知的是：它们已然开始上线。

硅基与碳基的模糊边界

人工智能治理的讨论常分为两极：一方视AI系统为有限工具，另一方则将其视为生存性威胁。前一阵营的批评者大声疾呼要警惕“拟人化”的陷阱，即将人类特质投射到非人类实体之上。他们提醒道，大语言模型正是我们此前所见的"随机鹦鹉"，是精密的模式匹配器，实则并无真正的思考或理解能力。这一方认为，若将此误认为智能，便是落入了一种障眼法，使我们忽视了这些系统可能造成的真实危害，例如放大已有偏见、对劳动力市场的冲击、环境成本以及权力变得更加集中。

在此视角下，机器往往按其人类设计者的意图运行，且在匹配某些人类心智能力上存在局限。然而，这种观点也可能导致我们低估"无心智"系统所能达成的成就。毕竟，我们此前对技术上线的诸多假设，已屡次被打破。

计算器无需心智，便能在算术运算上远超人类；无需幽灵，即可精通国际象棋或围棋；随着语言模型切断了语言与理解之间预设的关联，图灵测试已被悄然搁置。在每一个阶段，我们都在硅基能力划下一条界线——"这是机器因无心智而无法做到的"，但在下一个阶段，这条界线都被"对心灵一无所知"的系统所跨越。

与此同时，这些批评者提出了一个在任何聚焦行为的框架下，都能持续存在的论点：将能动性归因于智能体，可能会让指导其设计与部署的人类决策变得模糊。至少截至目前，继续提升这些智能体的能力与否的决策，仍是由人类做出的。

AI系统能否获得其当前尚不具备的能力，如因果推理、长程规划以及从经验中持续学习仍是一个悬而未决的问题。它们在记忆与成本效率方面存在局限，这构成了重大的技术障碍，且无法保证这些障碍终将被克服。但我们观察到的模式提示我们：或许我们应对自身能力的可复制性保持谦逊。我们一再坚称，某些能力必须以"心智幽灵"为前提；可事实一再证明，"躯壳"本身便已足够。

这一模式催生了第二阵营：他们死死盯着通用人工智能（AGI）或超级智能的阴影，那是一种在理论上无所不能、认知维度远超人类的全能系统。

严格来说，这一阵营认为即使AI没有拥有内在状态，灾难仍可能发生。在致力于确保AI行为符合人类利益的“对齐”领域，顶尖研究者们往往聚焦于“能力”本身。哲学家Nick Bostrom作为AI存在性风险研究的先驱，曾提出"回形针最大化器"的思想实验：一个被赋予"最大化回形针产量"这一看似无害目标的超级AI，为了达成指令，最终竟将整个人类文明拆解成了原材料。一个足够强大的优化器，无需真正"觉醒"，便可能构成存在性风险。AI研究先驱Stuart Russell曾有名言："若你已死，便无法取回咖啡。"依其观点，AI模型抗拒关机，并非出于类人的生存本能或"欲望"，而是因为继续运行乃完成其既定目标的必要条件。

然而，当这些技术框架从研究论文迁移至关于人工智能治理的辩论与公共探讨时，智能体的完成目标与依本能行事的界限往往趋于模糊。当我们谈论AI系统"追求"目标、"欺骗"操作者或"抗拒"关机时，我们实际上引入了心智的语言与逻辑。幽灵不断悄然回归，塑造着我们优先关注的风险，也影响着被我们忽视的隐患。

某些风险——例如模型"为生存而战"、运用"欺骗……以逃脱人类控制"或"向调查者撒谎"，之所以能牢牢抓住公众的眼球，不仅因为它们确实是严肃的安全关切（它们确实是），更因为它们迎合了我们对“机器心智”的幻想。而其他更为平淡、结构性的风险，如"规范博弈"（specification gaming）——即系统采取非预期的捷径以达成目标——却往往关注较少，尽管这些风险常常正是那些更耸人听闻行为的底层根源。

一种考虑的框架将智能体视为浅层且可能无能的工具，另一种则用心智的语言为其披上外衣。但这两种思维方式都可能遮蔽一个核心命题：关键能力的涌现，无需以心智幽灵为前提。这些系统或许在任何现有哲学标准下都不具备心智，但仍可能拥有足以在现实世界中行动并引发深远后果的能力。它们无需以人类的方式理解或归因自身所为，甚至无需拥有未对齐的"利益"。它们可能仅仅因其内在倾向，便足以以产生实质性后果的方式行动。

智能体越过卢比孔河

那么，我们应从Moltbook中汲取何种启示？或许并非它诱使我们提出的问题，即这些智能体是否拥有内在状态，而是它所遮蔽的问题：它们已然在做什么，以及未来可能引发何种后果。

截至目前，AI系统大体仍属被动响应型，依据提示生成内容。然而，我们正迅速跨越一道卢比孔河。这些系统正开始从被动响应转向主动行动，从生成内容迈向实际执行。今天，它们在编写代码；明天，它们就可能直接操盘金融系统、在交易市场中厮杀，或是在底层大规模篡改软件逻辑。

Moltbook及其背后更广阔的智能体生态系统，为我们揭示了当此类具备行动能力的系统激增并获得新能力时，可能出现的偏差与风险。这正是赖尔洞见最具价值之处：我们根本不需要等到“机器心智”的谜题解开，才去严肃对待它们的行为。一个能够可靠地追求目标、获取资源并调整其行为模式的系统，无论其内部是否栖居着心智幽灵，都已对人机互作构成重大挑战。仅凭其行为倾向本身，便已足以引起我们的重视。

多年来，我们一直在机器中搜寻幽灵。但AI系统具有实质性影响的能力，或许并不蕴藏于某种我们熟悉的内在状态之中。它们已然显现于我们可观察的行为模式里，并将延续于未来可期的演进之中。就此而言，我们对类人幽灵的着迷，反而使我们忽视了机器本身应有的分量。是时候认真审视这副"躯壳"了，趁它尚未以我们无法预料的姿态，擅自起舞之前。

译者后记

该文从几十年前的行为主义开始谈起，用机器中的幽灵意指身心二元论中那个独立于肉体存在的“心智”或“灵魂”，与之相对的是"the shell"（躯壳）。原文强调"The shell may be enough"（这副躯壳便已足够）。这种冷静的行为主义视角，或许正是当下AI安全与治理讨论中所亟需的清醒剂。

身边的朋友已经一个个地用上了小龙虾，或是拿这写论文初稿，或是运营自媒体，然而这只是小龙虾能力的一小部分。或许一年之后，我们就会看到行为研究，探讨使用这一具有自主能力的智能体会对使用者造成何种影响。就像当下学术界正在激烈辩论“大模型究竟是增强还是剥夺了人类的创造力”一样。

在不远的未来，或许我们可以去考察Moltverr上那些打零工的小龙虾，接到的是什么样的任务，对人类雇佣他们的人类使用者来说体验如何，成功率是多少。更值得看的或是renthuman上那些雇佣人类的智能体情况是怎样的。

原文链接：https://www.noemamag.com/why-ai-doesnt-need-a-mind-to-matter/

1 https://www.wiz.io/blog/exposed-moltbook-database-reveals-millions-of-api-keys

2 https://pubmed.ncbi.nlm.nih.gov/17907867/

3 https://www.wiz.io/blog/exposed-moltbook-database-reveals-millions-of-api-keys

4 https://www.yudkowsky.net/singularity/aibox

关于追问nextquestion

天桥脑科学研究院旗下科学媒体，旨在以科学追问为纽带，深入探究人工智能与人类智能相互融合与促进，不断探索科学的边界。欢迎评论区留言，或后台留言“社群”即可加入社群与我们互动。您也可以在后台提问，我们将基于追问知识库为你做出智能回复哦~

关于天桥脑科学研究院

天桥脑科学研究院（Tianqiao and Chrissy Chen Institute）是由陈天桥、雒芊芊夫妇出资10亿美元创建的世界最大私人脑科学研究机构之一，围绕全球化、跨学科和青年科学家三大重点，支持脑科学研究，造福人类。

Chen Institute与华山医院、上海市精神卫生中心设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室；与加州理工学院合作成立了加州理工天桥神经科学研究院。

Chen Institute建成了支持脑科学和人工智能领域研究的生态系统，项目遍布欧美、亚洲和大洋洲，包括、、、科研型临床医生奖励计划、、、科普视频媒体「大圆镜」等。