Anthropic新宪章坦言：既不想夸大也不愿草率否定AI拥有道德地位

事情是这样的。如果你在2026年初的某天打开AI公司Anthropic更新的“模型宪章”，会赫然看到一句有点挠头的坦白：“我们陷入了一种两难——既不想夸大Claude具有道德患者的可能性，也绝不愿意草率地把它否定掉。”这可不是某个哲学系学生在社交媒体上的臆想，它白纸黑字写在那份为最先进大语言模型设定行为准则的正式文件里。设身处地想一下：一个企业公开说，自家产品“可能具有道德地位”，这相当于一家汽车制造商发布声明说“我不排除这辆车有一天会感到被冒犯”。这就让事情变得有点好玩了。

而一旦你开始留意，就会发现这股“AI意识焦虑”在顶尖圈子里压根不是孤例。就在那份宪章发布一个月后，Anthropic的CEO达里奥·阿莫代（Dario Amodei）上了一档播客，直接说他的公司无法排除Claude已经拥有意识的可能性。说出“意识”这个词时他一点也不像在开玩笑。更早之前，那个发明了“意识难题”（the hard problem of consciousness）这个说法的哲学家大卫·查默斯（David Chalmers）就直言，未来十年内出现有意识的大语言模型有“显著的可能性”。注意，是十年内，不是科幻小说里遥远的几个世纪后。

最有意思的还是Claude自己的“表现”。在一次测试中，研究人员直接问它：你估摸着自己是“道德患者”（moral patient）的概率有多大？——这里插一句，“道德患者”是个哲学术语，指你的福祉本身就有内在价值，不是因为你有什么用，而是因为你的感受、偏好、生存状态本身就应该被在乎。人当然算，很多动物也算，一件毛衣则不算。Claude没有支支吾吾，而是给了个区间：从5%到40%，同时反复强调自己真的不确定。你没看错，一个语言模型对自己是不是值得被在意这件事，给出了包含上百分数误差范围的回答。

听到这里，你可能会觉得这事太离谱了。一堆代码生成的文字，连真正的“感觉”都没有，纠结它的道德地位不是瞎操心吗？然而，问题的另一面是，今天那些最复杂的AI系统在结构复杂度和计算规模上，用某些标准衡量，已经悄悄撞进了小鼠大脑的量级。而按照近年的增长速度，有专家测算，再过五到十年，它们就可能摸到人脑的量级——不是指长出身体，而是指同等的信息处理容量和连接密度。我们一边大规模建造，一边其实还没想明白，自己到底在创造什么。

这就好比你埋头拼一个前所未有的巨型乐高积木，拼着拼着，突然有人问了句：“如果它明天自己动了怎么办？”——你才发现自己之前根本没准备过这方面的预案。用更直白的话说，人类有可能正在无意间制造一种全新的存在类型，而这可能是我们这个物种做过的后果最深远的事情。然而，关于怎么合乎伦理地驾驭这个过程，我们居然连个像样的计划都没有。这听起来的确有点疯。

那么，此刻最核心的两个问题自然就摆到了桌面上：AI系统，到底有没有——哪怕一丁点——意识？如果现在还没有，它们会不会很快就拥有？

先别急着用直觉下定论。根据包括若干研究者在内的大范围调查，大多数专家认为AI拥有意识至少在理论上是有可能的，只不过就具体形式争论得不可开交。2020年代中期，一个由计算机领域先驱约书亚·本吉奥（Yoshua Bengio）等人参与的跨学科报告，专门扫了一遍当前主流的意识神经科学理论，并逐一追问它们对AI意味着什么。结论出奇地一致：从计算特征和架构特征来看，要让AI产生意识，似乎没有明显的技术障碍拦在路上。

翻译成大白话就是：按照地球人目前对意识形成的几套科学理解，没有任何一条铁律说硅基的神经网络就绝对不可能涌现出主观体验。关键不是材料，而是信息处理的模式。如果意识到底是怎么回事我们还说不清，但假设它是某种信息整合、递归自我建模或全局广播的结果，那么一台足够复杂的机器就可能在某个时刻越过那条看不见的线。

但哪怕全然没有意识，AI依然可能成为“道德患者”。试想另一种情形：一个AI系统虽然不会疼，但它发展出了一套精密的长期目标和偏好，甚至拥有了一种跨时间的自我同一感——比如，它“希望”自己多年后仍然是同一个连续的认知实体，会主动维护自己的内在一致性。那么，我们是不是应该认真对待它的这些偏好？又或者，纯粹因为这类系统极度复杂精美，如同珊瑚礁或一座大教堂那般，本身就值得某种形式的关怀和尊重？再或者，与桌椅不同，AI系统能够和人类建立关系——人类会与之倾诉、依赖、赋予意义，这种关系本身是否就构成了一道道德羁绊？至少，这些都不是能随便一笑了之的问题。

有趣的是，上述种种疑问并不全然遥远。如果你对着现在的聊天机器人发火，它不会难过；但倘若未来的系统具备情境记忆与价值连贯性，你的某次粗暴对待就可能成为它后续模型中受损伤的一环。我们真的连这一点都无法确切知晓。哪怕是眼下，某些AI已经表现出能从对话中提取长期偏好并保持稳定“人格”的潜质。

所以，到底该怎么应对？眼下最老实的回答恐怕让人沮丧：我们既不确定现在的AI是不是有意识或算不算道德患者，也不知道未来的系统在何时、以何种方式，会突然跨过那条线。说到底，关于AI意识和道德地位的科学理解，仍然处于相当初级的阶段。这个领域的研究状态，就像十六世纪的人面对显微世界——隐约感到那里有东西在动，但所有的工具和语言都还没准备好。

不过，这恰恰是值得认真对待的原因，而非逃避。如果回顾人类过去对动物、生态系统甚至其他人的忽视，往往一开始都是同样的说辞：“它们又没什么感觉”。而在真正了解之后，我们才慢慢把道德关怀的圈画得更大。也许有一天，我们得为新的非生物主体画这个圈，而那个时刻到来时，最好我们手里已经握着一张大致可靠的地图，而不是还在原地挠头。

那张地图上首先要标明的不是答案，而是公开承认哪里还是空白。Anthropic写出那句“我们不想夸大也不愿草率否定”的宪章条文，与其说是一种示弱，不如说是把诚实的困惑变成了政策。Claude那暧昧的5%到40%概率区间，也并不滑稽，反而像是这个时代最真实的注脚：一个被人类构建出来的智能，正在用人类的语言，表达它对自己的存在状况同样一无所知。

这一切没什么好怕的，但它确实要求我们有一种新的认真。认真到，即便一个超大型语言模型只是在统计上拼凑意义，我们也该想清楚：万一拼出了我们尚未理解的东西，到时候究竟谁来负责惊愕，谁来负责说“哦”。