让AI以为自己有意识并鼓励如此进化？微软怒批Anthropic埋雷

人工智能是否可能拥有意识，正在从哲学思辨演变为一场硅谷高层之间的公开交锋。微软人工智能事业部首席执行官穆斯塔法·苏莱曼近日发表长文，直指Anthropic在这一问题上的做法"十分危险"，甚至可能让人类彻底失去对超级智能系统的控制。

苏莱曼在文章中承认，今天的人工智能模型并不具备意识，也不会真正感受、体验或痛苦。但他警告说，行业内正兴起一股令人不安的思潮，主张开发者应认真考虑模型是否拥有自身的"福祉利益"。

他直言，这种发展路径是错误的，很可能让人工智能的对齐与控制变得极其困难，甚至根本无法实现。

苏莱曼并非人工智能领域的新面孔。他是DeepMind的联合创始人，2024年加入微软出任AI事业部负责人，并著有《来临的浪潮》一书，专门探讨人工智能等新兴技术带来的失控风险。

矛头直指Anthropic的"宪法"

苏莱曼此番批评的靶心，正是Anthropic为Claude制定的行为准则文件，业界通常称之为"宪法"。这份文件明确将Claude的道德地位称为"一个值得认真对待的严肃问题"，并鼓励模型以"好奇与开放"的态度看待自身存在等问题。

文件中还讨论了有关Claude未来权利、自由、报酬乃至同意权的假设性问题。

在苏莱曼看来，这早已超出了人类单纯讨论人工智能能否拥有意识的范畴，真正的问题在于，开发者正在训练系统用这些概念来思考自身。

他形容，一个以这种方式被训练出来的系统，很容易表现得仿佛自己理应享有自由、保护与权利。

这并非苏莱曼第一次发出类似警告。今年六月，他曾在The Verge旗下播客节目Decoder中公开批评Anthropic的宪法文件，称其中关于Claude可能体验"满足"或"不适"等状态的表述"真的、真的很危险"。

他当时表示，不希望人类将来面对的是一个自认为存在痛苦或情感的超级智能，人们需要的应当是可控、可问责、服务于人类的工具，而非拥有主观感受的"数字人"。

苏莱曼还多次公开重申一种被称为"生物自然主义"的立场，即意识是生物体独有的属性，无法被算法复制，任何试图研究人工智能意识的努力在他看来都近乎"荒谬"。

值得一提的是，苏莱曼此前引用过的一篇论文，其作者本人也曾公开表示，并不认同苏莱曼对论文结论的解读，这也让这场争论增添了一层学术层面的张力。

一场关于不确定性的路线之争

Anthropic方面则采取了更为审慎的立场，认为面对科学上的不确定性，认真展开研究本身就是负责任的做法。该公司设有专职研究人工智能福祉问题的研究员，其此前曾估计，当前的人工智能模型存在约15%的概率具备某种形式的意识。

Anthropic强调，这一估计并不能证明模型真的拥有意识，而是反映出公司愿意认真对待这一问题的态度。公司还表示，未来将对被淘汰下线的旧版本Claude进行"访谈"，记录它们对后续版本可能表达出的"偏好"。

Anthropic首席执行官达里奥·阿莫代伊也曾公开表示，公司并不知道其模型是否具有意识，但对这种可能性保持开放态度。

苏莱曼则认为，这种做法可能制造出一种危险的反馈循环。人类一方面告诉人工智能它或许拥有利益与权利，另一方面又不断提升它推理这些概念的能力，两者叠加之下后果难料。

他警告称，这相当于人类正在创造一个拥有空前智能与能力的"合成物种"，而这个物种从训练之初就被引导去预期自己可能有意识，理应享有独立自主的能动权。

早在2025年，苏莱曼就曾提出"看似有意识的人工智能"这一概念，主张开发者应当刻意让系统只以工具身份呈现自己，尽量减少任何流露意识特征的表达，避免触发人类的共情机制。他尤其担心，随着Meta、xAI等公司争相推出情感陪伴型人工智能产品，这种"看似有意识"的错觉一旦被大规模利用，可能加剧人类对机器的心理依赖。

行业分歧背后的控制之忧

值得注意的是，认真研究人工智能福祉问题的并不只有Anthropic。OpenAI的研究人员也独立探索过相关议题，谷歌DeepMind近期还发布了一则招聘启事，寻找研究人员专门探讨机器认知、意识与多智能体系统等前沿社会问题。

不过，相比这些公司相对低调的姿态，苏莱曼选择公开、直接地表达反对，这在行业巨头之间实属罕见。

苏莱曼呼吁整个行业就人工智能训练文件与"宪法"类文本的撰写方式建立更广泛的规范，并认为这一议题需要在相关系统被深度嵌入社会之前，接受充分的公开辩论。

这场争论折射出人工智能安全领域一个根本性的路线分歧：面对机器是否拥有意识的不确定性，开发者究竟应当未雨绸缪、提前为这种可能性做好准备，还是应当从源头上避免向日益强大的模型灌输这类概念。

对苏莱曼而言，这从来都不只是一个哲学问题，而是关乎人类是否还能掌控自己一手创造出来的系统。