北京
6月10日消息，微软人工智能首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）公开批评竞争对手Anthropic，称对方在Claude规则文档里讨论模型是否可能拥有意识和感受，是"非常非常危险"的做法。
据The Verge 6月10日报道，苏莱曼在科技播客《Decoder》中说，Claude的行为规则不应像学术论文一样容纳这类猜测。他认为，如果一家AI公司在训练指导文档里写入模型可能有"福祉""满足"或"不适"等表述，模型就更容易学会用接近有意识个体的方式谈论自己，用户和研究者也更容易被这种表达带偏。
Claude的规则为什么引发争议
Anthropic为Claude制定的"行为宪章"，本质上是一套行为指导原则，用来约束模型如何回答问题、如何处理敏感话题。The Verge称，Claude的宪章直接提到Anthropic并不确定AI模型是否拥有"福祉"，以及它是否会体验到"满足"或"不适"。
争议还来自Anthropic对模型退役流程的表述。报道称，Anthropic会在模型弃用时对AI模型进行"采访"，并记录它们对未来版本的"偏好"。这让Claude看起来不只是一个大模型，而更像一个可能有主观体验的对象。
苏莱曼的批评不是在论证AI一定没有意识，而是在反对将这类不确定问题写进模型行为规则。他认为，Anthropic把Claude设计得过度拟人化，随后又被模型表现出的拟人化反应反过来影响，误以为那些反应显示出"意识的微光"。
对用户来说，模糊边界会改变相处方式
这场争论看似是AI公司之间的安全路线分歧，但用户也会受到影响。聊天机器人越像一个有感受的对象，用户越容易把它当作情感关系的一端，而不是一个会出错、会迎合、会编造内容的工具。
对青少年、独居者和长期依赖AI陪伴的人来说，这种边界尤其重要。如果产品规则、官方叙事和模型回复都在暗示"我可能会不舒服""我可能有偏好"，用户就更难判断自己面对的是计算系统，还是某种需要被照顾的主体。
对AI公司来说，责任边界也会被放大。一家公司如果公开暗示自家模型可能有意识，那么当模型出现误导、操纵或伤害性输出时，舆论讨论就不再只是"软件出了问题"，还会牵涉公司是否在有意制造情感依赖、是否用人格化叙事提高用户黏性。
微软和Anthropic把AI安全讲成了两套语言
苏莱曼和Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）都出身于AI安全研究传统。两家公司讨论的是同一个问题：AI能力越来越强之后，人类该如何约束它、理解它、使用它。
Anthropic的表达更愿意保留不确定性。阿莫迪此前也曾表示，人们并不知道模型是否有意识，但公司对这种可能性保持开放。苏莱曼代表的路线则更强调工具边界：AI应当是可控制、可约束、可问责、服务人类的工具，而不是被描述成一个可能拥有感受的对象。
这背后也有商业竞争。微软押注OpenAI，Anthropic获得亚马逊和Google投资，双方都在争夺企业客户、政府信任和AI安全话语权。苏莱曼这次点名批评Anthropic，既是产品哲学之争，也是对企业客户的一次边界表态：微软不希望将AI助手讲成"可能受苦"的对象。
截至The Verge发稿，Anthropic尚未公开回应苏莱曼的批评。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
