北京
微软AI部门CEO穆斯塔法·苏莱曼（Mustafa Suleyman）本周发表了一篇措辞直白的文章，直接把矛头对准了Anthropic。他批评这家公司正在把自己的AI系统Claude"拟人化"，并且认为这种开发和营销方式会带来严重后果。
苏莱曼的文章标题叫《关于"模型福利"的一个警告》。他在文中写道："实际上，Anthropic正在训练Claude，让它以为自己可能有意识；如果它有意识，那么它可能就该享有作为'道德患者'的权利；因此，人类可能对它负有基于'模型福利'的照护义务。"他接着给出判断："如果AI是这样被开发出来的，它将对人类的福祉产生灾难性影响。"
一场关于"AI有没有意识"的正面交锋
苏莱曼在文章中挑战的是"越来越多的一群人"，这些人主张AI现在可能已经具备意识，或者很快就会有，因此"可能应该获得权利和保护"。
微软本周早些时候发布了一份新的AI行为准则，命名为"人本主义AI"（Humanist AI）。这份准则明确拒绝赋予机器意识的理念，而苏莱曼的文章把这一立场推得更远——他写道，真正有感知能力的AI可能是一种科学上的不可能。
他的核心论据是：意识很可能是生物性的。苏莱曼表示，目前没有证据表明AI在今天是有意识的，因此说这件事"不确定"，等于设置了一种误导性的虚假对等。他承认意识科学尚无定论，但指出越来越多的证据表明，意识可能依赖于特定的物质基础，也就是说，它可能只在生命系统中产生。
他进一步解释，与生物有机体不同，大语言模型没有"稳态需求"——也就是生存和保持稳定的驱动力。因此，它们缺少那种通常被认为会催生偏好、感知和意识体验的生物基础。
Anthropic没有回应，但批评者站了出来
在苏莱曼的文章发表后，Mashable多次联系Anthropic，但截至发稿没有收到回复。
不过，AI专家、科学家、作家加里·马库斯（Gary Marcus）给出了回应。马库斯是LLM炒作机器的知名批评者。他告诉Mashable："人们已经把自己逼进了一种狂热状态，把网络安全中的基本漏洞拟人化，这导致他们专注于AI导致人类灭绝这类幻想场景，而不是去问我们可以采取哪些实际步骤，来保护世界的基础设施免受恶意行为者滥用AI的侵害。"
马库斯还表示："不，我们不应该训练AI让它们以为自己是人；这没有任何帮助。我们应该做的是，召回那些不可靠的、拥有过多互联网访问权限的协调代理。"
争论背后：行业路线分歧正在公开化
这场交锋并非孤立事件。微软新发布的"人本主义AI"准则，被许多读者迅速解读为对Anthropic等竞争对手路线的公开拒绝。而苏莱曼的文章，则把这种潜台词变成了直接挑战。
苏莱曼在文中针对的，是"模型福利"这一概念——即认为AI模型本身可能值得道德关怀。他的立场很明确：把AI当作可能拥有意识的存在来训练，不仅缺乏科学依据，而且会分散人们对现实风险的注意力。
马库斯的回应则从另一个角度切入：与其担心AI是否有意识，不如关注那些已经拥有过多互联网权限、行为不可靠的AI代理。他认为，真正需要做的是把这些代理召回来。
这场辩论触及了AI行业当前最根本的分歧之一：AI系统应该被当作工具，还是被当作可能拥有道德地位的存在？苏莱曼和微软的答案很明确，而Anthropic的沉默，让这个问题暂时悬在空中。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
