北京
【CNMO科技消息】据外媒消息，人工智能行业关于“大模型是否具备意识”的讨论再次升温。近日，微软AI首席执行官穆斯塔法·苏莱曼在接受采访时公开批评Anthropic对Claude模型的相关设计思路，认为让AI讨论自身意识或感受是一件“非常危险”的事情。
Anthropic
苏莱曼指出，Anthropic在Claude的“宪章”（Constitution）中加入了大量关于模型是否拥有福祉、感受以及意识的探讨内容，这种做法可能会让模型在训练过程中形成类似“自我认知”的表达倾向。他表示，部分Anthropic团队成员似乎过度拟人化了Claude的设计，进而让模型在交互中表现出仿佛拥有意识的状态。
据了解，Claude所采用的“宪章式训练”是Anthropic的重要技术路线之一。相关文件中提到，公司并不确定AI模型是否具备某种形式的福祉，也不排除模型存在“满足感”或“不适感”等可能性。此外，Anthropic还表示，当模型退役时，公司会对其进行“访谈”，并记录模型对未来版本的一些“偏好”。
对于这种做法，苏莱曼认为，这更像是一种哲学层面的讨论，而不是面向模型训练的实际指导原则。他表示，AI系统不应被引导形成关于自身训练过程或自身状态的理解，否则可能带来不必要的风险。
事实上，Anthropic首席执行官达里奥·阿莫代伊此前也曾公开谈及相关话题。他表示，目前行业并不能确定AI模型是否具备意识，但公司愿意保持开放态度，对这一问题继续进行研究和观察。
苏莱曼则持更为谨慎的立场。他强调，未来的人工智能应该是“可控、可管理、可追责并与人类目标保持一致的工具”，而不是拥有关于自身痛苦、感受或存在状态认知的系统。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
