北京
Dan Hendrycks 发文给出一个明确判断：即使 AI 变得有意识，也不意味着人类应把控制权交给它们。这句话针对的是一场正在发生的游说。
他引用的报道提到，纽约时报报道称，Anthropic 联合创始人 Chris Olah 曾因教皇不认可机器意识，威胁退出教皇 Leo XIV 的 AI 通谕发布活动。随后其团队私下游说教皇顾问，希望对方重视模型意识的可能性。
保密协议下的接触
报道还提到，Anthropic 在保密协议下接触神学家和宗教学者，希望他们认可 Claude 具有道德地位。这条路径绕开了技术论证，直接进入道德与宗教话语。
Hendrycks 的回应落在同一个问题上：意识与权利、权利与控制权，是不是同一件事。
两套框架的分歧
他附图对比了功利主义与自己提出的 Eigenism，在 AI 意识情景下的差异。对比项包括四项：
- AI 权利
- 随机意识 AI 的价值
- 酷刑许可性
- 是否应因 AI 权利而放弃人类控制
分歧的核心在最后一项。承认 AI 有意识，和把控制权交出去，在 Hendrycks 的框架里是两件事。功利主义与 Eigenism 对前几项的处理不同，但真正被摆上台面的是控制权归属。
这场争论的参与者一边是模型公司，一边是神学家和宗教学者，议题却是人类要不要放手。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
