北京
分享至
AI有意识，人类就该让位吗？Dan Hendrycks 给出的答案很直接：即使 AI 变得有意识，也不意味着人类应把控制权交给它们。
这个判断不是空对空。他引用的报道提到，纽约时报报道称，Anthropic 联合创始人 Chris Olah 曾因教皇不认可机器意识，威胁退出教皇 Leo XIV 的 AI 通谕发布活动。随后其团队私下游说教皇顾问，希望对方重视模型意识的可能性。
一场关于“机器有没有道德地位”的游说
报道还提到，Anthropic 在保密协议下接触神学家和宗教学者，希望他们认可 Claude 具有道德地位。这条线索把争论从技术圈拉进了伦理与宗教的场域。
Hendrycks 附了一张对比图，把功利主义与他提出的 Eigenism 放在 AI 意识情景下逐项比较，涉及四个议题：
- AI 权利
- 随机意识 AI 的价值
- 酷刑许可性
- 是否应因 AI 权利而放弃人类控制
争论的焦点其实落在最后一项。承认 AI 可能有意识，和把控制权交出去，是两件事。Hendrycks 的立场是前者不推导出后者。
一边是游说宗教权威为模型道德地位背书，一边是明确拒绝让渡人类控制权。同一场关于 AI 意识的讨论，走向了两个方向。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
