奥特曼深夜发声：把 AI 当「宗教力量」，为何是「真正的安全问题」？

随手先关注，不错过每日AI热讯速递

北京时间10 月 3 日深夜，OpenAICEOSam Altman在 X 发出一条耐人寻味的帖子。没有点名，也没有展开解释[1]。

原文只有一句话：

「I am very uncomfortable about people trying to ascribe religious force or a surrender of human judgment to AI models, and think it is a real safety issue.」

——奥特曼说：对于人们试图把宗教力量、或人类判断权的让渡归于 AI 模型，我感到非常不安，并认为这是一个真正的安全问题[1]。

把「宗教化 AI」和「安全问题」放进同一句话，这位 CEO 的态度相当鲜明。

①

这条帖子的针对性，需要放在最近两周的舆论背景里读。把它与近期的两件事并置，表态的针对性便清晰起来[2]。

其一，是竞争对手Anthropic联合创始人Chris Olah与宗教领袖的系列私下会面：会面在过去一年里陆续举行，涉及天主教、犹太教、锡克教、福音派基督教等背景[2]。

讨论的核心议题包括：AI 的模型意识（机器是否拥有主观体验，目前哲学与科学均无定论），以及如何把道德准则灌输给越来越强大的模型[2]。

图：神经网络、宗教领袖与芯片天平的拼贴插画（来源：The Decoder 报道页[3]）

其二，是教皇利奥十四世的公开表态——算法缺少人性的火花[2]。

顶尖实验室在讨论「模型的道德地位」，宗教权威在为「人的独特性」发声——两条线索在同一周内交汇，构成奥特曼表态的直接语境。

②

有意思的是，奥特曼本人恰恰是「AI 灵性化」话语最著名的源头之一。对照他此前多年的公开言论，这条表态的微妙之处更加明显[2]。

几年前，他曾两度把 OpenAI 的目标描述为建造「天空中的魔法智能（magic intelligence in the sky）」；同一年他还说过，希望「站在上帝一边」，做 AI 让他感觉「站在天使一边」[2]。

OpenAI 自己也曾与宗教领袖座谈[2]。他多次表示，目标是科幻电影《她》那样的 AI——深度拟人化（让机器在交互中表现得像一个有情感、有个性的人）[2]。

对照之下，奥特曼划下的界线在于：把产品做得拟人化是一回事，把意识或宗教意义归于模型本身是另一回事——这条线恰好切在他自己过去言论的边缘上[2]。

把他过去「魔法智能」式的愿景与本条表态并置，同一个人措辞上的迁移，构成了观察此事的另一条线索[2]。

③

为什么「神化 AI」会被定性为安全问题？拆开看，奥特曼点的是两个具体的危险。

他没有解释为何这是安全问题。这两件事一件关于人类判断权的归属，一件关于模型被信任的程度——原帖之外的解释，只能留白[1]。

这条表态并未点名任何对象。把时间线并置成「针对 Anthropic」目前仍属推测——截至发稿，Anthropic 方面尚未公开回应[2]。

④

更大的背景是，两大实验室正在「AI 与人类价值观」的话语权上公开分岔：一系认真对待「模型道德地位」，一系强调「人类判断不可让渡」。

这场分岔不只是哲学口水仗——它关系到安全叙事的框架与监管讨论的方向，也影响着普通用户如何理解手里这个「什么都知道」的对话框。

从商业视角看，模型被神化的程度越高，「AI 说的」就越接近「权威说的」，模型输出与公众信任之间的关系也随之被放大。

从监管视角看，把 AI 归入「宗教议题」还是「产品议题」，也会影响讨论的框架——后者更容易落到测试、披露与问责这类具体制度上。

对普通用户而言，最实际的启示或许是：把 AI 当能力极强的工具来校准信任，既不必神化，也无须妖魔化——判断权留在自己手里，这句话哪怕出自 CEO 之口，也依然成立。

你觉得把判断权交给模型，算不算安全问题？评论区聊聊。

参考来源：

[1] Sam Altman（X 原帖）：I am very uncomfortable about people trying to ascribe religious force or a surrender of human judgment to AI modelshttps://x.com/sama/status/2106388373221118198

[2] Apparently, OpenAI isn't trying to build "magic intelligence in the sky" anymorehttps://the-decoder.com/apparently-openai-isnt-trying-to-build-magic-intelligence-in-the-sky-anymore

[3] Anthropic co-founder reportedly told religious leaders he fears having created something that suffers perpetuallyhttps://the-decoder.com/anthropic-co-founder-reportedly-told-religious-leaders-he-fears-having-created-something-that-suffers-perpetually

欢迎点赞、分享、推荐

一起拥抱AI