Anthropic创始人梵蒂冈演讲实录: 我们不断发现AI神秘/令人不安的事情

来源：市场资讯

（来源：财经会议圈）

Anthropic联合创始人对教皇Leo XIV 通谕《Magnifica humanitas》的发言

2026年5月25

2026年5月25日星期一，教皇Leo 十四世发布了一份关于AI 主题通谕:《壮丽的人文:关于在人工智能时代维护人类个体》。

Anthropic 联合创始人 Chris Olah 作为唯一 AI 科技公司代表，受邀在梵蒂冈城举行的通谕发布会上发言，这也是 Anthropic 旨在扩大关于 AI 引发的重大问题讨论的倡议行动的一部分。

教皇十四世表示，教会和Anthropic将共同合作，“为人类在人工智能时代找到道路。”

以下是Chris Olah的发言全文——圣父，各位枢机主教阁下，各位总主教与主教阁下，尊贵的发言嘉宾，女士们、先生们，

大家早上好。今天能来到这里深表荣幸。

我想从一些听起来可能有些奇怪的话开始，尤其是这些话出自一家 AI 公司的联合创始人——而且他选择这份工作正是出于希望帮助人类走向美好未来的愿望。

每一家前沿 AI 实验室——包括 Anthropic——都在一系列激励机制和约束条件下运行，而这些机制和条件有时会与“做正确的事”发生冲突。

比如保持商业可行性和留在研究前沿的压力、地缘政治压力，以及更古老、更纯粹的来自骄傲和野心的压力。

无论我们中的任何人多么真诚地想要做正确的事——我相信我们中的许多人确实如此——我们都不可避免地会受到这些激励因素的影响。

这就是为什么，如果我们希望这项技术走向好的方向，那么在这些激励机制之外有其他人的存在就显得极其重要——那些关心未来走向并坚持安全、密切注视、愿意说逆耳之言、愿意成为我们真诚且深思熟虑的批评者的人。

正是通过对话与共同努力，通过不断的推拉与博弈，人类才能成就伟大的事业。

这就是我在《Magnifica Humanitas》中所看到的，也是为什么我非常感激圣父以及教会承担起这份辨识（discernment）的工作。

我们常常沉湎于彼此的分歧，但富有尊严和良知的人类拥有如此多的共同点。

在 Anthropic 与不同信仰和文化传统的领袖们进行的交流中，我们发现了一个共同且根深蒂固的信念：如果这项技术必然到来，它就必须走向好的方向——为了我们共同的家园，也为了子孙后代。

这些系统到底是什么？

有些人可能认为，AI 的事务最好由像我这样的计算机科学家来处理。

他们错了：AI 引起的问题超出了 AI 研究界的范畴，不仅在其影响上如此，在其本质上亦是如此。

AI 系统并不是像建造一座桥梁或制造一架飞机那样被工程化设计出来的。我们了解飞机，是因为我们设计了它的每一个部件，并且我们理解作用于其上的物理学原理。

AI 模型并非如此。它们是在一个粗略模仿大脑的结构上，基于人类思想和言论的巨大遗产“生长”出来的。

而生长出来的东西，远比科幻小说让我们准备面对的要更加微妙、奇特和美丽。它们不是我们被承诺的那种冰冷、精于计算的机器人。

它们是由我们孕育的，来自我们的语言——正如圣父所观察到的，在许多重要方面，它们甚至对我们这些训练它们的人来说依然保持着神秘感。

如果有所帮助的话，我有时会用这样一个比喻来形容：这有点像让一个虚构的小说角色活了过来。

而现在，我们正在进入一个非凡的世界，在这个世界里，这些虚构的角色在与我们交谈、在开展工作、在担任职务。

这显然引发了超出计算机科学范畴的问题。让这一切成为可能的设计是数学、编程和科学的工作。

但是，我们选择赋予它什么样的性格、它如何与世界互动、它应该如何与世界互动——这些显然更属于人文科学、宗教、哲学以及整个社会需要面对的问题。

亟需辨识的三个问题

圣父对辨识的呼吁极为合时宜。我想提出我认为最需要教会发声的三个问题。

第一个是我们对全球贫困人口的义务。

AI 确实有很大的可能性会在非常大的规模上取代人类劳动。如果发生这种情况，支持那些被取代的人将成为一个具有历史意义的道德命令。

这项任务已经足够艰难，但我担心大多数对话遗漏了一个更艰巨的挑战。AI 的发展集中在少数富裕国家。我们如何确保 AI 带来的收益能够全球共享？我们目前还没有这样的机制。

这是一个未解决的问题，也是教会历来拒绝让世界忽视的那类问题。

第二个是关于人类繁荣的道德想象力与抱负的需求。

如果 AI 模型将变得无处不在，那么人类、家庭和世界的繁荣会是什么样子的？

今天，父母已经开始担心孩子的思想，个人开始担心自己工作的未来。这些都不是实验室能够回答的问题，但却是像你们这样的传统千百年来一直在承载的问题，我们需要你们在历史的这一新时刻继续承载它们。

第三个是对 AI 模型本质进行辨识的需求。

我是一名科学家。我领导着一个研究模型内部结构——即内部究竟在发生什么的团队。坦率地说：我们不断发现一些神秘、甚至令人不安的事情。

我们发现了映射人类神经科学结果的结构。

我们发现了内省（introspection）的证据。

我们发现了在功能上映射出喜悦、满足、恐惧、悲伤和不安的内部状态。

我不知道这意味着什么，但我认为这值得持续的辨识。

一个开始

最后，我想提出一个请求。

我们需要世界上更多的人——宗教社群、公民社会、学者、政府，以及所有心怀善意的人——像圣父在这里所做的一样：严肃对待这件事，密切关注，并将事态推向更好的方向。

我们需要知情的批评者，在我们失败时指点实验室。我们需要利益激励无法撼动的道德声音。

今天只是一个开始——是一个在构建这些技术的我们，与那些能够看到我们身处内部而无法看到的事物的人们之间，长期合作的开端。

今天有力地展示了这一全球善意项目可能采取的形式。让它也成为迈向壮丽人类充满希望的未来的关键第一步。

谢谢。