图灵奖得主Judea Pearl：理解因果的模型才能走向AGI

来源：DeepTech深科技

当前，人工智能领域存在两种不同的推理路径：一类以大型语言模型（LLM）为代表，通过海量文本学习事物之间的统计规律；另一类则基于因果模型，试图让机器进一步理解变量之间的因果关系，区分“相关”与“因果”，并回答“如果主动改变某个因素，结果是否会随之变化”这类问题。

近日，播客栏目The Peterman Pod主持人 Ryan Peterman 推出对 2011 年图灵奖得主 Judea Pearl 的深度访谈。近一个半小时的对话涵盖了 Pearl 的学术经历、贝叶斯网络的诞生、因果推理“三层阶梯”框架，以及他对于当前大模型路线、AGI 发展路径的看法。

图｜Ryan Peterman（左）和 Judea Pearl（右）（来源：Youtube）

作为贝叶斯网络和现代因果推理理论的奠基者，Pearl 曾推动人工智能从早期的符号逻辑系统走向概率推理，为机器处理不确定信息提供了重要理论基础。但如今，这位曾推动 AI 能力跃迁的科学家，却成为当前大语言模型路线最具影响力的批评者之一。

Pearl 对大模型的质疑，核心来自他长期发展的因果推理理论。2019 年，他在Communications of the ACM 上发表文章《The Seven Tools of Causal Inference with Reflections on Machine Learning》，系统阐述了因果推理在机器学习中的重要性。

在这篇文章中，Pearl 提出了著名的“因果阶梯”框架，将智能系统能够处理的问题分为三个层级：第一层是观察，即回答“发生了什么”；第二层是干预，即回答“如果改变某个因素，会发生什么”；第三层则是反事实，即回答“如果当初采取另一种选择，结果是否会不同”。

他认为，当前大多数机器学习系统主要停留在第一层，通过观察数据中的统计规律进行预测，但难以真正理解变量之间的因果关系，也无法可靠回答“如果改变某个条件，结果是否会发生变化”这类问题。这一观点也成为 Pearl 近年来批评纯数据驱动 AI 路线的重要依据。

在访谈中，针对 LLM 是否能够通往 AGI、机器是否需要具备自主探索能力等问题，Pearl 给出了明确判断。他认为，大模型确实能够生成大量看似具有因果逻辑的回答，但其中相当一部分能力来自训练数据中已经存在的人类知识、解释和推理过程，而不是模型自身通过与世界互动建立出的因果理解。

基于这一判断，Pearl 提出了他所设想的“因果 AI”路径：未来智能系统不应只依赖语言模型学习统计规律，而应将其与因果模型结合，使机器既能够从有限数据中提取模式，也能够进行干预推理和反事实模拟。

他以婴儿学习为例指出，人类智能并不是通过阅读大量文本形成的，而是在与真实环境互动、主动探索世界运行规律的过程中逐渐建立起来。因此，如果机器要获得更接近人类的通用智能，仅依靠互联网文本训练可能仍然存在根本性限制，未来的 AI 系统或许需要具备更强的环境交互和自主学习能力。

从棋类博弈到贝叶斯网络：仅靠概率为什么不行

图｜卡尼曼提出的“双系统理论”将人类思维划分为快速、自动化的“系统 1”和缓慢、审慎的“系统 2”。（来源：Linkedin）

LLM 为何看起来懂因果：Pearl 的三层阶梯解释

图｜因果阶梯（来源：Medium）

从人类认知看 AGI：好奇心、控制欲与质疑精神的必要性

如果说因果阶梯讨论的是机器如何从观察关联走向干预和反事实推理，那么

这些教师并不只是传授已有知识，而是按照科学发现的过程展开教学：一个问题为什么出现，科学家当时知道什么、不知道什么，以及他们如何在未知中寻找答案。Pearl 认为，这种教育方式让学生意识到，科学并不是记忆答案，而是参与发现过程。

他回忆，学生当时甚至相信，“我们每个人都可以找到毕达哥拉斯定理的另一个证明，一个从来没有人想过的证明”。Pearl 后来称这种信念为一种“有用的幻觉”。它未必符合现实，但能够鼓励人保持探索和质疑。

这种批判精神也贯穿了他的科研生涯。Pearl 曾表示，科学界和学术界可能是人类创造的最保守、最教条的组织之一，并鼓励学生敢于质疑权威，包括质疑他本人。

基于对人类智能形成过程的理解，Pearl 提出了“因果 AI”的设想。在他的构想中，未来智能系统不应只依靠 LLM 从海量数据中学习统计规律，还需要具备主动探索、建立因果模型，并通过干预验证假设的能力。

不过，赋予机器主动探索能力也带来了新的安全问题。Pearl 在访谈中提出了“机器人婴儿”的思想实验：如果机器拥有持续理解和控制环境的驱动力，而人类本身也是环境的一部分，那么系统是否可能试图影响甚至控制人的行为？

对于 AGI 时间表，Pearl 并未给出具体预测。他认为，当前业界对于 LLM 的能力边界仍未形成共识，对于“意识”等拟人化概念，也需要首先明确其定义，再通过可验证标准判断系统是否真正突破了现有能力限制。

与此同时，Pearl 并不否认 LLM 的价值。他认为，LLM 从有限数据中提取统计规律的能力非常重要，可以成为未来智能系统的一部分。但如果目标是实现更接近人类的通用智能，仅依靠观察和预测仍然不足，机器还需要具备理解因果、主动实验和从环境中学习的能力。

参考资料：

1.https://www.youtube.com/watchv=FleTXB1fAcQ&list=PLmvMm6hsJgCc9VPDgq8SQEFMln_azyKSG&index=8

2.dl.acm.org/doi/pdf/10.1145/3241036

阅读最新前沿科技趋势报告，请访问21世纪关键技术研究院的“未来知识库”

未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。

截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告

（加入未来知识库，全部资料免费阅读和下载）