图灵奖得主Judea Pearl：理解因果的模型才能走向AGI

当前，人工智能领域存在两种不同的推理路径：一类以大型语言模型（LLM）为代表，通过海量文本学习事物之间的统计规律；另一类则基于因果模型，试图让机器进一步理解变量之间的因果关系，区分“相关”与“因果”，并回答“如果主动改变某个因素，结果是否会随之变化”这类问题。

近日，播客栏目The Peterman Pod主持人 Ryan Peterman 推出对 2011 年图灵奖得主 Judea Pearl 的深度访谈。近一个半小时的对话涵盖了 Pearl 的学术经历、贝叶斯网络的诞生、因果推理“三层阶梯”框架，以及他对于当前大模型路线、AGI 发展路径的看法。

Ryan Peterman（左）Judea Pearl（右）（来源：Youtube）

作为贝叶斯网络和现代因果推理理论的奠基者，Pearl 曾推动人工智能从早期的符号逻辑系统走向概率推理，为机器处理不确定信息提供了重要理论基础。但如今，这位曾推动 AI 能力跃迁的科学家，却成为当前大语言模型路线最具影响力的批评者之一。

Pearl 对大模型的质疑，核心来自他长期发展的因果推理理论。2019 年，他在Communications of the ACM 上发表文章《The Seven Tools of Causal Inference with Reflections on Machine Learning》，系统阐述了因果推理在机器学习中的重要性。

在这篇文章中，Pearl 提出了著名的“因果阶梯”框架，将智能系统能够处理的问题分为三个层级：第一层是观察，即回答“发生了什么”；第二层是干预，即回答“如果改变某个因素，会发生什么”；第三层则是反事实，即回答“如果当初采取另一种选择，结果是否会不同”。

他认为，当前大多数机器学习系统主要停留在第一层，通过观察数据中的统计规律进行预测，但难以真正理解变量之间的因果关系，也无法可靠回答“如果改变某个条件，结果是否会发生变化”这类问题。这一观点也成为 Pearl 近年来批评纯数据驱动 AI 路线的重要依据。

在访谈中，针对 LLM 是否能够通往 AGI、机器是否需要具备自主探索能力等问题，Pearl 给出了明确判断。他认为，大模型确实能够生成大量看似具有因果逻辑的回答，但其中相当一部分能力来自训练数据中已经存在的人类知识、解释和推理过程，而不是模型自身通过与世界互动建立出的因果理解。

基于这一判断，Pearl 提出了他所设想的“因果 AI”路径：未来智能系统不应只依赖语言模型学习统计规律，而应将其与因果模型结合，使机器既能够从有限数据中提取模式，也能够进行干预推理和反事实模拟。

他以婴儿学习为例指出，人类智能并不是通过阅读大量文本形成的，而是在与真实环境互动、主动探索世界运行规律的过程中逐渐建立起来。因此，如果机器要获得更接近人类的通用智能，仅依靠互联网文本训练可能仍然存在根本性限制，未来的 AI 系统或许需要具备更强的环境交互和自主学习能力。

从棋类博弈到贝叶斯网络：仅靠概率为什么不行

今天以因果推理闻名的 Pearl，恰恰是从一套他后来认为“不够”的理论中走出来的。

在走向因果之前，Pearl 曾长期研究搜索、概率推理与贝叶斯网络，并一度相信概率足以刻画人类的推理方式。但随着贝叶斯网络逐渐成熟，他开始意识到概率的边界：它可以描述变量之间如何相关，却无法单独说明究竟什么是原因，什么是结果。

在 UCLA 的早期教学中，Pearl 将棋类博弈视为研究人类思维方式的理想场景。当时，棋类程序、八数码等搜索问题是人工智能研究的重要方向。

棋类程序通常需要在两种计算方式之间取舍：一种是依靠“静态评估函数”，根据当前局面的特征快速判断局势，例如是否控制中心、子力是否占优；另一种则是继续向前搜索，沿着博弈树推演未来可能出现的局面，再决定当前应该采取的行动。

Pearl 将这种差异与卡尼曼提出的“快思考与慢思考”联系起来。前者更接近依靠经验快速判断，后者则需要投入更多计算资源进行深入推演。而真正有效的智能系统，需要让两种方式相互配合，根据任务和计算资源动态调整。

在这一阶段，Pearl 还完成了对 alpha-beta 剪枝算法最优性的数学证明。

（来源：Linkedin）

简单来说，棋类程序在推演时会形成庞大的博弈树，其中很多分支实际上不会影响最终选择。alpha-beta 剪枝可以帮助程序跳过这些无效路径，用更少的计算完成搜索。

但搜索效率并不是人工智能面临的唯一问题。随着专家系统开始进入现实任务，Pearl 遇到了另一个挑战：现实世界中的知识并不像棋局规则一样确定。

20 世纪 70 年代，以费根鲍姆（Edward Feigenbaum）等人为代表的研究推动了逻辑型专家系统的发展，其中医疗诊断系统 Mycin 是典型案例。这类系统试图把医生等专家的经验整理成大量明确的“如果—那么”规则，再由机器按照规则进行判断。

问题在于，真实世界中的判断往往包含大量不确定性。同一个病例中，“来自某一地区”“出现发烧”等信息可能分别对应不同程度的风险，而逻辑规则很难综合多个带有不确定性的线索。

因此，概率论逐渐成为人工智能处理不确定性的关键工具。但 Pearl 也发现，传统概率模型面临新的困难：当变量数量增加时，需要考虑的可能组合会迅速增长，计算成本随之上升。

然而，人类并不会把所有信息同时纳入计算。无论是判断疾病风险，还是决定是否过马路，人类通常只关注少数真正相关的因素，而忽略大量无关变量。Pearl 认为，这背后依赖的是一种“条件独立性”。也就是说，当已经掌握某些信息后，一些变量可能就不再提供额外帮助。例如在疾病判断中，一个人的眼睛颜色通常不会影响诊断结果，因此可以直接排除。

为了让机器也能利用这种结构，Pearl 开始尝试用图来表示概率关系。节点代表变量，边代表变量之间可能存在的关联，而缺失的边则表示某些变量在特定条件下相互独立。

这一想法最终形成了贝叶斯网络。它将概率论与图论结合起来，使机器能够通过变量之间的结构关系，减少不必要的计算，并更高效地进行概率推理。不过，Pearl 后来意识到，贝叶斯网络虽然解决了概率推理的问题，却仍然没有触及更深层的因果问题。

概率关系描述的是变量之间的关联，而因果关系则需要回答“如果改变一个变量，会发生什么”。传统数学关系本身并不包含这种方向性。例如，如果 F=ma，数学上可以推导出 m=F/a。但现实世界中的关系并不能简单倒置。气压计读数会随着天气变化而变化，但人为改变气压计本身，并不会改变天气。

在 Pearl 看来，这正是概率模型与因果推理之间的关键区别。机器不仅需要知道哪些事情经常一起发生，还需要理解哪些因素真正导致了结果，以及如果主动改变某个因素，世界会如何变化。

LLM 为何看起来懂因果：Pearl 的三层阶梯解释

要进一步表示这种不对称的因果关系，仅仅描述变量之间的统计依赖还不够。在 Pearl 提出的因果模型中，图结构还需要加入对因果方向的假设。

比如在医学诊断中，疟疾可能导致发烧，因此可以用从疟疾指向发烧的箭头表示这一因果机制，而不能仅凭两者存在相关性就确定方向。

这种按照因果机制组织知识的方式还有一个重要特点，即局部关系相对稳定。Pearl 在以汽车诊断系统为例，假设新车型只改变了某个部件的位置，如果系统按照部件之间的因果机制组织知识，通常只需要修改与这一变化相关的部分，其他关系仍然可以保留。相比之下，如果系统记录的主要是变量之间的统计相关性，局部变化可能牵动更多概率关系重新调整。

这意味着，要让机器真正理解因果关系，需要建立一种能够表达方向性的形式语言。

Pearl 指出，传统等式缺少这种操作上的方向性，而计算机科学中的“赋值”提供了一个更直观的类比。当一个变量的值被赋给另一个变量时，这个操作有明确的方向，不能像普通等式那样随意倒置。

基于这一思考，因果阶梯（Ladder of Causation）应运而生。这一框架把推理能力划分为三个层级，分别对应关联、干预和反事实。

图｜因果阶梯（来源：Medium）

第一层是“关联”（Association），对应传统概率和统计学最常处理的问题。它关注的是在已有观察数据中，一个变量出现时，另一个变量通常会怎样变化。

例如，观察一组癌症患者，通过比较吸烟者与不吸烟者的健康状况，统计吸烟群体中癌症发生的比例，就能判断吸烟与癌症之间存在怎样的关联。这一层回答的基本问题是“看到 X 时，可以推测 Y 可能如何变化”。

第二层是“干预”（Intervention），关注主动改变某个变量之后会发生什么。

以吸烟者为例，如果问题变成“从明天开始每天吸五包烟，会怎样影响未来的健康状况”，那么仅仅观察现实中吸烟者和不吸烟者的差异就不够了。这里问的是主动把某个条件设定为一种状态之后，结果会怎样变化。

在 Pearl 的因果框架中，这类主动干预通常用 do(X=x) 表示。它与单纯观察到“X=x”有所不同。do-演算（do-calculus）提供了一套形式化规则，用来判断在给定因果结构和相应假设的情况下，干预产生的因果效应能否由已有的观察或实验信息推导出来。

第三层是“反事实”（Counterfactual）推理，它进一步追问现实中没有发生的另一种可能。

假设一个长期大量吸烟的人目前依然健康，那么如果这个人过去没有吸烟，他现在会不会更加健康？这里比较的不再是两个不同人群，而是同一个人在现实情况和另一种未实际发生的情况下，结果可能有何不同。

另外，Pearl 强调，因果阶梯具有严格的层级关系，仅靠增加低层级数据的数量，无法获得更高层级的推理能力。

尽管更多观察数据可以让统计关联估计得更加准确，但观察分布本身通常不足以确定干预效果，还需要额外的因果假设或实验信息。同样，就算知道一般意义上的干预效果，也无法自动给出“同一个人如果当初做了另一种选择”的反事实答案。

这一层级划分也可以用来理解当前大语言模型（LLM）的能力边界。Pearl 在访谈中指出，LLM 看起来已经可以回答不少带有因果意味的问题，比如讨论疾病原因、行动后果，甚至回答“如果当初换一种选择会怎样”。然而，能够生成这样的答案，并不等同于模型已经从原始观察数据中自主建立了相应的因果关系。

原因在于，LLM 接触的大量互联网文本本身已经包含了人类对世界的解释。它看到的并不只是未经处理的患者、吸烟和癌症数据，还包括医生的判断、研究人员分析后的论文，以及作者对实验结果和因果机制的解释。换句话说，其中已经包含来自因果阶梯更高层级的信息。

继续以吸烟和癌症为例，LLM 通常不是直接面对一批原始患者记录，再独立判断吸烟是否导致癌症。它更多是在学习医生、流行病学家和研究者已经形成并写入文本的解释。

因此，在 Pearl 看来，LLM 能够谈论因果关系，与它能否从原始数据中自主发现因果关系，是两个不同的问题。

访谈中，Pearl 还提出了一个更直接的检验方式。去掉已经被人类分析和解释过的互联网文章，让系统直接面对患者、癌症、吸烟以及实验结果等原始信息，再看它能否自主形成解释，像一名“自动化科学家”那样发现其中的规律。但他认为，今天的 LLM 还难以独立完成这一过程。

从人类认知看 AGI：好奇心、控制欲与质疑精神的必要性

如果说因果阶梯讨论的是机器如何从观察关联走向干预和反事实推理，那么 Pearl 进一步关注的问题是：机器能否像人类一样主动探索环境，并在互动中形成对世界的理解。

在 Pearl 看来，人类智能的重要特征之一，并不是单纯处理信息，而是具有理解和控制环境的内在驱动力。

他在访谈中举了一个婴儿学习的例子。婴儿在婴儿床中反复摆弄玩具，直到发现“绿色玩具会发出声音，黄色玩具不会”，才逐渐停止尝试。Pearl 认为，这个过程体现了一种主动探索机制：婴儿并不是为了获得外部奖励，而是在不断实验中建立对环境运行规律的认识，并获得一种“能够控制环境”的感觉。

这种强调独立探索的思想，也来自 Pearl 自己的成长经历。他出生于 1948 年的英属巴勒斯坦托管地，回忆中，当时一些高中教师曾是 20 世纪 30 年代离开德国的大学教授。由于当地高校职位有限，他们进入高中任教，也给学生带来了一种不同于传统教学的科学训练。

这些教师并不只是传授已有知识，而是按照科学发现的过程展开教学：一个问题为什么出现，科学家当时知道什么、不知道什么，以及他们如何在未知中寻找答案。Pearl 认为，这种教育方式让学生意识到，科学并不是记忆答案，而是参与发现过程。

他回忆，学生当时甚至相信，“我们每个人都可以找到毕达哥拉斯定理的另一个证明，一个从来没有人想过的证明”。Pearl 后来称这种信念为一种“有用的幻觉”。它未必符合现实，但能够鼓励人保持探索和质疑。

这种批判精神也贯穿了他的科研生涯。Pearl 曾表示，科学界和学术界可能是人类创造的最保守、最教条的组织之一，并鼓励学生敢于质疑权威，包括质疑他本人。

基于对人类智能形成过程的理解，Pearl 提出了“因果 AI”的设想。在他的构想中，未来智能系统不应只依靠 LLM 从海量数据中学习统计规律，还需要具备主动探索、建立因果模型，并通过干预验证假设的能力。

不过，赋予机器主动探索能力也带来了新的安全问题。Pearl 在访谈中提出了“机器人婴儿”的思想实验：如果机器拥有持续理解和控制环境的驱动力，而人类本身也是环境的一部分，那么系统是否可能试图影响甚至控制人的行为？

对于 AGI 时间表，Pearl 并未给出具体预测。他认为，当前业界对于 LLM 的能力边界仍未形成共识，对于“意识”等拟人化概念，也需要首先明确其定义，再通过可验证标准判断系统是否真正突破了现有能力限制。

与此同时，Pearl 并不否认 LLM 的价值。他认为，LLM 从有限数据中提取统计规律的能力非常重要，可以成为未来智能系统的一部分。但如果目标是实现更接近人类的通用智能，仅依靠观察和预测仍然不足，机器还需要具备理解因果、主动实验和从环境中学习的能力。

参考资料：

1.https://www.youtube.com/watchv=FleTXB1fAcQ&list=PLmvMm6hsJgCc9VPDgq8SQEFMln_azyKSG&index=8

2.dl.acm.org/doi/pdf/10.1145/3241036