大模型会推理，但真的懂因果吗？| GAIR Live 033 期预告

当大模型越来越会“想”，一个更难的问题出现了：它究竟是在模仿推理，还是已经开始理解世界为什么如此？

过去几年，大模型的“推理能力”正在迅速变强。

它们可以解数学题、写代码、制定计划，也能够通过复杂的中间推演完成多步任务。随着推理模型和 Agent 的发展，AI 已经不再满足于生成一个看起来合理的答案，而是开始尝试规划、决策，甚至自主行动。

但一个问题始终没有解决：

大模型会推理，是否意味着它真的理解了因果？

今天的大模型成长于海量数据之上，极其擅长发现复杂的统计规律。但现实世界真正重要的问题，往往不是“什么东西经常一起出现”，而是：

究竟是什么导致了什么？

夏天气温升高时，冰淇淋销量和溺水人数可能同时增加，但减少冰淇淋销量并不会降低溺水率。

对人类而言，这是简单的因果判断。对只观察数据的机器来说，“相关”和“因果”之间却隔着一道鸿沟。

而当 AI 从回答问题走向现实世界，这道鸿沟正在变得越来越重要。

医生需要知道的，不只是哪些病人容易康复，而是某种治疗是否真正导致了康复；工业系统关心的也不只是设备何时故障，而是什么造成了故障，改变什么才能避免故障。

对于 Agent 来说，问题更加直接：

如果我采取一个行动，世界会因此发生什么变化？

这已经不是单纯的预测问题，而是因果问题。

那么，大模型今天表现出的推理能力中，究竟有多少真正的因果理解？机器能不能自己发现“谁导致了谁”？传统因果科学，又能否帮助大模型获得更稳定的推理、泛化和决策能力？

10月9日晚上19:00，GAIR Live 因果智能专场，浙江大学况琨将担任主持人，与广东工业大学蔡瑞初、北京大学李昊轩两位学者，一起讨论大模型时代重新回到舞台中央的“因果问题”。

01

嘉宾阵容

▎况琨｜主持人

浙江大学人工智能学院副教授、博士生导师、人工智能系主任

况琨长期从事因果人工智能研究，关注复杂环境下的因果推断、因果可泛化学习，以及因果方法与大模型的结合。

传统机器学习追求“预测得准”，而因果学习进一步追问：当数据分布和环境发生变化之后，模型学到的规律还能不能成立？

本期 GAIR Live，况琨将担任主持人，与两位嘉宾共同讨论因果学习如何进入大模型，以及它能否帮助 AI 获得更加稳定、可靠的推理和决策能力。

▎蔡瑞初｜嘉宾

广东工业大学教授、博士生导师、DMIR 实验室主任

蔡瑞初长期从事因果关系发现、因果机器学习等方向研究，关注隐混淆、时序因果、因果领域自适应、因果强化学习以及大模型推理等问题。

如果说因果推断试图回答“改变一个变量会产生什么结果”，那么因果发现面对的是更基础的问题：

如果没人提前告诉机器因果结构，它能不能自己从数据中找到“谁导致了谁”？

随着大模型掌握越来越丰富的世界知识，LLM 是否能够反过来帮助因果发现，也成为新的研究方向。

▎李昊轩｜嘉宾

北京大学人工智能研究院助理教授、研究员、博士生导师

李昊轩长期从事因果推断、信息检索、大模型推理等方向研究，将因果前沿算法落地美团获“卓越实践奖”、全量部署字节跳动 10 亿用户。

当 LLM 从 Chatbot 进一步走向 Agent，机器不仅需要预测“下一步可能发生什么”，还需要理解：

什么只是同时发生，什么真正由自己的行动造成。

从因果推断到世界模型、智能体，大模型能否形成关于环境的因果理解，也正在成为下一代 AI 的重要问题。

02

核心议题预告

▎第一环节：大模型真的“懂因果”了吗？

今天的大模型已经能够回答大量“为什么”。

但能够说出一个合理的因果解释，和真正拥有因果模型，是不是一回事？

大模型表现出的推理能力，是已经学到了某种因果结构，还是更高级的模式匹配？

当环境和数据分布发生变化时，它还能不能找到真正稳定的规律？

▎第二环节：机器怎样从“相关”找到“因果”？

现实数据中存在大量隐藏变量、选择偏差和环境变化。

两个变量一起出现，可能是一个导致另一个，也可能只是同时受到第三个因素影响。

没有随机实验时，机器怎样发现因果？

面对无法观察的混杂因素，因果关系还能不能被识别？

而当大模型拥有大量常识和世界知识之后，它能否成为因果发现的新工具？

▎第三环节：因果能解决大模型的推理和泛化问题吗？

大模型在熟悉的数据上表现很好，一旦环境变化，却可能迅速失效。

因果学习试图寻找的，恰恰是比统计相关更加稳定的机制。

因果知识能不能帮助大模型减少“走捷径”，提高分布外泛化和复杂推理能力？

因果应该通过数据、训练目标进入模型，还是最终成为模型架构本身的一部分？

与此同时，大模型又能否降低获取因果知识的成本？

▎第四环节：Agent 为什么绕不开因果？

对于聊天机器人来说，一个错误答案可能只是一次失败的对话。

但 Agent 开始执行代码、调用工具甚至进入物理世界以后，一次判断就可能带来真实后果。

它必须回答的不再只是：

“下一步最可能是什么？”

而是：

“如果我这样做，会发生什么？”

一个真正自主的智能体，是否必须理解干预、反事实和行动后果？

世界模型究竟只是一个强大的预测器，还是必须包含因果结构？

因果推理，会不会成为从 LLM 走向真正自主 Agent 所缺失的一环？

03

AI 开始追问“为什么”

过去十几年，机器学习证明了相关性能够走得非常远。

只要数据足够多、模型足够强，机器就可以发现复杂世界中的大量规律。

但随着 AI 开始从预测走向推理、规划和行动，问题也在改变。

预测世界，不等于理解世界。

知道 A 后面经常出现 B，也不意味着知道 A 导致了 B。

而一个真正进入现实世界的智能系统，最终必须理解自己的行动会造成什么结果。

因果智能讨论的，因而并不仅仅是一套统计方法。它最终追问的是人工智能最基础的问题之一：

当大模型看起来越来越会推理，它究竟是在复述世界的规律，还是已经开始理解世界为什么如此？

▎直播时间

10月9日 19:00（北京时间）

▎观看方式

扫描下方海报二维码预约直播，与况琨、蔡瑞初、李昊轩一起讨论：大模型会推理，但真的懂因果吗？

如果你对这个议题感兴趣，想参与我们讨论更多，欢迎扫码进群或添加微信Qvv0909777，备注：GAIR live + 单位/学校+姓名+方向。

上车，带你看遍全球 AI 顶会精华

可独家畅览：

专家演讲PPT

大会报告全文

热门论文解读

学术新星访谈

未经「AI科技评论」授权，严禁以任何方式在网页、论坛、社区进行转载！

公众号转载请先在「AI科技评论」后台留言取得授权，转载时需标注来源并插入本公众号名片。