大模型在想什么？因果学习与模型可解释性入门丨面向复杂系统的人工智能第十一讲

导语

集智俱乐部、集智学园创始人，北京师范大学张江教授开设了，致力于打破学科壁垒，将复杂系统与人工智能深度融合。从神经网络到因果推断，从世界模型到多尺度建模，甚至包含最前沿的“氛围编程（Vibe Coding）”实战，带你亲手落地AI项目。

作为系列课程的第十一讲，张江教授将以「因果学习与模型可解释性」为题，在因果学习部分，教你用算法从数据中自动还原因果图，并从高维观测中提取因果变量；在可解释性部分，解剖大模型，追踪内部信息流，甚至可以用数学方法植入或抹除它的某个特定想法。正式分享将于5月25日（周一）13:30-16:15腾讯会议线上直播，北师大海淀区线下授课（助教可协助入校）。

课程简介

Anthropic 分析 Claude 内部推理时使用的电路追踪框架，可以溯源到本节课程讲解的内容：因果学习与模型可解释性。

课程分两部分推进。第一部分建立因果机器学习理论基础：从Pearl因果层级（关联→干预→反事实）与结构因果模型（SCM）出发，引入独立因果机制原则和稀疏机制偏移假设，推导PC算法从条件独立性测试中恢复因果图的完整流程；进而讲解因果表征学习，涵盖线性ICA可辨识性理论、时间对比学习（TCL）对非线性ICA的突破、以及iVAE将可辨识性引入变分自编码器；最后以不变因果预测（ICP）与稳定学习作为落地应用。第二部分聚焦大语言模型可解释性：从Transformer电路框架出发，介绍电路追踪与归因图；再到表示工程；最后覆盖SelfIE与Patchscopes等自解释框架。

学完本节内容，你可以独立运行PC算法、理解ICA类因果表征方法的可辨识性条件，并掌握用LAT干预语言模型内部状态的实操路径。

课程大纲

1. Causal Learning

   1. Causal Machine Learning: Background and Principles

   2. Causal Discovery

   3. Causal Representation Learning

2. Model Interpretability

关键术语

• 结构因果模型（SCM）：将数据生成过程形式化为带外生噪声的方程组，支持干预与反事实推理

• d-分离：DAG中判断两变量在给定条件集下条件独立的图形化准则

• Markov等价类：产生相同条件独立关系的一组DAG，PC算法仅能恢复到此级别

• 独立因果机制（ICM）原则：不同因果变量的生成机制相互独立，局部干预不影响其余机制

• 时间对比学习（TCL）：利用时间分段信息解决非线性ICA可辨识性问题的方法

• iVAE：通过辅助观测变量（如时间或领域标签）使VAE潜变量满足可辨识性条件

• 残差流：Transformer中信息在各层间传递的主干，所有组件以并行加法读写同一向量

• 表示工程（RepE）：通过读取和控制模型内部表示空间来干预模型行为，无需修改权重

• 线性人工层析成像（LAT）：对比正负刺激激活差异提取概念方向向量，用于行为监控与控制

课程信息

课程主题：因果学习与模型可解释性

课程时间：2026年5月25日（周一） 13:30-16:15

课程形式：腾讯会议（会议信息见群内通知）/北师大海淀区线下授课（助教可协助入校）；集智学园网站录播（3个工作日内上线）

课程主讲人

张江，北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括因果涌现、复杂系统分析与建模、规模理论等。

个人主页：https://jake.swarma.org/

课程适用对象

1. 理工科背景高年级本科生

2. 理工科背景硕士、博士研究生

报名须知

1. 课程形式：

1. 参与方式：付费学员可参与腾讯会议直播/北师大海淀区线下授课（助教可协助入校）

2. 授课形式：

1. 平时：课堂讨论与内容共创

2. 结课：项目汇报

2. 课程周期：2026年3月2日-2026年6月22日，每周一 13:30-16:15进行。

3. 课程定价：399元

课程链接：https://campus.swarma.org/v3/course/5684?from=wechat

付费流程：

2. 课程页面添加学员登记表，添加助教微信入群；

3. 课程可开发票。

课程共创任务：课程字幕

为鼓励学员深度参与、积极探索，我们致力于形成系列化知识传播成果，并构建课程知识共建社群。为此，我们特别设立激励机制，让您的学习之旅满载收获与成就感。

课程以老师讲授为主，每期结束后，助教会于课程群内发布字幕共创任务。学员通过参与这些任务，不仅能加深对内容的理解，还可获得积分奖励。积分可兑换其他读书会课程或实物奖品，助力您的持续成长。

推荐课程

参考课程

1. 吴恩达：Build with Andrew https://www.deeplearning.ai/courses/build-with-andrew/

2. Jure Leskovec: Machine Learning with Graphs, StanfordCS224W.https://www.youtube.com/playlist?list=PLoROMvodv4rPLKxIpqhjhPgdQy7imNkDn

3. Steve Brunton: Data Driven Science and Engineering, University of Washingtonhttps://www.youtube.com/playlist?list=PLMrJAkhIeNNRpsRhXTMt8uJdIGz9-X_1-

4. Karthik Duraisamy: DATA-DRIVEN ANALYSIS AND MODELING OF COMPLEX SYSTEMS, Michigen institute for computational discovery and engineering, Michigen University.https://micde.umich.edu/academic-programs-old/data-driven-course/

5. Sergey Levine: Deep Reinforcement Learning, CS 285 at UC Berkeley.http://rail.eecs.berkeley.edu/deeprlcourse/

【集智学园网站资源】

1. 对复杂系统连续变化自动建模——Neural Ordinary Differential Equations解读https://campus.swarma.org/course/2046

2. 复杂网络自动建模在大气污染中的应用https://campus.swarma.org/course/1998

3. 两套因果框架深度剖析：潜在结果模型与结构因果模型https://campus.swarma.org/course/2526

4. 稳定学习：发掘因果推理和机器学习的共同基础https://campus.swarma.org/course/2323

5. 因果强化学习https://campus.swarma.org/course/2156

6. 张江：因果与机器学习能够破解涌现之谜吗https://campus.swarma.org/course/4540

7. 因果涌现理论提出者：Erik Hoel主题报告https://campus.swarma.org/course/4317

8. 如何从数据中发现因果涌现——神经信息压缩器https://campus.swarma.org/course/4874

9. 标准化流技术简介https://campus.swarma.org/course/1999

10. 带隐状态的强化学习世界模型https://campus.swarma.org/course/4848