深度科学| Nat. Commun.: 微软AI4S团队开发Orbformer量子化学基础模型

编者语：

“辛辛苦苦算完一个催化反应路径，过渡态能量总是差点意思，CASSCF怎么调活性空间都不收敛？想算一条键断裂曲线，多参考方法的计算量直接劝退……，Orbformer（从头算的波函数基础模型），用“预训练大模型”思路，解开了化学键“算不准、算不起”的难题。”

01

背景介绍

分子间化学键的断裂与形成，是所有化学反应最核心的环节，但这一过程也让量子化学计算方法遭遇了最棘手的难题（图1）。在平衡构型附近，大多数分子的电子结构比较规矩，用传统的单参考方法（如耦合簇）就能算得又快又准。可是，一旦化学键开始拉伸、断裂，电子结构就会变得“多参考”、高度关联，就像几个电子同时“犹豫不决”该待在哪个轨道里。处理这种强关联体系，至今没有一套公认的标准方法，往往需要专家针对每个具体分子反复调试，而计算成本常常比单参考方法昂贵得多。更麻烦的是，传统的“从头计算”方法（ab initio）天生“没有记忆”，哪怕两个分子的化学环境极其相似，每次计算都要从零开始，完全无法把之前算过的经验复用到新分子上。

图1. 利用神经网络波函数的从头算量子化学

2026年8月21日，微软研究院科学智能中心Adam Foster、Frank Noé和Jan Hermann等在Nature Communications期刊发表了题为"An ab initio foundation model of wavefunctions that accurately describes chemical bond breaking"的研究论文提出了Orbformer大模型，首次把深度学习中“预训练-微调”这套已经在语言模型领域大获成功的范式，系统性地引入到量子化学波函数计算中，让AI真正学会在不同分子之间“举一反三”。研究团队先让一个可迁移的深度量子蒙特卡洛模型学习大量小分子构型，再让它沿着目标反应路径联合微调，Orbformer试图改变的不是量子力学本身，而是高精度波函数计算的“起跑方式”。问题由此变成：预训练学到的电子结构规律，能否在化学键断裂时继续有效？

02

图文解析

1.核心思路：把分子本身也变成神经网络的“输入”

深度量子蒙特卡洛（deep QMC）算法是近年来量子化学界的一位新秀，它用一个深度神经网络来表示电子的多体波函数，再通过能量最小化原理把网络训练到基态。早期工作已经能在小分子上算出接近精确解的结果，但一直有个“天生缺陷”：每换一个分子，就要重新训练一个全新的网络，计算量与化学空间的规模完全无法摊薄。Orbformer的关键突破为：把分子构型M（原子种类、位置、电荷）当作神经网络的一个显式输入，而不是定义某个优化问题的固定参数。这样一来，同一套模型参数就可以在不同大小、不同组成、不同几何构型的分子间灵活迁移，把“计算共享”落到实处。Orbformer的波函数由两部分构成：一个电子-电子间的Jastrow因子（用来满足电子靠近时波函数应有的“尖点”条件），以及一组“广义斯莱特行列式”的线性组合。与传统斯莱特行列式不同。这些广义行列式里的每一行不再只依赖单个电子的位置，而是同时依赖体系中所有电子的位置和自旋，表达能力更强。

图2. Orbformer整体架构

模型内部有两大核心模块：1）一个“电子变换器”（Electron Transformer，图3），通过一连串自注意力层处理电子特征，让每个电子都能感知到其他所有电子的存在；2）另一个是“轨道生成器”（Orbital Generator，图4），它根据具体分子构型动态地“生成”广义轨道，每个轨道由一个描述空间延展范围的包络函数及电子表征的投影共同构成。研究者在设计时特意强调了“局域性”原则“任意两个粒子之间的相互作用会随距离增大而衰减，轨道生成器也被约束只能生成局域化的轨道。这个设计选择至关重要，这意味着当相似的化学环境（比如同一种官能团）出现在不同分子里时，模型学到的轨道”知识“可以被直接复用，而不必推倒重来。

图3. Electron Transformer架构

图4. Orbital Generator架构

2.预训练，让AI“读遍”22350种分子构型

为了让模型真正学到跨分子的通用规律，研究团队构建了名为“轻原子课程”（Light Atom Curriculum, LAC）的预训练数据集，包含22350种分子构型，由氢、锂、硼、碳、氮、氧、氟这七种轻元素组成，电子数最多不超过24个（图5）。这个数据集的特别之处在于，不是只用分子最稳定的平衡构型来喂模型，而是刻意涵盖了大量“非平衡”构型，通过随机施加键角弯曲、键长拉伸、键断裂等五种形变操作，人为制造出大量本应呈现强关联、多参考特征的畸变结构。研究者随后用CCSD(T)方法的诊断指标核验发现，数据集里有20%到45%的结构确实表现出多参考电子结构特征，尤其是那些正在发生键断裂的结构占比最高。

图5. Orbformer的预训练和微调

为了让训练稳定且高效，团队采用了“课程学习”策略，分三个阶段循序渐进：先在电子数不超过10个的小分子上练“弯曲和拉伸”构型，再练“所有类型”构型，最后才把全部22350个结构一起投入训练，总计动用了约4000个A100 GPU小时。有意思的是，虽然预训练阶段最大分子只有24个电子，但研究者证明这套模型可以顺利泛化到微调阶段106个电子的更大体系上，充分说明模型学到的确实是可迁移的“通用规律”，而非死记硬背了具体分子。

3.实战检验用于Diels-Alder反应

研究者选择了化学界经典的Diels-Alder反应（丁二烯与乙烯的环加成反应）来检验Orbformer的实力（图6）。这个反应看似简单，其精确的反应机理却直到最近才有定论，它究竟是两个新键“同步”形成的协同过程，还是先后形成、途经双自由基中间体的两步过程？这类问题恰恰最考验对静态关联和动态关联的精细处理能力。结果显示，针对协同过渡态，Orbformer预测的活化能与实验值几乎完美吻合，即便这个体系（46个电子、同时涉及两个键的断裂）已经远远超出了预训练数据集的规模范围。传统的波函数方法里，只有多参考耦合簇方法能勉强逼近实验值，而且还得依赖很小的基组或人为限制组态数才行。对于两步机理路径，Orbformer预测的活化能比实验值高出约9.9 kcal/mol，表明这条路径并非反应真正走的通道，这个结论与当前理论和实验界的共识高度一致。对于反应总能量，Orbformer同样稳定收敛到与实验值相差不到1 kcal/mol（这是量子化学界公认的化学精度门槛）的水平。

图6. 精确计算Diels-Alder反应的活化能和反应能

4.与经典方法的对比

为了更细致地展现Orbformer在成本-精度权衡上的优势，研究者选取了五个包含高达48个电子的分子，沿着各自的键解离路径各取20个采样点，与MRCISD、MRAQCC、NEVPT2、CCSD(T)等一系列多参考波函数方法以及多种密度泛函方法逐一对比。结果发现，经过LAC预训练并微调后的Orbformer，在成本-精度图上稳稳站在了传统方法所构成的帕累托前沿之上，甚至多处显著优于传统方法。更难得的是，Orbformer的精度会随着计算投入的增加而严格单调收敛，而传统多参考方法（尤其是在Diels-Alder这类体系上）往往难以稳定收敛，甚至根本无法收敛。研究者还专门拆解了预训练与联合微调各自贡献的效率增益：仅仅是把同一条解离曲线上20个构型联合微调（非逐点独立优化），就能带来约20倍的效率提升。在此基础上，如果模型是从LAC预训练的检查点出发再微调，还能进一步获得可观加速，在数据集内的乙烷分子上加速16倍，在数据集外但相似的1-丙醇上加速6倍，即便对结构差异较大的L-丙氨酸，预训练模型达到5kcal/mol精度的速度也快了8倍。

图7. 五种分子解离的最小能量路径 (MEP) 的准确率

图8. 预训练和微调后的收敛性

5.模型自发学会化学直觉

最令人惊讶的发现出现在对模型内部机制的解剖分析中。研究者用一系列含6到13个碳原子的烷烃链对Orbformer进行微调后发现，模型在完全没有人为监督的情况下，自发学会了给每个碳原子精确分配两个高度局域化的轨道，这刚好对应化学教科书里“核心电子轨道”的概念，而这一规律仅需约1万步预训练就已经显现，远远超过从零训练的模型所能达到的局域化程度。研究者进一步验证了轨道的“可复用性”：把辛烷(8个碳)训练好的斯莱特矩阵，直接套用到庚烷(7个碳)分子上，通过去掉部分电子实现电中性，结果发现两个分子中局部化学环境相同的碳原子(即两端相似的部分)所对应的矩阵行几乎完全一致（图9），只有分子远端因局部环境差异较大的部分才出现明显不同，这是模型学会“轨道复用”这一核心能力的有力证据。

图9. 从数据中学习电子结构模式

03

总结

Orbformer首次证明，通过在大规模、多样化的分子数据集上进行预训练，再针对具体目标分子做联合微调，深度量子蒙特卡洛方法完全可以突破“分子从零算起”的传统桎梏，实现计算成本在众多分子间的大规模分摊。它不仅在化学键断裂、Diels-Alder反应过渡态等强关联难题上首次全面达到“化学精度”，其成本-精度权衡也优于经典多参考方法，并且模型还展现出了预料之外的“化学直觉”，让深度学习真正走进了量子化学计算的核心地带。

04

展望(巨人肩上前行)

1. 拓展元素周期表覆盖范围，纳入过渡金属等更重元素，以应对催化、材料科学中更广泛的强关联体系；

2. 迈向真正的化学空间的“通用”量子化学基础模型。

文献信息

Adam Foster, Zeno Schätzle, P. Bernát Szabó, Lixue Cheng, Jonas Köhler, Gino Cassella, Nicholas Gao, Jiawei Li, Frank Noé & Jan Hermann, An ab initio foundation model of wavefunctions that accurately describes chemical bond breaking, Nature Communications, 2026, https://doi.org/10.1038/s41467-026-76604-2.

#科研狗的日常 #文献阅读 论文 #科研论文

声明：

1. 版权：推送内容仅供学习交流分享使用，无任何商业用途，如有侵权，请联系后台删除或修改，感谢支持。

2. 投稿：非常欢迎各位老师在公众号上介绍课题组前沿或经典研究成果！后台或邮箱联系即可！

3.合作：本平台可推广学术会议、培训或科研产品，具体事宜可联系后台。