实现量子化学精度，深度对比学习用于分子性质有效预测

编辑 | 紫罗

数据驱动的深度学习算法可以准确预测高级量子化学分子特性。然而，它们的输入必须限制在与训练数据集相同的量子化学几何弛豫水平，从而限制了它们的灵活性。采用替代的经济有效的构象生成方法会引入域偏移（domain-shift）问题，从而降低预测精度。

近日，来自韩国首尔大学的研究人员提出了一种基于深度对比学习的域适应（domain-adaptation）方法，称为局部原子环境对比学习（Local Atomic environment Contrastive Learning，LACL）。LACL 通过比较不同的构象生成方法来学习减轻两种几何构象之间的分布差异。

研究发现 LACL 形成了一个与域无关的潜在空间，封装了原子局部原子环境的语义。LACL 实现了量子化学精度，同时规避了几何弛豫瓶颈，可以实现逆向分子工程和大规模筛选等未来应用场景。该方法也可以从小的有机分子推广到生物和药理学分子的长链。

该研究以《Deep contrastive learning of molecular conformation for efficient property prediction》为题，于 2023 年 12 月 4 日发布在《Nature Computational Science》上。

论文链接：https://www.nature.com/articles/s43588-023-00560-w

基于机器学习的优化方法，例如强化学习、主动学习和深度生成模型，引起了逆向材料设计和药物发现的研究兴趣。为了在这些应用中以较低的计算成本快速预测未知分子的量子化学性质，图神经网络（GNN）已成为一种流行且成功的模型。

为了有效训练机器学习模型，已经发布了高质量的数据集，例如由 134,000 个有机小分子组成的 QM9 数据集。

在高通量筛选等大规模推理场景中，通过 DFT 准备输入分子几何结构不仅耗时且收敛成本高，也是使用训练模型的瓶颈。使用计算效率高的 Merck 分子力场 (MMFF) 优化方法或基于 ML 的构象生成模型计算的构象可以被视为替代方案。然而，在这种情况下，ML 模型会遭受域偏移，因为它偏离了通过 DFT 计算的先前学习的训练数据的分布。

图示：前人方法与 LACL 方法的分子预测方法比较。（来源：论文）

LACL 专门用于解决分子数据中的域偏移问题

在该研究中，研究人员引入了一种基于深度对比学习的局部原子环境表示学习模型（LACL），专门用于解决分子数据中的域偏移问题。LACL 使用计算高效的几何松弛方法和 DFT 分子几何数据捕获分子数据之间的相似性。通过这种方式，LACL 充分利用了量子化学数据的潜力，并绕过了与从头开始几何弛豫相关的计算瓶颈。

研究使用 QM9 和 QMugs 分子特性预测基准来验证模型的领域适应性能。LACL 根据低保真几何形状准确预测分子特性，减少计算成本和推理时间，同时保持量子化学准确性。

在这里，研究人员将术语「几何域」（geometric domain）定义为分子几何构象的统计分布，包括通过某些方法生成的原子间距离或三重态角。在该研究中，研究人员考虑从头计算方法计算的构象，其中包含现有基准数据中存在的初始知识，作为源域。此外，将从计算有效的力场或基于机器学习的构象生成模型获得的构象视为目标域。主要目标是弥合源域和目标域之间的差距，使模型能够概括其从源域学到的知识，以便在目标域中做出准确的预测，尽管域发生了变化。

图示：LACL 模型概述。（来源：论文）

为了捕捉两个几何域之间的细微差异，通过修改利用线图框架的原子线图神经网络（ALIGNN）模型来显式地建模三体交互。对比学习方法比较由节点表示的局部原子环境的增强，而不是整个分子的增强。LACL是基于 BGRL 框架开发的。考虑到分子线图的边缘特征占用大量计算内存，这是一个优点。LACL 在整个管道中进行端到端训练，同时最小化 BGRL 损失和目标属性预测损失以防止崩溃。这种训练策略提供了一种有效的方法来学习分子图表示，以从分子的不同视图预测特性。

为快速准确地预测量子化学性质提供机会

LACL 展示了其利用 DFT 几何域信息来增强 MMFF 几何域构象预测的能力。这一改进是有意义的，因为它表明有可能仅通过 MMFF 级弛豫而无需额外优化即可实现量子化学精度（小于 1kcalmol^−1 误差）。这些结果为在精度和计算效率之间寻找最佳构象生成方法提供了机会。

研究人员还评估了 LACL 对开放和紧凑构象异构体的泛化能力。即使考虑到测试分子的数量较少，结果也与之前 1,706 个测试分子观察到的趋势非常吻合，总体而言，LACL 显示出卓越的预测性能。特别值得注意的是它在开放构象异构体中的强大性能，这是通过操纵原始数据获得的。这个定量实验表明，在寻找与域无关的表示方面的研究方向可能会扩展到更复杂的系统，例如蛋白质和多肽。

图示：开放和紧凑构象中 LACL 性能的研究。（来源：论文）

为了研究学习到的局部原子环境（即节点级嵌入）的含义，研究人员使用 t-SNE 来可视化二维空间中这些环境之间的关系。结果表明，局部原子环境不太依赖于原子的原子序数，并且具有相似结构特征的原子形成簇，而不是根据分子本身的属性进行分组。

图示：QMugs20 数据集的 LACL 学习曲线。（来源：论文）

在基态量子化学性质的计算中，LACL 方法可以成为最小化复杂分子几何结构的额外优化过程的可行替代方法。生成式人工智能的快速发展导致了分子构象生成模型的出现。然而，实现相当于 DFT 等从头开始构象的数据分布仍然是一个巨大的挑战，这凸显了域适应策略的重要性。该研究为快速准确地预测量子化学性质提供了机会。