人工智能芯片能处理复杂的科学吗？

“科学人工智能”通常是指应用机器学习来加速科学发现。SandboxAQ和Nvidia之间的一项新合作表明，人工智能优化的硬件可以如何适应高性能计算并应用于科学研究中。该项目包括来自PNNL（美国太平洋西北国家实验室）和匈牙利维格纳物理研究中心的研究人员，他们使用混合精度方法来实现科学模拟所需的精度。

在一篇论文中，科学家们证明，传统上要求极高数值精度的量子化学模拟可以在Nvidia的Blackwell GPU上精确运行。这项工作展示了在AI优化的GPU上模拟双精度算法的新精度水平，在具有挑战性的量子化学任务中实现了化学精度。

该研究表明，驱动现代人工智能工作负载的GPU架构也可以加速基于物理的模拟，前提是它们的低精度硬件以更智能的方式使用。这项工作的核心是一种称为混合精度算法的方法，它将快速、低精度的计算与选择性的高精度步骤相结合，以达到和保持科学精度。

SandboxAQ的物理学家兼人工智能模拟创新主管Adam Lewis表示：“英伟达的这些硬件进步是为了快速运行专门的机器学习计算而开发的，但将它们应用于模拟任务并不简单。”“这篇论文展示的是如何使用这些相同的技术来获得量子化学所需的确切结果，同时有效地利用机器学习硬件。”

使人工智能硬件适应科学

这项研究的核心是Nvidia的Blackwell GPU架构，该平台用于训练和运行大型语言模型的推理。这些芯片旨在提高低精度算术的效率，每秒可以执行大量计算，但到目前为止，这种速度是以牺牲准确性为代价的。不过科学研究人员已经找到了弥合这一差距的方法。

他们的方法依赖于一种名为FP64仿真的技术，该技术最初由日本计算机科学家Kensuke Ozaki提出，该技术可以从精度低得多的操作中重建出双精度。在实践中，这意味着将64位数字表示为一组较小的定点切片，这些切片可以由Blackwell的张量核快速处理。然后将结果重新组合，以产生与本地FP64计算相当的精度。

研究人员在分子系统上测试了这种方法，这些系统测试了当前科学计算方法的局限性，包括参与天然氮生产的复杂金属簇FeMoco和药物代谢中的关键酶细胞色素P450。两者都是具有重金属中心的大型多电子系统，这使得它们很难建模。然而，在Blackwell GPU上使用FP64仿真，该团队再现了与传统高精度计算结果非常匹配的结果。

底层算法是一种称为密度矩阵重整化群（DMRG）的张量网络方法，它将量子波函数表示为相互连接的张量网络。它的结构使其非常适合GPU，在GPU中，类似的张量操作驱动着现代神经网络。通过将这种结构与模拟的精确数学相结合，该团队实现了科学代码中很少见到的性能水平，即使对于复杂的酶系统，GPU利用率也达到了90%至95%。Lewis指出，这一结果“相当疯狂”，并表明Blackwell架构的特征可能出乎意料地与量子化学兼容。

Lewis称：“即使在LLM应用程序中，这些GPU也经过了精确的调优，这将是一个非常令人印象深刻的数字。”“高利用率表明，它们实际上经过了奇怪的优化，可以执行这些量子化学计算，而这些计算在最初制作时并没有人想到。”

连接人工智能和高性能计算

研究结果突显了人工智能和高性能计算之间日益增长的重叠。随着GPU架构的发展以支持不断扩展的AI模型，它们也成为科学模拟的强大引擎。处理具有数十亿（或数万亿）参数的人工智能模型的硬件进步现在可以在适当的算法下对原子和分子的行为进行建模。

Lewis将这一结果描述为一个更大的行业模式的一部分：随着人工智能在更多的计算领域占据主导地位，为机器学习工作负载开发的硬件创新开始溢出到模拟中。他说：“随着人工智能在计算蛋糕中占据越来越大的份额，过去几代人降低精度算法的趋势可能会继续下去。”

其影响不仅限于化学。双精度数学的高效仿真可以使人工智能加速器适用于一系列物理和材料科学工作负载，其中许多工作负载受到对专用HPC基础设施需求的限制。通过利用已经针对人工智能训练和推理进行了优化的GPU，研究人员可以在不等待专业系统的情况下大幅扩展对科学计算能力的访问。

此次合作也反映了英伟达对科学人工智能的兴趣日益浓厚，这是该公司近年来一直在发声的主题。Lewis称SandboxAQ与该公司的合作“非常富有成效”，并指出Nvidia的内部研究团队深度参与了该项目。他说：“他们总是对那些以新的方式使用硬件进行科学研究的人感兴趣。他们非常乐于助人。”

科学人工智能的未来

Lewis说，下一步是使该方法在更广泛的分子系统中更快、更稳健。虽然该方法实现了高精度，但它仍然依赖于大量的GPU资源。他说：“如果你必须为每个数据点使用整个DGX集群，从投资回报率的角度来看，这不一定有吸引力。”“下一步是进行更有效的近似和加速。并使算法更加稳定和健壮（鲁棒），这样我们就可以在没有任何控制的情况下将其用于任意系统。”

另一个方向是将这些基于物理的模拟与机器学习相结合。他说：“一个主要的应用是根据这些数据训练模型。”在实践中，这可能意味着使用模拟的精确量子化学计算为材料发现或分子设计中的基础模型生成训练数据，在人工智能和模拟之间建立一个反馈回路，从而加强两者。

对于SandboxAQ来说，这项研究加强了其开发大型定量人工智能模型的使命，该模型将基于物理的模拟的严谨性与人工智能的适应性相结合。它还暗示了一个未来，训练LLM的芯片也可能模拟化学反应、发现新药或设计新材料。