ISC 2024主题演讲:高精度计算将成为人工智能模型的基础

一些科学应用计算不能牺牲精度，往往需要高精度的计算。传统的高性能计算(HPC)仍然是必不可少的，能够使许多应用程序过渡到人工智能和低精度计算，但这可能会牺牲一些精度。

加州大学伯克利分校(University of California, Berkeley)负责研究的副校长、杰出的计算机科学教授Kathy Yelick在ISC2024上的主题演讲称，“我们需要确保在专注于一些商业应用时，不会失去高精度的算法。”

“高精度的计算对于生成可靠的科学数据至关重要，这是大型语言模型的基础。”Yelick说。

其中包括生物医学研究、药物设计、医疗设备、气候变化研究以及需要深入模拟和建模的应用。Yelick说:“我认为，精准医疗在癌症等特定领域将继续发挥重要作用。”

气候变化也是一个长期存在的传统HPC应用。“当看到气候模拟时，我们需要采取哪些适应措施来应对野火、海平面上升等问题?我们正在获得更精确的信息，关于将看到的极端气候事件的地点和类型。” Yelick说。

与此同时，Yelick鼓励高性能计算社区超越传统的建模和仿真，拥抱人工智能和量子计算。“我们需要考虑超越HPC的建模和仿真。我认为我们过于关注传统的应用领域是有一点危险的。这里有令人难以置信的机会。”

她举例说明了可以使研究人员受益的应用程序。

“例如，人们从事计算机视觉和机器人技术——这并不适合我们的传统HPC应用模式。”Yelick说。

然而，Yelick也对超大规模计算机和芯片制造商对科学计算日益增长的影响表示担忧。人工智能研究主要集中在私营部门。由于成本限制，学术界往往无法在云端获得同等水平的人工智能计算能力。

大多数人工智能硬件也与超大规模厂商捆绑在一起，后者没有将自己的芯片商业化。

Yelick还提到，高性能计算机系统制造商的数量正在减少。许多学生被人工智能所吸引，而不是芯片设计。

她认识到，除了x86之外，计算选项的多样性允许HPC社区影响系统设计。Yelick建议与超大规模厂商密切合作，“以确保我们构建的系统既符合他们的市场，也符合我们的市场。”

高性能计算社区传统上在更广泛的市场中发挥了超过其能力的作用。

“作为一个高性能计算社区，我们为未来高性能系统的设计带来的是对应用程序、算法以及它们如何映射到硬件的深刻理解。利用这种洞察力，相对于将在HPC领域购买的系统的总数和价值，可以帮助推动整个行业的发展。”Yelick说。

同时，研究人员不应该完全依赖商业云资源进行HPC。研究人员可能会因为使用云提供商的过高费用而被淘汰。

“我认为还必须确保我们有自己的道路。你要和所有为商业应用做培训的人竞争。学术界将无法负担购买这些类型的云资源。”