打破CUDA护城河

公众号记得加星标⭐️，第一时间看推送不会错过。

英伟达主要以硬件公司而闻名，这得益于其GPU的巨大成功。但英伟达在软件领域也举足轻重，这要归功于其CUDA编程语言，该语言已成为人工智能和高性能计算开发人员的事实标准。如今，Spectral Compute的一群CUDA专家正致力于将CUDA语言从英伟达平台剥离出来，使用户能够在其他芯片上运行他们的CUDA代码。

Spectral Compute成立于2018年，当时包括首席执行官Michael Søndergaard、首席技术官Chris Kitching、软件工程师Nicholas Tomlinson和软件工程师Francois Souchay在内的四位工程师，厌倦了CUDA代码的硬件锁定问题。这四位创始人拥有60年的高性能计算（HPC）优化经验，他们之前就职于一家人工智能公司，但对英伟达GPU的高昂成本以及其他编译器的糟糕性能感到极度不满，于是决定自行开发编译器。

创始人开发了一款名为SCALE的产品，它采用 CLang 和 LLVM 编译器技术，旨在替代英伟达 CUDA 编译器 NVCC。SCALE 最初的目标是AMD GPU，但现在正拓展其目标，使用户能够在其他 AI 加速器上运行 CUDA。该公司也支持英伟达 GPU，其理论是英伟达为了销售更多硬件而放弃了基于软件的性能优化。

Spectral 是 CUDA 的忠实拥趸。据 Spectral 增长主管 Giulio Malitesta 称，CUDA占据了当前 HPC 代码的约 80%。Malitesta 在德国汉堡举行的 ISC 2026 大会上告诉HPCwire ：“CUDA 基本上是 HPC 的事实标准。我们需要接受这个事实，作为编译器工程师，我们只需努力使其能够在不同的平台上运行，这些平台不一定是 Nvidia 的，但也要在 Nvidia GPU 上进行改进。”

正如Malitesta指出的那样，市面上还有其他编译器可以让 CUDA 代码在其他平台上运行。AMD开发了一款名为HIPIFY的工具，可以将 Nvidia CUDA 代码转换为 C++ 代码，并通过 HIP（异构计算接口）在 AMD 的 ROCm 软件栈上运行。此外，还有SYCLomatic ，这是一款最初由Intel开发的开源工具，用于将 CUDA 代码迁移到数据并行 C++ (DPC++)。当然，还有ZLUDA，这款曾经由 AMD 支持的即时编译器可以将 CUDA 二进制文件编译后在非 Nvidia 硬件上运行。

然而，大多数工具都有其缺点。例如，Spectral 的创始人之前曾使用过的 HIPIFY，基本上忽略了并行线程执行 (PTX)，而 PTX 是英伟达的汇编语言，能够为 CUDA 提供深度硬件支持，Malitesta 指出。SYCLomatic 可以迁移大约 90% 的代码，但剩余的 10% 需要手动完成。而 ZLUDA 则直接操作编译后的二进制代码，充当中间件层，这会降低性能。此外，各种非英伟达的 CUDA 编译器也一直受到法律问题的困扰。

Malitesta表示，Spectral Compute的SCALE编译器能够超越其他编译器的中等性能，并使CUDA能够充分利用底层硬件。该公司在其网站上发布的基准测试表明，与使用HIPIFY将CUDA代码转换为AMD自家的ROCm环境相比，SCALE在AMD GPU上实现了近6倍的性能提升。

Malitesta表示，Spectral之所以能够达到如此高的性能水平，是因为它基于尖端的编译器框架进行了彻底的重新实现。“我们采用了CPU行业标准的方法，并将其应用于GPU，”他说道，并补充道，“这种方法也使得C++能够在AMD和ARM CPU上运行，因为没有人会预期会出现性能差距，除非底层硬件的差异直接导致这种差距。”

Spectral公司在重新编译代码后，会从数值角度验证其正确性。如果验证结果与正常的NVCC输出一致，则该公司认为此次实现成功。

总部位于伦敦的Spectral公司去年融资600万美元，目前正致力于支持第三方AI加速器（尚未公布具体名称）。该公司还在开发一些专有的新型编译器优化技术，据称这将为在Nvidia GPU上运行CUDA的用户带来重大升级。本月晚些时候，Spectral预计将发布对PyTorch的支持，这将使其工具能够更好地与该AI和机器学习框架协同工作。

公司员工表示，他们的工作对 CUDA 社区有益，就连英伟达也明白这最终是一件好事。今年 6 月，Spectral 与英伟达正式建立合作伙伴关系，并加入了英伟达的 Inception 项目。

Spectral学术解决方案和业务发展主管鲁本·范·东根表示：“我们与英伟达和AMD的关系都很好。当然，我们希望与整个行业保持友好关系。我们保持中立，真正意义上的中立。”

Spectral 目前已支持核心 CUDA 产品，但还有数百个专门的 CUDA 库，例如支持深度神经网络的 cuDNN、支持张量的 cuTENSOR 以及支持 Polar 和 pandas 等数据帧的 cuDF。该公司正在积极努力，以增加对这些专门 CUDA 库的支持。

SCALE 上市至今仅两年左右，因此该公司发展历史尚短。然而，该公司发展迅速，目前拥有约 30 名员工，并正在寻求扩张。Spectra 向商业机构出售 SCALE 的使用权限，同时向学术机构和非营利组织免费提供编译器工具包。

Spectral正与世界各地的公司、大学和实验室合作，帮助他们将CUDA开发成果应用于更多硬件平台。SCALE甚至已在橡树岭国家实验室的百亿亿次级超级计算机Frontier上运行。

“未来前景一片光明。我们正在解决业内一个重大难题，”范东根说道。“尤其是在研究领域，研究人员时间非常有限。他们无需重写整个代码库或从现有代码库移植代码，只需使用我们的解决方案重新编译，甚至还能提升性能。”

随着高性能计算 (HPC) 社区逐渐适应人工智能蓬勃发展和 GPU 计算快速普及带来的非凡变革，我们不妨花些时间思考所有可能的未来发展路径。英伟达是一家卓越的公司，它推动了 GPU 制造和并行软件开发（通过 CUDA）的诸多进步，并因此获得了丰厚的回报，成为全球首家市值 5 万亿美元的公司。

英伟达当然希望将这些人工智能领域的“金蛋”牢牢掌握在自己手中，但这未必符合高性能计算和人工智能客户以及整个计算生态系统的最佳利益。从这个角度来看，Spectral 的做法对大家都有好处。更令人惊讶的是，像 Spectral 这样致力于跨越 CUDA 护城河的公司竟然不多。

（来源：编译自hpcwired ）

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第4465内容，欢迎关注。

加星标⭐️第一时间看推送

求推荐