OpenAI与Cerebras达成数十亿美元合作协议以扩展AI推理基础设施

OpenAI已与AI芯片初创公司Cerebras Systems签署了一项价值数十亿美元的协议，购买其计算能力，以确保有足够的基础设施来应对激增的用户需求以及数据中心和网络资源面临的日益增长的压力。

根据协议，OpenAI将使用Cerebras设计的芯片来运行部分ChatGPT推理工作负载，承诺在三年内购买多达750兆瓦的计算能力。

这一举措反映了大规模AI服务对电力供应、网络和数据中心间连接造成的压力，OpenAI正在寻找比英伟达主导的GPU更快、更具成本效益的替代方案。

OpenAI高管警告称，公司正面临计算能力的限制，其工具现在每周被超过8亿人使用。这需要更多合作伙伴来扩展基础设施。

与Cerebras的合作是OpenAI多元化基础设施努力的一部分，包括与博通合作开发定制AI芯片以及计划部署AMD最新的加速器，旨在控制成本并减少对英伟达的依赖。

基础设施重构趋势

OpenAI对专用推理能力的大规模承诺显示了大型AI平台如何重新设计基础设施，以支持超越单一加速器模型的延迟敏感工作负载。

分析师预计，未来几年AI工作负载将变得更加多样化和要求更高，这将推动对针对推理性能调优的架构需求，并对数据中心网络造成额外压力。

Counterpoint Research研究副总裁Neil Shah表示："这促使超大规模厂商对其计算系统进行多元化，将英伟达GPU用于通用AI工作负载，内部AI加速器用于高度优化的任务，而Cerebras等系统用于专门的低延迟工作负载。"

因此，在超大规模运营的AI平台正在推动基础设施提供商从单一的通用集群转向更加分层和异构的基础设施策略。

Cybermedia Research行业研究组副总裁Prabhu Ram表示："OpenAI转向Cerebras推理能力反映了AI数据中心设计方式的更广泛转变。这一举措与其说是为了取代英伟达，不如说是为了在推理规模扩大时实现多元化。"

在这个层面上，基础设施开始类似于AI工厂，城市规模的电力传输、密集的东西向网络和低延迟互连比峰值FLOPS更重要，Ram补充道。

TechInsights半导体分析师Manish Rawat表示："在这种规模下，传统的机架密度、冷却模型和分层网络变得不切实际。推理工作负载产生连续的、延迟敏感的流量，而不是间歇性的训练突发，这推动架构转向更扁平的网络拓扑、更高基数的交换和计算、内存和互连的更紧密集成。"

多元化带来的挑战与机遇

英伟达基于GPU的模型仍是行业标准，但随着AI集群规模扩大，特别是互连需求增加，它变得更加复杂且能效较低。

Ram表示："Cerebras的晶圆级架构减少了多GPU结构固有的通信开销，在推理吞吐量和成本方面提供了潜在优势。"

然而，分析师警告称，多元化带来了自身的运营挑战。

Rawat说："这种转变增加了运营复杂性。运行异构加速器需要管理多个软件堆栈、不同的故障模式以及跨数据中心的更复杂的容量编排。"

OpenAI面临着将高度变化的需求与专用计算能力的长期承诺相匹配的任务，同时确保工作负载能够实时动态路由到最高效的加速器。最小化编排和利用率方面的差距将是关键。

随着OpenAI将其基础设施分布在多个架构中，管理这些投资的生命周期是另一个担忧。Shah表示："硅生命周期（18至24个月）与设施生命周期（15至20年）之间存在日益扩大的差距。考虑到芯片创新的步伐，超过100亿美元的专用硬件在数据中心甚至完全投入使用之前就可能在技术上过时，这是一个合理的风险。"

随着AI基础设施的扩展，电力、冷却和网络正成为主要限制因素。Ram补充道："能够将计算架构与电网规模的电力和高效数据传输相结合的供应商将定义AI基础设施的下一阶段。"

Q&A

Q1：OpenAI为什么要与Cerebras合作？

A：OpenAI面临计算能力限制，其工具每周被超过8亿人使用，需要寻找比英伟达GPU更快、更具成本效益的替代方案。通过与Cerebras合作，OpenAI可以获得专门的低延迟推理能力，减少对单一供应商的依赖。

Q2：这次合作的规模有多大？

A：根据协议，OpenAI承诺在三年内从Cerebras购买多达750兆瓦的计算能力，这是一项价值数十亿美元的大规模合作。OpenAI将使用Cerebras的芯片来运行部分ChatGPT推理工作负载。

Q3：多元化基础设施会带来哪些挑战？

A：多元化增加了运营复杂性，需要管理多个软件堆栈、不同的故障模式以及更复杂的跨数据中心容量编排。此外，还面临硅生命周期与设施生命周期不匹配的风险，专用硬件可能在数据中心完全投用前就技术过时。