Hot Chips 2026聚焦AI成本、芯片格局与未来走向

对于英伟达这样受益于生成式AI增长的公司来说，市场格局或许正在发生变化。

提到AI，人们往往会想到英伟达的GPU，因为它们一直是这场AI变革的核心组成部分。

但在近期于加利福尼亚举行的Hot Chips大会上，随着企业对成本、能耗和AI增速放缓的担忧持续加剧，一个不同的未来图景正逐渐显现。

OpenAI、英特尔、Meta等公司在此次大会上披露的新款AI芯片，承诺以更低的功耗实现更便宜、更快速的Token生成。芯片制造商也正在将AI计算从GPU转向CPU和PC端。

Hyperframe Research分析师Stephen Sopko表示："Hot Chips展示的情况表明……英伟达之下的市场正变得更加多元化。"

尽管企业AI预算仍在持续增长，但关注重点正日益转向如何提高AI的生产效率、减少预算浪费。"但我不会告诉CIO们说他们的AI预算因此会下降，"Sopko说。

Hot Chips大会展示了一个未来图景：借助全新的硬件设计和功耗管理方案，同样的每瓦特、每机架或每美元，能够挤出更多的AI算力。"完成单位AI工作量的成本应该会持续大幅下降，"Sopko表示。

OpenAI公布了其自研AI芯片Jalapeno的详细信息，据其博客文章介绍，该芯片将帮助公司"满足更多需求，并降低交付成功结果的成本"。

OpenAI最初是从使用英伟达GPU起步的，目前计划投入7500亿美元用于数据中心建设，以支撑其工具和服务的运行。Jalapeno芯片料将为这些数据中心的推理计算注入新动力。

研究机构SemiAnalysis获得了独家测试该芯片的机会，测试结果令其印象深刻。该机构在一份通讯报告中表示："通常来说，第一代芯片往往缺乏竞争力，但OpenAI打破了这一常规——在我们测试过的多个主流开源模型上，该芯片的表现领先于英伟达、AMD和谷歌的所有芯片。"

J. Gold Associates首席分析师Jack Gold表示，随着时间推移，AI算力将比近年来更加分散，但对于高算力密集型需求而言，云端仍将是重要选择。

Gold表示，未来一两年内，数以千计的智能体将运行在边缘平台、AI PC、本地化服务器或主权数据中心上。"届时会有更多供应商的芯片来运行不同的应用，而不再是单一厂商的GPU一统天下，"他说。

对于智能体AI而言，GPU在功耗和性能方面的成本可能较高，Gold表示，"这就是为什么你会看到英伟达、AMD这样的主要GPU厂商都在强调面向AI优化的新型CPU架构。"

英伟达也已意识到，除了自家GPU之外，推理计算还需要其他类型的芯片。例如，在Hot Chips大会上，该公司披露了其Vera CPU和Groq 3 LPX推理芯片的相关细节。

与此同时，英特尔也介绍了即将推出的服务器CPU"Diamond Rapids"，以及面向PC市场的CPU"Wildcat Lake"；后者旨在将AI能力带入边缘设备和低成本笔记本电脑。

Diamond Rapids具备AI扩展功能，因此推理计算可以直接在CPU上完成，无需将工作负载转移到其他协处理器上。Wildcat Lake芯片配备了神经处理单元（NPU），并借鉴了英特尔Xe3图形芯片的部分特性，该图形芯片同样应用于该公司的AI推理GPU产品中（其架构与英特尔现有的Panther Lake芯片类似）。

出席大会的Tirias Research首席分析师Jim McGregor表示，系统架构的变革也是本届Hot Chips大会的重要话题。他指出，大多数演讲都聚焦于消除数据传输瓶颈、先进芯片设计，以及将计算能力更贴近内存甚至嵌入内存内部。

Sopko表示，企业AI很可能会朝着日益异构化的方向发展。因此，IT决策者在设计AI架构时应确保灵活性，以便随着AI经济性的变化，能够在GPU、CPU和专用芯片之间自由切换。

"真正的战略风险并不在于2026年选错了芯片，而在于构建了一套僵化的AI架构，导致你在2028年无法用上更便宜或更好的芯片，"Sopko说。

Q&A

Q1：OpenAI的Jalapeno芯片有什么优势？

A：据SemiAnalysis测试，该芯片在多个主流开源模型上的表现领先于英伟达、AMD和谷歌的所有可测试芯片，有助于OpenAI降低推理成本、满足更多需求。

Q2：AI计算未来会完全脱离GPU吗？

A：不会完全脱离，但会更加多元化。未来AI算力将更分散，运行在边缘平台、AI PC、本地服务器等多种硬件上，云端仍将用于高算力密集型需求，GPU、CPU和专用芯片将并存。

Q3：企业该如何应对AI芯片格局的变化？

A：IT决策者应设计具有灵活性的AI架构，以便能够根据AI经济性的变化，在GPU、CPU和专用芯片之间自由切换，避免被僵化架构限制而无法用上未来更便宜或更好的芯片。