距离英伟达同意为 OpenAI 数据中心提供最高 1050 亿美元融资担保过去一周多,OpenAI 于周二 Hot Chips 大会上公布自研芯片基准测试结果,宣称首款自研推理 ASIC Jalapeño 性能超越英伟达 GB300。
![]()
该芯片由 OpenAI 与博通联合开发,基于 SemiAnalysis 的 InferenceX 测试套件,对比英伟达 GB200、GB300 机柜系统,Jalapeño 每千瓦吞吐提升 1.5‑1.9 倍,端到端延迟降低 1.7‑3.6 倍;本次对比为 700W 的 Jalapeño,对标额定功耗 1200W、1400W 的英伟达加速器。OpenAI 计划于今年晚些时候,率先在自有数据中心部署这款芯片。
测试选用三款开源模型:GPT‑OSS 120B、DeepSeek R1 670B,以及月之暗面万亿参数 Kimi K2.5。OpenAI 表示,芯片优势在低延迟场景下最为突出;对齐 GB300 原有最快 Token 间隔条件时,Jalapeño 每千瓦吞吐可提升 8.6‑104.3 倍。
![]()
图 :OpenAI 公布的 InferenceX 测试要点。峰值每瓦吞吐提升 1.5~1.9 倍,端到端延迟下降 1.7~3.6 倍;对齐对手最优 Token 间隔,每瓦性能提升 8.6‑104.3 倍。
OpenAI 采用各加速器公开封装 TDP 做性能归一化,同时披露 Jalapeño 实际持续运行功耗不超过 550W。如果计入整套配套设备总功耗,Jalapeño 整机功耗 1.18kW,GB300 整机功耗 2.55kW,二者能效差距会明显收窄;若对标开启多 Token 预测的 GB300,Jalapeño 的峰值能效优势将收缩至约 1.5 倍。
测试未纳入 Vera Rubin,基准以单 Token 预测为主本次测试没有将 Vera Rubin 作为参照对象。Vera Rubin 是英伟达面向 OpenAI 的吉瓦级系统,计划 2026 年下半年落地。Jalapeño 仅面向推理业务,并不承担 AI 训练任务,而训练市场依旧是英伟达硬件的绝对优势领域。本次对比采用双方均为单 Token 预测模式,但英伟达实际生产环境普遍启用多 Token 预测。SemiAnalysis 表示,曾联合 OpenAI 工程师在实验室完成 InferenceX 实测,评价 Jalapeño 性能超过其测过的所有英伟达、AMD、谷歌芯片。
芯片搭载 6 栈 HBM4,容量 216GiB,带宽 15.4TB/s。Jalapeño 封装方案已于今年 6 月对外披露,从 RTL 设计到完成流片耗时约 9 个月。作为对比,GB300 配置 288GB HBM3E,额定功耗 1400W。按额定功耗口径,Jalapeño 单位功耗下内存容量高出约 50%;该芯片架构优化重心在于充分释放 HBM 带宽,而非单纯扩充显存容量。
HBM 已经成为当前半导体行业紧缺物料,三星、SK 海力士、美光的 HBM 产能订单已经排至 2027 年。有消息称英伟达正在测试显存缩减至 192GB 的 Rubin Ultra 降配版本。SK 海力士 CEO 郭鲁正警示,2027 年或将迎来本轮 HBM 供应短缺的顶峰。美光也在 8 月 23 日 Hot Chips 大会上提到,同等容量条件下,HBM 占用晶圆面积约为 DDR5 的三倍,代际迭代还在进一步拉大这一代价。OpenAI 去年 10 月和博通签署 10 吉瓦规模部署协议,如果 Jalapeño 按该规模放量,OpenAI 将成为 HBM4 重要采购方,而当前 HBM4 供给配额主要由英伟达凭借和 SK 海力士长期合同锁定。
据彭博社消息,Jalapeño 第二代芯片已临近流片,数月内有望完成,第三代芯片也已经启动概念研发。第一代 Jalapeño 据称采用台积电 3 纳米级工艺,意味着中长期内 OpenAI 依旧要和 Blackwell、Rubin 产品线争抢晶圆、HBM 存储与先进封装产能。
一边推出对标英伟达的自研芯片,OpenAI 另一边依旧高度依赖英伟达硬件资金支持。8 月 17 日英伟达敲定协议,为 OpenAI 俄亥俄州数据中心园区提供最高 1050 亿美元融资。OpenAI 硬件副总裁 Richard Ho 在彭博采访中表态:“英伟达是非常优质的合作伙伴,我们依旧需要大量英伟达硬件。”
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.