NVIDIA GPU加速器无疑是各大AI巨头的首选,但没有谁愿意把鸡蛋都放在同一个篮子里,纷纷一方面加大了对越做越强的AMD Instinct GPU的采购,另一方面也在积极投入自研芯片。
比如OpenAI就在联合博通自研代号“Jalapeno”(墨西哥哈雷派尼奥辣椒)的首款专用ASIC芯片(官方称之为智能处理器),用于大模型推理、智能体计算。
![]()
据芯硬件了解,Jalapeno 2024年10月完成架构概念,2025年11月成功流片(Tape-out),从项目启动到拿到成品芯片只用了约16个月,研发全程使用OpenAI自有大模型辅助设计、验证与优化,大幅压缩开发周期。
配置上,Jalapeno采用流行的Chiplets芯粒设计,包括台积电N3P 3nm工艺的计算模块、台积电N3E 3nm工艺的IO模块,同时搭配6颗36GB HBM4内存,总容量216GB,带宽15.4TB/s。
标称TDP 700W,典型推理负载持续功耗不超过550W。
![]()
原生支持MXFP8、MXFP4混合精度,适配MoE大模型“激活FP8+权重FP4”的主流计算路径,MXFP4精度算力13.4 PFLOPS(1.34亿亿次计算每秒)、MXFP8精度算力3.4 PFLOPS(0.34亿亿次计算每秒)。
理论性能上,它对比NVIDIA GB300、AMD Instinct MI450X还有较大差距,但本身就不是为了取代它们,而是作为补充性的第一方算力,优化核心推理负载的成本与用户体验。
同时基于第三方测试,OpenAI Jalapeno在实际应用场景中对比NVIDIA GB300有诸多优势,比如长上下文场景吞吐量高8.6倍、纯Token生成性能高2.1倍、峰值混合吞吐能效高1.5倍、同等性能端到端延迟低2.2倍。
作为一款通用推理加速芯片,Jalapeno的目标是打破传统GPU吞吐量与延迟二选一的瓶颈,同时实现更高能效、更低延迟、更高吞吐。
它不但适配OpenAI自家大模型,还可以无缝运行第三方大模型。
![]()
目前,Jalapeno已经开始在OpenAI内部进行部署,优先承载ChatGPT、Codex、API接口与智能体相关的核心推理负载。
OpenAI采用了ASIC加速柜、CPU主机柜分离的机架设计,而与之搭配的CPU处理器,是AMD的第五代EPYC 9005处理器(代号Turin)。
每个加速柜包括16个托盘,每个托盘8颗Jalapeno、1.7TB HBM4,共有128颗Jalapeno、27.6TB HBM4内存。
每个主机柜也是16个托盘,每个托盘2颗Turin EPYC、1.5TB系统内存,共有32颗EPYC、24TB内存。
![]()
对于搭配CPU为何选择AMD EPYC,OpenAI硬件副总裁Richard Ho直言,这是务实的选择(pragmatic),同时认为NVIDIA Vera CPU在成熟度上稍显不足。
他说:“我们这套设计的核心思路就是降低风险、快速落地。NVIDIA Vera作为独立产品,成熟度还差一些。AMD Turin很强大,也很可靠,能满足我们的需求,而且我们的部分合作伙伴拥有丰富的使用经验。”
他进一步指出:“对于Jalapeno项目,我们一直坚持务实的选择。在性能、成本上,我们有着非常激进的目标,但不想冒不必要的风险。从我们决策标准来看,(AMD EPYC)是一个上佳的选择。”
![]()
近几年,基于Arm架构的数据中心CPU处理器非常活跃,多家超大规模云厂商都开始部署,比如谷歌云Axiom、AWS Graviton、微软Azure Cobalt等等。
在机柜级市场上,Arm架构的整体规模甚至开始超越x86。
不久前,Arm都亲自下场打造了AGI CPU。
NVIDIA Vera更是极为高调,将其视为正式进军CPU市场的第一枪,官方宣称以88核心对比AMD Turin 128核心,智能体性能最多可领先80%。
但是,厂商宣传的数字大家都懂的,水分很大,,专为智能体负载、宿主节点优化,性能再次飞跃,远不是NVIDIA Vera能够比拟的。
![]()
![]()
OpenAI选择AMD Turin搭配自家的Jalapeno,这件事其实挺有意思的。
要知道,OpenAI本身也是Arm AGI的合作伙伴,同时还在NVIDIA CPU的合作伙伴名单里,属于“正在评估”的客户。
很显然,OpenAI的做法是多方押注,谁都不排斥,而具体落地项目使用哪种方案,就看谁最适合当下的场景。
Richard Ho的发言,说明OpenAI在意的并不是x86、Arm架构孰优孰劣,更多的是一种取舍和平衡。
NVIDIA Vera是其首次面向数据中心自研的CPU产品,早期跑分亮眼,但是无论生态适配的广泛程度,还是产品自身的成熟程度,对于OpenAI Jalapeno项目来说,都意味着更大的投入、额外的风险。
AMD Turin则恰恰相反,不但产品迭代成熟、性能和能效出色,更关键的是拥有丰富的实战部署经验,更别提毫无后顾之忧的生态支持。
还有很多人容易忽略的一点,NVIDIA Vera是板载式焊死设计,AMD Turin则是插槽式独立设计,这就留下了极大的未来空间,有需要可以随时轻松升级到新一代的Venice。
OpenAI拥有庞大的硬件集群,Jalapeno未来也有可能适配更多宿主CPU平台,但现阶段,AMD Turin无疑是最合适的选择。
![]()
另外,OpenAI与AMD在AI数据中心上的合作越来越密切,无论规模还是范围都越来越广。
早在2025年10月,OpenAI就宣布,将部署多达6GW(吉瓦)的AMD GPU算力,合作将持续多年,涵盖多代产品。
今年7月底的Advancing AI大会上,双方又宣布达成全面深度合作,不但有硬件,更有软件。
OpenAI为AMD提供未来大模型和真实负载需求的演进方向,AMD负责将其转化为硬件芯片、系统方案和软件栈优化,互相反哺。
比如在GPU上,从当下的Instinct MI400系列到未来的Instinct MI500系列,莫不如此。
2026年下半年开始,OpenAI将陆续部署上线AMD Helios机架级系统,其中就包括Instinct MI450系列,首批算力规模就达到1GW,之后逐步扩容。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.