网易首页 > 网易号 > 正文 申请入驻

郭明錤:英伟达重启推理预填充优化芯片Rubin CPX项目

0
分享至

英伟达悄然重启一项一度被市场认为已经放弃的芯片项目,目标直指AI推理成本较高的预填充(Prefill)环节。

知名分析师郭明錤最新产业调查显示,英伟达已重新启动AI推理预填充加速GPU项目“Rubin CPX”,并对产品设计进行大幅调整。按照目前规划,新版Rubin CPX预计于2027年第一季度开始生产。

此次项目重启释放出一个明确信号:英伟达正在加码解决AI推理阶段的预填充性能与成本瓶颈。随着大模型上下文长度持续增加,预填充阶段需要处理大量输入信息并生成KV Cache,其效率直接影响AI推理的整体成本和部署经济性。

郭明錤称,目前超过50%的AI推理工作负载来自输入上下文处理及KV Cache构建。

芯片规格大幅调整,算力接近标准Rubin

新版Rubin CPX的核心规格较此前方案出现明显变化。

在算力和功耗方面,新版CPX的性能已接近标准Rubin GPU,单卡最高功耗同样达到2300瓦。内存方面,新版CPX改用168GB HBM4显存,较此前方案的128GB GDDR7明显升级,但仍低于标准Rubin GPU的288GB HBM4。

按照郭明錤的说法,8卡CPX计算托盘的HBM4容量合计约1.34TB,能够覆盖大多数长上下文预填充工作负载及对应的KV Cache需求。这意味着,Rubin CPX并非单纯追求更高的通用算力,而是针对长上下文场景对显存容量和预填充效率进行了重新设计。

从共享机架转向独立部署,配置更加灵活

机架架构也是此次调整的重点。

此前方案中,CPX计划与Rubin GPU共享机架;新版则改为采用独立的MGX ETL机架,从而允许客户根据实际需求单独扩展CPX算力。

具体来看,客户可以选择64、128、192或256张CPX GPU的部署规模。每64张CPX GPU构成一个机架模块,包括8个计算托盘,每个托盘搭载8张CPX GPU,同时配备一个交换机托盘。

模块化设计意味着,客户无需按照固定的大规模Rubin机架进行采购,可以根据预填充负载的实际需求灵活增加CPX算力。

分层互联设计,降低预填充部署成本

在互联架构上,Rubin CPX采用分层设计,在性能与成本之间进行取舍。

在单个计算托盘内部,8张CPX GPU通过NVLink进行Scale-up扩展。每张CPX GPU的NVLink带宽为1至1.5TB/s,低于标准Rubin GPU的3.6TB/s。

在托盘之间以及机架模块内部的Scale-out层面,CPX采用Spectrum-6以太网全铜L1链路;跨机架模块连接时,则通过各模块的Spectrum-6交换机,经OSFP光纤链路完成互联。

相比完全依赖高带宽GPU互联的方案,这种分层架构更强调针对预填充场景进行成本优化。

与Rubin GPU协同,瞄准长上下文推理

Rubin CPX并不是独立运行的通用GPU,而是作为预填充加速器与Vera Rubin NVL72配套使用。

按照郭明錤的说法,英伟达推荐CPX与Rubin GPU按照1:1的比例部署:CPX负责预填充阶段的计算并生成KV Cache,随后通过以太网RDMA将KV Cache传输至Rubin GPU,由后者完成后续解码。

从产品定位来看,Rubin CPX的核心并不是取代标准Rubin GPU,而是将AI推理流程进一步拆分,让不同GPU分别承担预填充和解码任务。

郭明錤将其定位为“长上下文预填充的最佳性价比方案”。随着AI模型上下文窗口不断扩大,预填充阶段的计算量和KV Cache规模持续增长,英伟达此次重启CPX项目,或正是试图通过专用硬件和异构部署方式,进一步降低长上下文推理的成本。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
不舍精致妆容,别硬演革命剧!《伟大的长征》万茜和啜妮的扮相才叫女战士

不舍精致妆容,别硬演革命剧!《伟大的长征》万茜和啜妮的扮相才叫女战士

娱乐圈笔娱君
2026-10-16 17:48:26
日本乒协没想到,“踢出”伊藤美诚名单不到一天,就遭到口碑反噬

日本乒协没想到,“踢出”伊藤美诚名单不到一天,就遭到口碑反噬

誮惜颜a
2026-10-17 14:20:12
1死2伤!一39岁男司机在上海徐浦大桥酿事故!调查及善后正在进行中

1死2伤!一39岁男司机在上海徐浦大桥酿事故!调查及善后正在进行中

声情专递
2026-10-17 12:19:17
男人必看!为什么说中年女人“如狼似虎”,你招架的住吗?

男人必看!为什么说中年女人“如狼似虎”,你招架的住吗?

荔子言
2026-10-17 10:18:29
别再同情她了!被教练性侵27次,却在奥运赛场把队友撞出赛道

别再同情她了!被教练性侵27次,却在奥运赛场把队友撞出赛道

张发林
2026-10-17 16:01:07
从3万亿降到1.7万亿,A股退烧背后,到底是谁在悄悄套现?

从3万亿降到1.7万亿,A股退烧背后,到底是谁在悄悄套现?

你在偷看谁
2026-10-17 11:30:56
55岁李英爱与75岁老公罕同框,老公身家2万亿韩元,网友:“大长今也老了”

55岁李英爱与75岁老公罕同框,老公身家2万亿韩元,网友:“大长今也老了”

娱乐嗑学家.
2026-10-16 14:55:37
刘国梁也没想到,如今身居高位的王励勤,因一个背包实现口碑暴增

刘国梁也没想到,如今身居高位的王励勤,因一个背包实现口碑暴增

十点街球体育
2026-10-16 21:51:07
iPhone Duo 新配件已发售,卖999元

iPhone Duo 新配件已发售,卖999元

全是技能
2026-10-17 16:33:59
差点坑勇士!库里突破惨遭进攻犯规,科尔发飙申请挑战,结局反转

差点坑勇士!库里突破惨遭进攻犯规,科尔发飙申请挑战,结局反转

面包夹知识
2026-10-17 16:12:05
卑鄙!马继华谈马琳摸脸王曼昱,引导饭圈造黄谣,太脏了

卑鄙!马继华谈马琳摸脸王曼昱,引导饭圈造黄谣,太脏了

张发林
2026-10-17 16:03:25
杀疯了!新股凯达重工18天跌73.84%,首日追高全被套,市值蒸发62亿!

杀疯了!新股凯达重工18天跌73.84%,首日追高全被套,市值蒸发62亿!

趋势清风侠
2026-10-17 11:46:55
汪小菲与两个截然不同女人结婚,各自抱着孩子合照,看着有点感慨

汪小菲与两个截然不同女人结婚,各自抱着孩子合照,看着有点感慨

大眼妹妹
2026-10-16 17:01:49
朱立伦出手,张善政出手,国民党中央重磅决定,赵少康没事了?

朱立伦出手,张善政出手,国民党中央重磅决定,赵少康没事了?

DS北风
2026-10-17 09:22:04
昔日貌美校花被丈夫养至330斤,睡塌两张床,丈夫坦言怕她被抢走

昔日貌美校花被丈夫养至330斤,睡塌两张床,丈夫坦言怕她被抢走

老娱记啊
2026-10-13 15:12:28
恩里克:我执教巴黎之前,大家都说法甲水平低,我们赢不了欧冠

恩里克:我执教巴黎之前,大家都说法甲水平低,我们赢不了欧冠

林子说事
2026-10-17 10:51:04
新一轮大跌源头,找到了!

新一轮大跌源头,找到了!

功夫财经
2026-10-17 09:13:12
马科斯暴怒不已!他没想到,中国的油,不再给菲律宾“开小灶”,了

马科斯暴怒不已!他没想到,中国的油,不再给菲律宾“开小灶”,了

狡黠之狐
2026-10-17 12:14:01
大战一触即发!解放军封海仅一天,双航母实弹出动,美日坐立难安

大战一触即发!解放军封海仅一天,双航母实弹出动,美日坐立难安

安珈使者啊
2026-10-17 09:38:53
俄方寸步不让:天然气管道非得取道蒙古进入中国

俄方寸步不让:天然气管道非得取道蒙古进入中国

果妈聊娱乐
2026-10-01 16:13:46
2026-10-17 17:32:49
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
153638文章数 2655099关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

男子服刑七年 出狱后发现账户里数十万资金仅剩6.43元

头条要闻

男子服刑七年 出狱后发现账户里数十万资金仅剩6.43元

体育要闻

高级货,真高级

娱乐要闻

黄子韬儿子国籍争议,遭知名演员点名

财经要闻

新一轮大跌源头,找到了!

汽车要闻

特斯拉会飞?全新Roadster亮相

态度原创

房产
数码
手机
本地
公开课

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

数码要闻

破除液金蒸发传言!硬核玩家两年实测:合金化两个月后就稳定

手机要闻

三星Galaxy S27+手机认证未标注支持UWB,恐影响精准防丢等体验

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版