公众号记得加星标⭐️,第一时间看推送不会错过。
NVIDIA 即将推出的 Vera Rubin Ultra 系统目前处于变动之中,不断有传言称其可能会降低 HBM 规格,这家 GPU 巨头可能会选择降低每个 GPU 中 HBM4E 的数量以保持其利润率。
今天,美国银行 (BofA) 发布了一份富有洞察力的报告,量化了 NVIDIA 即将推出的基于 Vera Rubin Ultra 的 Kyber 机架中 HBM4E 和基于 LPDDR5X 的 SOCAMM2 模块之间的动态关系。
目前,每颗基础版 Rubin GPU 配备288 GB 的 HBM4 显存,分布在 8 个内存堆栈中,每颗 GPU 的带宽最高可达 22 TB/s。同时,Vera CPU 放弃了标准的服务器 RDIMM 内存插槽,转而采用基于 LPDDR5X 的 SOCAMM2 内存模块。SOCAMM2 模块采用紧贴主板的压缩连接器,缩短了电气线路,从而为 LPDDR5X 提供了数据中心所需的信号完整性和低延迟。每颗 Vera CPU 配备 8 个 SOCAMM2 插槽,理论上每颗 CPU 可支持 1.5 TB 的 LPDDR5X 内存(192GB 模块)。
美国银行刚刚发布了一份新报告,详细说明了Rubin显卡中使用的HBM4E显存每GB的成本为19.76美元。此外,每个拥有144个GPU的Kyber机架将配备216TB的LPDDR5X内存,成本约为280万美元,再加上124.4TB HBM4E内存的250万美元成本。总而言之,每个Kyber机架的成本将达到4160万美元。
与此同时,根据瑞银集团的一份相关报告,Vera Rubin超级芯片配置中的每颗Rubin GPU成本约为9,247美元,其中包括HBM4显存、封装、中介层和外围组件。另一方面,每颗Vera CPU的成本约为20,059美元,其中包括SOCAMM2 LPDDR5X显存,以及其他电路板组件的350美元成本。不过,GPU成本的大约一半以及CPU成本的几乎全部(扣除内存后CPU成本仅为704美元)都来自DRAM!
在 Blackwell 服务器上,Grace CPU 配备了 480 GB 内存,Blackwell GPU 则提供 192 GB 的 HBM3E (GB200) 和高达 288 GB 的 HBM3E (GB300)。然而,Vera Rubin 机架的总内存池已膨胀至 74.7 TB(HBM4 + SOCAMM2)。而对于 Kyber 机架,这一内存池更是惊人地膨胀至 340.4 TB!
英伟达正在测试Rubin Ultra的低内存配置版本
据报道,由于担心HBM内存供应不足,英伟达正在测试即将推出的Rubin Ultra加速器的多个版本,这些版本将减少内存容量。据The Information报道,部分版本仅配备192GB内存,并使用HBM4而非最初宣布的HBM4E 。该报道证实了此前SemiAnalysis公司关于Rubin Ultra内存容量可能缩减的评论。
今年早些时候的GTC大会上,我们首次亲眼见到了Rubin Ultra的真容。当时,英伟达展示了一个计算托架,其中搭载了四个计算芯片以及1TB的HBM4E显存。这款加速器是英伟达Kyber NVL144设计的一部分,该设计计划于2027年推出。SemiAnalysis报道称,该机架的发布时间已推迟至2028年。英伟达在回复Tom's Hardware的采访时表示:“我们的路线图保持不变。”但该公司并未就此次延期是否属实做出任何澄清。我们已就此最新报道联系了英伟达。
据The Information报道,英伟达正在测试配备192GB或256GB显存的Rubin Ultra版本,以及使用少于此前公布的16个显存堆栈的版本。或许最重要的是,据报道英伟达正在测试的是HBM4,而非最初公布的HBM4E。除了每一代新HBM架构的传统改进之外,HBM4E的独特之处在于它提供了可定制的基础逻辑芯片。去年,美光宣布与台积电合作生产基础芯片,并允许客户根据自身需求对逻辑芯片进行调整。
据报道,HBM4E的复杂性导致供应紧张,内存制造商无法跟上Rubin Ultra的发布速度。报道称,英伟达至少测试了三种低容量设计,但我们尚不清楚这些原型机的全部细节。报道称,测试采用了HBM4,以及192GB和256GB的配置,但并未提及每种测试容量对应的计算芯片数量或内存类型。
芯片数量至关重要。今年6月,有报道称英伟达因制造工艺复杂而取消了四芯片Rubin Ultra的设计。尽管英伟达尚未对此置评,但当时的报道暗示,英伟达将转而推出双GPU的Rubin Ultra。在这种情况下,减少显存容量就显得更为合理。即使是双芯片的Rubin Ultra,其标称显存容量也低于预期。目前,每块基础版Rubin GPU都配备288GB的HBM4显存。
很明显,英伟达正试图在内存领域抢占先机,而如今的内存合作协议往往已签订多年。英伟达自身也签署了多项协议。今年6月,该公司宣布与SK海力士合作开发下一代内存技术,其中包括HBM、LPDDR5X和DDR5。7月,英伟达进一步扩大了与SK的合作,签署了一项价值5000亿美元的战略合作协议,其中包括与SK的长期内存供应协议。
尽管英伟达正在考虑降低内存配置,但一位英伟达客户告诉The Information,每个 GPU 的内存并不是首要考虑因素,他们更看重与英伟达的长期合作关系。
内存短缺几乎影响到目前市面上所有设计,尤其是采用HBM内存的企业级系统,受影响尤为严重。上周,Digitimes报道称,三星、SK海力士和美光的HBM产能已售罄至2027年。上个月,SK海力士CEO郭鲁正表示,2027年将是内存短缺“最严重的一年”,供应紧张的局面将持续到2030年。
(来源:编译自wccftech )
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第4496内容,欢迎关注。
加星标⭐️第一时间看推送
![]()
![]()
求推荐
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.