网易首页 > 网易号 > 正文 申请入驻

SRAM想抢HBM的饭碗?黄仁勋:应用于AI芯片容量瓶颈是硬伤

0
分享至

IT之家 1 月 8 日消息,科技媒体 Tom's Hardware 今天(1 月 8 日)发布博文,报道称在 CES 2026 展会期间的问答环节,英伟达首席执行官黄仁勋针对“是否用更廉价的 SRAM 取代昂贵的 HBM”这一行业热点进行了回应。

IT之家注:SRAM 全称为 Static Random Access Memory,直译为静态随机存取存储器,是高速小容量的静态缓存,基于触发器,速度极快但成本高、密度低;HBM 是超高带宽、大容量的 3D 堆叠式主存(基于 DRAM),通过垂直堆叠实现超高带宽,功耗低、容量大,主要用于 AI / GPU,两者定位不同,SRAM 是片上缓存,HBM 是系统级高带宽内存,共同服务 AI 算力需求。

AI 行业当前正积极寻找降低成本的途径。随着 SRAM 加速器、GDDR 推理方案以及开放权重模型的兴起,业界出现了一种声音,认为这些低成本方案可以缓解对英伟达昂贵组件的依赖。

特别是在基准测试(Benchmark)和受控演示中,SRAM 凭借极高的访问速度和无延迟特性,展现出了诱人的性能优势,甚至被视为 HBM 的潜在替代者。

黄仁勋并未否认 SRAM 的速度优势。他直言:“对于某些特定工作负载,SRAM 快得惊人。”然而,一旦进入生产级 AI 系统,SRAM 的优势便会因容量瓶颈而崩塌。

黄仁勋指出,SRAM 的容量增长速度远跟不上现代模型的需求,其可容纳的模型规模仅为 HBM 系统的百分之一。在模型因上下文增加或功能扩展而溢出 SRAM 时,系统被迫调用外部内存,导致效率优势瞬间消失。

黄仁勋进一步剖析了 AI 工作负载的不可预测性。现代 AI 模型形态各异,包含混合专家模型(MOE)、多模态任务、扩散模型及自回归模型等。

这些架构对硬件的压力点截然不同:有的依赖显存容量,有的依赖互连带宽(NVLink),且需求时刻在变。如果硬件针对某一特定模式(如纯 SRAM)过度优化,一旦工作负载发生变化,昂贵的芯片就会闲置。

基于此,英伟达坚持选择 HBM 路线。黄仁勋认为,在共享数据中心中,灵活性是决定经济效益的关键。即使某种专用硬件在 5%-10% 的任务中表现极致,但如果无法处理其余 90% 的通用任务,就会造成巨大的资源浪费。

相比之下,HBM 方案虽然物料成本更高,但能适应不断变化的算法和模型架构,确保硬件在数周甚至数月的运营周期内保持高利用率。

针对“开放模型是否会削弱英伟达壁垒”的提问,黄仁勋表示,开放并不意味着降低基础设施要求。随着开放模型整合更长的上下文和更多模态,其内存占用同样会激增。

英伟达愿意承担高昂的 HBM 成本和复杂的系统设计,正是为了保留“可选性”(Optionality),既防止客户被锁定在狭窄的性能范围内,也保护自身硬件免受模型架构快速迭代的冲击。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1 月天降横财!3 生肖十年一遇大运,鸿运傍身富贵来

1 月天降横财!3 生肖十年一遇大运,鸿运傍身富贵来

人閒情事
2026-01-10 15:43:43
“刚买的新车,就要拆发动机大修!”知名大牌汽车,引发沪上消费者“集体维权”

“刚买的新车,就要拆发动机大修!”知名大牌汽车,引发沪上消费者“集体维权”

新民晚报
2026-01-07 20:30:39
这反转惊掉下巴!当初要整蔡正元的检察官陈舒怡,觉都睡不踏实了

这反转惊掉下巴!当初要整蔡正元的检察官陈舒怡,觉都睡不踏实了

扶苏聊历史
2026-01-10 12:05:03
江西省共青城市委书记万建明被查

江西省共青城市委书记万建明被查

上观新闻
2026-01-09 20:52:16
官宣!宜家,1月15日起大清仓!

官宣!宜家,1月15日起大清仓!

尚虹桥
2026-01-09 21:16:49
决胜局9:10逆转!陈熠3:2赢张本,多哈战早田成试金石

决胜局9:10逆转!陈熠3:2赢张本,多哈战早田成试金石

阿晞体育
2026-01-10 08:57:10
形式主义的最大危害:员工在屎上雕花,管理层在屁中寻香

形式主义的最大危害:员工在屎上雕花,管理层在屁中寻香

诗词中国
2025-11-23 18:18:44
别墅搜出23件国宝,全家集体失联!徐湖平案落幕,17年举报有结果

别墅搜出23件国宝,全家集体失联!徐湖平案落幕,17年举报有结果

诗意世界
2026-01-03 15:19:25
河南一男孩校内死亡后续:官方通报,知情人曝细节,校方恐担责!

河南一男孩校内死亡后续:官方通报,知情人曝细节,校方恐担责!

有范又有料
2026-01-10 09:31:25
突发两大利好!A股站上4100点、3万亿成交,AI应用取代商业航天?

突发两大利好!A股站上4100点、3万亿成交,AI应用取代商业航天?

看财经show
2026-01-09 16:51:11
财政压力的下半场:退休人员占比近四成,才是硬账

财政压力的下半场:退休人员占比近四成,才是硬账

超先声
2026-01-09 16:45:39
五十六岁的钟丽缇更加油腻了,从机场出来,150斤的体重惊呆众人

五十六岁的钟丽缇更加油腻了,从机场出来,150斤的体重惊呆众人

可乐谈情感
2026-01-08 06:28:33
国家及时出手了!

国家及时出手了!

牛弹琴
2026-01-10 06:17:58
CCTV5直播,U23国足背水一战 5后卫改对攻 王钰栋和蒯纪闻更适配

CCTV5直播,U23国足背水一战 5后卫改对攻 王钰栋和蒯纪闻更适配

替补席看球
2026-01-10 07:59:47
11日弱冷空气影响广东,粤北仍有低温天气

11日弱冷空气影响广东,粤北仍有低温天气

广东天气
2026-01-10 15:46:11
中组部有关干部局负责同志宣布党中央决定:曲光吉履新职

中组部有关干部局负责同志宣布党中央决定:曲光吉履新职

上观新闻
2026-01-09 16:52:05
张碧晨演唱会上衣若隐若现,美炸了啊!网友:会不会太透视了?

张碧晨演唱会上衣若隐若现,美炸了啊!网友:会不会太透视了?

动物奇奇怪怪
2026-01-10 01:47:57
Bonni Gee:38岁出道的英国性感人妻

Bonni Gee:38岁出道的英国性感人妻

吃瓜党二号头目
2026-01-09 09:58:39
乌度卡:杜兰特被换2分钟就被打11-0,其他人心理素质太差了

乌度卡:杜兰特被换2分钟就被打11-0,其他人心理素质太差了

懂球帝
2026-01-10 14:18:13
曝灰熊听取莫兰特交易报价!考虑在截止日前送走他 多队表达兴趣

曝灰熊听取莫兰特交易报价!考虑在截止日前送走他 多队表达兴趣

罗说NBA
2026-01-10 03:22:08
2026-01-10 16:55:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
323890文章数 606874关注度
往期回顾 全部

科技要闻

传DeepSeek准备第二次震惊全世界

头条要闻

闫学晶"哭穷"后多账号被禁止关注 其代言品牌:将索赔

头条要闻

闫学晶"哭穷"后多账号被禁止关注 其代言品牌:将索赔

体育要闻

怒摔水瓶!杜兰特30+12 难阻火箭遭双杀

娱乐要闻

吴速玲曝儿子Joe是恋爱脑

财经要闻

投资必看!瑞银李萌给出3大核心配置建议

汽车要闻

宝马25年全球销量246.3万台 中国仍是第一大市场

态度原创

房产
家居
旅游
数码
公开课

房产要闻

66万方!4755套!三亚巨量房源正疯狂砸出!

家居要闻

木色留白 演绎现代自由

旅游要闻

视点|点亮王四营乡文旅新地标!朝悦茶村正式开业

数码要闻

当追觅让泳池机器人长出了“手”,我拥有了真正“懂我的家”

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版