网易首页 > 网易号 > 正文 申请入驻

SRAM想抢HBM的饭碗?黄仁勋:应用于AI芯片容量瓶颈是硬伤

0
分享至

IT之家 1 月 8 日消息,科技媒体 Tom's Hardware 今天(1 月 8 日)发布博文,报道称在 CES 2026 展会期间的问答环节,英伟达首席执行官黄仁勋针对“是否用更廉价的 SRAM 取代昂贵的 HBM”这一行业热点进行了回应。

IT之家注:SRAM 全称为 Static Random Access Memory,直译为静态随机存取存储器,是高速小容量的静态缓存,基于触发器,速度极快但成本高、密度低;HBM 是超高带宽、大容量的 3D 堆叠式主存(基于 DRAM),通过垂直堆叠实现超高带宽,功耗低、容量大,主要用于 AI / GPU,两者定位不同,SRAM 是片上缓存,HBM 是系统级高带宽内存,共同服务 AI 算力需求。

AI 行业当前正积极寻找降低成本的途径。随着 SRAM 加速器、GDDR 推理方案以及开放权重模型的兴起,业界出现了一种声音,认为这些低成本方案可以缓解对英伟达昂贵组件的依赖。

特别是在基准测试(Benchmark)和受控演示中,SRAM 凭借极高的访问速度和无延迟特性,展现出了诱人的性能优势,甚至被视为 HBM 的潜在替代者。

黄仁勋并未否认 SRAM 的速度优势。他直言:“对于某些特定工作负载,SRAM 快得惊人。”然而,一旦进入生产级 AI 系统,SRAM 的优势便会因容量瓶颈而崩塌。

黄仁勋指出,SRAM 的容量增长速度远跟不上现代模型的需求,其可容纳的模型规模仅为 HBM 系统的百分之一。在模型因上下文增加或功能扩展而溢出 SRAM 时,系统被迫调用外部内存,导致效率优势瞬间消失。

黄仁勋进一步剖析了 AI 工作负载的不可预测性。现代 AI 模型形态各异,包含混合专家模型(MOE)、多模态任务、扩散模型及自回归模型等。

这些架构对硬件的压力点截然不同:有的依赖显存容量,有的依赖互连带宽(NVLink),且需求时刻在变。如果硬件针对某一特定模式(如纯 SRAM)过度优化,一旦工作负载发生变化,昂贵的芯片就会闲置。

基于此,英伟达坚持选择 HBM 路线。黄仁勋认为,在共享数据中心中,灵活性是决定经济效益的关键。即使某种专用硬件在 5%-10% 的任务中表现极致,但如果无法处理其余 90% 的通用任务,就会造成巨大的资源浪费。

相比之下,HBM 方案虽然物料成本更高,但能适应不断变化的算法和模型架构,确保硬件在数周甚至数月的运营周期内保持高利用率。

针对“开放模型是否会削弱英伟达壁垒”的提问,黄仁勋表示,开放并不意味着降低基础设施要求。随着开放模型整合更长的上下文和更多模态,其内存占用同样会激增。

英伟达愿意承担高昂的 HBM 成本和复杂的系统设计,正是为了保留“可选性”(Optionality),既防止客户被锁定在狭窄的性能范围内,也保护自身硬件免受模型架构快速迭代的冲击。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
历史第一!绿军狂轰148分,80.8%有效命中率创NBA纪录

历史第一!绿军狂轰148分,80.8%有效命中率创NBA纪录

大眼瞄世界
2026-02-28 23:22:41
没有哈兰德曼城照样赢!冬窗两新援炸了!瓜帅笑开花,阿森纳慌了

没有哈兰德曼城照样赢!冬窗两新援炸了!瓜帅笑开花,阿森纳慌了

听我说球
2026-03-01 10:38:58
新冠后遗症对人体的最大影响,很多人深受其害,有些人还不自知

新冠后遗症对人体的最大影响,很多人深受其害,有些人还不自知

呼吸科大夫胡洋
2026-02-22 11:39:12
伊朗政府就哈梅内伊殉职发表声明:要让敌人“付出惨痛的代价”

伊朗政府就哈梅内伊殉职发表声明:要让敌人“付出惨痛的代价”

澎湃新闻
2026-03-01 11:47:05
你见过哪些闷声发大财的人?网友:干这个买三套房子,两个门面

你见过哪些闷声发大财的人?网友:干这个买三套房子,两个门面

夜深爱杂谈
2026-02-01 18:57:04
250架战机集结中国大西北!美媒惊呼:中国最大规模空战演习来了

250架战机集结中国大西北!美媒惊呼:中国最大规模空战演习来了

壹知眠羊
2026-02-28 09:37:22
帕夫洛维奇:凯恩会打破莱万的德甲进球纪录,他是世界级前锋

帕夫洛维奇:凯恩会打破莱万的德甲进球纪录,他是世界级前锋

懂球帝
2026-03-01 05:00:15
是不是觉得很奇怪:日本打遍了大半个中国,为何没有踏进陕西一步

是不是觉得很奇怪:日本打遍了大半个中国,为何没有踏进陕西一步

兴趣知识
2026-02-11 13:30:42
美方要求中方参加中美俄三边核裁军谈判,外交部:不公平、不合理也不可行!“中国的核力量同美俄完全不在一个量级”

美方要求中方参加中美俄三边核裁军谈判,外交部:不公平、不合理也不可行!“中国的核力量同美俄完全不在一个量级”

每日经济新闻
2026-02-27 17:25:20
特朗普苦等4天中方终于回信,对美开出两大条件,做不到访华免谈

特朗普苦等4天中方终于回信,对美开出两大条件,做不到访华免谈

叹知
2026-02-28 18:02:53
3800元戏票秒空!陈丽君赴台爆火,肉身滚3米楼梯,征服年轻观众

3800元戏票秒空!陈丽君赴台爆火,肉身滚3米楼梯,征服年轻观众

好贤观史记
2026-03-01 09:02:26
日本新年参贺出大丑!“精神病”典礼排泄震动皇室,如今严防死守

日本新年参贺出大丑!“精神病”典礼排泄震动皇室,如今严防死守

世界王室那些事
2026-02-28 18:31:22
哈格里夫斯:曼城争冠最大优势是有瓜迪奥拉,主动权在阿森纳

哈格里夫斯:曼城争冠最大优势是有瓜迪奥拉,主动权在阿森纳

懂球帝
2026-03-01 13:09:10
深圳富婆回国邀20名同学聚餐,一顿狂吃8万8,不料结账时面面相觑

深圳富婆回国邀20名同学聚餐,一顿狂吃8万8,不料结账时面面相觑

刀刃故事
2025-02-16 15:12:36
美方报道的中国大使馆被炸事件,中国军事顾问团遭重创,秘而不宣

美方报道的中国大使馆被炸事件,中国军事顾问团遭重创,秘而不宣

干史人
2025-10-22 20:10:03
为天地立心,为生民立命!近五十年内改变世界的七大企业

为天地立心,为生民立命!近五十年内改变世界的七大企业

高博新视野
2026-02-05 15:59:02
四强又只剩王楚钦了!7人相继被淘汰,林诗栋引失望,陈垣宇惊喜

四强又只剩王楚钦了!7人相继被淘汰,林诗栋引失望,陈垣宇惊喜

篮球资讯达人
2026-02-28 22:31:49
多国谴责美以袭击伊朗

多国谴责美以袭击伊朗

界面新闻
2026-03-01 10:57:25
李亚鹏变心风波升级!和王菲离婚更多细节被扒,女方或因他上春晚

李亚鹏变心风波升级!和王菲离婚更多细节被扒,女方或因他上春晚

古希腊掌管月桂的神
2026-02-28 20:04:13
疑似王一博被爆私密聊天记录,鹿晗肖战躺枪,工作室成已取证

疑似王一博被爆私密聊天记录,鹿晗肖战躺枪,工作室成已取证

娱文速递
2026-02-28 10:24:07
2026-03-01 13:43:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
331635文章数 607030关注度
往期回顾 全部

科技要闻

小米超跑概念车全球首秀!杀入顶豪俱乐部

头条要闻

哈梅内伊生前已安排好"后事" 总统佩泽希齐扬被边缘化

头条要闻

哈梅内伊生前已安排好"后事" 总统佩泽希齐扬被边缘化

体育要闻

火箭输给热火:乌度卡又输斯波教练

娱乐要闻

《江山为聘》:吴谨言陈哲远燃炸朝堂

财经要闻

中东局势升级 如何影响A股、黄金和原油

汽车要闻

小米汽车2月交付超20000台 雷军:为新SU7量产作准备

态度原创

教育
旅游
亲子
游戏
公开课

教育要闻

全了!浙江11地开学时间汇总,这份安全攻略请收好!

旅游要闻

来松江 过大年|赏非遗、赴雅集、观花灯,来泗泾古镇闹元宵

亲子要闻

服了

爆料称PlayStation不再移植到PC的决定从去年已定

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版