网易首页 > 网易号 > 正文 申请入驻

SRAM想抢HBM的饭碗?黄仁勋:应用于AI芯片容量瓶颈是硬伤

0
分享至

IT之家 1 月 8 日消息,科技媒体 Tom's Hardware 今天(1 月 8 日)发布博文,报道称在 CES 2026 展会期间的问答环节,英伟达首席执行官黄仁勋针对“是否用更廉价的 SRAM 取代昂贵的 HBM”这一行业热点进行了回应。

IT之家注:SRAM 全称为 Static Random Access Memory,直译为静态随机存取存储器,是高速小容量的静态缓存,基于触发器,速度极快但成本高、密度低;HBM 是超高带宽、大容量的 3D 堆叠式主存(基于 DRAM),通过垂直堆叠实现超高带宽,功耗低、容量大,主要用于 AI / GPU,两者定位不同,SRAM 是片上缓存,HBM 是系统级高带宽内存,共同服务 AI 算力需求。

AI 行业当前正积极寻找降低成本的途径。随着 SRAM 加速器、GDDR 推理方案以及开放权重模型的兴起,业界出现了一种声音,认为这些低成本方案可以缓解对英伟达昂贵组件的依赖。

特别是在基准测试(Benchmark)和受控演示中,SRAM 凭借极高的访问速度和无延迟特性,展现出了诱人的性能优势,甚至被视为 HBM 的潜在替代者。

黄仁勋并未否认 SRAM 的速度优势。他直言:“对于某些特定工作负载,SRAM 快得惊人。”然而,一旦进入生产级 AI 系统,SRAM 的优势便会因容量瓶颈而崩塌。

黄仁勋指出,SRAM 的容量增长速度远跟不上现代模型的需求,其可容纳的模型规模仅为 HBM 系统的百分之一。在模型因上下文增加或功能扩展而溢出 SRAM 时,系统被迫调用外部内存,导致效率优势瞬间消失。

黄仁勋进一步剖析了 AI 工作负载的不可预测性。现代 AI 模型形态各异,包含混合专家模型(MOE)、多模态任务、扩散模型及自回归模型等。

这些架构对硬件的压力点截然不同:有的依赖显存容量,有的依赖互连带宽(NVLink),且需求时刻在变。如果硬件针对某一特定模式(如纯 SRAM)过度优化,一旦工作负载发生变化,昂贵的芯片就会闲置。

基于此,英伟达坚持选择 HBM 路线。黄仁勋认为,在共享数据中心中,灵活性是决定经济效益的关键。即使某种专用硬件在 5%-10% 的任务中表现极致,但如果无法处理其余 90% 的通用任务,就会造成巨大的资源浪费。

相比之下,HBM 方案虽然物料成本更高,但能适应不断变化的算法和模型架构,确保硬件在数周甚至数月的运营周期内保持高利用率。

针对“开放模型是否会削弱英伟达壁垒”的提问,黄仁勋表示,开放并不意味着降低基础设施要求。随着开放模型整合更长的上下文和更多模态,其内存占用同样会激增。

英伟达愿意承担高昂的 HBM 成本和复杂的系统设计,正是为了保留“可选性”(Optionality),既防止客户被锁定在狭窄的性能范围内,也保护自身硬件免受模型架构快速迭代的冲击。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
48岁人权律师高温天穿麂皮,和丈夫乘游艇游意大利海岛

48岁人权律师高温天穿麂皮,和丈夫乘游艇游意大利海岛

时光慢旅人
2026-07-18 00:12:55
演员殷亭如:爆红后嫁美国丈夫定居国外,48岁丧夫,62岁客死异乡

演员殷亭如:爆红后嫁美国丈夫定居国外,48岁丧夫,62岁客死异乡

边城少爷
2026-07-18 09:56:52
法国队首发曝光!德尚轮换7人,姆巴佩冲击金靴,登贝莱替补

法国队首发曝光!德尚轮换7人,姆巴佩冲击金靴,登贝莱替补

奥拜尔
2026-07-18 08:14:59
91岁作曲家陈钢去世:24岁写《梁祝》,90岁写《繁花》,一生写“情”

91岁作曲家陈钢去世:24岁写《梁祝》,90岁写《繁花》,一生写“情”

上观新闻
2026-07-18 09:26:55
穆杰塔巴怎么也没想到:彻底激怒特朗普引来的报复,会如此猛烈

穆杰塔巴怎么也没想到:彻底激怒特朗普引来的报复,会如此猛烈

张癈卤说体育
2026-07-18 23:17:20
实测1218公里CLTC续航!比亚迪固态电池量产落地,重塑汽车产业链

实测1218公里CLTC续航!比亚迪固态电池量产落地,重塑汽车产业链

生活魔术专家
2026-07-18 04:20:07
川普宣布:在军队开过重型卡车的退伍军人,可自动获得卡车驾照,取代非法移民卡车司机

川普宣布:在军队开过重型卡车的退伍军人,可自动获得卡车驾照,取代非法移民卡车司机

大洛杉矶LA
2026-07-17 04:46:27
央一黄金档7月21日播《江海潮生》,戏骨云集历史正剧

央一黄金档7月21日播《江海潮生》,戏骨云集历史正剧

书慧我心
2026-07-18 16:04:50
IPO终止!国家级小巨人,中金保荐

IPO终止!国家级小巨人,中金保荐

新浪财经
2026-07-18 18:08:25
基因好突出,刘强东女儿罕见出镜,和父亲长得很像

基因好突出,刘强东女儿罕见出镜,和父亲长得很像

迪迪的娱乐故事
2026-07-17 09:32:43
人民日报:暑假最狠的逆袭,从不是疯狂补课,而是养好12个好习惯

人民日报:暑假最狠的逆袭,从不是疯狂补课,而是养好12个好习惯

每天分享天下事
2026-07-17 21:53:46
CBA:北京男篮正式放弃麦基,米切尔告别CBA,国内教练没有杨瀚森说明书,山西续约迪亚洛

CBA:北京男篮正式放弃麦基,米切尔告别CBA,国内教练没有杨瀚森说明书,山西续约迪亚洛

凯丰侃球
2026-07-19 00:06:17
人口大迁徙基本定了,未来超一半中国人,或将流入这些地方

人口大迁徙基本定了,未来超一半中国人,或将流入这些地方

蜉蝣说
2026-07-12 11:57:41
1952 年空战杨汉黄弃机跳伞,见敌机同坠举枪,落地后满心诧异

1952 年空战杨汉黄弃机跳伞,见敌机同坠举枪,落地后满心诧异

磊子讲史
2026-06-30 15:49:06
乌克兰16城爆发大规模抗议,泽连斯基面临政治危机与新挑战

乌克兰16城爆发大规模抗议,泽连斯基面临政治危机与新挑战

老嫅尾声体育解说
2026-07-18 07:35:19
李海潮被查,涉此前山西特别重大瓦斯爆炸事故,该事故造成82人死亡

李海潮被查,涉此前山西特别重大瓦斯爆炸事故,该事故造成82人死亡

蓬勃新闻
2026-07-18 16:34:16
心累吃红豆,脑累吃核桃,眼累吃......这六种抗疲劳的食物,快收好!

心累吃红豆,脑累吃核桃,眼累吃......这六种抗疲劳的食物,快收好!

上海圈
2026-07-17 21:03:51
心照不宣地放任失业,是大国经济崩盘的根源?

心照不宣地放任失业,是大国经济崩盘的根源?

文化纵横
2026-07-14 16:45:46
7月养老金到账了!还是原来的配方!2026年养老金调整迟到了!

7月养老金到账了!还是原来的配方!2026年养老金调整迟到了!

小谈食刻美食
2026-07-18 09:30:01
养了3年的猫突然开线了?网友以为是玩具,点开一看笑喷:快缝上

养了3年的猫突然开线了?网友以为是玩具,点开一看笑喷:快缝上

铲屎官阿伟
2026-07-03 21:18:00
2026-07-19 00:48:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
355659文章数 607375关注度
往期回顾 全部

科技要闻

WAIC2026看什么?这份"不迷路"攻略请收好

头条要闻

山体崩塌亲历者:目睹人被埋惨状 巨石砸下房子像豆腐

头条要闻

山体崩塌亲历者:目睹人被埋惨状 巨石砸下房子像豆腐

体育要闻

德尚是非典型法国人 14年执教留下丰厚遗产

娱乐要闻

大S给具俊晔留遗产是昏头?实际上她清醒得很

财经要闻

股民当街砍博主!韩国股市 终极大屠杀

汽车要闻

把中国超跑卖到英国,比亚迪正在被世界看见

态度原创

时尚
手机
教育
健康
游戏

钱没白花|| 用了6年、真正留下来的心头爱,这次有好价!

手机要闻

30年前的一句话成为现实!荣耀Robot Phone应验凯文·凯利预言

教育要闻

湖北3名教师违规补课被处分,有人算了笔账:不止倒亏几十万

刮痧也会刮出脑梗?讲个真实案例

《GTA6》等数字游戏或要涨价!索尼新定价机制来了

无障碍浏览 进入关怀版