网易首页 > 网易号 > 正文 申请入驻

HBM之父金正浩:AI本质是内存,GPU真正利用率仅10%-30%

0
分享至

IT之家 7 月 6 日消息,被誉为“HBM 之父”的韩国科学技术院(KAIST)电气系教授金正浩近日接受《东亚日报》采访时表示,AI 的核心竞争力正在从 GPU 转向内存。


金正浩认为 AI 的本质是内存,GPU 在 AI 推理中的利用率远低于理论水平。AI 每次输出结果,都必须先从 HBM 读取数据、传到 GPU 进行计算,再将结果写回内存。就算部署 100 万块 GPU,真正用于计算的时间也只有 10%-30%。

并且过去的 AI 主要集中在训练阶段,因此 GPU 是决定性能的核心。而着眼现在和未来,AI 将进入推理时代,此时真正能决定性能的,是一次能处理多少数据、能以多快速度处理数据,因此内存能力将直接决定 AI 性能。

当然,目前已经有 HBM 这种专门适配 AI 的高带宽内存方案。但随着 AI 迈入多模态化和 Agentic AI(代理式人工智能)出现,人们将越来越需要保存视频、文档、长期记忆等海量冷数据。因此,将 NAND 闪存像 HBM 一样堆叠的 HBF 技术将在未来成为主流。金正浩更是预测,10 年后 HBF 的市场需求将超过 HBM。

到了更远的未来,HBS(高带宽 SRAM)将成为主流。这种技术将采用读写速度比 DRAM 快 1000 倍的 SRAM,其构想包括在整片 12 英寸晶圆上铺设 SRAM、将容量提升至约 1600GB,实现大容量高速数据处理。

此外金正浩设想,未来的 AI 计算机将演变成一个庞大的“三维建筑”:HBM 将充当商场角色,HBF 层相当于住宅区,HBS 则承担高速缓存功能。各种形态的 HBM、HBF、HBS 组合在一起,给 GPU 供给数据,形成约 100 层规模的 3D 复合架构。

IT之家注:金正浩长期致力于高带宽内存(HBM)与 2.5D/3D 集成封装研究。他从 2010 年开始和 SK 海力士研发 HBM1,并在去年参与 HBM4-HBM8 长期发展路线图规划,

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
冲上热搜!浙江一地推出“猪景房”,8888元一晚!牧场回应:入住送一头价值6888元的猪

冲上热搜!浙江一地推出“猪景房”,8888元一晚!牧场回应:入住送一头价值6888元的猪

农视网
2026-09-17 17:08:34
新股鸿富诚公布中签结果,中签号码仅1.31万个,股民中了注定吃大肉!

新股鸿富诚公布中签结果,中签号码仅1.31万个,股民中了注定吃大肉!

数据挖掘分析
2026-09-18 07:08:51
印度在南海养条恶犬,随时准备扑上来撕咬,印媒:让中国知道厉害

印度在南海养条恶犬,随时准备扑上来撕咬,印媒:让中国知道厉害

风流女汉
2026-09-16 20:12:56
为什么一见面就是睡觉,一有机会就不停发生关系?

为什么一见面就是睡觉,一有机会就不停发生关系?

阿凯销售场
2026-09-18 10:23:29
压轴机王!新机官宣:9月29日,发布即开售!

压轴机王!新机官宣:9月29日,发布即开售!

科技堡垒
2026-09-16 11:58:11
压垮南方医科大学博士高材生的最后一根稻草揭晓

压垮南方医科大学博士高材生的最后一根稻草揭晓

大熊欢乐坊
2026-09-17 17:30:58
还有7天中秋节,社会却出现了6个“怪现象”,与往年大不相同!

还有7天中秋节,社会却出现了6个“怪现象”,与往年大不相同!

爱生活的陶哥
2026-09-18 08:42:22
乌克兰民众储备半自动霰弹枪,用以击落俄无人机:击落几率相当高

乌克兰民众储备半自动霰弹枪,用以击落俄无人机:击落几率相当高

章幃户外
2026-09-17 08:10:13
日本异世界动画里的城镇怎么都一样?粉丝的感慨引发热议

日本异世界动画里的城镇怎么都一样?粉丝的感慨引发热议

ACG萌博士
2026-09-17 14:16:43
中国男篮vs日本临时调整!CCTV5不直播,暗藏三个信号

中国男篮vs日本临时调整!CCTV5不直播,暗藏三个信号

属于自己的光
2026-09-17 22:17:21
也门政府军与胡塞武装在多条战线持续交火

也门政府军与胡塞武装在多条战线持续交火

环球网资讯
2026-09-18 09:05:08
中俄投了反对票

中俄投了反对票

陆弃
2026-09-18 10:43:25
1987年,邓公开会时指着刘洪二人,询问杨尚昆:他们命令下了没?

1987年,邓公开会时指着刘洪二人,询问杨尚昆:他们命令下了没?

简史档案馆
2026-09-03 11:05:03
京沪高铁收支出炉:运行满 15 年,总投资约 2209 亿,回本了吗?

京沪高铁收支出炉:运行满 15 年,总投资约 2209 亿,回本了吗?

抽象派大师
2026-09-15 13:35:53
一针没打的280万人,2026年身体真相曝光

一针没打的280万人,2026年身体真相曝光

华庭讲美食
2026-08-26 01:21:08
“一箱子高科技加寒,你女儿想健康都难!”母亲给女儿的爱心行囊,被骂惨!

“一箱子高科技加寒,你女儿想健康都难!”母亲给女儿的爱心行囊,被骂惨!

林林先生
2026-09-17 16:34:42
只议事、不生事!印度主办金砖很成功,美学者:中国应帮印度入常

只议事、不生事!印度主办金砖很成功,美学者:中国应帮印度入常

国际法大视野
2026-09-17 11:34:27
香山论坛闭幕:朝鲜规格生变,董防长重磅发声,中国智慧再成焦点

香山论坛闭幕:朝鲜规格生变,董防长重磅发声,中国智慧再成焦点

奇思妙想生活家
2026-09-18 05:23:52
“这颜值,放艺术生里也是顶级了!”家长晒素颜大一女儿哭鼻子,院校揭晓网友都慕了

“这颜值,放艺术生里也是顶级了!”家长晒素颜大一女儿哭鼻子,院校揭晓网友都慕了

妍妍教育日记
2026-09-14 20:51:56
是时候揭开真相了:当年对越作战的损失或许远超人们想象,仅从那些牺牲的将门之后就能看出端倪

是时候揭开真相了:当年对越作战的损失或许远超人们想象,仅从那些牺牲的将门之后就能看出端倪

人生录
2026-08-26 00:05:15
2026-09-18 12:39:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
367817文章数 607538关注度
往期回顾 全部

科技要闻

苹果店外黄牛蹲守:18 Pro Max加价500

头条要闻

特朗普考虑大规模打击伊朗 媒体:美大致有两种选择

头条要闻

特朗普考虑大规模打击伊朗 媒体:美大致有两种选择

体育要闻

一个角色球员,靠什么在NBA征战17年

娱乐要闻

敬一丹逝世 央视送别,女儿成“心病”

财经要闻

中国汽车:尾大不掉,必须出清

汽车要闻

小鹏G9L限时售23.18万 旗舰级的配置/诱人的价格

态度原创

家居
亲子
教育
公开课
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

愈见你|我的剖腹产纪事

教育要闻

英国文化教育协会发布BC雅思官方模考系统

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

中方反对在安理会强推恢复对伊朗制裁

无障碍浏览 进入关怀版