网易首页 > 网易号 > 正文 申请入驻

HBM之父金正浩:AI本质是内存,GPU真正利用率仅10%-30%

0
分享至

IT之家 7 月 6 日消息,被誉为“HBM 之父”的韩国科学技术院(KAIST)电气系教授金正浩近日接受《东亚日报》采访时表示,AI 的核心竞争力正在从 GPU 转向内存。


金正浩认为 AI 的本质是内存,GPU 在 AI 推理中的利用率远低于理论水平。AI 每次输出结果,都必须先从 HBM 读取数据、传到 GPU 进行计算,再将结果写回内存。就算部署 100 万块 GPU,真正用于计算的时间也只有 10%-30%。

并且过去的 AI 主要集中在训练阶段,因此 GPU 是决定性能的核心。而着眼现在和未来,AI 将进入推理时代,此时真正能决定性能的,是一次能处理多少数据、能以多快速度处理数据,因此内存能力将直接决定 AI 性能。

当然,目前已经有 HBM 这种专门适配 AI 的高带宽内存方案。但随着 AI 迈入多模态化和 Agentic AI(代理式人工智能)出现,人们将越来越需要保存视频、文档、长期记忆等海量冷数据。因此,将 NAND 闪存像 HBM 一样堆叠的 HBF 技术将在未来成为主流。金正浩更是预测,10 年后 HBF 的市场需求将超过 HBM。

到了更远的未来,HBS(高带宽 SRAM)将成为主流。这种技术将采用读写速度比 DRAM 快 1000 倍的 SRAM,其构想包括在整片 12 英寸晶圆上铺设 SRAM、将容量提升至约 1600GB,实现大容量高速数据处理。

此外金正浩设想,未来的 AI 计算机将演变成一个庞大的“三维建筑”:HBM 将充当商场角色,HBF 层相当于住宅区,HBS 则承担高速缓存功能。各种形态的 HBM、HBF、HBS 组合在一起,给 GPU 供给数据,形成约 100 层规模的 3D 复合架构。

IT之家注:金正浩长期致力于高带宽内存(HBM)与 2.5D/3D 集成封装研究。他从 2010 年开始和 SK 海力士研发 HBM1,并在去年参与 HBM4-HBM8 长期发展路线图规划,

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大四女生凌晨外出失联近两年未归,失联前最后身影曝光:身穿红裙白袜,脚上没穿鞋;母亲称曾住酒店寻人4个多月无果

大四女生凌晨外出失联近两年未归,失联前最后身影曝光:身穿红裙白袜,脚上没穿鞋;母亲称曾住酒店寻人4个多月无果

极目新闻
2026-11-17 17:21:30
65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

开开森森
2026-11-16 20:46:35
比普京特朗普先到深圳的,是两架军用大飞机,信号不一般

比普京特朗普先到深圳的,是两架军用大飞机,信号不一般

赵探长TALK
2026-11-17 11:02:02
财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

云霄纪史观
2026-11-17 04:30:23
10月澳洲市场:比亚迪销量再破万,经销商协会坐不住了

10月澳洲市场:比亚迪销量再破万,经销商协会坐不住了

汽车公社
2026-11-16 13:41:48
又投中5个三分!抱歉雷阿伦:你的历史第三要不保了

又投中5个三分!抱歉雷阿伦:你的历史第三要不保了

篮球大视野
2026-11-17 20:36:34
这次发射失败,美军有点慌了

这次发射失败,美军有点慌了

枢密院十号
2026-11-17 00:35:37
79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

背包旅行
2026-11-17 12:11:31
消失前,他喘着粗气说:“一个人都没有”

消失前,他喘着粗气说:“一个人都没有”

中国新闻周刊
2026-11-17 18:55:45
伊拉克总理下令,欠中方的工程款立即结清,只向中方提了一个要求

伊拉克总理下令,欠中方的工程款立即结清,只向中方提了一个要求

墨兰史书
2026-11-17 14:00:04
网传蔚来财务暴雷?官方报案!与事实严重不符

网传蔚来财务暴雷?官方报案!与事实严重不符

闪电新闻
2026-11-17 17:49:33
说实话,这种局面不能再延续下去了,否则中国真的有点危险了!

说实话,这种局面不能再延续下去了,否则中国真的有点危险了!

今夜繁星坠落
2026-11-15 23:17:03
车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

秒懂资讯
2026-11-17 16:58:55
11月17日俄乌:克宫引以为傲的克里米亚大桥被炸塌了

11月17日俄乌:克宫引以为傲的克里米亚大桥被炸塌了

山河路口
2026-11-17 19:39:00
网友称安徽芜湖一小区有高空作业人员疑似被人割断安全绳,报消防后获救,物业:系5楼住户用钝器切割,目前警方正在侦办中

网友称安徽芜湖一小区有高空作业人员疑似被人割断安全绳,报消防后获救,物业:系5楼住户用钝器切割,目前警方正在侦办中

潇湘晨报
2026-11-17 11:31:12
男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

网易新闻出品
2026-11-16 18:25:30
俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

吉刻新闻
2026-11-15 18:22:34
77岁被骗光积蓄,83岁公开告诉媒体自己仍有性生活、91岁近乎全裸地登上杂志封面,双腿修长迷人!传奇"超模"卡门用一生证明:年龄只是数字

77岁被骗光积蓄,83岁公开告诉媒体自己仍有性生活、91岁近乎全裸地登上杂志封面,双腿修长迷人!传奇"超模"卡门用一生证明:年龄只是数字

回京历史梦
2026-11-17 14:24:26
普京今日飞抵深圳!中方定名中俄美,波兰不服:让欧盟替代俄参会

普京今日飞抵深圳!中方定名中俄美,波兰不服:让欧盟替代俄参会

国际法大视野
2026-11-17 18:58:03
突发!美国多家大银行集体崩了。。。

突发!美国多家大银行集体崩了。。。

云头条
2026-11-17 05:07:09
2026-11-18 02:00:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379883文章数 607738关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

家居
旅游
亲子
本地
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

亲子要闻

宝宝气人但是聪明的4个行为

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版