网易首页 > 网易号 > 正文 申请入驻

广发证券:推理驱动AI存储快速增长 建议关注产业链核心受益标的

0
分享至

智通财经APP获悉,广发证券发布研报称,随着AI推理应用快速增长,对高性能内存和分层存储的依赖愈发显著,HBM、DRAM、SSD及HDD在超长上下文和多模态推理场景中发挥关键作用,高带宽内存保障模型权重和激活值的高速访问,SSD满足高频读写与短期存储需求,HDD提供海量长期存储支持。随着AI推理需求快速增长,轻量化模型部署推动存储容量需求快速攀升,预计未来整体需求将激增至数百EB级别。建议关注产业链核心受益标的。

广发证券主要观点如下:

AI服务器中的存储主要包括HBM、DRAM、SSD等

AI服务器中的存储主要包括HBM、DRAM、SSD等,呈现性能逐级下降、容量逐级增加、成本逐级降低特征。访问频繁或者随时变更的数据会保留在较高的存储层,例如性能高的层次如CPU/GPU缓存、高带宽内存(HBM)和动态RAMS;而鲜少访问或需要长期保存的数据将移动到较低的存储层,例如SSD和硬盘驱动器。

AI推理中的分级存储协同支撑高效计算

HBM集成于GPU内部,为权重和激活值提供高带宽临时缓冲,支撑并行计算和低延迟推理。DRAM作为系统内存,存储中间数据、批处理队列及模型输入输出,实现CPU与GPU间高效数据传递。本地SSD用于实时加载模型参数和数据,满足高频读写需求,并存储短期检查点与临时生成内容,支撑快速迭代。HDD提供经济大容量,用于保存原始数据、历史检查点及生成内容,保障系统长期运行与数据安全。整体来看,HBM与DRAM提供即时高性能支撑,SSD保证快速可用数据,HDD则保障容量与可靠性,构建从高速临时访问到长期存储的完整AI 推理生态。

推理驱动AI存储快速增长

内存受益于超长上下文和多模态推理需求,处理大量序列数据或多模态信息时,高带宽与大容量内存可降低访问延迟、提升并行效率。例如月之暗面Mooncake 通过存储资源重构实现计算效率跃迁,Vera Rubin CPX NVL144机柜新增GDDR7,AMD MI400升级为MRDIMM 模组,华为UCM 推理记忆数据管理器实现智能调度,共同支撑复杂模型在长序列和多模态场景下的高性能推理。

SSD和HDD是Tokens的积分。对推理所需SSD、HDD需求进行测算,基于以下关键假设:假设一、参考谷歌2025.06单月处理超980万亿tokens,假设中短期内全球谷歌级推理应用数量达到10个;假设二、假设推理端数据均存储为FP16格式;假设三、除模型输入输出文本数据以外,在长上下文场景下,存储数据也包含额外调试/分析信息,比如top-k log logprobs、时间戳、JSON 元数据等。由此测算,2026年10个谷歌级推理应用所需存储容量为49EB。

风险提示

AI产业发展以及需求不及预期;AI服务器出货量不及预期,国产厂商技术和产品进展不及预期。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
孙俪现身江苏无锡一高档小区!皮肤有点黑,脸也变圆了,反差太大

孙俪现身江苏无锡一高档小区!皮肤有点黑,脸也变圆了,反差太大

乐悠悠娱乐
2025-11-04 11:02:49
退休后3年必办3个证,少1个可能少拿万元

退休后3年必办3个证,少1个可能少拿万元

白浅娱乐聊
2025-11-01 12:22:04
易中天:绝不原谅中国教育,它最不拿人当人!

易中天:绝不原谅中国教育,它最不拿人当人!

新浪财经
2025-11-03 16:51:38
看哭了!舅舅18岁开始抚养三个外甥,九年时间感动全网!

看哭了!舅舅18岁开始抚养三个外甥,九年时间感动全网!

晓踏就是我
2025-11-02 16:55:18
古二得了渐冻症,在语言功能退化且站立困难之际,他选择蚍蜉撼树

古二得了渐冻症,在语言功能退化且站立困难之际,他选择蚍蜉撼树

芊手若
2025-11-04 00:30:07
创业板指跌1.5% 下跌个股近3700只

创业板指跌1.5% 下跌个股近3700只

每日经济新闻
2025-11-04 10:50:07
杨瀚森连场DNP需要恐慌吗?想逆袭有一人最值得他学习

杨瀚森连场DNP需要恐慌吗?想逆袭有一人最值得他学习

搜狐体育
2025-11-04 14:55:31
美高官:美国将进行的核武器试验不包括核爆炸

美高官:美国将进行的核武器试验不包括核爆炸

参考消息
2025-11-03 13:30:06
詹俊点评英超本赛季至今最佳和最差引援 扎卡和伊萨克上榜

詹俊点评英超本赛季至今最佳和最差引援 扎卡和伊萨克上榜

智道足球
2025-11-04 13:44:28
为什么“苏超”的作业不好抄?

为什么“苏超”的作业不好抄?

钛媒体APP
2025-11-04 09:23:10
翁帆被清华大学聘用!与其说“照顾”,不如说其自身能力适配!

翁帆被清华大学聘用!与其说“照顾”,不如说其自身能力适配!

玖宇维
2025-11-03 21:10:11
撞衫不可怕,谁丑谁尴尬!蓝盈莹蔡文静撞衫!尴尬的扣出三室一厅

撞衫不可怕,谁丑谁尴尬!蓝盈莹蔡文静撞衫!尴尬的扣出三室一厅

小娱乐悠悠
2025-11-04 09:45:02
NBA最新排名!湖人4连胜追上第二,快船给勇士送温暖,火箭没掉队

NBA最新排名!湖人4连胜追上第二,快船给勇士送温暖,火箭没掉队

鱼崖大话篮球
2025-11-04 14:52:45
董璇现身机场情绪低落!脸上褶多又僵又肿,挺肚走路被调侃有孕味

董璇现身机场情绪低落!脸上褶多又僵又肿,挺肚走路被调侃有孕味

心静物娱
2025-11-04 10:09:05
博弈升级!巴西大豆被中国停购后,反对中企下狠手,中方亮明态度

博弈升级!巴西大豆被中国停购后,反对中企下狠手,中方亮明态度

乐天闲聊
2025-11-03 16:07:30
51票倒戈!特朗普关税被废,副总统:感恩节要出大事

51票倒戈!特朗普关税被废,副总统:感恩节要出大事

星辰故事屋
2025-11-04 10:31:58
比网易还急!暴雪公布《暗黑4》国服定档12月12日

比网易还急!暴雪公布《暗黑4》国服定档12月12日

游民星空
2025-11-04 10:18:26
特朗普自己亲口承认,中国送来的反制清单,让他有些失去理智

特朗普自己亲口承认,中国送来的反制清单,让他有些失去理智

头条爆料007
2025-11-03 19:22:07
国家卫健委发文,大批医院将迎转型!

国家卫健委发文,大批医院将迎转型!

梅斯医学
2025-11-04 11:49:57
争议!孩子拿篮球砸人!父亲冲入场内暴力推人,引爆家长群殴飞踹

争议!孩子拿篮球砸人!父亲冲入场内暴力推人,引爆家长群殴飞踹

念洲
2025-11-03 19:34:47
2025-11-04 15:08:49
智通财经 incentive-icons
智通财经
全球资本市场财经资讯提供者
1059403文章数 101202关注度
往期回顾 全部

科技要闻

硅谷甄嬛传:奥特曼优雅挑衅马斯克狠狠回击

头条要闻

中方就安世半导体事件表态:荷方应承担全部责任

头条要闻

中方就安世半导体事件表态:荷方应承担全部责任

体育要闻

27岁热刺门将,夺冠后退役当导演

娱乐要闻

《繁花》录音事件完整版长达43分钟

财经要闻

作价40亿美元!星巴克中国易主

汽车要闻

上汽旗舰智己LS9首发评测 可能是最好开的9系SUV

态度原创

时尚
旅游
亲子
本地
教育

今年秋冬,流行“九分”穿法,时髦又显高!

旅游要闻

秀我中国|西藏边坝:迎来一年一度最佳秋景观赏期

亲子要闻

老人幼儿园操场舞剑,“赶出去”并非最优解 |新京报快评

本地新闻

全网围观,到底多少人被这个野人大学生笑疯了

教育要闻

干货炸裂!高考日语完型选择6大语法点总结!

无障碍浏览 进入关怀版