一段8秒的AI生成视频,用户拿到手的是3.97MB的720p文件。但在后端,这次生成留下的关联数据超过500MB——日志、缓存上下文、即时渲染、备份、安全记录,全都算在里面。用户看到的文件大小,只是后端实际留下数据的零头。
![]()
这是WD内部测量得出的数字。把同样的逻辑放大到企业场景:生成更长、更高分辨率的视频,单条片段的后端数据足迹会涨到数百GB。推理请求不会像训练那样跑完就结束,每一次请求都会留下东西。
传统上,AI基础设施的讨论围绕训练展开。训练是有限的:一次运行开始、烧完算力、结束。推理不同,它持续运行,模型每回答一次提示词就发生一次。对基础设施规划来说,这个差别很关键——训练是可以预算、可以收尾的项目,推理不会收尾。
推理需求正在加速
麦肯锡预测,到2030年AI推理需求的年复合增长率为35%,训练为22%;到本十年末,推理将占数据中心总需求的40%以上。
WD赞助、IDC发布的一份全球白皮书调查了763名IT与业务决策者。结果显示,近95%的受访者表示过去12个月生成式AI带来了数据量增长,约61%的受访者报告增幅达到25%或更高。
一位超大规模云服务商的高级产品经理在报告中这样描述存储的作用:可以把拥有更多存储视为一种让GPU保持忙碌的优化手段。最大的挑战是确保GPU不处于空闲状态等待数据到位——数小时的GPU空闲时间会很快变得非常昂贵。
换算成钱:如果存储支出每年增长25%,而算力预算按更可预测的周期方式增长,存储最终会超过那条最受关注的预算线。
数据留下后不会随算力回落
算力需求随训练周期、产品发布和硬件更新起落。但算力需求放缓时,留存数据的量不会跟着降下来。模型日志、合成输出、推理结果持续累积,组织保留的数据更多、时间更长。
留存数据的角色也在变化。过去进入归档、很少再被调取的信息,现在可能成为未来AI工作负载的输入。数据被保留、检索、复用的程度越高,存储要支撑的就不只是容量增长,还有越来越动态的访问方式。同一份WD-IDC调查显示,96%的受访者预计需要更快的归档检索能力,以支撑推理或检索增强生成(RAG)。
AI工作负载同时需要性能和容量,数据生命周期不同阶段由不同技术承担。对于必须长期保留并反复访问的海量数据,HDD提供了高容量、低成本的基础,在每TB成本上有明显优势。
预算口径可能一开始就划窄了
对CFO或CIO来说,这意味着“AI基础设施支出”的口径可能过于集中在算力上。模型因等待数据而空闲,和因缺少GPU而空闲,成本差不多。但存储瓶颈在变成问题之前一直隐形,它出现在运营成本和检索延迟里,而不是加速器旁边那条资本支出科目上。
以零售商为商品目录生成AI产品视频、保险公司用RAG流程处理理赔文档加快核保为例。两种场景下,算力成本都是已知的、可预算的量:按每次生成或每次查询计价,财务可以预测。存储成本不同:它随着每一条视频生成、每一份理赔处理而叠加,因为任务结束后这些后端数据不会消失。
把AI预算写成“算力加上存储的零头”的团队,可能在12到18个月后发现,这个零头已经占到项目总成本的相当比例——恰好是管理层决定是否扩大投入的时候。
三个值得在下一个预算周期前回答的问题
- 我们对AI生成内容的数据保留政策是什么,由谁制定?
- 我们的存储采购是绑定训练期的性能需求,还是绑定我们实际产生的数据的真实生命周期?
- 如果明年AI使用量翻倍,我们的存储成本会跟着翻倍,还是更糟?
多数组织无法有把握地回答全部三个问题。这个缺口值得在下一个预算周期之前补上,而不是之后。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.