算力之后，存储成为AI应用落地的“胜负手”

过去两年，谈论AI的人几乎把所有注意力都给了GPU。英伟达的市值、H100的供货周期、台积电的先进制程，算力是舞台中央的主角。但在舞台侧幕，存储行业的变革正在发生：GPU越来越快、越来越贵，而给GPU“喂饭”的存储系统跟不上了。

五年前，存储还只是配角，负责存放训练数据、保存检查点,在GPU需要时提供数据。但今天,当大模型参数量突破万亿级别、推理Token消耗量一年增长近20倍时,存储系统正被迫从幕后走向台前,成为制约AI落地的核心瓶颈。

存储跟不上AI的节奏

OpenRouter与a16z联合发布的《State of AI》报告显示，OpenRouter平台的年Token处理量在一年内从约10万亿飙升至超过100万亿，单日峰值已突破1万亿。训练在涨，推理在涨，涨得比所有人的预算都快。

与此同时，中国信通院发布的数据显示,全球AI推理算力市场规模从2021年的14.04亿美元跃升至2024年的139.58亿美元,年均复合增长率达到66.3%。更关键的是,推理工作负载占比从2023年的41.3%持续攀升,预计2026年将达到70.5%,实现对训练算力的全面超越。这意味着,AI算力市场正经历从"训练驱动"到"推理驱动"的根本性转变。

推理市场和需求的爆发式增长带来了一个问题：作为数据搬运工的内存和SSD并没有以同样的速度变快。于是如今业内经常看到最贵的芯片经常处于“待机等数据”的状态，而存储设备，成了决定整个AI系统性价比的关键变量。这不是某一家厂商的危机，而是整个存储行业的一次集体考题。

TrendForce集邦咨询的数据同样印证了这一趋势:2025年全球企业级SSD市场规模达280亿美元,2026年第一季度全球前五大企业级SSD营收达201亿美元,环比增长85.8%。三星电子保持第一名,2025年第四季营收近36.6亿美元,季增49.7%;SK集团(含SK海力士和Solidigm)位居第二,营收32.6亿美元,季增超过75%;美光位居第三,营收超过14亿美元,季增41.4%。

训练时代，SSD像个仓库主要的工作是装下海量的文本、图片、视频，等GPU开工时按批送货，此外还需要写检查点。大模型训练时间通常需要数月，几千张卡里随时可能有卡掉队，所以要定期把模型参数和优化器状态落盘，出事时好从最近的检查点爬起来。这两件事对存储的要求很朴素：带宽要够大，容量要够多，别掉链子。

进入推理阶段后，情况发生了变化。存储从数据通路的旁支，被推上了主干道。

变化的根源在于Transformer架构的运行机制。模型每生成一个新Token，都需要计算其与前文所有词元之间的关联关系，这些中间结果被缓存为KV Cache。上下文越长，KV Cache越大，且随上下文长度线性增长。当前主流模型普遍支持百万级上下文，单条会话的 KV Cache即可占用数GB至数十GB空间。而HBM是全数据中心单位成本最高的存储空间，以其承载长上下文，在成本上并不具备可持续性。

这就造成了KV Cache向外溢出。首先是主机DRAM，进而下沉至SSD。存储的角色由此从数据容器，转变为GPU的扩展内存。这一位移带来的直接后果是：存储层的任何延迟抖动，都会被转化为 GPU的空转时间。

需求结构的变化，已经在市场规模上得到验证。据Counterpoint Research 的季度追踪，2026年第二季度企业级SSD已占全球 NAND 闪存出货容量的48%，而一年前这一比例仅为26%，该机构预计到2026年底将超过一半。

面对推理时代对存储的需求，西安三星电子研究所存储解决方案部技术总监何兴把问题归结为三个层面。

首先是数据“喂”不饱GPU。传统的存储系统是为CPU设计的。当GPU需要数据时，数据必须先经过CPU、再经过主机内存，才能最终到达GPU，这个过程中，每一步都在消耗时间和资源。三星的实测数据显示，在4KB小I/O条件下，系统实际只用了接口带宽的约27%，其余73%被软件开销“吃掉了”。何兴直言：“传统的PCIe、NVMe发展了很多年，有软件负担，要兼顾老设备和复杂情况。但在AI场景下，这些历史包袱有可能被简化。”

其次是KVCache的“写放大”困局。大模型推理中，KVCache是维持长对话上下文的关键。但当KVCache被卸载到SSD时，不同请求的KV数据交错存储，一旦某条数据过期，SSD必须将同一块中其他有效数据重新写入，但这大幅缩短了SSD的使用寿命，也拉低了系统吞吐。

第三是万亿参数模型装不进显存。当前主流大模型已普遍转向 MoE（混合专家）架构，其核心优势在于稀疏激活：每个Token仅需唤醒少量专家，模型规模得以大幅扩张，而算力开销不会同比例上升。但其代价是，全部专家权重仍需常驻显存。算力开销因此得到控制，显存占用并未同步下降。万亿参数模型的权重规模远超单机 HBM容量，只能下沉至到系统内存和SSD，而决定模型实际吞吐的，正是SSD的随机读取性能。

这三个新的需求将存储系统推到了台前，过去几十年，存储的设计思路是围着CPU转。但如今行业必须回答一个问题：存储，该怎么变？

硬件提速，软件减负

针对前文提到的三个新需求，三星半导体Memory战略规划总监冯方将产业的应对路径归纳为两个方向：一是提升硬件本身的性能与容量，二是压缩软件栈的冗余开销。三星近两年的产品与技术布局，提供了一个相对完整的观察样本。

先说硬件，竞争的主角首先是HBM。这个市场的座次这两年发生了戏剧性变化。SK海力士凭借多年深耕，成为英伟达HBM的核心供应商；但三星电子正在快速追赶，在HBM4E的送样节奏上抢先一步——2026年5月29日，三星率先向全球主要客户交付业界首批12层HBM4E样品；约三周后，SK海力士于6月18日跟进，向主要客户交付12层HBM4E工程样品。

在技术规格上，HBM4E相较前代实现了显著跨越。三星12层HBM4E单堆栈容量达48GB，可提供稳定的14Gbps引脚传输速度，性能可扩展至16Gbps，单堆栈带宽高达3.6TB/s；能效较HBM4提升16%以上，热阻改善超14%。SK海力士的12层HBM4E同样实现48GB容量，单引脚最高数据处理速率达16Gbps，能效提升20%以上，热阻改善17%。双方均采用12层堆叠达成48GB容量，用更少的堆叠层数实现了更高的容量密度，直接回应了AI训练与推理对内存带宽和容量的持续攀升的需求。

三星作为HBM市场先行者，其优势被三星半导体Memory战略规划总监概括为概括为“端到端整合”。全球范围内能同时自研NAND颗粒、DRAM、主控芯片并拥有强大固件能力的厂商屈指可数。这意味着当头部云厂商提出定制需求时，三星可以在内部闭环完成底层逻辑修改，而无需像主控外购的厂商那样与第三方来回拉锯数月。

这种垂直整合在具体产品上体现为几个标志性成果。

在内存层面，三星率先押注CXL。自2019年CXL联盟成立以来，三星一直担任董事会成员，在此次ODX大会上，三星展示了最新的CMM-D 320内存模块，该产品基于CXL 3.2协议，提供128GB和256GB两档容量。延迟上，其器件级访问延迟约110纳秒（三星测试数据）——这一水平已非常接近本地DDR内存80纳秒的物理延迟。配合64字节Cache Line粒度的原生load/store访问与缓存一致性，CPU可将其作为可寻址内存直接使用，无需经过网络协议栈与消息语义转换——这正是它与基于 RDMA的远端内存池方案在访问语义上的根本分野，也是它能够承接推理侧KV Cache卸载与内存池化的原因。

面向端侧AI的爆发式需求，三星在ODX 2026上首次在国内公开讲解了zNAND-O技术。该产品基于SLC晶片与TSV硅通孔技术，以与DRAM相当的带宽实现了十倍于DRAM的位元密度、七倍于NAND的读取带宽，并将NPU与存储集成在单一封装内，通过UCIe接口互连。zNAND-O使内存成本下降四倍、性能不降，且能承载接近两倍规模的模型（三星仿真数据，实际结果随系统配置与负载而异）。端侧推理与云端推理，正在形成两条相辅相成的路线。

在SSD侧，三星给出了性能与容量两条并行的产品线。面向性能市场的是PM1763——三星的PCIe Gen6企业级SSD，采用第九代V-NAND（V9）TLC颗粒、自研4nm主控与PCIe Gen6接口，并针对液冷服务器环境做了专门设计。值得注意的是颗粒、主控、固件同出一家这件事本身。Gen6把接口带宽又翻了一倍之后，瓶颈往往不在NAND颗粒，而在主控与固件能否把这些带宽真正调度出去——自研主控意味着这部分优化可以在内部闭环完成，这正是前文"端到端整合"最直接的体现。

与之互补的容量型产品BM1773则扛起高密度存储的旗帜，同样基于第九代V-NAND但采用QLC颗粒，覆盖16TB至256TB容量区间，面向AI数据湖、检查点归档和KV Cache冷热分层下沉等大容量场景，在"性能"与"预算"之间为云厂商提供了第二个可选的坐标点。

在固件层面，三星重点解决AI推理中KV Cache卸载引发的写入放大问题。其PCIe Gen5企业级SSD率先导入FDP（灵活数据放置）技术——由主机告知SSD“这批数据属于同一类业务、生命周期相同”，SSD便将其物理隔离存放，从而显著减少无效数据搬移。三星基于LMCache框架和8张RTX 6000 GPU的内部测试显示，启用FDP后峰值WAF降低49%，累计NAND写入量减少36%。更进一步，三星还推出了“无感FDP”的JBOF参考固件，主机端无需修改任何软件代码，固件在盘阵侧自动完成数据热度分析和LBA映射。在延迟的分位测试中，当可靠性要求推到7个9（99.99999%）时，这套方案的延迟约为原生内核方案的四分之一，为MoE专家卸载等场景提供了坚实的存储底座。

从CXL的内存池化，到zNAND-O的端侧内存层级的重构，再到FDP的SSD智能优化，三星正以多维度硬件创新回应AI对内存带宽、容量、延迟和成本的全方位挑战。

再看软件侧。今年8月初的北美FMS大会上，英伟达发布了“三件套”：宣布开源GPUDirect Storage（GDS）的cuFile API、推出SCADA架构，并发布了Storage Next的产业愿景。如果说此前的GDS主要解决了大文件的顺序读写，那么以SCADA为代表的新一代GiDS方案，则将“控制权”也彻底从CPU剥离，专门攻克AI缓存中海量小文件的随机读写瓶颈。与此同时，AMD也在推进类似定位的ROCm-XIO，计划让GPU/XPU直接发起I/O。NVIDIA博客的官方表述是：要让GPU以微秒级速度直接读写存储。

系统软件厂商同样闻风而动：Pure Storage的FlashBlade系列产品是最早获得NVIDIA GPUDirect Storage认证的全闪存储之一，并已进入NVIDIA DGX SuperPOD认证存储名单；VAST Data以其“解耦共享一切”（DASE）架构切入AI存储市场，让所有存储控制器共享全部介质与元数据，近期还与Cloudera达成战略合作共建“AI工厂”；Weka、Hammerspace等并行文件系统厂商则通过GPUDirect支持切入英伟达生态。

主控厂商也没闲着，Marvell在2025年11月的一篇博客中明确提出，AI正在催生“GPU发起的存储”与“CPU发起的存储”的分化：未来针对GPU直连优化的SSD，将把IOPS和延迟放在首位，与面向CPU、以容量和吞吐为先的传统SSD形成两条产品线。

而三星给出的答案则是AiSIO（Accelerator-integrated Storage I/O）——一个让GPU能够直接“开车”去SSD取数据的开源软件框架，对此，冯方告诉我们，在NVIDIA H100加三星PCIe Gen5 NVMe SSD的测试平台上，AiSIO实现了三种I/O模式的全支持，“16块盘整机可达6150万IOPS，CPU占用仅需1.5个核心（3个线程）。目标1亿IOPS，预计只需2个CPU核心（约24块盘），甚至在GiDS模式中可以不占用CPU资源”冯方介绍道。

更重要的是，AiSIO完全兼容现有文件系统，无需改造已有软件栈，且全部开源，已部分合入或计划合入Linux内核主线。“我们2026年在原来和特定厂商合作的基础上，全部更新了公开的、大家都可以用的开源实现。”冯方进一步指出，“这一决策的意义在于，任何加速器厂商都可以接入。”

硬件与软件两条线，正在汇成同一个结论：未来的存储竞争力，不再是堆参数，而是系统级的协同设计。无论是三星的端到端整合、SK海力士的HBM先行、Solidigm的密度路线，还是英伟达与AMD主导的直连存储生态，所有人都在回答同一道题：如何让数据以最低的代价、最快的速度，抵达最需要它的计算单元。

当存储开始“计算”

如果我们再把时间线拉长，存储行业接下来“卷”的方向已经跃然纸上，冯方与何兴也都给出了统一的答案：存储将不再只是数据的仓库，而是长出计算能力的车间。这个趋势，业界称之为“近数据计算”，与其把数据千里迢迢搬到计算单元，不如让计算能力下沉到数据旁边。

这个判断并非空穴来风，而是产业演进的必然。何兴与我们分享了存储金字塔：G1是GPU的HBM，G2是CPU内存，G3是本地SSD，G3.5是分布式存储池，G4是传统存储阵列。AI负载对每一层的要求不同，热数据要低延迟，冷数据要大容量、低成本。而管理这个分层、决定数据该待在哪一层，本身就是计算任务。

基于此，何兴告诉我们，三星Seamless FDP固件做的事是运行时分析数据热度、动态更新LBA映射、自动分配回收单元，“本质上就是让计算发生在数据旁边，这就是近数据计算最朴素也最有效的形态。”何兴强调。

事实上，这条路上早有先行者：ScaleFlux等公司几年前就把硬件压缩/解压引擎直接做进了SSD主控，让数据在写入盘片的瞬间完成压缩，CPU和主机总线全程无感；而Marvell眼中的“GPU-initiated存储”分化，本质上也是把I/O决策的计算权从主机交还给了离数据更近的设备。

沿着这个思路，以及当前存储厂商的业务方向可以预见未来企业级存储行业的发展趋势。首先就是盘内计算与索引能力会持续增强。RAG场景下，推理系统需要从海量向量中做相似度检索，如果SSD或存储阵列能内置向量索引，将索引的操作在存储上完成，网络和主机的负担都会大幅下降。三星JBOF固件中“运行时负载分析与LBA映射”的设计，已经是这类能力的雏形。

其次，KV Cache的管理权正在向存储侧迁移。数据冷热分层、预取、过期回收，这些过去由推理框架承担的调度逻辑，正在部分下沉到存储固件中，形成“存储即缓存层级”的新角色。

第三，内存与存储的边界会进一步模糊。CXL让SSD有了挂上内存总线的可能，而三星最新推出的zNAND-O则干脆把NAND与NPU封装在一起，内存和存储之间那条延续数十年的分界线，正在被AI的需求一点点抹平。

而SK 海力士与闪迪主推的HBF（High Bandwidth Flash，高带宽闪存）也遵循着类似逻辑：将NAND像HBM一样垂直堆叠，通过 UCIe接口与处理器相连。

除了存储离计算场景“更近”这点改变之外，对于存储厂商而言，业务模式也在发生着变化。冯方告诉我们，原先存储厂商更多是提供一个标准化的硬件产品，而在AI时代，需要存储厂商更多的深入到客户业务场景中，提供软硬协同的定制化服务。冯方透露，三星已在全球设立Memory Research Center（SMRC）等研发支持职能，把软件和固件工程师直接派到头部云厂商的架构师身边，现场闭环解决问题，“我们不再是简单地卖一块盘，而是提供一套无缝的解决方案。”冯方这样形容当前三星存储业务。

从英伟达开放GDS接口、到三星把AiSIO推上Linux内核主线，再到VAST与Cloudera共建“AI工厂”，整个行业的合作方式都在从“标准品交付”转向“联合设计”。

存储行业过去数十年的核心职责，是安全且完整地保存数据。而现在，其被要求在正确的时刻、以可接受的成本，将数据送达正确的位置。存储设备最终将获得多少算力、能在多大程度上自主完成数据相关的处理，业界尚无定论。但方向已经明确：既然数据移动的代价已难以承受，让计算向数据靠拢便成为必然选择。

（文｜Leo张ToB杂谈，作者｜张申宇，编辑丨杨林）