SSD走向推理主链路：处于爆发临界点上的AI SSD

大语言模型推理正在同时遭遇容量墙与I/O墙。模型参数持续扩大，长上下文、多轮对话和智能体任务又使KV Cache快速膨胀；MoE模型虽然降低了单次计算的激活参数量，却需要保存远大于显存或内存容量的专家权重。在云侧算力中心，这一矛盾表现为昂贵的HBM资源被模型权重和KV Cache长期占用，GPU有效利用率受到数据搬运制约；在边缘侧和端侧，有限的DRAM或统一内存则直接限制了本地可运行模型的规模。由此，SSD开始从模型文件的静态存放设备进入大模型推理的实时数据路径，成为HBM、VRAM和DRAM之后的正式存储层级。

这一变化最早在推理基础设施和集群架构中得到清晰体现。月之暗面的Mooncake采用以KV Cache为中心的分离式推理架构，将GPU集群中原本未被充分利用的CPU、DRAM和SSD组织为分布式缓存资源[1]；Mooncake Store进一步支持由DRAM与SSD/NVMe构成的多级缓存，使冷数据能够在容量更大、成本更低的闪存层长期保留[2]。2026年，英伟达推出CMX上下文内存存储平台，在Vera Rubin基础设施中增加一个面向KV Cache优化、通过以太网连接的闪存层级，由BlueField-4负责NVMe SSD管理、数据保护和网络传输。英伟达将其定义为介于GPU内存与共享存储之间的pod级上下文层[3]。这些架构释放出一个明确的产业信号：SSD正在成为推理系统需要直接调度的资源，而不再只是模型加载前后的外围设备。

但推理基础设施开始调用SSD，并不意味着传统SSD已经适合承担常驻推理任务。传统SSD面向文件和块数据存储设计，其性能指标主要围绕顺序带宽、随机IOPS、数据可靠性与单位容量成本展开；LLM推理需要的却是具有严格时序约束的数据供应。KV Cache会在prefill阶段集中生成并持续写入，在后续请求中按会话、模型层和Token位置反复读取；MoE推理则需要根据路由结果，在每一层计算前及时取得特定专家权重。一次读取未能赶上计算窗口，就可能让GPU、NPU或CPU进入等待状态，而SSD在高队列深度下取得的峰值IOPS，并不等同于低队列深度、细粒度访问时的稳定延迟。

这种矛盾还延伸至SSD内部。NAND Flash以页为单位读取、以块为单位擦除，FTL需要执行地址映射、垃圾回收和磨损均衡，容易产生写放大与尾延迟；持续写入KV Cache还会对闪存寿命提出远高于普通消费负载的要求。传统LBA排布并不了解模型层、MoE专家、KV块及其访问顺序之间的语义关系，相互关联的数据可能被分散到不同物理位置，难以形成可预测的并行读取。文件系统、块设备和NVMe软件栈中的排队、中断、数据复制与页缓存，也会增加端到端延迟。如果缺少面向模型执行顺序的地址布局、缓存划分、优先级调度、异步预取和寿命管理，SSD虽然拥有TB级容量，却仍难以像DRAM或VRAM一样稳定参与每一个Token的生成。

由此，市场上开始出现多种被称为“AI SSD”的产品，但这一名称目前尚未形成统一的技术定义，而是衍生出两大类有代表性的产品。

第一类可以称为“AI负载强化型企业级SSD”，如图1所示。这类产品仍以块存储设备为基本形态，但其设计指标开始围绕AI集群的数据路径重新排序。英韧科技的洞庭N3X系列是这一方向的代表之一。该系列针对训练、微调和推理中的高频缓存数据访问，采用XL-Flash、SLC NAND等低时延、高耐久介质，重点服务KV Cache卸载和高并发临时数据读写。据公开材料披露，与传统TLC SSD相比，相关方案的访问时延可降低至约三分之一，写入吞吐量提高至约三倍，DWPD则提高约17—33倍；其价值不只是提高峰值性能，更在于减少持续写入、垃圾回收和高队列深度下的性能波动。英韧还规划向PCIe 6.0以及NVMe/CXL双协议产品演进，并提出从千万级IOPS继续向更高随机访问能力发展的路线，希望使SSD能够承接更多原本驻留在高成本内存中的热数据[4]。

图1. AI负载强化型企业级SSD的代表性产品：英韧科技洞庭N3X与华为OceanDisk LC 560。

华为OceanDisk则采用系列化产品组合覆盖不同AI负载。OceanDisk EX 560强调极高随机写入性能、微秒级写入时延和高写入耐久性，主要面向模型微调、检查点保存及高频缓存写入；SP 560在性能、耐久性和成本之间进行平衡，针对AI一体机和集群推理中的KV Cache、长上下文及多并发访问；LC 560则将重点放在容量密度和顺序读取带宽上，单盘容量最高达到245TB，用于承载训练语料、多模态数据、向量库和大规模模型文件。华为还通过DiskBooster等驱动软件推动SSD与HBM、DDR形成分层协同，使高性能企业级SSD进一步进入内存扩展和缓存卸载路径[5]。这说明AI负载强化型企业级SSD并非单一规格，而是正在分化为极致性能盘、高性价比推理盘和超大容量盘等不同产品线。

第二类AI SSD试图改变SSD在计算机中的运行逻辑：通过主控、固件、中间件以及OS或主板层的协同，建立近似于“NAND Flash与DRAM/VRAM联合虚拟化”的多级存储体系，使部分模型权重、MoE专家和KV Cache在推理运行期间驻留于SSD，并按照计算进度动态换入内存。它兼容传统SSD的数据存储功能，同时增加面向LLM的数据感知、调度和预取能力，因此既可以形成企业级产品，也可以进入AI PC、工作站和边缘计算设备。

在这一类别中，群联（Phison）和江波龙目前主要从存储侧展开探索，如图2所示。两家厂商都试图把NAND从模型文件的静态存放位置，转变为DRAM或VRAM之外的高容量运行时数据层，但在产品组织方式、软件入口和目标市场上形成了不同侧重。

群联的aiDAPTIV方案由aiDAPTIVCache专用缓存SSD、内存管理中间件和配套工具链组成。其核心机制是将超过VRAM容量的模型权重切分为多个数据块，根据模型执行过程在VRAM与SSD之间进行流式传输：当前需要参与计算的权重优先保留在VRAM中，暂时不活跃的权重则下沉至SSD，从而在不继续增加GPU数量的情况下扩展可加载模型的规模。对于推理场景，aiDAPTIV还会保存原本可能被逐出的KV Cache，并在后续上下文复用时从SSD回取，减少重新执行Prefill和重建缓存的开销。其专用缓存SSD强调低时延和高耐久性，群联公开资料给出的产品耐久性最高达到100 DWPD，多个缓存SSD可提供TB级的扩展内存空间[6]。群联的商业化思路并不是单独销售一块普通SSD，而是将高耐久缓存盘、中间件、安装工具和经过验证的计算机配置组合成可部署方案，并通过整机厂商和渠道合作伙伴进入教育、科研、政府、企业私有化部署以及本地模型微调市场。

江波龙选择了“SPU硬件执行＋iSA软件决策”的路线。其WM8500 SPU不再被定义为只负责数据搬运的传统SSD控制器，而是集成存储控制、压缩、缓存和数据调度能力，并由iSA感知推理负载、制定数据分层和预取策略。根据江波龙公开材料，SPU采用5nm工艺，支持存内无损压缩、HLC高级缓存和混合NAND调度；其中，存内压缩用于提高有效容量和带宽利用率，HLC允许SSD承接原本驻留在DRAM中的温数据和冷数据，混合NAND机制则根据冷热程度在不同介质区域之间调度数据。相关设计使SPU既可以用于消费级AI SSD，也可以向高容量企业级SSD、工作站和端侧智能设备扩展[7]。与群联更强调VRAM扩展和模型权重流送不同，江波龙将压缩、冷热识别、缓存分区和预取调度进一步集成到SPU与iSA体系中，试图把SSD主控从数据通道升级为存储侧智能调度节点。

图2. 存储侧推理参与型AI SSD探索：群联aiDAPTIV缓存SSD、江波龙SPU＋iSA方案以及寅谱-联芸AI SSD方案。

另一条路线由联芸（Maxio）与寅谱（Infplane）组成的技术联盟推进，如图2所示。寅谱（Infplane）在大模型推理芯片，以及计算机OS和主板侧的处理器、内存与存储协同控制方面具有较多技术积累。双方合作形成AI SSD的过程，并非简单地在传统SSD上叠加一层推理软件，而是将寅谱原本用于推理芯片的部分技术栈——尤其是其中关于多级缓存、数据调度、并行搬运和预测式预取的技术——抽取出来，与联芸对NAND Flash、SSD主控和固件的控制能力结合，形成一套跨越计算侧与存储侧的AI SSD架构。具体而言，该方案围绕MoE专家、KV Cache和数值精度三个维度开展数据切分、冷热分层、并行搬运与预测式预取：一方面根据模型执行过程调度不同专家权重和KV Cache，另一方面将模型文件的数值精度分为较热的低精度位和较冷的高精度位进行特殊的读写和存放。该方案将模型和推理框架兼容性作为核心设计目标，力图在不修改模型文件、不侵入主流推理框架的条件下适配不同处理器平台，并降低对特定SSD模组形态的限制。其潜在价值在于同时改善本地设备可承载的MoE模型容量、prefill数据复用效率和decode阶段的数据供应；相应代价是需要贯通middleware、firmware与controller，软硬件协同范围更深，研发成本和工程验证难度也明显更高。联芸已经公开提出，AI推理正在推动SSD主控从传统数据通道走向面向Token成本的智能调度[8]；其横跨消费级、工业级和企业级市场的主控产品基础，也为相关技术进入不同SSD模组和整机形态提供了较大的产业化空间[9]。

总之，从完整推理数据路径看，不同AI SSD方案所覆盖的技术层级并不相同：部分产品主要强化SSD介质与I/O能力，部分方案进一步参与模型权重、KV Cache和MoE专家的运行时调度，而联芸—寅谱方案则试图贯通计算侧缓存体系、middleware、firmware、controller与NAND介质管理。各路线在模型加载、prefill、decode和长上下文复用中的作用如图3所示。

图3. AI SSD在LLM推理数据路径中的作用，以及主要厂商技术路线与推理环节的对应关系。

从计算机制造商、智算基础设施厂商释放的信息看，群联与寅谱-联芸均已越过单纯的概念展示阶段，开始推进面向实际产品的规模化验证和商业化。其中，寅谱-联芸方案的验证范围已经不再局限于单一主控、单一模组或少数原型机，而是在消费级AI PC、Mini工作站、高性能本地推理设备、边缘计算平台和企业级推理节点等多类产品中同步推进，并覆盖不同CPU、GPU、NPU及内存架构组合。与此同时，群联也在通过服务器、工作站和边缘AI合作伙伴扩大aiDAPTIV的落地范围，江波龙则已围绕AMD锐龙AI Max+ 395完成较深入的端侧AI存储适配[6][7]。相关技术路线尚未完全收敛，但先发企业正在持续积累主控、固件、运行时、模型生态、模组生产和整机验证数据，由此形成初步的生态壁垒与产业壁垒。对于后来进入者而言，竞争门槛已经不再只是开发一款具有较高带宽或IOPS的SSD，而是能否同时建立从NAND控制、推理调度到整机适配的完整协作体系。

可以预期，AI SSD不会取代HBM、VRAM或DRAM，而是通过容量、性能和成本的重新分层，成为更多云侧、边缘侧和端侧设备中的Token生成基础设施。当产业评价指标从单纯追求峰值算力转向每Token成本、单位功耗吞吐和有效算力利用率时，SSD也将从长期被LLM产业低估的外围组件，逐步成为推动Token经济学演进的新引擎。

参考文献

[1] R. Qin et al., “Mooncake: A KVCache-centric Architecture for Serving LLM Chatbot,” 23rd USENIX Conference on File and Storage Technologies (FAST ’25), 2025.
https://www.usenix.org/conference/fast25/presentation/qin

[2] Mooncake Project, “Mooncake: A KVCache-centric Disaggregated Architecture for LLM Serving,” GitHub Repository.
https://github.com/kvcache-ai/Mooncake

[3] NVIDIA, “Introducing NVIDIA BlueField-4-Powered CMX Context Memory Storage Platform for the Next Frontier of AI,” 2026.
https://developer.nvidia.com/blog/introducing-nvidia-bluefield-4-powered-inference-context-memory-storage-platform-for-the-next-frontier-of-ai/

[4] 英韧科技，“从N3X到Gen6：英韧科技如何用三大要素打造国产AI SSD”，2026。
https://www.yingren.cn/news/%E4%BB%8En3x%E5%88%B0gen6%EF%BC%9A%E8%8B%B1%E9%9F%A7%E7%A7%91%E6%8A%80%E5%A6%82%E4%BD%95%E7%94%A8%E4%B8%89%E5%A4%A7%E8%A6%81%E7%B4%A0%E6%89%93%E9%80%A0%E5%9B%BD%E4%BA%A7ai-ssd/

[5] Huawei, “Huawei OceanDisk LC 560 SSD Data Sheet,” 2025.
https://e.huawei.com/en/documents/products/storage/97dc7a1dc98f4d3d90b268db03235cf7

[6] Phison Electronics, “How aiDAPTIV+ Works.”
https://phisonaidaptiv.com/zh-tw/how-aidaptiv-works/

[7] 江波龙，“SPU与iSA”，2026。
https://cn.longsys.com/about/news/13353.html

[8] 联芸科技，“CFMS 2026｜联芸科技：AI推理时代，存储主控芯片价值跃迁”，2026。
https://www.maxio-tech.com/news/11645/13048.html

[9] 联芸科技，“PCIe接口SSD控制芯片”。
https://www.maxio-tech.com/product/11628/11631/

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。