墨芯郭俊威：稀疏计算不是一个算法，而是一场系统工程

2026年8月20日至21日，集成电路设计创新会议暨应用展（ICDIA 2026）在南京扬子江国际会议中心盛大召开。本届会议以“AI赋能·智创芯未来”为主题，由集成电路设计创新联盟、原“核高基”国家科技重大专项总体专家组指导，汇聚了来自国内外集成电路产业链上下游的顶尖专家、领军企业代表、高校学者及投资机构。在活动现场，观察者网有幸就稀疏计算的技术本质、AI芯片架构的取舍逻辑以及国产芯片商业化等一系列问题，与墨芯人工智能市场部副总裁郭俊威做了深度对话。

作为国内唯一一家将稀疏计算从算法概念贯穿到芯片硬件架构的企业，墨芯人工智能近年来在行业内持续引发关注。从早期面向小模型推理的S10、S40系列产品，到即将面世的新一代SP200推理卡，墨芯的技术路线与当前国产GPU厂商走的“大规模集群暴力计算”路径形成了鲜明的差异化。郭俊威在采访中坦诚地分享了这条路线背后的技术判断、工程挑战与商业逻辑。

稀疏不是算法，是一整套生产工具

行业里谈稀疏计算已有多年，但郭俊威认为外界对这一概念的理解仍存在普遍偏差。

他强调，稀疏计算的本质不是一个数学名词，也不是一种单一的算法，而是一整套生产工具。这套工具横跨芯片设计层的稀疏算子、调度层的动态分配以及专用计算单元的开发，是一项需要软硬件深度协同的系统工程。

在具体的芯片架构层面，郭俊威介绍，墨芯在芯片内部设有独立的SPU（稀疏处理单元），专门用于稀疏加速计算。这一设计在国内芯片架构领域是独一无二的。他以大语言模型的推理场景作了一个通俗的类比：未来用户在大模型中搜索一个牙疼怎么办的问题，完全没有必要调用几百亿参数去做暴力计算。通过稀疏激活函数，系统可以快速调度到医学领域的相关参数，就能高效解决问题。这背后靠的不是一个算法，而是函数、计算单元、调度、软硬协同以及与基础模型生态的深度协作。

针对外界时常将稀疏计算与模型蒸馏、剪枝或存算一体等概念混淆的问题，郭俊威做了明确区分。剪枝和蒸馏属于模型压缩手段，而墨芯的稀疏计算是硬件架构层面的加速范式，两者处于不同层次，不应混为一谈。

“我们整个芯片的计算和存储层面，基本可以跳过无效的搬运和不必要的数据访问。”郭俊威如此概括墨芯的技术内核，“这里面编译器是我们自己做的，稀疏的高性能算子目前也全部由我们自主开发，甚至AI也写不了这些算子，因为AI本身还不具备这一领域的知识图谱。”

制程封锁下的“平衡术”：硬件架构如何做取舍？

在采访中，有记者就稀疏计算的硬件架构是否已有定论提出了一个尖锐的问题。郭俊威的回答颇为坦率：全世界范围内，目前没有任何一家公司能给出稀疏计算硬件架构的终局方案。

他分析说，在海外，英伟达是稀疏计算的先行者，从Ampere架构时代就开始在硬件和模型两端推进结构化稀疏技术，目前已实现2:4稀疏率的批量化量产，这也是全球产业界唯一在商业层面验证成功的稀疏芯片方案。另有一家美国公司已在仿真实验室中完成了晶圆级完全非结构化稀疏的改造。但郭俊威认为，这些探索更多停留在理论层面，距离大规模产业化仍有距离。

回到国内，墨芯面临的挑战则更加残酷。郭俊威毫不回避地谈到了制程封锁对中国AI芯片厂商的系统性制约。他阐述道，芯片的晶体管面积就那么大，在HBM存储无法获取的现实条件下，企业必须在有限的空间里反复权衡：留多少内存带宽给prefill阶段？留多少给decode？decode分配太多，prefill性能下降，首token延迟就会升高。Prefill阶段计算密集，对算力需求高；Decode阶段访存密集，对内存带宽和显存容量需求大。当两者在同一芯片上混跑时，会竞争计算单元和内存资源，导致彼此性能受损，首token延迟随之升高。如果依旧使用DDR5X方案，KV cache就可能吃掉大部分内存空间，调度和响应的余量几乎所剩无几。

用户问个问题要等五分钟才有回应，"郭俊威以终端体验的视角来诠释技术取舍的现实压力。他透露，墨芯在SP200这款新一代芯片上花了六到八个月的时间反复验证硬件架构的动态平衡——到底留多少空间给通用计算，留多少给动态调度，稀疏计算单元要多大——这些都是需要不断迭代的取舍问题。

最终，墨芯选择的路线方向是：面向更大规模的集群部署，在计算面积和空间上做极致节省，进行更大范围的函数调度，核心目标是把token成本——无论是吞吐量还是首token响应时间——都压到极致。郭俊威对此表现出相当的信心。他表示，SP200预计将在今年年底到明年第一季度批量进入市场，成为国内首款支持半结构化动静态稀疏加速的推理卡，在prefill和decode两端的性能上都具有竞争力。“我们有信心这张卡上市后能走进国内推理卡的前五。”

从产学研到商业落地：稀疏生态的构建之路

技术路线再好，没有生态支撑也难以成势。郭俊威在采访中用了相当篇幅来阐述墨芯在产学研合作和商业化落地方面的布局逻辑。

在产学研端，墨芯今年加大了与国内顶尖高校的合作力度。其中与清华大学共建了稀疏实验室，与西安交通大学应用数学院系在矩阵稀疏计算领域展开了深度合作。郭俊威解释说，稀疏计算中最核心的数学问题集中在矩阵乘计算上，这是一个应用数学问题，而非基础数学问题，具有非常广阔的应用空间。他观察到，当稀疏计算在AI应用层面展现出大规模爆发的可能性时，多位数学系院士级的学者对此方向表现出极大的热情。

更具前瞻性的布局是，墨芯正在推动稀疏计算从推理侧向训练侧延伸。郭俊威阐述，目前国内在稀疏与注意力机制结合领域有深入研究的企业，实际上只有DeepSeek——其最新发布中重点展示的压缩上下文注意力机制就是典型案例。墨芯的愿景是，未来与产学研合作开发一套前端稀疏训练调度系统，提供给基础模型公司在模型训练的早期阶段就嵌入使用。一旦实现，每一代基础模型在发布时都可能会宣称支持稀疏训练特性，这将大幅降低基模公司的训练成本，同时提升专家网络的调度效率。“这是一个很前沿的方向，我非常笃定。”郭俊威表示。

在商业化方面，墨芯的策略是“不强制、但引导”。郭俊威解释说，公司不会强制客户一定要开启稀疏加速，但大部分客户在了解到墨芯的技术优势后，普遍愿意尝试。在适配过程中，墨芯会在前、中、后期对客户进行全流程辅导，部分情况下甚至会在自身的卡上预留训练空间，帮助客户对模型做适配性重训，使稀疏性能得到更充分的发挥。他给出了一组数据：不做重训的情况下，加速效果约为40%；经过适配和重训后，性能提升可以达到两倍左右。

在模型迁移层面，标准大语言模型目前已经可以实现近乎零代码迁移。GLM、DeepSeek等国内主流模型均已完成适配。郭俊威解释说，标准的Transformer架构不需要改变网络结构和checkpoint，客户一般先通过兼容模式完成正确性验证，再由工具链进行稀疏和量化优化，整体编译成本并不高。相对而言，工作量较大的环节集中在应用层和定制化算子的精度校验上，但在目前以大语言模型为主的应用场景下，定制算子的需求并不多。

在落地案例方面，墨芯已经在陕西、西北等地区承接了千卡级的项目。郭俊威以一个安防项目举例说明：该项目本质上只需要实现人脸与特定信息的匹配，并不需要超大规模的暴力计算。客户原来使用大量GPU来处理，迁移到墨芯的小规模卡后，大约一百多张卡的整体TCO就可以达到原来三四百张卡的效果，性价比优势显著。

郭俊威阐述：“国内面临的问题太残酷了，每家都在做大量的取舍”。但正是这种残酷的产业约束，反而凸显了墨芯在稀疏计算赛道上持续深耕的战略价值。当暴力堆算力的路径受限，以系统工程的思维重新定义“计算效率”，或许才是中国AI芯片产业突围的另一条关键路径。