【数智化人物展】ExponTech华瑞指数云曹羽中：算力趋同之后，知力决定智力的上限

曹羽中

“【提示】2026第六届数智化颁奖典礼将于8月5日在北京举行颁奖点击可报名参加颁奖典礼丨此次人物榜单/奖项的评选依然会进行初审、公审、终审三轮严格评定，并会在国内外渠道大规模发布传播欢迎申报。

2026年上半年，AI行业有一个很少被公开承认、但从业者心里都清楚的事实：模型之间的差距正在快速缩小。头部厂商旗舰模型在主流基准上的分差，从两年前的“代际差”收窄到几个百分点；Token价格一年之内跌去一个数量级；国产大模型的周调用量已经持续超过海外厂商。算力同样在商品化——GPU可以租，推理按Token计价，谁都能以差不多的价格，用上差不多的算力。

这带来一个尴尬的处境：对于绝大多数任务而言，今天你把产品底下的模型换掉，用户几乎感觉不出差别。那么，当模型与算力都趋同，AI产品之间靠什么分出高下？

我的判断是：上下文（Context）。下一场AI产品的战争，是上下文之争。

Agent的天花板不在模型，在Context

评价一个Agent产品，行业习惯先问“底下接的是什么模型”。这个问题在2024年有意义，到2026年意义已经没有那么大了。真正该问的是另外的几个问题：它掌握多少背景？理解多深？它能否理解企业的业务知识和历史数据？这种理解能延续多久？

一个接入顶级模型、却没有上下文体系的Agent，本质上是一个不理解历史背景，每天早晨都会失忆的天才——你昨天与它讨论过的方案、纠正过的错误、约定过的偏好，一觉醒来全部归零。用户在它身上付出的每一次沟通成本，都无法沉淀为它对你的理解。这样的产品，模型再强，能力上限也被死死锁住。Agent的天花板不在模型，在Context。

但如果把上下文等同于“记忆”，就把这场战争看小了。这两年AI圈涌现出大量记忆框架、记忆组件项目，它们盯住的都是交互过程中的记忆：用户说过什么、Agent做过什么、上次任务停在哪一步。这些当然有价值，但只是上下文中最薄的一层。上下文的完整含义，是与当前任务相关的全部知识背景。对企业而言，上下文就等于企业现有的业务知识和业务数据——几十年沉淀的工艺参数、风控规则、客户档案、合同文书、故障工单、代码资产。一个金融风控Agent的能力上限，不取决于它记住了多少轮对话，而取决于它能否在需要的那一刻，调取这家机构二十年积累的风控案例与规则库。只做交互记忆而不打通业务知识，等于守着金矿淘沙。

而一个能把完整上下文——既包括交互记忆，更包括业务知识与业务数据——持续组织起来的AI系统，会随着使用时间越来越“懂”这家企业。这种理解不可迁移、不可复制：算力可以换云厂商或者自建，模型也可以换供应商或者自行部署开源模型，唯独一家企业与系统之间积累起来的上下文，搬不走。这才是AI产品真正的护城河。所以我常说一句听起来有点激进的话：谁拥有用户的上下文，谁就拥有一切。

算力之外是“知力”：存的不是字节，是可被智能随时调用的知识

“拥有上下文”说起来轻巧，工程上极其昂贵，而且两头都难。动态的一头：Agent每一次交互产生的KV Cache动辄百万Token量级，计算成K，V张量之后，需要消耗上百GB存储容量，放进GPU显存放不下——HBM容量有限且昂贵；放在单机内存和本地盘里共享不了——天然的数据孤岛；丢掉重算又付不起——Prefill占掉推理算力消耗的75%。静态的一头：企业几十年的业务知识和数据，散落在数据库、文档、日志和一代代老系统里，要能被精确检索，也要能被语义检索，还要在恰当的时机、以恰当的粒度汇聚成某一次交互的上下文——多一分是噪声，少一分是盲区。

把这条链路的全过程能力——全部上下文（业务知识、业务数据、交互记忆）的存储、管理、全局共享、精确检索、语义检索，直至高效汇聚为某一次模型交互的上下文——行业习惯沿着“算力”的对仗，把它笼统地归入“存力”。但“存”这个字，总把人带向容量、硬盘、存储系统等，把这件事看小了。我更愿意给它一个新名字：知力。知力的“知”，是知识的知——存得下的只是字节，调得动的才是知识。1PB无法被检索、进不了上下文的数据，谈不上知力；一份能在毫秒之间送到模型面前的知识，才是。一句话：知力，决定智力。

知力还有一个常被忽略的硬指标：供给效率。上下文不仅要找得到，还要到得快——模型开始思考的那一刻，它需要的知识必须已经在场。上下文到得慢，算力就在空转；在推理集群里，GPU等待数据的每一微秒都是纯粹的成本。所以知力天然是一个性能词：算力决定AI想得多快，知力决定AI知道多少、想得多对，以及——能不能持续的深度思考，形成高效的思维链。

这也是我们与“记忆组件”路线的根本分野：记忆框架解决的是对话历史的取舍，是应用层的技巧；知力要修的是从企业全部知识资产，交互上下文信息到模型和GPU之间的高速公路，是基础设施。技巧可以被复制，基础设施才构成壁垒。

文明的力量不在节点

在把节点连起来的架构

把视野拉远一点。人类单个个体的脑力，几千年来几乎没有变化——今天最聪明的人，未必比亚里士多德更聪明。但文明的能力呈指数增长。差别不在节点，而在系统架构：文字让经验跨越个体的死亡，印刷让知识跨越阶层，图书馆让记忆跨越世代，互联网让信息跨越地理。文明的力量，从来不在某个节点有多强，而在于把无数个“弱节点”连接起来的那套系统架构。

我认为这条规律同样适用于机器智能：依靠单个节点的算力，堆不出真正的超级智能。超级智能需要的是海量连接、信息共享与交换——成千上万个Agent各自执行任务、各自积累经验，而这些经验能够全局流通、彼此复用。

面向超级智能的AI Infra，要架构的正是这套底层逻辑。它不会只有算力。算力之外，必须有知力——上下文知识、外挂的超级记忆；还必须有让这些知识实现全局共享的能力。三者缺一，这套架构就不成立。

而今天绝大多数推理集群的现状，恰恰是反着来的：每个节点各算各的KV Cache，保存在单卡的HBM中，最多是卸载保存在单推理节点的DRAM中，无法做到上下文知识的共享和流动，多个Agent面对同一份知识各自重算一遍。这相当于人类还没有文字，没有书籍的远古时代。英伟达2026年初发布的CMX上下文存储分层架构，把解法写进了标准：五层存储体系中，G1到G3（HBM、内存、本地NVMe）都只服务单节点，G4为全局共享的传统存储(分布式文件系统，对象存储等)，但是不是为了上下文数据而设计的，在上下文数据的存储，检索和取回方面无法匹配推理集群的IO特征和极致性能要求，唯有G3.5全局共享KV池，能让“上下文”成为整个集群的公共知识资产。而我们认定这是整套架构里最关键的一层，比英伟达的CMX架构发布还要早——这一点，后文再展开。

算力是一次性的

知力才有时间复利

再往深一层看，算力和知力之间有一个根本性区别，行业讨论得太少：算力是一次性的，算过即忘；知力是可积累的，能产生时间复利。

一块GPU满负荷跑一天，电费花掉了，如果算的是重复的上下文，第二天什么都没留下——同一份系统提示词、同一段行业知识库，明天还要原样重算一遍。当下推理集群里高达75%以上的算力消耗在Prefill上，其中大量是对已经算过的内容的重复计算。这是纯粹的耗散，不产生任何沉淀。

知力的逻辑完全不同：一份上下文计算一次，全局留存，千路并发共享同一份缓存；缓存积累得越多，命中率越高，系统就越快、越便宜——DeepSeek公开的实测已经证明，依托全局KV缓存，同等Token工作量的运营成本可以比零缓存场景低数十倍。这就是复利：投入不再是消耗，而是资产，随时间滚动增值。对企业更是如此：业务知识和业务数据本就是几十年复利滚存下来的资产，知力让这笔沉睡的资产第一次可以被智能按次调用、按次产生回报。

人类文明本身就是靠这种复利建立起来的。我们不需要每一代人重新证明勾股定理，重新发明微积分——前人算过的，记下来，后人直接用。一个算过即忘的系统，永远建立不起文明；同样，一个算过即忘的AI系统，也永远长不成超级智能。文明和超级智能，只能靠时间复利一层层构建。有意思的是，汉字里早就写好了这个答案：“智”这个字，就是“知”加“日”——知识，乘以时间，才成为智慧。“日”字代表日积月累的时间复利，算力给不了那个“日”字，知力才能。

所以我坚持一个可能让一些同行不太舒服的结论：在推理时代，继续单纯堆卡，是在为“遗忘”付费。企业走向智能化时代的第一优先级，不是采购更多GPU，而是先让已经算过的东西，不再被重算。

把判断变成产品：

我们提前下注的那条路线

判断谁都可以下，先锋与跟随者的区别在于：是否敢在共识形成之前，把判断变成产品。

2020年我牵头创立华瑞指数云（ExponTech）时，行业的主流叙事还是“算力为王”。我们选了另一条路：赌基础设施的下一个瓶颈在数据、在上下文。而这条路的第一步，是一个当时看来最笨、最慢的决定——不做开源改造，不借别人的地基，从零自研新一代分布式引擎。

这个引擎就是WiDE，全自研的下一代分布式引擎，也是整条技术路线真正的根基。后来的所有产品——WDS、WFS、WQS、WADP——全部构建在WiDE之上。根技术握在自己手里的价值，在AI时代兑现得最彻底：当KV Cache这种要求极高并发，极低时延，小块随机IO，并行KV读写的全新负载出现时，我们可以直接在引擎层为它设计最为精简的数据路径，而不是在现在的存储架构上打补丁，增加更多的冗余层级。

WDS，基于WiDE的极速分布式块存储，面向数据库等企业关键业务系统。2023年，团队凭借WDS分布式软件+普通服务器的组合打破SPC-1全球存储性能榜的世界纪录，终结了传统的高端全闪存储阵列在存储性能上的长期垄断——这是WiDE引擎的超级性能和并行扩展性第一次在世界舞台上得到公开证明。

WFS，基于WiDE的分布式并行文件存储，承接AI训练与数据处理管线，解决海量非结构化数据的高吞吐供给问题。

WADP，面向AI负载的数据平台，2025年在MLPerf Storage v2.0中拿下多项全球第一。MLPerf Storage的优异测试结果意味着，我们对“AI负载究竟需要什么样的存储和IO处理能力”的理解，经受住了最苛刻标准的检验。

WQS，则是整条路线上最关键的落子：全球最早的AI原生KV Cache存储产品，直接为“上下文”这种全新的数据形态而生。我们没有走行业普遍的捷径——拿分布式文件系统封装改造。分布式文件系统为大块顺序IO优化设计，处理KV Cache所需的小块随机IO时带宽断崖式下跌，八跳IO链路、两次内核切换，注定撑不起实时推理的热路径。WQS依托WiDE构建原生KV引擎，用户态RDMA直连，两跳IO路径、零内核切换：16KB到10MB各种尺寸IO均可以稳定跑满物理网络带宽，端到端高并发读取时延控制在200μs以内；超强的并行随机小IO能力，使得我们可以使用更小的缓存block粒度达到更高的缓存命中率，使用分层流水线加载实现极低的KV缓存加载时延，配合CacheBlend等非前缀复用技术，让文档片段、中间知识段落都能单独命中，生产环境缓存命中率最高达到98%以上。

这条路线的前瞻性，有一个最有分量的注脚：早在2025年11月，AI原生KV Cache存储WQS与英伟达完成联合测试，验证了与英伟达Bluefield-3 DPU和Spectrum-x网络的软硬融合方案，与CMX分层缓存架构完美契合——而英伟达正式对外发布CMX架构，是在2026年1月。也就是说，当这个行业最重要的架构标准公开亮相时，我们的产品已经在标准发布之前完成了原生开发和适配验证。不是我们在追赶标准，是标准印证了我们几年前的判断。

落到企业的账本上，在推理集群中部署WQS意味着：PD分离集群的Prefill与Decode配比从3:1翻转为1:3，同等规模集群有效生成Token的算力提升3倍，整体Token吞吐率提升近4~5倍；不新增一张卡，Token产能翻数倍——这是通过“上下文存储节省算力”路线最直接的商业证明。

四个产品合起来，恰好是“知力”的完整拼图：WDS、WFS守住企业的数据底座，WADP让业务知识与业务数据高效供给AI管线，WQS让动态上下文全局留存、共享与复用。企业的历史知识进得来，交互记忆存得住，每一次模型调用都能以最低的时延拿到它需要的全部背景——这才是我们理解的、完整意义上的知力。

同时，这套架构从第一天起就按“统一架构、按需部署、全域治理”设计：数据分级、权限隔离、全链路审计内置于底座，支持完全本地化部署，安全管控到位，让中国企业在推进本土的智能化的同时，能以同一套基础设施合规出海。

结语：为上下文修建新型知力基础设施

回头看，2020年选择这条路时，AI 还在神经网络，深度学习阶段，基于transformer架构的模型刚刚崭露头角，“KV Cache”，“上下文”，“Agent”等今天的热词还没有出现。今天，上下文已经是承载智能体能力的核心资产形态。我们比行业早走了几年构建新一代分布式存储引擎，构建AI原生的并行IO处理能力，不是因为运气，而是因为始终从第一性原理出发去推演：智能的本质是连接与积累，而不是孤立的计算。

未来三到五年，AI产业的竞争会从“谁的模型强、谁的卡多”，转向“谁能以更低的成本，留存、共享、复用更大规模的上下文”。这场上下文之战，比拼的是底层知力基础设施的效率、成本与治理能力。中国企业依托全球最大规模的真实推理场景，完全有机会在这一层定义标准，而不是追随标准。

算力让AI会思考会计算，知力让AI知道上下文，知道业务背景信息——知道得越多、越准、越快，智力的上限就越高。而无论文明还是智能，最终都是由知识与记忆——而非一次次算过即忘的计算——一层层垒起来的。我和团队会继续做那个为上下文修建知力基础设施的人。

·申报人“曹羽中”简介：

曹羽中，ExponTech 华瑞指数云联合创始人兼CTO。2020年牵头创立公司，带领团队从零自研下一代分布式引擎WiDE，并基于WiDE引擎先后推出极速分布式块存储WDS、分布式并行文件存储WFS、AI数据平台WADP，以及AI原生的KV Cache存储产品WQS。2023年，其带领的技术团队凭借WDS打破SPC-1全球存储性能榜的世界纪录；2025年，WADP在MLPerf Storage v2.0基准测试中获得多项全球第一；2025年11月，全球最早的AI原生KV Cache存储产品WQS与英伟达完成联合测试，完美契合并早于英伟达CMX架构的正式发布（2026年1月）。