不比“面粉”比“面包”！国产AI算力突围背后，一家Token工厂里藏着的“中国芯”破局密码

本报（chinatimes.net.cn）记者刘诗萌 北京摄影报道

2026年，国产算力迎来新的里程碑，一场“中国芯”的突围正在悄然发生。

IDC数据显示，2026年上半年中国数据中心AI加速器市场格局发生剧震，其中英伟达市场份额从去年的55%骤降至34%，华为份额较去年同期接近翻倍至28%，二者差距仅为6个百分点。在其追踪的11家中国芯片厂商中，有9家出货量实现同比增长。并且，这些国产AI芯片已经逐渐进入政府机构、互联网公司和电信运营商等关键信息基础设施的供应链体系。

促使国产芯片从“能用”变得“好用”的，是AI基础设施（AI Infra）的支撑。其背后的原理是通过端到端基础设施进行互联和调度来提升国产AI计算硬件的资源利用效率，尽管无法抹平与国际先进水平单点峰值算力的差距，却可以让国产算力在有效Token的产出上取得另一种意义上的“弯道超车”，从而摆脱产能受限的困扰。这也是AI Infra成为2026年以来国内一级市场的核心赛道的重要原因，头部企业无问芯穹、硅基流动、趋境科技年内融资均超过20亿元。

近日，《华夏时报》记者跟随工信部新型工业化调研团的脚步，到访了其中之一的趋境科技。出身清华大学高性能计算研究所，趋境科技专注大模型推理场景优化和AI Token的生产，其方案被广泛应用于头部企业万卡智算集群当中，成为推动“中国芯”突围破局的重要力量。

从算力中心到Token工厂

“全球AI算力一半消耗在东北，东北一半算力消耗在铁岭”这个略显夸张的热梗在今年广为流传。在各个热门视频平台上，马大帅跳起了《Gentleman》，范德彪在象牙山上玩起了《头文字D》式漂移，杜甫、苏轼、刘邦、诸葛亮这些课本里的古人在小酒馆里拿起麦克风娓娓说唱。

这一切的实现，都有赖于AI对短剧与视频产业链的渗透。年初，字节旗下短视频平台Seedance横空出世，上线三个月已实现单月营收超过10亿元，海外收入占比已经达到50%。在Seedance、可灵等大模型的深度渗透下，今年前8个月，上线微短剧共43万部，是去年全年的13倍，其中AI剧占比超过九成。

而视频天生就是高Token密度的场景。据中国信息通信研究院发布的《词元经济发展研究报告（2026年）》，单集1.5分钟AI短剧Token消耗量可达500万至1000万。A股上市公司中文在线6月投资者关系活动记录中披露，从行业调用数据看，在国内所有Token消耗份额中，AI短剧与视频生成占比高达55%。尽管该数据的可信度在业内仍有争议，但这与人们在各个平台上看到铺天盖地的二创、AI短视频的朴素观感并不相悖。

在海量需求的带动下，按Token消耗量付费的“模型即服务”（MaaS）真正“跑通”了。Seedance背靠的字节旗下火山引擎MaaS业务上半年同比增长了近9倍，视频生成贡献了其中的30%以上。另一个能够佐证的点是，去年上市的大模型厂商智谱在今年上半年也切换了业务结构，收入大头从B端的本地化部署变为了面向C端的MaaS开放平台及API，这部分占公司总收入的比例从去年同期的15.2%直线拉升到今年的86.5%。

而在这背后，还有一个被视为行业转折点的数据：今年上半年，算力需求从过去的训练主导转向推理，包括推理ASIC芯片在内的非GPU出货量首次超过了GPU出货量。“去年的时候一家大模型公司一天使用的推理Token量到2万亿可能就已经是国内最高的了，现在可能这个数字变成了几十万亿到百万亿量级。有些公司为了满足业务需求，甚至把训练用的卡都拿来做推理了。”趋境科技创始人兼CEO艾智远回答《华夏时报》记者提问时指出，Token调用量大幅增长主要是因为今年上半年AI短视频和AI Coding两个场景跑通了，而这也是AI Infra赛道在这个时候受到业内关注的核心原因，“大家开始发现，要让客户真的开始付钱，到底是付1块钱还是五毛钱变得很重要了，大家就会开始关注单位算力转化成Token的性价比。”

随着按Token计费逐渐成为一个合理自洽的商业模式，AI行业效率的争夺自然而然地从“卖面粉”的算力中心转向了“卖面包”的Token工厂。今年3月，黄仁勋在GTC大会上指出，未来数据中心的核心价值不再是存储文件的仓库，而是生产可计价、可交付的Token的工厂。每瓦Token吞吐量将取代服务器数量、存储容量，成为决定竞争力的核心指标。在这个尺度上，Token正在成为数字经济时代的硬通货。

国产算力突围破局

而对于中国而言，以提升产出效率为核心的AI Infra的意义更为重要。在地缘政治角力导致算力供给不确定性加剧的背景下，“中国芯”独立自主无疑具有战略意义上的必要性。然而，在高带宽内存（HBM）和半导体先进封装的硬件产能约束下，单点性能的优化总有瓶颈，如何用基础设施的优势弥补芯片和制造环节的劣势，实现用国产算力支撑高品质Token的稳定供给，决定了这种“独立自主”能否不仅仅停留在口号层面，而是真正形成在商业上具有竞争力的模式。

在这道难题面前，专注于推理场景的趋境科技给出了自己的答案。其中之一就是异构推理。大模型计算是推理算力最常见的场景，通过将Prefill和Decode两个阶段分离，由计算能力强的算力承担Prefill 任务，由显存带宽大的算力承担Decode任务，并通过高效KVCache 流转实现协同生产，最终既能实现国产芯片深度落地至大模型核心生产环境，又能让规模化Token工厂整体的硬件成本下降20%。

“在使用我们的技术之前，一些头部的国产大模型供应链列表里其实是没有国产芯片的。打个比方说，就像用一家演出订票网站的系统去扛12306的流量，根本撑不住。但我们通过软硬件协同调度重构了计算逻辑，基于不同的任务特征进行分流之后，就可以用不同类型的算力资源给这些模型参数在万亿级别的模型公司供Token。”艾智远透露，目前趋境科技每天向万亿级别模型供应的Token稳定在1.5万亿到2万亿之间，大约等于2026年春节前整个腾讯元宝一天消耗的Token量。

与此同时，在当前算力价格暴涨的背景下，为了生产性价比最优的Token，趋境科技正在与多个地区合作，从最开始的芯片选型设计，到机房设计、组网设计再到模型的自演进都由趋境科技主导来做，贯穿Token工厂建设到运营的全生命周期。而其中另一个重要的技术手段就是“以存换算”，通过显存、内存和SSD构建多层缓存体系，让已经完成的计算得到充分复用，仅对新增内容进行计算，有助于降低首Token 响应延迟、提升并发吞吐能力，并减少单位Token的资源消耗和生产成本。“因为现在内存价格特别高，去年一条64G内存价格是2300元，现在已经到了2.3万元一条，相当于乘了十倍。但是用SSD等效置换的情况下，性价比就会高很多。”艾智远表示。

尽管与众多群星璀璨的AI大模型企业相比，AIInfra层的企业往往大多数时候都是“负重前行”的托举者，但趋境科技的技术影响力已经延伸到了产业规则的制定上。其联合清华大学团队牵头开源的KTransformers，是全球较早面向超大规模MoE模型开展CPU/GPU异构推理优化的开源框架之一；与多家大模型企业共同推进的Mooncake开源生态建设，相关论文获得FAST 2025最佳论文，其技术理念被英伟达参考引用，成为全球分布式推理框架的建设标准，在2025年GTC大会上也获得了黄仁勋的致谢。

10月26日，趋境科技宣布完成超13亿元B轮融资，2026年以来，公司累计融资规模达24亿元。“趋境科技由于出身清华高性能所，我始终告诉大家一句话，就是技术信仰必须坚持，大家也能看到我们对技术信仰的追求带来的价值效益。”在采访的最后，趋境科技首席科学家、清华大学教授武永卫强调。

责任编辑：徐芸茜 主编：公培佳