网易首页 > 网易号 > 正文 申请入驻

每一次AI问答 都藏着一门暴涨千倍的生意

0
分享至

中经记者 李静 北京报道

2026年,AI行业的关键词正在从“模型参数”悄然转向“Token(词元)消耗”。

今年3月,中国日均Token调用量就突破140万亿大关,较两年前增长超千倍。当大模型从实验室的“吞金兽”走向生产线的“印钞机”,Token——这个计量AI认知与计算的最小单元——正成为定义AI时代商业价值的新石油。

在这场Token生产的“工业革命”中,一家名为趋境科技的清华系创业公司,凭借“AI Token工厂”的定位,在半年内斩获超10亿元融资,并在2026年6月实现了单月收入超过去年全年的商业里程碑。

“我们卖的不是工厂里的设备,我们卖的是工厂生产出来的产品。”近日,趋境科技Token事业部总经理刘显赫在接受《中国经营报》记者采访时说道。在他的比喻里,算力是炼油厂的设备,Token才是可以被交付的“成品油”,而且像汽油一样有92#、95#、98#的品质差别。

AI产业价值大迁移

一年多以前,AI产业的叙事还围绕着“百模大战”和算力卡的数量。如今,风向逐渐变了。

刘显赫在采访中坦言:“AI一旦从聊天变成生产力工具,它所消耗的每一个Token,就成了可量化、可交易的产品。”

这种转变源于AI使用模式的根本性变化。随着今年智能体(Agent)兴起,AI不再是简单的“一问一答”,而是可以执行多轮推理、代码生成、工具调用等复杂任务。

360集团创始人、董事长周鸿祎在近期透露,公司内部有员工使用智能体制作一份常规工作PPT,累计消耗近1亿Token。按照目前高端大模型计费标准折算,1亿Token的成本接近1万元。

Token消耗量的指数级增长催生了“Token经济学”。今年上半年,趋境科技获得多轮融资;北京发布国资背景的“京算Token工厂”,阿里巴巴也将Token写入新的组织架构。

不过,Token并非完全同质化的商品。刘显赫介绍,高品质Token主要通过TTFT(首字延迟)、TPS(每秒吞吐量)、并发能力和SLA(服务等级)等指标衡量。“如果提出请求后几分钟才回复,或者每秒只能输出十几个字,在生产环境中是完全不够用的。”

这也是Token工厂与传统算力租赁的区别。后者出售GPU使用时长,收益受到硬件折旧限制;前者出售标准化的Token产品,可以通过技术优化,在同一批硬件上生产更多、更快、更稳定的Token。趋境科技采取“少模型、深优化”的策略,重点适配Token消耗量较大的头部模型,以减少模型数量过多带来的适配和运维成本。

把算力成本打下来

如何让相同算力生产更多高品质Token?

大模型推理存在大量重复计算。由于模型无法长期记住全部历史对话,每次处理新问题时都可能重新计算已有内容。趋境科技采用“以存换算”的KVCache(键值缓存)技术,为模型建立类似短期记忆的缓存。当用户反复提出相似问题,或多个任务共享相同上下文时,系统可以调用缓存中的中间结果,减少重复运算,从而压低推理成本。

更关键的是趋境科技在“国产Prefill-Decode(PD)异构协同”“高性能异构KVCache转换”“异构算力计算池化”上的工程化能力。公司孵化于清华大学计算机系高性能所,参与开源异构推理框架KTransformers及Mooncake项目,并活跃于vLLM、SGLang等主流推理社区。

PD架构把大模型推理拆分为两个阶段:前一阶段负责理解输入内容,计算较为密集;后一阶段负责逐步生成答案,更依赖内存和数据传输。将两个阶段交给不同硬件处理,可以让高端芯片集中承担更擅长的任务,其他计算资源则处理剩余工作,提高整套集群的利用效率。

传统大模型的推理高度依赖高端GPU,不仅成本较高,也容易受单一硬件生态制约。趋境科技尝试通过异构调度和混合推理架构,统一调动GPU、CPU、内存、网络和存储资源,同时适配国产AI芯片,提高整体资源利用率。

“我们不只是利用国外GPU,也希望把国产GPU、CPU、内存、网络和存储都利用起来,让综合效率提升。”刘显赫说。

据趋境科技披露,自2026年春节以来,其单台算力的Token生产效率提升3倍以上,总产能增长30倍。部分客户部署相关方案后,推理业务毛利率由负20%提升至30%。

刘显赫表示,当前行业算力利用率普遍在40%左右,但可以通过Token出海、批量推理等业务提高利用率。

在他看来,不同企业的成本结构也存在差异。有的企业达到一定利用率即可盈亏平衡,随后增加的产出能够较快转化为利润;有的企业即使利用率达到60%甚至70%,仍可能因为硬件采购和能源成本较高而亏损。

倒三角生意经

当大模型行业陷入持续的价格竞争,部分厂商将输入Token价格压至每百万不足1元时,趋境科技选择聚焦企业级高品质Token赛道。

“高品质Token看似位于价值金字塔顶端,其价值结构实际上呈倒三角分布。”刘显赫表示,金字塔尖对应的是企业付费意愿最强、对生产效率影响最大的核心场景。

目前,趋境科技的Token产能主要用于编程(Vibe Coding)、Agent调用等场景。在这些场景中,Token的响应速度和稳定性会直接影响研发周期、人力成本与业务产出。这也是趋境科技暂不急于扩张C端市场的原因:一个大型企业客户的单日Token请求量,可能超过1000万个C端用户的请求总和。

“一个好的程序员,他的工时是很贵的。”刘显赫说,“在传统企业研发场景中,大量人力与组织成本被低效交互消耗,程序员深陷频繁会议、需求沟通、代码反复审阅等无效工作,核心编码与创新精力被严重挤占。如果企业可高效利用高品质Token,替代研发环节中50%—80%的低效交互,对企业来说,这意味着大幅削减隐性沟通成本、解放核心研发人力,真正实现降本增效与价值提升。”

刘显赫还引用“杰文斯悖论”解释Token需求增长:技术进步提高资源利用效率后,往往会进一步扩大资源的总消耗量。在他看来,推理价格下降并不意味着Token市场缩小。随着成本降低,原本因价格过高而无法落地的应用可能进入生产流程,智能体执行的任务也会变得更加复杂,最终推动Token总需求继续增长。

夹缝中的机会

当前Token工厂赛道仍处于群雄逐鹿早期,大量中小玩家涌入,长期瓶颈之一是高端算力供给。

随着海外限制高端AI卡供给,国内稀缺算力资源大量被大模型训练业务抢占,直接挤压推理环节的硬件供给,导致推理端硬件成本持续走高,推理服务厂商深陷“高硬件成本、低盈利空间”的双重挤压。

趋境科技提出两条路径:一是持续优化推理技术,提高现有硬件的单位产出,消化较高的算力成本;二是建设PD异构集群,将英伟达显卡与国产算力芯片混合组网,逐步提高国产硬件比例,最终推动全国产推理集群落地。

不过,PD异构集群需要重新设计组网架构,测算不同芯片的最优配比,并适配不同模型算子和精度需求。这不仅是软件调度问题,还涉及芯片性能、网络传输和模型结构,需要芯片厂商、模型厂商与推理服务商深度协同,可能成为区分Token工厂厂商技术能力的关键。

刘显赫认为,Token工厂会作为独立产业层长期存在,不会简单被云厂商或模型厂商取代。云厂商拥有基础设施和客户生态,模型厂商掌握模型能力,Token工厂则试图通过推理优化和异构调度提高单位算力产出,三者既存在竞争,也可能相互合作。

但一个绕不开的问题是:当智谱、Kimi等头部模型厂商拥有足够流量,自建集群也能维持较高利用率时,第三方Token工厂作为“中间层”的价值还剩多少?

刘显赫的回应是“合作共赢”:“行业未来的格局必然是分工协同。头部模型厂商会将最核心、最珍贵的算力资源优先投入模型训练与技术迭代,而规模化、高效率、高稳定性的推理服务,最终会交由专业化的Token工厂来承接。专业化分工之下,第三方Token工厂的价值不仅不会消失,反而会在产业成熟过程中愈发清晰。”

(编辑:张靖超 审核:李正豪 校对:翟军)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
太狂!赖清德真大言不惭,向大陆最新喊话摊牌,解放军该出手了

太狂!赖清德真大言不惭,向大陆最新喊话摊牌,解放军该出手了

共工之锚
2026-08-05 00:09:36
沙特王储突然出手,中国三年前留下的后手,关键时刻救了伊朗一命

沙特王储突然出手,中国三年前留下的后手,关键时刻救了伊朗一命

闻香阁
2026-08-04 10:33:29
王俊杰正式加盟山西男篮

王俊杰正式加盟山西男篮

界面新闻
2026-08-04 20:52:43
重庆女子每月6000元出租闲置小车,被女租客开到武汉抵押套现;有14名车主被同一女租客所骗,警方已立案侦查

重庆女子每月6000元出租闲置小车,被女租客开到武汉抵押套现;有14名车主被同一女租客所骗,警方已立案侦查

大风新闻
2026-08-04 22:44:33
确定拐了!强台风白海豚西偏北直奔沪苏,十二省暴雨七省大暴雨

确定拐了!强台风白海豚西偏北直奔沪苏,十二省暴雨七省大暴雨

吃货的分享
2026-08-05 01:44:11
主持人陈璇下蹲采访老外后续!账号变私密,老公与女儿照片被扒

主持人陈璇下蹲采访老外后续!账号变私密,老公与女儿照片被扒

180视角
2026-08-04 09:34:14
舆情敲诈,绝非舆论监督

舆情敲诈,绝非舆论监督

封面新闻
2026-08-04 16:09:14
20多名中国游客无故被拒登机, 机场安保做出歧视性手势! 全网炸锅

20多名中国游客无故被拒登机, 机场安保做出歧视性手势! 全网炸锅

澳微Daily
2026-08-04 16:11:44
"速成车"从行业骄傲变成耻辱标签,只用了一年——两年前比谁快,两年后比谁慢

"速成车"从行业骄傲变成耻辱标签,只用了一年——两年前比谁快,两年后比谁慢

万物新世相
2026-08-04 14:20:23
给脸了!泰航拒绝20多名中国乘客登机,机场保安做歧视性手势,有网友曝光原因

给脸了!泰航拒绝20多名中国乘客登机,机场保安做歧视性手势,有网友曝光原因

Mr王的饭后茶
2026-08-04 22:24:07
为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

另子维爱读史
2026-08-04 21:35:07
王思聪女友懒懒急了!晒出在香港美照,配文“被爱包围”,回应男友与另一美女逛街

王思聪女友懒懒急了!晒出在香港美照,配文“被爱包围”,回应男友与另一美女逛街

火山詩话
2026-08-04 08:51:18
强对流+暴雨双预警发布,部分地区将有10级以上雷暴大风

强对流+暴雨双预警发布,部分地区将有10级以上雷暴大风

界面新闻
2026-08-05 06:54:35
泰航拒载22名中国乘客,安保人员被拍到做“拉眼角”动作,泰国机场致歉:系粉丝尾随艺人进休息室被劝离引发混乱,已惩处涉事人员

泰航拒载22名中国乘客,安保人员被拍到做“拉眼角”动作,泰国机场致歉:系粉丝尾随艺人进休息室被劝离引发混乱,已惩处涉事人员

极目新闻
2026-08-05 07:54:21
Here we go!罗马诺:萨拉赫自由转会加盟特拉布宗体育

Here we go!罗马诺:萨拉赫自由转会加盟特拉布宗体育

懂球帝
2026-08-05 04:53:16
泽连斯基的警报炸了!朝鲜导弹砸向乌克兰,西方却不敢吭声

泽连斯基的警报炸了!朝鲜导弹砸向乌克兰,西方却不敢吭声

菁菁子衿
2026-08-04 20:10:53
竹知了摇出公关灾难,大量网友线下顶风作案,抗人心散了,队伍不好带了!

竹知了摇出公关灾难,大量网友线下顶风作案,抗人心散了,队伍不好带了!

眼光很亮
2026-08-03 16:07:55
韩红被易立竞“审”到冒汗,一个关于高速堵车的回答,让她漏了底

韩红被易立竞“审”到冒汗,一个关于高速堵车的回答,让她漏了底

手工制作阿歼
2026-08-05 02:47:09
随着U17国足两连胜,有3个事实大家不得不承认,中国足球崛起有戏了

随着U17国足两连胜,有3个事实大家不得不承认,中国足球崛起有戏了

绿茵舞着
2026-08-04 21:53:56
教招面试前,笔试第一名接到电话:“选其他地方报考,第二名给你几万块钱”;笔试第二名被公示拟聘用,广东湛江教育局:已启动调查

教招面试前,笔试第一名接到电话:“选其他地方报考,第二名给你几万块钱”;笔试第二名被公示拟聘用,广东湛江教育局:已启动调查

大风新闻
2026-08-04 22:54:24
2026-08-05 08:43:00
中国经营报 incentive-icons
中国经营报
中国经营报微博由《中国经营报》社有限公司运营,与中国企业同步成长
27031文章数 30285关注度
往期回顾 全部

科技要闻

SpaceX首份财报:营收暴涨92%,AI狂烧千亿

头条要闻

教招笔试第一名称遭第二名花钱劝退 后者被公示拟聘用

头条要闻

教招笔试第一名称遭第二名花钱劝退 后者被公示拟聘用

体育要闻

斯卢茨基告别申花:1座城市和14亿份难忘的回忆

娱乐要闻

李荣浩《小眼睛》被指抄袭,撤销署名

财经要闻

刷屏的光模块,中国实力几何?

汽车要闻

方程S系列将于成都车展发布内饰 9月上旬新车上市即交付

态度原创

亲子
数码
时尚
艺术
本地

亲子要闻

2026年世界母乳喂养周活动启动……一起来听健康早闻!2026年8月5日

数码要闻

EA为《战地6》推出1.4.1.5更新:修复RTX50系显卡崩溃问题

夏天裤子不用买得太多太贵!准备一条白色阔腿裤,显瘦又清爽

艺术要闻

纽约街头,他们在车流与霓虹中起舞:这才是顶级的芭蕾艺术!

本地新闻

课本里的童年,绍兴正上演

无障碍浏览 进入关怀版