网易首页 > 网易号 > 正文 申请入驻

当“Token工厂”进入国芯时代:大模型商业化的胜负手,正悄然移向芯片之下

0
分享至

本报记者 张伟

2026年的 AI基础设施竞赛,在一个月内接连被两条剧烈交汇的信号推向了深水区:先是全球算力商业度量衡的彻底改写,紧接着,地缘供给线在11月16日突然拉响警报。

海外远程算力走廊收窄,倒逼海量训练与推理需求全面回流本土机房;而芯片制造与封测端的外部严审,又决定了国芯供给不能单纯依赖无节制的扩产流片来填补。

正如微软 CEO纳德拉曾感叹海外基建手里攥着芯片却找不到足够通电的机房,在国内,各地智算中心与政企机房恰恰是电早就通了、机柜里也已部署了大批国产算力卡。真正决定 Token工厂产线回报的,在于软件栈能否把芯片的每一分性能彻底激活,把国芯算力压榨成高吞吐、低延迟的商业产能。

从硬件边界到工程死结,一线 Token工厂为什么呼唤公共底座

“建一座能赚钱、扛得住大流量的 Token工厂,绝不是买来算力卡插上电就万事大吉。”清昴智能创始人兼 CEO关超宇长期在一线交付 Token工厂,他在复盘交付现场时这样谈到。

在他看来,早年铺下去的 A100、H20及更早期国产卡并非面向混合专家架构与百万上下文设计,硬件上限本就有限。但更普遍的死结藏在软件栈里。Agent长上下文场景下,Prefill阶段极度吃算力,Decode阶段则卡在键值缓存的显存带宽墙上,混跑就会陷入“算力等数据、带宽被挤爆”的双向困境。即便换成新一代高算力芯片,软件协同不到位,同样跑不出具备商业竞争力的吞吐效率。

更让商业团队窒息的,是模型按周迭代撞上二十余家芯片的巨大剪刀差。各家微架构与底层指令集互不兼容,清昴工程师为了攻克极限算子,甚至不得不钻进驱动层、绕过编译器手写汇编。可每出一个新模型、每换一款国产卡都要抽调精锐从零重写几百个底层算子,团队很快就会沦为低毛利的人力外包队。

任何商业公司的资源边界都是有限的,编译器往下的硬件适配与通用算子底座包办不了,也不该去硬扛,一线 Token工厂急需一个中立开放的公共开源底座来兜底。

由北京智源人工智能研究院牵头开源四年的统一系统软件栈 FlagOS,成为填平这一生态断层的核心抓手,也是清昴等商业团队破局的底层选择。

从清昴这类一线 Token工厂的视角来看,迭代至 2.2版本的 FlagOS恰恰接住了最繁重、最易重复消耗人力的底层工作。这套开源底座基于 Triton沉淀了超过一千四百五十个通用算子,统一编译器 FlagTree在单一代码仓库下覆盖了二十家芯片厂商的后端,把主流推理与训练框架直接对接到了多元算力上,给 Token工厂省去了大量底层重复开发工作。

在追赶业务窗口期的一线赛跑中,FlagOS社区带来的“当天适配”能力更具商业杀伤力。过去半年里,无论是DeepSeek V4、Qwen3.8还是智谱 GLM-5.3系列,每当主流新模型发布,FlagOS社区最快一天就能完成多达十二款不同芯片的跑通。对清昴团队而言,这意味着不必再耗费数周人力死磕底层适配,能够以最快速度把最新模型接入商业产线,稳稳跟上 Agent业务爆发带来的迭代节奏。

把“稀疏空间”压密,开源软件栈如何抬高产线算法上限

一线商业团队将 FlagOS接入业务流水线,带来的改变不仅是省下工期,更直接改写了商业公司核心优化算法的工程上限。

清昴从清华大学实验室时期起家,一直坚持的技术路线是“用 AI优化 AI”,也就是通过自动机器学习替工程师去搜索最优的算子融合、图切分与分布式并行策略。随着行业迈向用 AI自我迭代进化来持续打磨基础设施的下一代范式,这种自动化寻优的能力正在成为决定 Token工厂产线效率的关键。

但让 AI自己去优化硬件,在工程上其实存在一堵极易撞毁的隐形墙。

关超宇在交流中点破了这个核心难点:要让 AI学会优化 AI,前提是算法必须先看懂基础设施长什么样,知道底层有哪些硬件细节和边界条件需要注意。

而 FlagOS提供的标准化编译器、三层渐进式抽象以及经过严格验证的 Triton统一算子生态,相当于在混乱的裸硬件之上铺平了一层高确定性的中间层。接入 FlagOS工具链,配合其内置自动调优器将搜索提效二百九十八倍的能力,原本稀疏脆弱的搜索空间一下子变得“密集”起来,自动调优算法能找到的有效可行解大幅增加,整条产线的探优效率随之呈量级跃升。

即便面向未来完全由 AI自主生成算子的演进趋势,这套公共底座也不会被边缘化,其作为工程支点的价值愈发凸显。正如关超宇所判断的,任何自我进化的优化系统想要走得稳、走得快,都必须建立在极其完善的观测体系、衡量基准和基础工具链之上,没有哪一套单一系统能够从零包办所有的底层环节。未来的 FlagOS编译器与算子库本身,也会持续吸纳这种自动迭代的思路向前滚动。

更让一线商业团队感到踏实的是 FlagOS在开源形态上的克制。FlagOS固然提供了一套完整可用的参考系统,但它把 FlagTree编译器、FlagGems融合算子库、FlagCX通信库以及各类引擎插件拆成了高度解耦的标准化“乐高积木”。商业团队可以根据真实产线的苛刻需求,只挑出使用频率最高、最称手的模块拼进自己的系统里,即插即用。底层跨芯片适配的苦活累活被公共底座接走之后,商业公司的研发节奏随之彻底改写,工程师终于可以把火力集中在高阶的内存编排、异构调度与产线利润优化上。

商业交付遭遇性能卡点,联合调优下的国芯破局

再漂亮的理论架构,最终都要接受真实企业机房的残酷检验。清昴等团队将国芯 Token工厂推向一线交付时,迎面撞上的正是一场足以决定项目生死的“性能危机”。

工厂侧团队迅速联合开源社区,基于 FlagOS底座展开了一场“底层基建 +业务深改”的联合调优攻坚,避免了闭门重写底层栈的高昂代价。

在这个协同战役里,分工极其清晰。FlagOS底座负责打通最硬核的基础算子与编译链路。针对 GLM-5.3-Flash复杂的 DSA加 KDA混合注意力结构,联合团队借助 FlagOS统一中间表示层早已打通昇腾 CANN开源生态的基础,直接调用 FlagGems面向 vLLM和 SGLang的融合算子库与 FlagTree编译优化,矛头直指昇腾 910C的计算协同与显存搬运死穴。

有了底座提供的高性能算子原语与编译链路,产线侧便可以把全部火力压在结合真实业务负载的深度改造上。

联合调优交出了一份足以改写商业账本的硬核答卷。

在清昴的昇腾 910C商业产线实测中,仅 Decode阶段的优化就将字间延迟降低了 10%以上,每输出 Token时间降低了 8%以上;叠加全链路业务调优后,GLM-5.3-Flash在昇腾 910C上的整体输出速度从原本的二十多TPS一举翻倍,跃升至五十多 TPS,彻底跨过了商业级可用的门槛。国芯 Token工厂第一次在旗舰级大模型上跑出了让业务方“无感替换”的生产级体验。

更重要的是,这种借力底座实现的商业突围并非只能锁定在单一芯片上。通用软件栈在守住甚至提升性能的同时,让 Token工厂真正具备了横跨多元硬件、平滑迁移交付的能力。

复刻“Linux时刻”,打造国芯 Token工厂的产业闭环

今天的国芯 Token工厂,正在复刻软件工业史上那场著名的“Linux时刻”,而 FlagOS站在了底座标准的位置。

B端客户在真实生产环境中采购的是能够纳管异构芯片、扛住突发高并发、具备严苛分位数延迟保障的整套商业生产系统,绝非挂在开源仓库里的零散代码。

正是在这个传导链条上,FlagOS完成了一次从开源社区向千行百业的商业放大。一方面,FlagOS将适配好的多芯片模型版本直接同步到魔搭社区、腾讯云与国家超算互联网等公共平台,把全行业开发者触达异构算力的门槛压到最低;另一方面,凭借高度解耦的“乐高式”模块化组件,它替一线商业服务商卸掉了底层跨芯片适配的万斤重担。

站在 2026年的尾声回望,外部远程算力通道收窄与制造封测端的严苛审查,确实为中国 AI算力出了一道高难度的压力测试题。但压力之下,产业界也由此告别了过去各自为战、低水平重复造轮子的惯性。

当开源系统软件栈把芯片之下的标准路面彻底铺平,再经由商业化伙伴的工程封装输送至千行百业,中国“国芯Token工厂”正在跨过单纯堆砌硬件的初级阶段,真正跑通了属于自己的自主可控工业正循环。



特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
紧身短裤,是跑步最尴尬的装备

紧身短裤,是跑步最尴尬的装备

跑者排球视角
2026-11-20 06:59:54
薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

可乐谈情感
2026-11-20 04:09:54
APEC“全家福”的围巾里,藏着一个数字

APEC“全家福”的围巾里,藏着一个数字

极目新闻
2026-11-19 21:21:29
该断掉的总要断掉,刻赤大桥垮入海峡

该断掉的总要断掉,刻赤大桥垮入海峡

巴雷文化
2026-11-18 05:04:31
中美俄发布和平宣言,一致反对国际刑事法院滥用管辖权,杜特尔特迎来新希望

中美俄发布和平宣言,一致反对国际刑事法院滥用管辖权,杜特尔特迎来新希望

光电科技君
2026-11-19 22:07:05
上海车主傻了:新能源车充电后变“龟速”,时速最多开到25公里!维修费高达8万元,维权5个多月,多方“扯皮”

上海车主傻了:新能源车充电后变“龟速”,时速最多开到25公里!维修费高达8万元,维权5个多月,多方“扯皮”

新民晚报
2026-11-19 17:16:12
加内特怒批现役球员:他们不是硬汉,永远别拿我和这帮软蛋相比

加内特怒批现役球员:他们不是硬汉,永远别拿我和这帮软蛋相比

体坛周报
2026-11-20 09:32:18
29岁中国女排名将声称国外没有瘦肉精!拒道歉未回应,疑似遭到处罚

29岁中国女排名将声称国外没有瘦肉精!拒道歉未回应,疑似遭到处罚

念洲
2026-11-20 07:16:50
《慌啥子嘛》是一首媚俗歌曲

《慌啥子嘛》是一首媚俗歌曲

关尔东
2026-11-19 23:47:03
极目深度丨一个被无辜烧伤女人的“浴火重生”:姐姐割皮相救,政府垫付百万元医疗费用,不知该向谁索赔

极目深度丨一个被无辜烧伤女人的“浴火重生”:姐姐割皮相救,政府垫付百万元医疗费用,不知该向谁索赔

极目新闻
2026-11-20 07:45:20
领跑全联盟!火箭目前抽中状元概率高达18.8% 美媒看好斯托克斯

领跑全联盟!火箭目前抽中状元概率高达18.8% 美媒看好斯托克斯

罗说NBA
2026-11-20 07:13:18
王思聪洛杉矶豪宅内烤全羊,双手插兜合影显霸气!网友:好惬意

王思聪洛杉矶豪宅内烤全羊,双手插兜合影显霸气!网友:好惬意

娱乐团长
2026-11-18 13:17:46
湖北95后小伙开饭店优先招35岁以上员工,缴五险一金,周休2天,一年亏了100多万

湖北95后小伙开饭店优先招35岁以上员工,缴五险一金,周休2天,一年亏了100多万

黄河新闻网吕梁
2026-11-19 17:55:11
全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

可达鸭面面观
2026-11-19 21:51:59
不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

扶苏聊历史
2026-11-18 15:55:59
胖东来撤走后,房东降到四百万依然没有人接盘!

胖东来撤走后,房东降到四百万依然没有人接盘!

城事堂
2026-11-19 14:03:31
刚刚,人类史上最大IPO诞生!父亲病逝、自己患癌,Anthropic掌门人的下一站:用AI治愈疾病

刚刚,人类史上最大IPO诞生!父亲病逝、自己患癌,Anthropic掌门人的下一站:用AI治愈疾病

智药局
2026-11-20 02:29:34
武汉48岁女律师倒在律所,“提成律师”伤亡能否认定工伤?

武汉48岁女律师倒在律所,“提成律师”伤亡能否认定工伤?

新京报
2026-11-19 19:45:16
疯了!美国又猛推华为一把

疯了!美国又猛推华为一把

华商韬略毕亚军
2026-11-19 10:13:20
今天 11 月 20 日,全体退休人员注意:11 月养老金发放,必查三项!

今天 11 月 20 日,全体退休人员注意:11 月养老金发放,必查三项!

白昼说故事
2026-11-20 08:55:11
2026-11-20 10:23:00
中国高新
中国高新
中国高新技术产业导报官方账号
2264文章数 13关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

房产
本地
数码
游戏
公开课

房产要闻

6.6亿!海口卖地!

本地新闻

乌兰察布:以前种土豆,现在种Token

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

PC Gamer试玩GTA6百小时:双主角出色但任务重复

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版