网易首页 > 网易号 > 正文 申请入驻

不同模型厂同一家Agentic Infra,AGI时代的地基终于浮出水面

0
分享至

  • 克雷西 发自 上海
    量子位 | 公众号 QbitAI

先说一件有意思的事。

就在今天的WAIC论坛上,MiniMax和阶跃星辰,同时出现在了一家AI Infra公司的论坛现场,前者参加战略合作签约,后者发布主旨演讲。



苗头其实更早就出现了。4个月前的中关村论坛上,智谱张鹏和Kimi杨植麟就曾与这家公司联合创始人兼CEO同框,参与圆桌论坛,并被现场点名该公司已为Kimi、智谱提供服务。



四家国产头部基模公司,先后跟同一家AI Infra达成了深度合作。开句玩笑话——集齐四家,就可以召唤神龙了。

这家AI Infra公司,正是无问芯穹

这个身位有点像「电池领域的宁德时代」——造车的人可以「兄弟登山,各自努力」,但电池这一层,绕不开就是绕不开。无问芯穹想做的,就是大模型时代的共同选择

问题也因此变得更有趣了:

他们到底看中了这家公司什么?

答案要从两头找。

需求端,2026年推理开始反超训练,成为AI算力消耗的主战场,推理成本两年降了280倍,企业的AI总支出却没降反升,中国日均Token调用量已经突破140万亿,一年涨了四成,需求呈指数级往上冲。

供给端却完全是另一副面孔。物理算力的扩产逻辑还是线性的,多修几个机房、多买几张卡,缺口却在三五年内都填不平。

一边指数增长,一边线性爬坡,中间那道口子,就是无问芯穹想站进去的位置。

更难的是,模型部署得好不好,外人很难判断。

一个请求发下去,模型正常回复了,但输出的精度可能已经悄悄掉了三成,这种问题常规监控查不出来。

等到用户在业务里察觉到不对劲,模型的招牌已经砸了。

这道看不见的门槛,才会真正决定哪家供应商能留在牌桌上。

为什么国产大模型优选无问芯穹?

Token经济全面爆发以来,推理需求正在加速,算力缺口也在持续扩大。

但MaaS这门生意的门槛,比外界想象的高得多。

Kimi、智谱、MiniMax、阶跃星辰为什么都点了头,自然有他们自己的算盘,但本质上是同时把三件事押了上去——

比如:模型效果会不会打折,成本烧不烧得起,出了问题稳不稳得住。

先说效果

前面提到的那种隐蔽滑坡,是这个行业最让人头疼的地方。

有第三方供应商部署模型后,精度比原厂掉了30%,客户自己甚至察觉不到,直到业务指标开始下滑才回头排查。

无问芯穹在这件事上的做法,是定了一套准入测试标准。

这套标准,会从工具调用的一致性,到推理模式的精度对齐,逐项进行核验,每一个新模型上架前都要过这道关。

结果是,客户无论走无问芯穹还是原厂API,体验几乎感觉不到差别。

再来是成本

无问芯穹在今年WAIC官宣了一项自研的硬技术——跨集群异构PD分离。



大模型推理里的Prefill和Decode是两个负载完全不同的阶段,硬件需求也不一样,拆开部署能让不同类型的芯片各自干最擅长的事。

但拆到不同机房后,会撞上一个新问题。

PD分离之后,需要在异构芯片之间用广域网以太网传输KV Cache,面临着带宽低、延迟高的情况,等于两个接力选手各自都跑得很出色,但在交棒的时候,却掉了链子。

为此,无问芯穹首先把Decode实例设计的Radix Cache技术,创新性地迁移到了这套跨集群架构里,让传输的数据量直接降低一个数量级。

接着,他们又首创了PDD架构,把传统的PD链路拆成P、RelayDecode、MainDecode三级。



遇到传输延迟高的请求,RelayDecode先顶上去把Token吐给用户,用户完全感觉不到这段实际长达数十秒的延迟,等数据传完,再无缝切给MainDecode接手。

实测显示,该架构在首Token延迟(TTFT)降低51.5%的同时,单Token成本可降低37.5%。

最后是稳定性

集群规模一大,故障往往藏得很深。

大模型推理背后要管理数十上百个集群,扛住全国每天上T规模的流量分发,服务器一旦宕机,靠人盯着屏幕根本来不及反应。

无问芯穹这次发布了“智算集群运维智能体系统”,能够端到端地解决实际生产场景中的运维难题,7×24小时全天候值守,让智算集群的运维从“人找问题”转变为“问题找人”,和“问题自己解决”,实现了运维人效提升5倍以上,关键故障处理效率提升6倍。

前店后厂一中心,构建系统竞争力

三件事都解决了,仅仅只是构成了Token工厂这一层的地基。

无问芯穹真正要交出去的答卷,是把算力、Token、生产力串成一个完整的系统,对应它自己提出的那个公式——

AI生产力 = 智能资源规模 × Token转化效率 × AI生产力转化效率。



一中心,指的是「算力集散中心」,即Agentic Infra自主式基础设施平台。

国产芯片生态天然碎片化,无问芯穹把散落各处的算力资源统一汇聚、弹性调度、按需利用,为模型与应用层筑牢充足、稳定、可扩展的算力底座。核心目标非常明确:实现智能资源规模最大化。

这个集散中心已部署触达37000P算力,覆盖接入16种主流芯片



跨集群强化学习的挑战,同样是在这一层被啃下来的。无问芯穹认为,在Post-training的Scaling Law持续发展的当下,强化学习成为解锁智能的关键。

其算力需求的硬件种类更加复杂,规模量级也更加庞大,基于异构和超大算力规模的双重刚需,跨集群强化学习因此成为智能规模化及持续进化的新锚点,这也是无问芯穹Agentic Infra自主式基础设施平台重点布局与攻克的核心场景。

无问芯穹把网络、平台、框架三层的优化贯穿到底,成功实现了跨域强化学习训练连续一周0中断稳定运行,让大规模跨域强化学习不仅可以“跑得通”,还能“跑得快、跑得稳”。



未来,无问芯穹还将针对并行策略、通信融合、智能算子、极致容错等核心技术持续深耕,将跨域计算资源的支撑规模,持续拓展至十万卡级以上。

后厂,也就是「Token工厂」,即Agentic MaaS大模型服务平台。

这是前面讲的效果、成本、稳定性三重优势真正兑现的地方,核心思路是“在规模之上向效率要产能”,也是一整套从网关、路由到底层推理实例的完整服务技术栈,“层层可优化、处处有增量”。

在这个「工厂」里,除了上文提到的新技术“跨集群异构PD分离架构”,无问芯穹还和多家头部大模型公司深度合作,在真实业务场景里持续打磨推理效率和服务稳定性,业务规模又反过来推动技术迭代得更快。



公司官宣:截至7月,无问芯穹Agentic MaaS平台的日均Token调用量,较去年12月涨了40倍。

它还与上海移动联合打造了“天问”模型服务门户,联合观猹做了一个面向开发者的「TokenDance」,对标OpenRouter。

前店,是把攒下的能力覆盖千行百业的「AI生产力商店」,即Agentic Infra行业解决方案。

这套解决方案已覆盖文娱游戏、医疗健康、法律终端、能源电力等多个行业领域,把技术势能全面转化为各行业能用、好用、可复用的落地价值。

比如:和VAST做了3D游戏解决方案,帮上海瑞金医院探索医疗大模型的落地场景,给几家律所做了AI合伙人产品,还在和南方电网琢磨智算中心的能耗预测。

在支撑千行百业智能升级的另一面,无问芯穹也持续将智能体的能力应用到AI Infra本身。



公司打造了一套基础设施智能体蜂群,目前已包含——

  • 面向用户的平台管家智能体系统:可以独立解决80%日常问题,剩下20%深度问题再转交对应垂类Agent;
  • 面向集群的运维智能体系统:让智算集群的运维从“人找问题”转变为“问题找人”,和“问题自己解决”。可实现运维人效提升5倍以上,关键故障处理效率提升6倍;
  • 面向芯片的算子生成智能体系统:可在真实编译试错与知识沉淀中持续自迭代,稳定交付可直接落地的高质量工业级算子。在GLM 5.2模型的实测中,对比行业基线该系统在NVIDIA旗舰卡中实现了端到端7.3%的性能提升,在AMD旗舰卡中,更带来39%的整体性能跃升。

三块拼在一起,前店在各行业里攒下的经验,会反过来优化后厂的推理策略和一中心的调度,三者互相反哺。

Token只是入口

如果只把无问芯穹理解成一家卖Token的公司,会漏掉它完整的商业模式。

「Token工厂」只是入口,它真正在铺的,是面向Agent时代推出的「前店后厂一中心」的完整Agentic Infra战略布局

这些方向拼在一起,才是它想讲的完整故事。

这套故事有没有说服力,上文提到的深度合作方是最直接的佐证。

把目光放到海外,无问芯穹对标的是Baseten、Together AI、Fireworks AI,估值都在130亿到150亿美元区间。

但这三家的底层都建在英伟达单一生态之上,而无问芯穹面对的是一个远比海外碎片得多的国产芯片生态,也因此把多元异构和更完整的架构布局,做成了自己的护城河。

回到开头那个问题——这几家头部模型厂,为什么都在Infra这件事上点了头——答案可能并没有那么复杂。

懂算力、懂模型结构、懂训推优化、懂应用场景,这四件事同时做到,就是这条赛道真正稀缺的能力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
沈腾节目中自曝:去年曾许愿工作半年休息半年,如今休息半年达成了,工作没了

沈腾节目中自曝:去年曾许愿工作半年休息半年,如今休息半年达成了,工作没了

韩小娱
2026-10-02 09:05:28
毛姆:如果你是神经病,全世界都会让着你;但如果你觉得全世界都该让着你,那你就是神经病

毛姆:如果你是神经病,全世界都会让着你;但如果你觉得全世界都该让着你,那你就是神经病

杏花烟雨江南的碧园
2026-09-27 13:15:04
沉默一周后,一架美军运输机突降深圳,来要回F-35战机的零部件?

沉默一周后,一架美军运输机突降深圳,来要回F-35战机的零部件?

影孖看世界
2026-10-01 22:44:24
太可怕了!江苏女生哭诉侍候父亲的至暗时刻,字里行间恐惧与绝望

太可怕了!江苏女生哭诉侍候父亲的至暗时刻,字里行间恐惧与绝望

火山詩话
2026-05-30 17:59:42
牡丹花下死!管不住“下半身”的张本智和,终为自己的荒唐买了单

牡丹花下死!管不住“下半身”的张本智和,终为自己的荒唐买了单

心灵得以滋养
2026-10-02 18:07:21
尴尬了!某汽车厂商2000元邀头部车评人做视频,博主反问怎么养活300人,网友:嫌弃少可以婉拒,挂网上讽刺别人,寒碜的是自己

尴尬了!某汽车厂商2000元邀头部车评人做视频,博主反问怎么养活300人,网友:嫌弃少可以婉拒,挂网上讽刺别人,寒碜的是自己

火山詩话
2026-10-02 08:30:52
WTT中国大满贯赛场争议,高桥布鲁纳怒斥中国观众!

WTT中国大满贯赛场争议,高桥布鲁纳怒斥中国观众!

羊加菲球探
2026-10-03 00:10:04
普京这是啥意思?不给中国面子吗?

普京这是啥意思?不给中国面子吗?

果妈聊娱乐
2026-10-02 12:46:43
5位女星同台获表彰,这场好莱坞晚宴不简单

5位女星同台获表彰,这场好莱坞晚宴不简单

时光慢旅人
2026-10-02 01:10:56
不查不知道一查吓一跳!44岁一家人住北京豪宅的陈婷,私下有多壕

不查不知道一查吓一跳!44岁一家人住北京豪宅的陈婷,私下有多壕

冷紫葉
2026-09-19 12:41:16
再过三四十年,等60后70后这代女人不在了,我敢说这世上再也……

再过三四十年,等60后70后这代女人不在了,我敢说这世上再也……

三农老历
2026-09-15 04:42:24
街头连打架都少见,国家为何突然再掀扫黑风暴?真相让人背后发凉

街头连打架都少见,国家为何突然再掀扫黑风暴?真相让人背后发凉

网络易不易
2026-08-24 10:31:58
就在刚刚,邓亚萍不再沉默!直面王曼昱让球保单打传闻,揭露一个小圈子的陋习

就在刚刚,邓亚萍不再沉默!直面王曼昱让球保单打传闻,揭露一个小圈子的陋习

篮球热嗖
2026-10-02 20:13:56
刘欢去世7天,何赛飞病情曝光让人心痛,与恩师之子离婚水落石出

刘欢去世7天,何赛飞病情曝光让人心痛,与恩师之子离婚水落石出

最新声音
2026-10-03 01:49:54
美国海军为何舍优选劣给波音200亿大单?

美国海军为何舍优选劣给波音200亿大单?

小眼睛小世界
2026-10-02 04:23:53
央视国庆晚会口碑大爆,满屋子成名歌手,愣是唱不过3个跨界演员

央视国庆晚会口碑大爆,满屋子成名歌手,愣是唱不过3个跨界演员

一个小豹子
2026-10-02 21:14:48
遭全网抵制!拿没教养当个性的她,终于惹众怒,难怪连郝蕾都嫌弃

遭全网抵制!拿没教养当个性的她,终于惹众怒,难怪连郝蕾都嫌弃

青杉依旧啊啊
2026-08-11 14:41:17
遥遥领先!世界顶尖技术全球只有中国掌握,美国三顾茅庐却不得

遥遥领先!世界顶尖技术全球只有中国掌握,美国三顾茅庐却不得

心灵得以滋养
2026-10-02 04:41:34
“韩国最强小三”金熙英,如今是真风光了,崔泰源带着她左右逢源

“韩国最强小三”金熙英,如今是真风光了,崔泰源带着她左右逢源

毒舌小红帽
2026-10-02 13:43:18
176.45万!阿斯顿马丁新车正式开售

176.45万!阿斯顿马丁新车正式开售

3C毒物
2026-10-02 00:17:34
2026-10-03 04:16:49
量子位 incentive-icons
量子位
追踪人工智能动态
13432文章数 176574关注度
往期回顾 全部

科技要闻

“分手”15天后,华为与赛力斯签约新五年

头条要闻

李在明:若乌克兰拒不道歉 将采取进一步措施

头条要闻

李在明:若乌克兰拒不道歉 将采取进一步措施

体育要闻

30天30队·快船:被莱纳德挂在半空的未来?

娱乐要闻

潘玮柏老婆被猜怀二胎 中秋vlog露馅

财经要闻

珠宝黑马爆雷,老板全家跑路泰国!

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

旅游
房产
时尚
游戏
教育

旅游要闻

游玩新体验!鼎湖山泉・2026白云国际啤酒美食嘉年华启幕

房产要闻

三亚楼市炸了!首个空中泳池平层+CBD独一份洋房同时爆出!

伊姐十一热推:电视剧《无可替代》;电视剧《雷霆令》......

《GTA6》迈阿密热火联动!罪城服装周边开卖秒售罄

教育要闻

南京某一线民办疯了:国庆要做16张试卷+朗读+背诵+作文+实践活动

无障碍浏览 进入关怀版