网易首页 > 网易号 > 正文 申请入驻

不同模型厂同一家Agentic Infra,AGI时代的地基终于浮出水面

0
分享至

  • 克雷西 发自 上海
    量子位 | 公众号 QbitAI

先说一件有意思的事。

就在今天的WAIC论坛上,MiniMax和阶跃星辰,同时出现在了一家AI Infra公司的论坛现场,前者参加战略合作签约,后者发布主旨演讲。



苗头其实更早就出现了。4个月前的中关村论坛上,智谱张鹏和Kimi杨植麟就曾与这家公司联合创始人兼CEO同框,参与圆桌论坛,并被现场点名该公司已为Kimi、智谱提供服务。



四家国产头部基模公司,先后跟同一家AI Infra达成了深度合作。开句玩笑话——集齐四家,就可以召唤神龙了。

这家AI Infra公司,正是无问芯穹

这个身位有点像「电池领域的宁德时代」——造车的人可以「兄弟登山,各自努力」,但电池这一层,绕不开就是绕不开。无问芯穹想做的,就是大模型时代的共同选择

问题也因此变得更有趣了:

他们到底看中了这家公司什么?

答案要从两头找。

需求端,2026年推理开始反超训练,成为AI算力消耗的主战场,推理成本两年降了280倍,企业的AI总支出却没降反升,中国日均Token调用量已经突破140万亿,一年涨了四成,需求呈指数级往上冲。

供给端却完全是另一副面孔。物理算力的扩产逻辑还是线性的,多修几个机房、多买几张卡,缺口却在三五年内都填不平。

一边指数增长,一边线性爬坡,中间那道口子,就是无问芯穹想站进去的位置。

更难的是,模型部署得好不好,外人很难判断。

一个请求发下去,模型正常回复了,但输出的精度可能已经悄悄掉了三成,这种问题常规监控查不出来。

等到用户在业务里察觉到不对劲,模型的招牌已经砸了。

这道看不见的门槛,才会真正决定哪家供应商能留在牌桌上。

为什么国产大模型优选无问芯穹?

Token经济全面爆发以来,推理需求正在加速,算力缺口也在持续扩大。

但MaaS这门生意的门槛,比外界想象的高得多。

Kimi、智谱、MiniMax、阶跃星辰为什么都点了头,自然有他们自己的算盘,但本质上是同时把三件事押了上去——

比如:模型效果会不会打折,成本烧不烧得起,出了问题稳不稳得住。

先说效果

前面提到的那种隐蔽滑坡,是这个行业最让人头疼的地方。

有第三方供应商部署模型后,精度比原厂掉了30%,客户自己甚至察觉不到,直到业务指标开始下滑才回头排查。

无问芯穹在这件事上的做法,是定了一套准入测试标准。

这套标准,会从工具调用的一致性,到推理模式的精度对齐,逐项进行核验,每一个新模型上架前都要过这道关。

结果是,客户无论走无问芯穹还是原厂API,体验几乎感觉不到差别。

再来是成本

无问芯穹在今年WAIC官宣了一项自研的硬技术——跨集群异构PD分离。



大模型推理里的Prefill和Decode是两个负载完全不同的阶段,硬件需求也不一样,拆开部署能让不同类型的芯片各自干最擅长的事。

但拆到不同机房后,会撞上一个新问题。

PD分离之后,需要在异构芯片之间用广域网以太网传输KV Cache,面临着带宽低、延迟高的情况,等于两个接力选手各自都跑得很出色,但在交棒的时候,却掉了链子。

为此,无问芯穹首先把Decode实例设计的Radix Cache技术,创新性地迁移到了这套跨集群架构里,让传输的数据量直接降低一个数量级。

接着,他们又首创了PDD架构,把传统的PD链路拆成P、RelayDecode、MainDecode三级。



遇到传输延迟高的请求,RelayDecode先顶上去把Token吐给用户,用户完全感觉不到这段实际长达数十秒的延迟,等数据传完,再无缝切给MainDecode接手。

实测显示,该架构在首Token延迟(TTFT)降低51.5%的同时,单Token成本可降低37.5%。

最后是稳定性

集群规模一大,故障往往藏得很深。

大模型推理背后要管理数十上百个集群,扛住全国每天上T规模的流量分发,服务器一旦宕机,靠人盯着屏幕根本来不及反应。

无问芯穹这次发布了“智算集群运维智能体系统”,能够端到端地解决实际生产场景中的运维难题,7×24小时全天候值守,让智算集群的运维从“人找问题”转变为“问题找人”,和“问题自己解决”,实现了运维人效提升5倍以上,关键故障处理效率提升6倍。

前店后厂一中心,构建系统竞争力

三件事都解决了,仅仅只是构成了Token工厂这一层的地基。

无问芯穹真正要交出去的答卷,是把算力、Token、生产力串成一个完整的系统,对应它自己提出的那个公式——

AI生产力 = 智能资源规模 × Token转化效率 × AI生产力转化效率。



一中心,指的是「算力集散中心」,即Agentic Infra自主式基础设施平台。

国产芯片生态天然碎片化,无问芯穹把散落各处的算力资源统一汇聚、弹性调度、按需利用,为模型与应用层筑牢充足、稳定、可扩展的算力底座。核心目标非常明确:实现智能资源规模最大化。

这个集散中心已部署触达37000P算力,覆盖接入16种主流芯片



跨集群强化学习的挑战,同样是在这一层被啃下来的。无问芯穹认为,在Post-training的Scaling Law持续发展的当下,强化学习成为解锁智能的关键。

其算力需求的硬件种类更加复杂,规模量级也更加庞大,基于异构和超大算力规模的双重刚需,跨集群强化学习因此成为智能规模化及持续进化的新锚点,这也是无问芯穹Agentic Infra自主式基础设施平台重点布局与攻克的核心场景。

无问芯穹把网络、平台、框架三层的优化贯穿到底,成功实现了跨域强化学习训练连续一周0中断稳定运行,让大规模跨域强化学习不仅可以“跑得通”,还能“跑得快、跑得稳”。



未来,无问芯穹还将针对并行策略、通信融合、智能算子、极致容错等核心技术持续深耕,将跨域计算资源的支撑规模,持续拓展至十万卡级以上。

后厂,也就是「Token工厂」,即Agentic MaaS大模型服务平台。

这是前面讲的效果、成本、稳定性三重优势真正兑现的地方,核心思路是“在规模之上向效率要产能”,也是一整套从网关、路由到底层推理实例的完整服务技术栈,“层层可优化、处处有增量”。

在这个「工厂」里,除了上文提到的新技术“跨集群异构PD分离架构”,无问芯穹还和多家头部大模型公司深度合作,在真实业务场景里持续打磨推理效率和服务稳定性,业务规模又反过来推动技术迭代得更快。



公司官宣:截至7月,无问芯穹Agentic MaaS平台的日均Token调用量,较去年12月涨了40倍。

它还与上海移动联合打造了“天问”模型服务门户,联合观猹做了一个面向开发者的「TokenDance」,对标OpenRouter。

前店,是把攒下的能力覆盖千行百业的「AI生产力商店」,即Agentic Infra行业解决方案。

这套解决方案已覆盖文娱游戏、医疗健康、法律终端、能源电力等多个行业领域,把技术势能全面转化为各行业能用、好用、可复用的落地价值。

比如:和VAST做了3D游戏解决方案,帮上海瑞金医院探索医疗大模型的落地场景,给几家律所做了AI合伙人产品,还在和南方电网琢磨智算中心的能耗预测。

在支撑千行百业智能升级的另一面,无问芯穹也持续将智能体的能力应用到AI Infra本身。



公司打造了一套基础设施智能体蜂群,目前已包含——

  • 面向用户的平台管家智能体系统:可以独立解决80%日常问题,剩下20%深度问题再转交对应垂类Agent;
  • 面向集群的运维智能体系统:让智算集群的运维从“人找问题”转变为“问题找人”,和“问题自己解决”。可实现运维人效提升5倍以上,关键故障处理效率提升6倍;
  • 面向芯片的算子生成智能体系统:可在真实编译试错与知识沉淀中持续自迭代,稳定交付可直接落地的高质量工业级算子。在GLM 5.2模型的实测中,对比行业基线该系统在NVIDIA旗舰卡中实现了端到端7.3%的性能提升,在AMD旗舰卡中,更带来39%的整体性能跃升。

三块拼在一起,前店在各行业里攒下的经验,会反过来优化后厂的推理策略和一中心的调度,三者互相反哺。

Token只是入口

如果只把无问芯穹理解成一家卖Token的公司,会漏掉它完整的商业模式。

「Token工厂」只是入口,它真正在铺的,是面向Agent时代推出的「前店后厂一中心」的完整Agentic Infra战略布局

这些方向拼在一起,才是它想讲的完整故事。

这套故事有没有说服力,上文提到的深度合作方是最直接的佐证。

把目光放到海外,无问芯穹对标的是Baseten、Together AI、Fireworks AI,估值都在130亿到150亿美元区间。

但这三家的底层都建在英伟达单一生态之上,而无问芯穹面对的是一个远比海外碎片得多的国产芯片生态,也因此把多元异构和更完整的架构布局,做成了自己的护城河。

回到开头那个问题——这几家头部模型厂,为什么都在Infra这件事上点了头——答案可能并没有那么复杂。

懂算力、懂模型结构、懂训推优化、懂应用场景,这四件事同时做到,就是这条赛道真正稀缺的能力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中纪委通报三“虎”被处理:田学斌办理虚假身份证,王峻泄露工作秘密,郭学益非法套取会议经费

中纪委通报三“虎”被处理:田学斌办理虚假身份证,王峻泄露工作秘密,郭学益非法套取会议经费

界面新闻
2026-07-23 16:32:07
央媒怒批!LV取华夏古纹却起诉国人,欧美日韩舆论哗然,反噬来袭

央媒怒批!LV取华夏古纹却起诉国人,欧美日韩舆论哗然,反噬来袭

健身狂人
2026-07-23 17:33:44
科学家算出人类“物理天花板”:就算没有癌症和心脏病,寿命极限也只有150到190岁

科学家算出人类“物理天花板”:就算没有癌症和心脏病,寿命极限也只有150到190岁

科学边界哦
2026-07-23 00:36:24
伊朗最高联合军事指挥部:如果美国兑现威胁 伊朗将切断海湾地区全部石油流动

伊朗最高联合军事指挥部:如果美国兑现威胁 伊朗将切断海湾地区全部石油流动

财联社
2026-07-23 03:11:20
打完菲律宾人才发现,中国海警手里拿的这是什么武器呀?

打完菲律宾人才发现,中国海警手里拿的这是什么武器呀?

阿龙聊军事
2026-07-23 10:55:06
菲尔兹奖报道背后的小心思

菲尔兹奖报道背后的小心思

亮见
2026-07-23 23:02:26
离谱!久居伦敦女子回国吐槽:国民素质有待提高!仅3天,就因饭桌上的二手烟和亲戚翻脸

离谱!久居伦敦女子回国吐槽:国民素质有待提高!仅3天,就因饭桌上的二手烟和亲戚翻脸

谭谈社会
2026-07-24 01:46:57
利空突袭!美联储,加息突变!全线大跌,黄金白银跳水;美元拉升、原油暴涨

利空突袭!美联储,加息突变!全线大跌,黄金白银跳水;美元拉升、原油暴涨

中国基金报
2026-07-24 00:03:04
世联赛疯狂一夜,3-1,3-2,总决赛四强对阵出炉,中国女排大逆转

世联赛疯狂一夜,3-1,3-2,总决赛四强对阵出炉,中国女排大逆转

侃球熊弟
2026-07-23 22:04:45
国民党不抗日,南京不战而降?传播此类谣言良知何在?

国民党不抗日,南京不战而降?传播此类谣言良知何在?

涛哥锐评
2026-07-23 07:40:07
国产电池巨头,开始集中爆雷!

国产电池巨头,开始集中爆雷!

大佬灼见
2026-07-23 13:25:13
脸都打肿了!漫天要价!转了一圈怎么没人要!!!

脸都打肿了!漫天要价!转了一圈怎么没人要!!!

柚子说球
2026-07-24 00:57:11
危险的非洲大蜗牛正在扩张,北方也可能失守

危险的非洲大蜗牛正在扩张,北方也可能失守

南风窗
2026-07-23 15:07:43
填报志愿没看清楚本部和分校,山东644分考生被厦大马来西亚分校录取,家长称费用太高无力承担,本人:只能复读

填报志愿没看清楚本部和分校,山东644分考生被厦大马来西亚分校录取,家长称费用太高无力承担,本人:只能复读

极目新闻
2026-07-23 15:11:31
最倒霉的一代:2.1亿90后,现在只剩1.7亿;现存1.7亿90后里,未婚人数高达9500万

最倒霉的一代:2.1亿90后,现在只剩1.7亿;现存1.7亿90后里,未婚人数高达9500万

舒山有鹿
2026-07-23 11:06:17
配享太庙!抗击渐冻症7年的蔡磊迎一大好消息,各大官媒同步发文

配享太庙!抗击渐冻症7年的蔡磊迎一大好消息,各大官媒同步发文

云舟史策
2026-07-21 11:30:22
创造奇迹!随着中国3-2美国,女排总决赛四强出炉,具体对阵如下

创造奇迹!随着中国3-2美国,女排总决赛四强出炉,具体对阵如下

侃球熊弟
2026-07-23 21:45:30
40岁大叔网恋奔现31岁川妮,同居5天直言扛不住:川妹子精力太旺盛

40岁大叔网恋奔现31岁川妮,同居5天直言扛不住:川妹子精力太旺盛

皮蛋儿电影
2026-07-22 11:21:44
看到郑墨沫第五次被拒入境的消息!我第一反应不是惊讶,而是舒服

看到郑墨沫第五次被拒入境的消息!我第一反应不是惊讶,而是舒服

墨策史
2026-07-23 19:14:57
重庆口水姐已被行政拘留,丈夫也跟着扣分罚款

重庆口水姐已被行政拘留,丈夫也跟着扣分罚款

映射生活的身影
2026-07-23 21:25:00
2026-07-24 06:15:00
量子位 incentive-icons
量子位
追踪人工智能动态
13009文章数 176522关注度
往期回顾 全部

科技要闻

中国数学家王虹、邓煜获菲尔兹奖

头条要闻

女副部王峻被处理:大搞权钱交易 泄露工作秘密

头条要闻

女副部王峻被处理:大搞权钱交易 泄露工作秘密

体育要闻

勇士24岁的MVP,也是个勒布朗?

娱乐要闻

梁朝伟汤唯19年后境遇反转

财经要闻

梁文锋当不成赛博圣人

汽车要闻

满配华为乾崑六件套 东风奕派M8限时权益价16.58万起

态度原创

教育
时尚
艺术
旅游
亲子

教育要闻

今年高考“最强捡漏王”!429分上南方医科大,471分考入顶尖211

我花40万追的老公,被公司亲手毁了

艺术要闻

这是毛主席最后一次题写的大学校名!

旅游要闻

云南水富藏小众小镇,原是移民安置村,凭一江风光火遍川滇!

亲子要闻

当你没动力运动时【周六野Zoey】

无障碍浏览 进入关怀版