网易首页 > 网易号 > 正文 申请入驻

超节点不是越大越好?2.8万亿参数模型跑出5.85毫秒

0
分享至

“现在很多客户都想用Kimi K3,但怎么能用得上,我们在算力方面还是存在比较大的瓶颈。”浪潮信息首席AI战略官刘军近日在交流中透露了这个细节。这句话背后,是2026年骤然升温的超节点赛道——华为、浪潮信息、阿里云、百度等几乎所有主流算力厂商,都在各自发布会上将其推向了最核心的位置。

热闹之下,一个基础问题被反复追问:到底什么算超节点?以及什么样的客户为此买单?


显存统一寻址,才是分水岭

《超节点定义与实践白皮书》给出了三个技术特征:超大带宽、超低时延、内存语义与统一内存编址。其核心任务不再是简单叠加更多xPU,而是围绕xPU间通信、HBM容量、机柜功率密度、散热效率和可维护性等系统瓶颈进行协同优化。

打个比方,真正的超节点像把整个城市的路网统一编码,车可以直接开到任何地方;伪超节点则像每个区域之间通行都要经过收费站和翻译。

刘军给出了更直接的判断:超节点的核心特征是“显存统一寻址”,这是它与传统节点集群的最大区别。但打通统一寻址只是基础,超节点还需要实现对称直连,让芯片间数据像“串门”一样直接传输,减少中间调度开销;同时,还需要针对超节点架构优化算子,将原本分散的计算与通信融合起来,让模型少“等”、少“搬”、少“算”。

用户对超节点的需求,最终要转化为大模型推理响应速度,尤其是Token生成速度。浪潮信息此次发布的元脑SD200 Ultra超节点AI服务器,运行2.8万亿参数Kimi K3时,Token生成时延低至5.85毫秒,单用户输出速度达到170 Tokens/s,成为国内首个达到国际一线方案同一数量级的产品。在此基础上,浪潮信息还实现了“对称直连”,让GPU能够像访问本地显存一样直接访问远端GPU显存数据,Allreduce通信时间降低3.5倍。

结合过去两年算力集群的技术演进来看,超节点之所以能够实现这种像访问本地显存一样访问远端显存的能力,底层依赖的是芯片间互联方式的根本性改变。传统Scale-out互联集群通过增加节点数量扩展算力,但节点间通信在万卡集群时代的模型训练已经存在明显瓶颈;而同时引入面向Scale-up互联技术,将南向单节点内部把芯片之间的带宽和时延做到极致,撑起单节点的算力峰值,是当下算力厂商构建十万卡集群互联协议的共识。

规模之争:越大越好吗?

怎样具体落实,各家有不同的路线,其中一个重要分歧是超节点的规模之争。

一部分厂商的判断是,随着大模型参数、上下文长度和推理并发量持续增加,单个计算域需要容纳更多芯片和更大的内存空间。业界不乏一些厂商推出了从几百卡到几千卡的超节点服务器,如华为昇腾950超节点。

还有一批厂商并不认同规模越大越好。阿里云灵骏真武M890以64卡为一个Scale-up单元,再通过Scale-out网络扩展。去年8月浪潮信息推出了64卡超节点,今年升级到128卡基于本土的AI芯片超节点。浪潮信息认为,超节点是在现有技术、生态和成本约束下,从系统层面去最大化用户价值。

刘军此次提出了更直接的回应:超节点不是越大就越好,因为核心是要让数据和计算离得越近越好。如果隔很长时间才能将数据跑进去,整个通信和调度成本可能会远远超过所获得收益。同时,可靠性成本也会迅速上升。

这实际上点出了超节点规模之争的本质,它不是单纯的工程能力比拼,而是一道经济学题。更大的Scale-up域意味着更大的内存池和更低的跨节点通信开销,但也意味着更高的故障域风险和更复杂的调度成本。真正的平衡点在哪里,取决于客户在跑什么任务、能承受什么成本。

从需求侧来讲,对于像Kimi这样的大模型厂商,在此之前多按调用量和API次数售卖Token。现如今,大模型厂商的商业模式正在发生转变:从卖算力变成抽佣,即按照模型产生的下游收入与全球云厂商展开分成结算模式。这意味着,市场并不会减少对算力的总需求,反而可能从结构和质量上提出更高的要求,进一步推高算力消耗的总量。

刘军观察到,首先用上先进算力的客户基本不需要厂商去教育。本身他们的企业、团队就敢于尝试新鲜事物。其共同特征基本在两点:一是需要能力很强的模型,二是希望Agent更多、更快、更便宜。

他进一步指出,当前阶段的客户需求并不能按行业进行划分:比如银行业也有很多通用客户。这意味着,传统按行业划分客户、按场景定义产品的思路,在Agent时代可能正在失效。真正驱动客户采购的,不是“你是哪个行业”,而是“你要跑多强的模型、要多少Agent、能承受多低的成本”。

浪潮信息此次提出的Capability(能力型智算)和Capacity(容量型智算)双主线,正是对这种需求的回应:SD200 Ultra面向前沿模型和复杂Agent,突破智能上限;HC2000面向持续、大规模推理需求,实现智能充分供给。

从买芯片,到买Token产能

超节点的竞争,最终会汇聚到客户的落地场景中。

2026年9月,工信部明确提出“有序部署万卡、十万卡或更大规模的智能算力集群”,并强调适配国产算力芯片。这意味着十万卡集群正在从企业行为上升为中国的产业政策方向。2026上半年浪潮信息等国产算力厂商业绩增长明显,头部云厂商已开始建设基于国产GPU的十万卡级集群,标志着国产算力从备用选型向首选方案转变。

但当前国产算力落地存在一个相当尴尬的现实:客户不缺模型,缺的是能把模型跑起来的系统能力。过去两年,国产芯片虽相较于美国整体上仍有一定差距,主流算力芯片和加速能力基本来自于英伟达,客户对国产芯片作为备选方案的需求仍然不足,其关键仍然在于适配的难度。

国产算力真正进入大规模应用,面临的挑战也已经从“有没有芯片”转向“能不能把芯片用起来”,产出Token。芯片适配、软件栈、算子优化、集群调度等系统能力,正在成为影响国产算力实际使用效率的重要因素。

刘军坦言,“这也是当前厂商非常重要的工作,从提供算力到生产智能,不仅仅交付一个AI服务器,还要负责客户把Token生产出来,把平台能够调度起来。”这是思路上的一个重要转变,这种转变直接体现在产品设计上。

与此同时,过去更多是围绕多元芯片的兼容展开,而现在则是从一种新的协同方式,在同一个业务单元里,有多元的芯片,大家一起去生产、工作。而产业伙伴也从过去的零和博弈,变成了共同做大产业蛋糕。

从全球来看,谷歌A5X实例单站点集群最多支持8万个Rubin GPU,而借助Virgo平台跨多站点聚合后,可支持多达96万个GPU。微软在Fairwater数据中心采用单一扁平网络,集成了数十万块英伟达GB200。

未来的竞争并不是谁有更多芯片,而是谁能让更多芯片像一台机器一样工作。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
亚运会刚落幕,WTT中国大满贯开打:国乒主力全出战,有1人被寄予厚望兜底,并不是王楚钦!外协来势汹汹

亚运会刚落幕,WTT中国大满贯开打:国乒主力全出战,有1人被寄予厚望兜底,并不是王楚钦!外协来势汹汹

锐评利物浦
2026-09-30 08:36:29
杨绛:人这一辈子就五堂课,第一课,送别父母;第二课,看淡夫妻

杨绛:人这一辈子就五堂课,第一课,送别父母;第二课,看淡夫妻

富书
2026-09-27 23:55:06
这些国家长期把中国称为“契丹”!

这些国家长期把中国称为“契丹”!

小豫讲故事
2026-09-29 06:00:18
苏州最大山姆封顶,为何总做成大盒子

苏州最大山姆封顶,为何总做成大盒子

匹夫来搞笑
2026-09-30 03:53:54
明有“一虎二龙三鼠”,暗有周副主席贴身副官,重庆谈判这盘安保大棋有多绝

明有“一虎二龙三鼠”,暗有周副主席贴身副官,重庆谈判这盘安保大棋有多绝

纪史行者
2026-09-28 05:15:11
25岁青年捐建村小教学楼已烂尾12年,“愿再出资,但手续不全,不敢私自修缮”

25岁青年捐建村小教学楼已烂尾12年,“愿再出资,但手续不全,不敢私自修缮”

澎湃新闻
2026-09-29 09:13:04
维维亚诺:如果贡萨洛-拉莫斯效力的是尤文,这6场他能进5个

维维亚诺:如果贡萨洛-拉莫斯效力的是尤文,这6场他能进5个

懂球帝
2026-09-29 19:15:24
京沪高铁收支出炉:运行满 15 年,总投资约 2209 亿,回本了吗?

京沪高铁收支出炉:运行满 15 年,总投资约 2209 亿,回本了吗?

抽象派大师
2026-09-15 13:35:53
就在大家都以为中国会坚决回应时,北京却选择了战略克制。

就在大家都以为中国会坚决回应时,北京却选择了战略克制。

回京历史梦
2026-08-22 18:23:43
生育大局定了?如果没有意外,中国人口2027年起可能迎来3大变化

生育大局定了?如果没有意外,中国人口2027年起可能迎来3大变化

和海看日出
2026-09-14 23:12:57
随着韩国0-2,亚运会女足决赛对阵出炉,季军赛对阵也出炉

随着韩国0-2,亚运会女足决赛对阵出炉,季军赛对阵也出炉

俯身冲顶
2026-09-29 20:20:11
气愤!林诗栋夺冠仅1天,不堪一幕发生,樊振东2年前一句话戳心窝

气愤!林诗栋夺冠仅1天,不堪一幕发生,樊振东2年前一句话戳心窝

星Xin辰大海
2026-09-30 06:44:46
特朗普:“我很惊讶他们放人”

特朗普:“我很惊讶他们放人”

环球时报国际
2026-09-29 15:03:29
18岁被里皮提拔到国家队踢主力,21岁进国家队处子球!天赋真不比王钰栋差

18岁被里皮提拔到国家队踢主力,21岁进国家队处子球!天赋真不比王钰栋差

篮球圈里的那些事
2026-09-29 16:45:45
996把年轻人榨成电池冲上热搜,网友大吐苦水,人心散了,队伍不好带了以后!

996把年轻人榨成电池冲上热搜,网友大吐苦水,人心散了,队伍不好带了以后!

眼光很亮
2026-09-28 14:28:35
刘欢的板书写得非常漂亮,字如其人,不张扬又足够洒脱。

刘欢的板书写得非常漂亮,字如其人,不张扬又足够洒脱。

荆楚寰宇文枢
2026-09-28 22:18:07
中国股市:成交量都到这个程度了,千万要拿好,很可能变成大牛股

中国股市:成交量都到这个程度了,千万要拿好,很可能变成大牛股

股经纵横谈
2026-09-29 19:33:29
吴石行刑前,据说汤恩伯两次向老蒋求情,蒋说:最多保障家眷周全

吴石行刑前,据说汤恩伯两次向老蒋求情,蒋说:最多保障家眷周全

优趣纪史记
2026-09-30 06:42:21
王曼昱为何击败孙颖莎?日媒赛后说出真相,估计和你想的不一样

王曼昱为何击败孙颖莎?日媒赛后说出真相,估计和你想的不一样

春日在捕月
2026-09-30 04:32:12
刘雯改签航班卑微避嫌!步步退让,井柏然沉默的样子太让人寒心 !

刘雯改签航班卑微避嫌!步步退让,井柏然沉默的样子太让人寒心 !

动物奇奇怪怪
2026-09-29 07:43:57
2026-09-30 09:32:49
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
194文章数 71关注度
往期回顾 全部

科技要闻

82亿美元收购!李飞飞将与苏姿丰并肩做AI

头条要闻

牛弹琴:全部美军灰溜溜走了 伊拉克举国兴奋放假4天

头条要闻

牛弹琴:全部美军灰溜溜走了 伊拉克举国兴奋放假4天

体育要闻

石雨豪:亚运金牌与背后的十年

娱乐要闻

赌王四房婚礼,何超琼带三房成员现身

财经要闻

中央财政首次贴息房贷 定向支持首套刚需

汽车要闻

搭华为乾崑ADS 5/设计风格换新 2027款纵横G700售30.49万起

态度原创

本地
艺术
时尚
手机
教育

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

艺术要闻

齐白石:没见过的东西,我绝不画!一句话,道出大师封神的秘密!

老板,我的脑子好像忘在家里了

手机要闻

涉及约5000人:古尔曼称苹果已搁置AI替代AppleCare客服计划

教育要闻

平行线中的旋转问题,一个视频学会!

无障碍浏览 进入关怀版