网易首页 > 网易号 > 正文 申请入驻

超节点如何成为AI算力的新答案?丨ToB产业观察

0
分享至


2026年,国产算力领域最火的一个词非超节点莫属。这个看起来有些技术化的名词,正在悄悄改变算力世界的底层逻辑。提到计算与超节点,我们首先想到一个词就是:天下之势,合久必分,分久必合。这点用在如今的计算领域十分恰当。

当我们从云计算的“分布式”计算时代走过,步入AI时代之后,单颗GPU已经不足承载AI算力需求之时,将多颗GPU所处的服务器“融合”成一台超级计算机,这就是超节点如今正在做的事。

推理市场的必然产物

2026年,用户对AI算力公司的提问已经从“你能给我多少卡?”,转变为“你每秒能稳定产出多少有效Token?成本是多少?”这背后的本质是因为大模型已经从原先的训练为主,变为推理为主。

过去两年,大模型的参数规模一路狂奔。从千亿级到万亿级,MoE架构成为主流,DeepSeek R1有671B参数、256个路由专家;Kimi K2.5更是达到了1T参数、384个路由专家。每生成一个Token,模型内部就要触发几十甚至上百次跨卡通信。这种通信量级,传统服务器集群根本扛不住。

对此,业内专家告诉我们,大模型正在从能训练、能运行进入规模化生产阶段,问题不再是单卡峰值和卡数,而是系统能否稳定承载模型、持续产出有效Token,同时控制时延与总成本。换句话说,训练是项目制的,训完即止;推理是运营制的,时延敏感,成本与收入直接挂钩。

无独有偶,中科曙光高级副总裁李斌也向我们表达了相似的观点,他指出,行业衡量算力的标准变了,过去主要看单颗芯片的峰值性能,现在更看一套系统能持续输出多少有效算力。

这个改变的背后,受到了两个需求的影响。一个是模型侧的倒逼。MoE混合专家架构驱动大模型参数规模持续膨胀,前沿模型的参数量快速突破万亿。参数和序列长度的增加带来键值缓存(KV Cache)的激增,需要超大显存空间来承载;而推理过程是典型的通信敏感型计算,专家路由、Token分发、跨卡数据交换,都对互连带宽和时延提出了近乎苛刻的要求。

另一个是应用侧的放大。Agent的兴起让一次用户请求可能触发多轮模型调用、工具调用和并发任务,智能体推理需要生成比传统模型多近百倍的数据词元。对此,李斌指出,“Token消耗和并发压力都会上升,带来的跨卡通信,对带宽和时延都很敏感。”

需求有了,供给侧的条件也在成熟。高速互连、液冷、分布式存储和系统管理软件的进步,让把更多计算资源装进一个更紧密的系统成为可能。于是超节点从概念走向共识,而超节点本质上做了一件事:把高速互连域从传统的8卡扩展到几十卡甚至上百卡,让卡间通信从网络传输,变成内存访问级别的低延迟。

这个效率的提升效果有多大?以英伟达的NVL72为例,海外研究机构SemiAnalysis的开源推理基准InferenceX做过一组同芯片对照实验:GB200 NVL72与HGX B200使用同一代Blackwell GPU,唯一差异是系统架构。在DeepSeek R1推理中,NVL72凭借72卡NVLink全互连的规模优势,单卡吞吐最高达到B200的4.4倍,峰值达每卡4130 Token/秒,而B200只有941 Token/秒。原因在于,B200服务器只支持8卡NVLink互连,一旦专家并行度超过8,通信就要跨出NVLink域、走上带宽低得多的以太网。

效率提升的主要来源不是单卡变快,而是互连域和系统架构对通信开销的压缩。业内专家指出,“这波热度的本质是基础设施竞争的计量单位从FLOPS变成每元、每毫秒能稳定产出多少有效Token”。模型演进定义了需求的上限,系统能力决定了落地的下限,两者一旦匹配,超节点便从概念变成了产业共识。

超节点落地需面对“四堵墙”

方向明确了,但把超节点做出来,远比想象中艰难。行业普遍用“四堵墙”来概括传统服务器集群面临的瓶颈,即通信墙、功耗与散热墙、存储墙、复杂度墙。

超节点要突破这四堵墙,考验的不是某一项单点技术,而是计算、互连、供电、散热、存储、软件的系统级整合能力。也正因如此,真正的超节点“绝非物理组合”,据悉,前期仅芯片架构设计费用投入就可能超过亿元。

这其中首当其冲的就是通信墙。传统集群中,卡间通信走的是网络传输路径;超节点则把高带宽互连域从8卡扩展到64卡以上,让卡间通信变成接近内存访问的低延迟操作。

与通信墙相比,存储墙与复杂度墙则更考验体系化能力。中科曙光的思路是把通信、存储、散热和管理问题放到一个系统里协同优化:通信上采用超节点内部高速互连、超节点之间scaleFabric高速网络的分层架构;散热上浸没式相变液冷让PUE低至1.04;存储上ParaStor系统围绕大规模并发访问和检查点读写进行优化,并多次登顶全球性榜单。而面对复杂度墙(系统规模越大,局部故障、软件适配和运维压力越容易被放大)的挑战,曙光强调的下一阶段重点,是故障快速隔离与恢复、跨架构应用迁移等问题。

功耗/散热层面。目前超节点的解决方案中,液冷已经成为标配。联想在这条路上走得相当扎实,据联想中国基础设施业务群服务器事业部总经理周韬介绍,联想“海神液冷”品牌已从通用服务器扩展到全部AI服务器,支持45度温水进水,日常水温无需额外冷却处理即可直接使用,大幅降低冷却环节的能耗。此外,液冷硬件设备的生产过程也是对供应链的考验,对此,周韬告诉我们,整机柜液冷产品一个机柜承重超过3吨,耗电达到数百千瓦,联想为此对工厂进行了承重加固、十兆瓦级供电改造,而因为液冷快接头非常精密,灰尘和腐蚀很容易导致漏液,工厂甚至需要把生产环境的洁净度做到了十万级。

值得一提的是,目前超节点仍处于发展的初期阶段,我们在与不分国内一线服务器厂商的沟通中,各家在多大规模才合适的问题上,给出了不同的答案。分歧的焦点在于:一级高速全互联域到底应该做多大?

在某行业专家看来,互连域存在收益收敛的边界,NVIDIA在GH200阶段的研究就验证过,互连域规模超过一定程度后,训练性能的边际提升趋于平缓,相对增加的复杂度、成本和故障面而言得不偿失。因此NVIDIA在GB200、Vera Rubin时代都在控制单一互连域规模,转而专注提升单系统效率。

联想的选择同样体现这一逻辑,据周韬介绍,联想问天超节点选择单节点40张GPU的规模,理由是真正意义上的一级高速全互联域,无论是NVIDIA NVL72、AMD Helios还是其他方案,规模大多集中在几十卡到百卡以内,所谓数百卡乃至上千卡的系统,本质上已进入多级互联和Scale Out集群范畴。40卡既能在节点内获得较高通信效率,又避免超大规模互连在可靠性、运维上的挑战,同时通过标准网络灵活扩展至更大的集群。

曙光则选择“大小通吃”:既有十万卡AI超集群曙光8000,也有40卡的scaleX40“箱式超节点”,对应不同客户的需求与建设条件。

尽管路线各异,但共识正在浮现:规模是手段而非目的,真正需要优化的是一定规模约束下的系统效率。业内专家直言不讳地批评了一种现象,部分厂商刻意把互连域规模包装成超节点能力的代名词,“规模可以在参数表上一夜之间做上去,Token成本却必须在真实负载里一分一毫地省出来”,该负责人指出。这句话,或许可以作为本轮超节点竞赛里最值得客户记下的一条选型提醒。

工程化是厂商角逐的焦点

技术验证只是起点。超节点要真正规模化落地,工程化的挑战不可回避。在这个过程中,真正的瓶颈不在某个单点,而在系统化的工程能力,以及与之配套的软件生态,技术验证只需要把系统跑通一次,规模化商用要求把这套系统成千上万次地稳定复制出去。

从样机到产品,要过的第一关是供应链。AI的爆发带动了上下游整体进步,也抬高了关键物料的压力。高速线缆、高速背板、MLCC电容这些元器件的供应都趋于紧张,这类问题靠单家厂商解决不了,得由整机厂牵引上下游一起扩产和验证。另一头是国产AI芯片的供给约束:IDC的数据显示,2025年本土厂商AI加速卡出货约165万张,预计2026、2027年升至368万和608万张,但总量仍受外部约束,这也直接框定了国产超节点放量的节奏。

第二关是标准化和生态墙。这个挑战是本轮沟通中几家厂商都承认、但又最难解决的问题。就像前文提到的,超节点这个技术仍处于发展的初期阶段,各家互连协议和软件栈互不兼容,客户在模型迁移、框架适配和运维体系上要反复付出改造成本,选型变成一次高风险的押注。

破局的路径自然是开放。当前,各家厂商也都在生态和标准化方面有所布局,浪潮信息围绕OAM架构累计推出10款开放加速系统、完成30余款主流加速芯片的兼容适配;2024年还牵头成立了超节点算力集群创新联合体,2025年发布超节点智算应用“北京方案”。

曙光则通过“AI计算开放架构”推动分层解耦,芯片厂商专注算力与能效,系统厂商专注集群架构与网络设计,软件厂商专注算法与场景创新。

联想的姿势略有不同,周韬表示,联想在通用超节点方面坚持开放路线,定制化超节点则与头部客户深度协同,合作设计。在周韬看来,超节点真正拥有的人群未来会集中在少数头部客户身上,而“各家有自己的标准、架构、Link”,通用与定制两条腿走路是现实的选择。

第三关是可靠性。规模上去之后,任何一处短板都会被放大,局部故障、软件适配和运维压力尤其明显。基于此,李斌将“故障快速隔离与恢复、跨架构应用迁移、算力利用率”列为下一阶段要重点解决的问题。这也解释了为什么三家的开放架构里,软件平台都占了很大篇幅:硬件定义上限,软件决定下限,这句话在超节点时代比以往更成立。

此外,客户结构的不均匀,是落地时另一道隐形坎。头部互联网客户有多年系统工程积累,机房、供电、散热、组网、运维都能接住超节点的部署门槛,已经率先大规模上量;中小企业、科研机构和大型行业客户同样认超节点的价值,但基础设施和运维能力弱,靠自己很难复制头部客户的打法。他们要的是开箱即用、稳定产出Token、且具备完整软件生态的产品,把系统工程复杂度封装在产品内部。联想的SuperPod40、曙光的scaleX40,针对的都是这个痛点。

展望未来,超节点的形态大概会沿着几条线收敛。其一,超节点的形态会继续分层,内部以Scale-up追求高带宽低时延,之间通过开放的Scale-out网络扩展,未来不太可能只有一种尺寸或一种协议。其二,细分场景的差异化架构会成为演进方向,预训练、后训练、推理的Prefill与Decode对算力、显存、通信的需求结构差异很大,“用同一种芯片和互连方式通吃所有阶段,必然存在错配”,更合理的终态是让每个阶段匹配更合适的芯片与互连架构。其三,供电、光互联、浸没式液冷等前沿技术正在储备中——联想已把800伏高压直流供电、PCIe Gen6交换、整机柜浸没式列入探索方向。其四,竞争的终局不在硬件参数表上,而在谁能构建开放、协同、可持续演进的生态

超节点的故事,就像是AI产业从“拼单点”走向“拼系统”的缩影。当行业开始用每一块钱能买到多少有效Token来衡量算力,真正的竞争才刚刚开始。

(文|Leo张ToB杂谈,作者|张申宇,编辑丨杨林)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
内蒙主持人孟静茹去世!年仅42岁,身材高挑且漂亮,老公走后半年确诊抑郁症

内蒙主持人孟静茹去世!年仅42岁,身材高挑且漂亮,老公走后半年确诊抑郁症

裕丰娱间说
2026-11-18 11:39:59
33岁男子有15年烟龄,下决心戒烟,每天把30元烟钱贴墙上,戒烟215天存下6000多元后给妻子买了10999元的手机

33岁男子有15年烟龄,下决心戒烟,每天把30元烟钱贴墙上,戒烟215天存下6000多元后给妻子买了10999元的手机

蓬勃新闻
2026-11-18 06:43:27
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
山东一男婴日夜啼哭,母亲掀开被子后,将月嫂当场掐死

山东一男婴日夜啼哭,母亲掀开被子后,将月嫂当场掐死

罪案洞察者
2025-03-31 09:35:41
俄美专机在中国机场同框,伊尔-96与“空军一号”同场相望

俄美专机在中国机场同框,伊尔-96与“空军一号”同场相望

极目新闻
2026-11-18 22:11:29
从60跌到21暴跌64%,今天又20CM闪崩跌停,没走的股民全被一锅端

从60跌到21暴跌64%,今天又20CM闪崩跌停,没走的股民全被一锅端

财经智多星
2026-11-18 13:23:33
肃反运动中,被张国焘杀害的6位红军名将

肃反运动中,被张国焘杀害的6位红军名将

祁州校尉
2026-11-18 09:00:39
A股三大板块,爆发!

A股三大板块,爆发!

证券时报
2026-11-18 16:28:03
99年朱总理访美,被问中国给克林顿30万献金,总理:怎么才30万?

99年朱总理访美,被问中国给克林顿30万献金,总理:怎么才30万?

WarOH协虎
2024-12-01 22:10:02
援乌阵营开始散伙?两国同日翻脸,泽连斯基头疼了!

援乌阵营开始散伙?两国同日翻脸,泽连斯基头疼了!

麓谷隐士
2026-11-17 00:05:10
重庆传奇大佬翁振杰,突发重大状况

重庆传奇大佬翁振杰,突发重大状况

正经社
2026-11-18 15:49:38
亚洲二流全赢不了!邵佳一,别盯着你那破嫡系了,这水平真配穿国家队球衣?

亚洲二流全赢不了!邵佳一,别盯着你那破嫡系了,这水平真配穿国家队球衣?

中场阴谋家
2026-11-18 21:49:52
88块钱的山姆包能好到什么程度?化工博士实测后惊呆了...

88块钱的山姆包能好到什么程度?化工博士实测后惊呆了...

毕导
2026-11-17 17:38:25
再见,巴萨!后防“顶星”同意签约利物浦!钦点顶级中卫“空降”

再见,巴萨!后防“顶星”同意签约利物浦!钦点顶级中卫“空降”

头狼追球
2026-11-18 16:47:01
102-97!辽宁男篮险胜宁波,全华班阵容,付豪和鄢手骐手感超强

102-97!辽宁男篮险胜宁波,全华班阵容,付豪和鄢手骐手感超强

汪星人哟
2026-11-18 22:01:11
太惨了!安徽男子带着4岁孩子去跳楼,爸爸当场身亡,孩子妈患癌

太惨了!安徽男子带着4岁孩子去跳楼,爸爸当场身亡,孩子妈患癌

水晶的视界
2025-01-16 05:10:07
北京一高校书记被举报受贿360万元,涉嫌帮商人之子违规入学

北京一高校书记被举报受贿360万元,涉嫌帮商人之子违规入学

法治边角料
2026-11-18 16:39:01
晚上12点!CCTV5直播国足年度“重头戏”,U17国少迎战世界第一,力争21年来首胜

晚上12点!CCTV5直播国足年度“重头戏”,U17国少迎战世界第一,力争21年来首胜

大卫的篮球故事
2026-11-18 11:27:29
冰火两重天!A股市值高点回落缩水32万亿,“股民人均亏13万”引热议,评论区有股民赚到钱了

冰火两重天!A股市值高点回落缩水32万亿,“股民人均亏13万”引热议,评论区有股民赚到钱了

火山詩话
2026-11-18 09:38:15
54岁杨钰莹近况曝光:定居深圳,每天打理菜园子,生活平淡

54岁杨钰莹近况曝光:定居深圳,每天打理菜园子,生活平淡

小徐讲八卦
2025-11-17 07:29:28
2026-11-18 23:31:00
钛媒体APP incentive-icons
钛媒体APP
独立财经科技媒体
142175文章数 862718关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

追上特朗普专机 马斯克又来了

头条要闻

追上特朗普专机 马斯克又来了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
数码
时尚
手机
旅游

教育要闻

第十五届“挑战杯”中国大学生创业计划竞赛主体赛拟授奖名单,公布!

数码要闻

34999元起,华硕RTX Spark迷你主机ProArt GR1X发售

裤子+靴子,冬天最经典搭配,松弛又时髦

手机要闻

华为引爆阔直板手机!友商纷纷下场,但很可能会集体踏空?

旅游要闻

昆明这个老码头好在!让你在家门口体验海滨度假

无障碍浏览 进入关怀版