网易首页 > 网易号 > 正文 申请入驻

超节点如何成为AI算力的新答案?丨ToB产业观察

超节点如何成为AI算力的新答案

0
分享至


2026年,国产算力领域最火的一个词非超节点莫属。这个看起来有些技术化的名词,正在悄悄改变算力世界的底层逻辑。提到计算与超节点,我们首先想到一个词就是:天下之势,合久必分,分久必合。这点用在如今的计算领域十分恰当。

当我们从云计算的“分布式”计算时代走过,步入AI时代之后,单颗GPU已经不足承载AI算力需求之时,将多颗GPU所处的服务器“融合”成一台超级计算机,这就是超节点如今正在做的事。

推理市场的必然产物

2026年,用户对AI算力公司的提问已经从“你能给我多少卡?”,转变为“你每秒能稳定产出多少有效Token?成本是多少?”这背后的本质是因为大模型已经从原先的训练为主,变为推理为主。

过去两年,大模型的参数规模一路狂奔。从千亿级到万亿级,MoE架构成为主流,DeepSeek R1有671B参数、256个路由专家;Kimi K2.5更是达到了1T参数、384个路由专家。每生成一个Token,模型内部就要触发几十甚至上百次跨卡通信。这种通信量级,传统服务器集群根本扛不住。

对此,业内专家告诉我们,大模型正在从能训练、能运行进入规模化生产阶段,问题不再是单卡峰值和卡数,而是系统能否稳定承载模型、持续产出有效Token,同时控制时延与总成本。换句话说,训练是项目制的,训完即止;推理是运营制的,时延敏感,成本与收入直接挂钩。

无独有偶,中科曙光高级副总裁李斌也向我们表达了相似的观点,他指出,行业衡量算力的标准变了,过去主要看单颗芯片的峰值性能,现在更看一套系统能持续输出多少有效算力。

这个改变的背后,受到了两个需求的影响。一个是模型侧的倒逼。MoE混合专家架构驱动大模型参数规模持续膨胀,前沿模型的参数量快速突破万亿。参数和序列长度的增加带来键值缓存(KV Cache)的激增,需要超大显存空间来承载;而推理过程是典型的通信敏感型计算,专家路由、Token分发、跨卡数据交换,都对互连带宽和时延提出了近乎苛刻的要求。

另一个是应用侧的放大。Agent的兴起让一次用户请求可能触发多轮模型调用、工具调用和并发任务,智能体推理需要生成比传统模型多近百倍的数据词元。对此,李斌指出,“Token消耗和并发压力都会上升,带来的跨卡通信,对带宽和时延都很敏感。”

需求有了,供给侧的条件也在成熟。高速互连、液冷、分布式存储和系统管理软件的进步,让把更多计算资源装进一个更紧密的系统成为可能。于是超节点从概念走向共识,而超节点本质上做了一件事:把高速互连域从传统的8卡扩展到几十卡甚至上百卡,让卡间通信从网络传输,变成内存访问级别的低延迟。

这个效率的提升效果有多大?以英伟达的NVL72为例,海外研究机构SemiAnalysis的开源推理基准InferenceX做过一组同芯片对照实验:GB200 NVL72与HGX B200使用同一代Blackwell GPU,唯一差异是系统架构。在DeepSeek R1推理中,NVL72凭借72卡NVLink全互连的规模优势,单卡吞吐最高达到B200的4.4倍,峰值达每卡4130 Token/秒,而B200只有941 Token/秒。原因在于,B200服务器只支持8卡NVLink互连,一旦专家并行度超过8,通信就要跨出NVLink域、走上带宽低得多的以太网。

效率提升的主要来源不是单卡变快,而是互连域和系统架构对通信开销的压缩。业内专家指出,“这波热度的本质是基础设施竞争的计量单位从FLOPS变成每元、每毫秒能稳定产出多少有效Token”。模型演进定义了需求的上限,系统能力决定了落地的下限,两者一旦匹配,超节点便从概念变成了产业共识。

超节点落地需面对“四堵墙”

方向明确了,但把超节点做出来,远比想象中艰难。行业普遍用“四堵墙”来概括传统服务器集群面临的瓶颈,通信墙、功耗与散热墙、存储墙、复杂度墙。

超节点要突破这四堵墙,考验的不是某一项单点技术,而是计算、互连、供电、散热、存储、软件的系统级整合能力。也正因如此,真正的超节点“绝非物理组合”,据悉,前期仅芯片架构设计费用投入就可能超过亿元。

这其中首当其冲的就是通信墙。传统集群中,卡间通信走的是网络传输路径;超节点则把高带宽互连域从8卡扩展到64卡以上,让卡间通信变成接近内存访问的低延迟操作。

与通信墙相比,存储墙与复杂度墙则更考验体系化能力。中科曙光的思路是把通信、存储、散热和管理问题放到一个系统里协同优化:通信上采用超节点内部高速互连、超节点之间scaleFabric高速网络的分层架构;散热上浸没式相变液冷让PUE低至1.04;存储上ParaStor系统围绕大规模并发访问和检查点读写进行优化,并多次登顶全球性榜单。而面对复杂度墙(系统规模越大,局部故障、软件适配和运维压力越容易被放大)的挑战,曙光强调的下一阶段重点,是故障快速隔离与恢复、跨架构应用迁移等问题。

功耗/散热层面。目前超节点的解决方案中,液冷已经成为标配。联想在这条路上走得相当扎实,据联想中国基础设施业务群服务器事业部总经理周韬介绍,联想“海神液冷”品牌已从通用服务器扩展到全部AI服务器,支持45度温水进水,日常水温无需额外冷却处理即可直接使用,大幅降低冷却环节的能耗。此外,液冷硬件设备的生产过程也是对供应链的考验,对此,周韬告诉我们,整机柜液冷产品一个机柜承重超过3吨,耗电达到数百千瓦,联想为此对工厂进行了承重加固、十兆瓦级供电改造,而因为液冷快接头非常精密,灰尘和腐蚀很容易导致漏液,工厂甚至需要把生产环境的洁净度做到了十万级。

值得一提的是,目前超节点仍处于发展的初期阶段,我们在与不分国内一线服务器厂商的沟通中,各家在多大规模才合适的问题上,给出了不同的答案。分歧的焦点在于:一级高速全互联域到底应该做多大?

在某行业专家看来,互连域存在收益收敛的边界,NVIDIA在GH200阶段的研究就验证过,互连域规模超过一定程度后,训练性能的边际提升趋于平缓,相对增加的复杂度、成本和故障面而言得不偿失。因此NVIDIA在GB200、Vera Rubin时代都在控制单一互连域规模,转而专注提升单系统效率。

联想的选择同样体现这一逻辑,据周韬介绍,联想问天超节点选择单节点40张GPU的规模,理由是真正意义上的一级高速全互联域,无论是NVIDIA NVL72、AMD Helios还是其他方案,规模大多集中在几十卡到百卡以内,所谓数百卡乃至上千卡的系统,本质上已进入多级互联和Scale Out集群范畴。40卡既能在节点内获得较高通信效率,又避免超大规模互连在可靠性、运维上的挑战,同时通过标准网络灵活扩展至更大的集群。

曙光则选择“大小通吃”:既有十万卡AI超集群曙光8000,也有40卡的scaleX40“箱式超节点”,对应不同客户的需求与建设条件。

尽管路线各异,但共识正在浮现:规模是手段而非目的,真正需要优化的是一定规模约束下的系统效率。业内专家直言不讳地批评了一种现象,部分厂商刻意把互连域规模包装成超节点能力的代名词,“规模可以在参数表上一夜之间做上去,Token成本却必须在真实负载里一分一毫地省出来”,该负责人指出。这句话,或许可以作为本轮超节点竞赛里最值得客户记下的一条选型提醒。

工程化是厂商角逐的焦点

技术验证只是起点。超节点要真正规模化落地,工程化的挑战不可回避。在这个过程中,真正的瓶颈不在某个单点,而在系统化的工程能力,以及与之配套的软件生态,技术验证只需要把系统跑通一次,规模化商用要求把这套系统成千上万次地稳定复制出去。

从样机到产品,要过的第一关是供应链。AI的爆发带动了上下游整体进步,也抬高了关键物料的压力。高速线缆、高速背板、MLCC电容这些元器件的供应都趋于紧张,这类问题靠单家厂商解决不了,得由整机厂牵引上下游一起扩产和验证。另一头是国产AI芯片的供给约束:IDC的数据显示,2025年本土厂商AI加速卡出货约165万张,预计2026、2027年升至368万和608万张,但总量仍受外部约束,这也直接框定了国产超节点放量的节奏。

第二关是标准化和生态墙。这个挑战是本轮沟通中几家厂商都承认、但又最难解决的问题。就像前文提到的,超节点这个技术仍处于发展的初期阶段,各家互连协议和软件栈互不兼容,客户在模型迁移、框架适配和运维体系上要反复付出改造成本,选型变成一次高风险的押注。

破局的路径自然是开放。当前,各家厂商也都在生态和标准化方面有所布局,浪潮信息围绕OAM架构累计推出10款开放加速系统、完成30余款主流加速芯片的兼容适配;2024年还牵头成立了超节点算力集群创新联合体,2025年发布超节点智算应用“北京方案”。

曙光则通过“AI计算开放架构”推动分层解耦,芯片厂商专注算力与能效,系统厂商专注集群架构与网络设计,软件厂商专注算法与场景创新。

联想的姿势略有不同,周韬表示,联想在通用超节点方面坚持开放路线,定制化超节点则与头部客户深度协同,合作设计。在周韬看来,超节点真正拥有的人群未来会集中在少数头部客户身上,而“各家有自己的标准、架构、Link”,通用与定制两条腿走路是现实的选择。

第三关是可靠性。规模上去之后,任何一处短板都会被放大,局部故障、软件适配和运维压力尤其明显。基于此,李斌将“故障快速隔离与恢复、跨架构应用迁移、算力利用率”列为下一阶段要重点解决的问题。这也解释了为什么三家的开放架构里,软件平台都占了很大篇幅:硬件定义上限,软件决定下限,这句话在超节点时代比以往更成立。

此外,客户结构的不均匀,是落地时另一道隐形坎。头部互联网客户有多年系统工程积累,机房、供电、散热、组网、运维都能接住超节点的部署门槛,已经率先大规模上量;中小企业、科研机构和大型行业客户同样认超节点的价值,但基础设施和运维能力弱,靠自己很难复制头部客户的打法。他们要的是开箱即用、稳定产出Token、且具备完整软件生态的产品,把系统工程复杂度封装在产品内部。联想的SuperPod40、曙光的scaleX40,针对的都是这个痛点。

展望未来,超节点的形态大概会沿着几条线收敛。其一,超节点的形态会继续分层,内部以Scale-up追求高带宽低时延,之间通过开放的Scale-out网络扩展,未来不太可能只有一种尺寸或一种协议。其二,细分场景的差异化架构会成为演进方向,预训练、后训练、推理的Prefill与Decode对算力、显存、通信的需求结构差异很大,“用同一种芯片和互连方式通吃所有阶段,必然存在错配”,更合理的终态是让每个阶段匹配更合适的芯片与互连架构。其三,供电、光互联、浸没式液冷等前沿技术正在储备中——联想已把800伏高压直流供电、PCIe Gen6交换、整机柜浸没式列入探索方向。其四,竞争的终局不在硬件参数表上,而在谁能构建开放、协同、可持续演进的生态

超节点的故事,就像是AI产业从“拼单点”走向“拼系统”的缩影。当行业开始用每一块钱能买到多少有效Token来衡量算力,真正的竞争才刚刚开始。

(文|Leo张ToB杂谈,作者|张申宇,编辑丨杨林)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网传某知名机器人被清华大佬狠批为上市圈钱大量造假,评论区炸锅

网传某知名机器人被清华大佬狠批为上市圈钱大量造假,评论区炸锅

慧翔百科
2026-09-17 11:52:47
HYROX失禁夺冠选手正式道歉:向所有人致歉 现退赛放弃冠军和积分

HYROX失禁夺冠选手正式道歉:向所有人致歉 现退赛放弃冠军和积分

醉卧浮生
2026-09-17 21:24:18
父亲遛狗时2岁幼童从18楼坠亡,幼童母亲最新发声:网传老公出轨以及给孩子买巨额保险均为不实信息,事发前曾叮嘱老公等孩子睡着再遛狗

父亲遛狗时2岁幼童从18楼坠亡,幼童母亲最新发声:网传老公出轨以及给孩子买巨额保险均为不实信息,事发前曾叮嘱老公等孩子睡着再遛狗

扬子晚报
2026-09-17 21:55:11
沙特疏远中国选美国,现在已经在等死了

沙特疏远中国选美国,现在已经在等死了

求实处
2026-09-16 21:03:18
中方接收美国返还的58件文物,其中一尊来自山西天龙山石窟的菩萨像,是百余年前就遭到劫掠、流落海外的艺术珍品

中方接收美国返还的58件文物,其中一尊来自山西天龙山石窟的菩萨像,是百余年前就遭到劫掠、流落海外的艺术珍品

蓬勃新闻
2026-09-17 14:45:58
影视飓风Tim反掰iPhone Duo致闪屏,称并未用力,苹果回应:博主单台设备测评片面

影视飓风Tim反掰iPhone Duo致闪屏,称并未用力,苹果回应:博主单台设备测评片面

齐鲁壹点
2026-09-17 17:02:26
男子在游戏中充值100万,急用钱被迫转卖账号,评估后只值8000元

男子在游戏中充值100万,急用钱被迫转卖账号,评估后只值8000元

新游戏大妹子
2026-09-15 13:06:24
管家转卖雇主酒水获利243万元被判刑10年半,家属称将申诉

管家转卖雇主酒水获利243万元被判刑10年半,家属称将申诉

澎湃新闻
2026-09-17 16:58:28
佛州38岁女子与宠物狗发生不当行为被捕,丈夫查监控抓现行

佛州38岁女子与宠物狗发生不当行为被捕,丈夫查监控抓现行

环球趣闻分享
2026-09-17 13:10:13
车企的终身质保,把我们同事给套路到了。。

车企的终身质保,把我们同事给套路到了。。

差评XPIN
2026-09-17 01:05:37
已击毙!乌克兰宣布重大战果!

已击毙!乌克兰宣布重大战果!

故事终将光明磊落
2026-09-17 08:13:53
中国女篮重大调整,宫鲁鸣不留情面淘汰嫡系,小李梦重磅加入

中国女篮重大调整,宫鲁鸣不留情面淘汰嫡系,小李梦重磅加入

宗介说体育
2026-09-17 15:55:29
乱套了!亚运会开幕倒计时仅2天,中国运动员自费住酒店,泰国队机场打地铺,印度队最惨,45国奥委会集体抗议!东道主一句话回应太心酸

乱套了!亚运会开幕倒计时仅2天,中国运动员自费住酒店,泰国队机场打地铺,印度队最惨,45国奥委会集体抗议!东道主一句话回应太心酸

小七说篮球
2026-09-17 16:51:01
中国免签捅马蜂窝了?韩国近6万人突然联署,要求叫停中国团客免签,发生了什么?

中国免签捅马蜂窝了?韩国近6万人突然联署,要求叫停中国团客免签,发生了什么?

青青子衿
2026-09-16 16:58:57
1999 年公安部下达秘密指令抓捕赖昌星,福建省公安厅一位副厅长深夜接连拨打四通电话,他在通话中的一句话,令专案组成员全部大为震惊

1999 年公安部下达秘密指令抓捕赖昌星,福建省公安厅一位副厅长深夜接连拨打四通电话,他在通话中的一句话,令专案组成员全部大为震惊

温柔记事簿
2026-09-17 10:41:47
李小璐疑似新男友曝光!被拍到与嘻哈歌手赵涛逛公园,4年3次同框引猜测

李小璐疑似新男友曝光!被拍到与嘻哈歌手赵涛逛公园,4年3次同框引猜测

露珠聊影视
2026-09-17 16:25:38
佟丽娅接受采访,首次公开此前婚姻细节:没想过拍《北爱》会和陈思诚好,他没有打过我,当年没立即离婚不是因为“懦弱”

佟丽娅接受采访,首次公开此前婚姻细节:没想过拍《北爱》会和陈思诚好,他没有打过我,当年没立即离婚不是因为“懦弱”

极目新闻
2026-09-17 21:33:02
戴笠死后第二天,蒋介石没顾上哭就先派人抄家,打开金库那刻全场都看傻了

戴笠死后第二天,蒋介石没顾上哭就先派人抄家,打开金库那刻全场都看傻了

纪史行者
2026-09-15 06:20:03
男篮半决赛杀疯了!中国队血拼日本队争前2:郭士强这次真输不起?

男篮半决赛杀疯了!中国队血拼日本队争前2:郭士强这次真输不起?

篮球快餐车
2026-09-17 08:43:24
全网力挺郑功成!养老金改革拨乱反正,公共福利不能任由强者通吃

全网力挺郑功成!养老金改革拨乱反正,公共福利不能任由强者通吃

百科密码
2026-09-17 19:10:03
2026-09-18 02:19:00
钛媒体APP incentive-icons
钛媒体APP
独立财经科技媒体
139573文章数 862598关注度
往期回顾 全部

科技要闻

影视飓风Tim反掰iPhoneDuo被质疑

头条要闻

永和豆浆视频被指擦边:女子穿蕾丝吊带 脱黑丝袜洗澡

头条要闻

永和豆浆视频被指擦边:女子穿蕾丝吊带 脱黑丝袜洗澡

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

rapper赵涛恋情曝光!带甜馨妈妈散步

财经要闻

缺钱的追觅 隐藏的债务?

汽车要闻

小鹏G9L限时售23.18万 旗舰级的配置/诱人的价格

态度原创

艺术
教育
家居
数码
军事航空

艺术要闻

色彩狂魔比肖夫:评论家说他与表现主义调情,野兽派看了都沉默!

教育要闻

认知篇:顶级留学生会戒掉的几种学生思维!

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

雷蛇塔洛斯魔蝎V2专业版单手键盘发布,售价1599元

军事要闻

韩国外长表态:尚未决定是否向霍尔木兹海峡派兵

无障碍浏览 进入关怀版