网易首页 > 网易号 > 正文 申请入驻

打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”

0
分享至


智东西
作者 云鹏
编辑 漠影

如果说2026年的AI圈只有一个关键词,那必然会是“智能体(Agentic AI)”。

从能聊到能干,智能体浪潮下,AI在各领域开始加速赋能,AI编程的爆发进一步带来生产力的质变,在各行各业掀起变革。

随之而来的是AI推理需求呈指数级爆发,2030预计全球每月Token消耗数将超过120千万亿,暴涨24倍。

为了支撑更强的Agent处理更复杂的任务,模型也越来越大,顶级MoE模型参数量直接来到“十万亿级”,训练压力同步增长。

既要支持更大规模模型高效训练,又要在推理端支持更长上下文,实现更低时延、更低成本、更高效率,这样的需求传统服务器难以应对,“超节点”逐渐成为AI基础设施领域行业公认的更优解决路径。

理想状态下,大量AI加速器紧密耦合成为一台更高密度的AI计算单元,超节点可以解决大模型训练和推理中的“存储墙”和“通信墙”。

但理想很丰满,现实很骨感,超节点落地需要克服诸多挑战。全球芯片巨头、云厂商、服务器大厂争先发布“超节点”产品,但真正商业化落地的很少。

如何真正突破集群内计算、存储等各类资源的通信瓶颈?如何真正通过系统性架构创新优化,实现全域资源统一高效调度?让成千上万张计算卡像一台计算机一样高效运转,绝非易事。

自今年WAIC上真机亮相后,昇腾950超节点备受业内关注,近日在华为全联接大会2026期间正式上市,成为了业界最大规模的商用超节点。


▲华为全联接大会2026昇腾展区

继去年昇腾910C超节点发布首次将“超节点”带入行业视野、引领行业向超节点方向前进后,昇腾为何能成为业界最大规模商用落地超节点?从技术验证迈入规模化商用落地攻克了哪些关键挑战、为何昇腾950超节点能成为当前万亿模型训推的最佳选择?

或许正如华为昇腾计算产品线总裁张迪煊在演讲中所说,大模型每一波迭代都带来新的AI需求,而昇腾超节点用大带宽、低时延和内存统一编址的确定架构,来应对AI变化的不确定性。


▲华为昇腾计算产品线总裁张迪煊

让超节点真正大规模落地,昇腾先交卷了

一、让千卡像“一台计算机”一样运行背后:硬核技术创新与工程化落地缺一不可

此次上市的昇腾950超节点包括Atlas 950 SuperPoD液冷超节点和Atlas 850E风冷超节点,两者场景各有侧重,基于各自核心技术升级点,很好地解决了AI时代不同场景、不同类型企业在解决AI基础设施建设中所面临的一系列挑战。

Atlas 950 SuperPoD液冷超节点,1024颗高性能NPU、1300多个灵衢互联套片、4000多个光模块和19万根CableTray,让千张卡像一台超级计算机一样协同工作,是一个极为复杂的系统性工程。


纵观市面上的超节点产品,昇腾950超节点能够率先规模化商用落地,原因不难分析,但极难模仿:

首先是极强的技术领先性——基于强大的技术力,突破既往行业中很多关键技术瓶颈;其次是扎实的工程化落地能力——深耕AI基础设施、懂场景懂客户懂痛点,把超节点落地中每一个细节都做到位,让客户不是只能“感觉好、用不上”,而是真正能“用得上、用得好”。

以Atlas 950 SuperPoD液冷超节点为例,从技术创新角度来看,其在芯片和互联两个层面都实现了突破。

在芯片微架构创新方面,其重点提升算子开发易用性和效率,过去需要开发者手动管理的数据搬运、格式转换、通信同步、缓存策略,都下沉到硬件里,写代码更简单,开发效率更高。

互联层面,灵衢高速互联技术发挥着关键作用,统一的互联协议实现1024卡统一内存编址,让跨卡远程内存访问就像操作本地内存,芯片互联带宽相比上代提升2.1倍,给超大模型的高频通信提供了保障。可以说灵衢互联成为了打破通信瓶颈的“高速路”。

当然,还有不少“黑科技”我们不再一一枚举,同样值得注意的是Atlas 950 SuperPoD液冷超节点在工程化落地层面的创新。

昇腾自研的TPSU电源模块可以提供储能能力,进而支撑训练推理业务供电波峰诉求。

散热方面,高性能昇腾950 NPU单个模组有950W功耗,昇腾通过高密铲齿+冰川铠甲冷板技术,以及多水路串联设计,单块冷板就能带走2000W的热量,提高单位空间散热效率。

正交架构设计也是亮点之一,其实现了柜内零线缆全电互联,单柜就可以减少6000多根线缆,一个1024超节点可以省下50千米的铜线,在根除线缆老化与故障风险、大幅提升系统可靠性、降低时延的同时,实现了资源的节省。

此外,柜间光互联使用了业界唯一的光模块液冷技术,在时延降低的同时,一个超节点4000多个光模块所节省的电力消耗相当于数千户家庭的年用电量。链路级重传技术、2+2光模块保护技术则攻克了“超节点光模块易闪断”的行业顽疾,保证了超节点的可靠性、支撑超节点规模扩展。

我们看到,基于海量技术创新和扎实的工程化落地突破,昇腾950超节点真正实现了计算、存储、通信三大系统高效协同打通,让整个超节点系统具备落地的基础,而非徒有“性能参数”的空中楼阁。

最终在实际大模型训推场景中,Atlas 950 SuperPoD形成了相比行业其他解决方案突出的领先优势。

训练侧,其训练效率有着1.5-1.7倍提升,基于器件、网络、系统三重可靠设计,实现了万卡超节点集群实现月级稳定训练。

推理侧,昇腾超节点在中心高并发推理场景中可以实现低时延、高吞吐推理,推理性能2-3倍提升、时延低于10ms,实现万亿模型训推一体化。

值得一提的是,昇腾是国内唯一商用支持mxFP8低精训练和全流程支持mxFP4推理的厂商。

一系列优势特性令昇腾迅速得到行业认可,今天,昇腾超节点已经广泛应用于互联网、运营商、金融、教育、医疗、交通、制造等行业。

在峰会现场展区,我们看到在昇腾超节点加持下,蚂蚁阿福的模型训练实现了“离线持续优化、在线实时纠偏”的能力,场景实际响应、吞吐大幅提升,最终让健康AI服务响应更快、解读更精准;德赛西威则基于昇腾超节点构建高性能算力底座,训推性能超过业界GPU平台。

昇腾超节点进一步推动了Agentic AI和AI编程规模化落地,证明了“超节点”这一形态的可行性、极强的应用潜力,从技术和工程化落地层面给行业树立了蓝本,让行业可以基于超节点规划和建设万亿模型的算力基础设施。

十万亿级大模型训推的阶段性“最优解”,被昇腾950超节点拿下了。

二、从液冷数据中心走向企业级风冷机房,无需改造直接部署,直指AI推理核心痛点

相比面向液冷数据中心的Atlas 950液冷超节点,Atlas 850E风冷超节点则更加聚焦企业级通用风冷机房的超节点升级改造。

这款产品背后体现的对行业用户痛点、场景需求的精准洞察,在工程化落地过程中攻克的一系列细节难题,都是超节点能够真正率先实现规模化商用的关键,是昇腾超节点的核心差异化优势之一。


纵观行业,大量企业级通用风冷机房面临液冷基建改造周期长、成本高的现实门槛,制约了超节点技术的规模化普及。而Atlas 850E风冷超节点基于自研相变散热技术,无需对现有风冷机房做液冷改造,标准风冷机柜可以直接上架部署,支持从32卡到768卡。

无需改造直接把超节点技术部署到传统机房,这在过去是企业“想都不敢想”的。

在企业级推理场景中,Atlas 850E风冷超节点原生覆盖FP8、mxFP8、HiF8、INT8、mxFP4全量低精格式,可以稳定实现10ms级时延推理。

对于Agent多轮对话、高频KV缓存读写负载等需求需求,其都能很好地满足,支持多卡高效并行推理和内存资源池化。

在实际场景中,通过超节点的异构PD分离方案根据业务负载动态调整PD配比、叠加大规模专家并行优化,最终Atlas 850E风冷超节点在万亿参数MoE模型推理上实现了5-10ms的极致低时延,单卡吞吐比业界风冷集群提升2.5倍。

Atlas 850E风冷超节点的商业规模化落地,让更多场景的客户有了新的选择,尤其是对于中小企业级场景客户来说,解决了他们最为关心的迁移成本、迁移效率等问题。

让超节点从液冷数据中心走向更广泛的通用风冷机房,让更多企业可以高效、低成本地实现Agentic AI推理业务规模化落地,昇腾做到了。

三、软件系统给硬件装上“强大脑”,昇腾开放生态加速成长

超节点夯实底层算力基础,上层昇腾软件生态的茁壮成长则进一步释放昇腾潜力,让超节点更快落地千行万业,实现赋能。

如果说硬件是把算力“拧成一股绳”系统软件就是统一调度的“大脑”,完善的软件生态是昇腾从“算力强大”走向“好用易用”的关键。

昇腾超节点的系统软件包括灵衢总线管理、灵衢系统服务以及超节点管理等组件。其中灵衢系统高阶服务支持跨物理节点统一内存编址,编程模式和执行模型与单系统语义一致,支持实现超节点域内的Load/Store内存语义访问。

基于内存语义和拓扑编排等技术,1024卡超节点域内集合通信性能提升1.6倍。实测中,在大EP的跨卡通信场景,1K小包通信,耗时从70微秒降到8.6微秒,性能提升8倍。

可以说,昇腾超节点系统软件,基于高性能、高可用核心能力,充分释放了超节点的算力潜能。

最后,昇腾软件生态的开源开放也进一步加速着昇腾超节点在各领域的落地,从各个环节深度赋能开发者。

去年,昇腾完成了CANN和Mind系列的全面开源开放,这是昇腾生态迈出的重要一步,全面开源开放、兼容主流生态,让昇腾的易用性进一步提升,对开发者们来说,AI开发从“专家专属”走向了“人人可用”。

如今CANN社区月活开发者突破5200多名,位列中国开源项目活跃度排名第一。


从入门部署、算子开发、训练推理到性能调优,昇腾从全流程帮助开发者,智能体时代,Agentic覆盖整个链路,进一步让编程和创新变得更简单。

昇腾软件生态让昇腾从“好用”迈向“易用”,每个开发者都能充分利用昇腾优势,落地优秀AI应用。

结语:从行业首发到规模落地,昇腾重塑Agent时代算力底座

面对行业超节点“只见产品发布、不见商业落地”的困局,昇腾一手紧握底层技术架构创新领先、一手紧握扎实工程化落地能力,系统性地解决了超节点实际落地过程中的一系列“卡点、难点”,让超节点不再是纸面好看部署困难,而是真正能用、好用、易用。

而液冷、风冷双形态,则实现了全场景覆盖,让更多中小企业以低门槛享受到超节点带来的优势。

可以说,昇腾超节点就像班中的模范生,在这场AI剧变时代的算力基建大考中,率先交卷了,为十万亿级大模型时代AI基础设施建设树立了新标杆。

从昇腾落地的路径中我们也不难看出,未来超节点竞争的本质是“硬件架构+系统工程+软件生态”的综合考验,基于技术和生态飞轮,先发者的优势或进一步扩大。


无论如何,AI掀起的算力变革已经开始,而昇腾的“硅基黑土地”,正试图为AI无处不在、充满不确定性的未来提供一种更坚实、更确定的选择。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
德国今夏最高气温超42℃,约1.58万人死于高温相关原因,报告称夏季热浪已给德国造成约250亿欧元经济损失

德国今夏最高气温超42℃,约1.58万人死于高温相关原因,报告称夏季热浪已给德国造成约250亿欧元经济损失

极目新闻
2026-09-25 15:39:13
米莱:联合国一无用处,只供养一群自以为是的寄生虫

米莱:联合国一无用处,只供养一群自以为是的寄生虫

移光幻影
2026-09-25 08:32:50
中国女足被拖入加时!名记:太恶心了吧?大家一起混到这个地步

中国女足被拖入加时!名记:太恶心了吧?大家一起混到这个地步

奥拜尔
2026-09-25 15:59:13
大外交·现场|访美第二日:从“五军仪仗队”到国宴的历史细节

大外交·现场|访美第二日:从“五军仪仗队”到国宴的历史细节

澎湃新闻
2026-09-25 10:38:28
“喝完泰奶差点要见太奶了”冲上热搜,第一批喝泰奶的“受害者”已经出现……

“喝完泰奶差点要见太奶了”冲上热搜,第一批喝泰奶的“受害者”已经出现……

极目新闻
2026-09-25 13:33:30
女篮半场险胜韩国!张子宇高效,罗欣棫唐子婷齐爆,王思雨稳组织

女篮半场险胜韩国!张子宇高效,罗欣棫唐子婷齐爆,王思雨稳组织

篮球资讯达人
2026-09-25 15:47:15
U23国足VS泰国:朱辰杰坐镇后防,吴曦搭档木塔力甫,拜合拉木冲锋

U23国足VS泰国:朱辰杰坐镇后防,吴曦搭档木塔力甫,拜合拉木冲锋

零度眼看球
2026-09-25 15:15:38
大外交·现场|26年前为中国治沙筹款5000美元,26年后他的故事出现在白宫国宴致辞

大外交·现场|26年前为中国治沙筹款5000美元,26年后他的故事出现在白宫国宴致辞

澎湃新闻
2026-09-25 15:22:27
男团决赛丢2分!19岁温瑞博自责:一夜之间清空社媒 只留下2个字

男团决赛丢2分!19岁温瑞博自责:一夜之间清空社媒 只留下2个字

念洲
2026-09-25 14:53:06
惨遭20分逆转后再输41分!男篮这下脸丢大了:CBA总冠军底裤都输没了

惨遭20分逆转后再输41分!男篮这下脸丢大了:CBA总冠军底裤都输没了

篮球快餐车
2026-09-25 00:04:54
南京博物院镇馆之宝:堪称稀世之宝,竟只是16岁小妾的陪葬物

南京博物院镇馆之宝:堪称稀世之宝,竟只是16岁小妾的陪葬物

云霄纪史观
2026-09-24 20:40:39
特斯拉中国官宣大降价优惠!最高立减 2.1 万元

特斯拉中国官宣大降价优惠!最高立减 2.1 万元

XCiOS俱乐部
2026-09-25 10:19:03
中秋冲第100金!9月25日奖牌榜早报:中国金牌井喷,莎头迎复仇战

中秋冲第100金!9月25日奖牌榜早报:中国金牌井喷,莎头迎复仇战

大秦壁虎白话体育
2026-09-25 08:16:36
日乒混双全军覆没!松岛辉空食言豪取4冠,张本美和已丢2块金牌

日乒混双全军覆没!松岛辉空食言豪取4冠,张本美和已丢2块金牌

排球黄金眼
2026-09-25 10:37:22
油价大降!92汽油“大降1.6元/升”接近7.1元/升后,近3个月近乎“全涨起来”,统计大涨近1.43元/升,下次10月15日调价,恢复下跌?

油价大降!92汽油“大降1.6元/升”接近7.1元/升后,近3个月近乎“全涨起来”,统计大涨近1.43元/升,下次10月15日调价,恢复下跌?

猪友巴巴
2026-09-25 14:26:23
1分惜败日本队被淘汰!中国女篮再遭打击:三人亚运遗憾出局无缘争冠

1分惜败日本队被淘汰!中国女篮再遭打击:三人亚运遗憾出局无缘争冠

篮球快餐车
2026-09-24 17:59:05
凌晨一点的北京家属院里,72岁的濮存昕用一根绳子,将自己与94岁患阿尔茨海默症的母亲紧紧系在一起

凌晨一点的北京家属院里,72岁的濮存昕用一根绳子,将自己与94岁患阿尔茨海默症的母亲紧紧系在一起

笨鸟摘文
2026-09-19 21:35:47
“希望4个老人长命百岁”,女子晒3万多退休金,普通人的心却凉了

“希望4个老人长命百岁”,女子晒3万多退休金,普通人的心却凉了

番外行
2026-09-22 16:10:14
外媒聚焦华盛顿欢迎仪式连用“罕见”:“美方的安排与以往我所见过的都截然不同!”

外媒聚焦华盛顿欢迎仪式连用“罕见”:“美方的安排与以往我所见过的都截然不同!”

海外网
2026-09-25 07:11:04
国乒男团摘银,王楚钦赛后微博评论区10分钟1W+评论:辛苦了

国乒男团摘银,王楚钦赛后微博评论区10分钟1W+评论:辛苦了

老郭在学习
2026-09-24 20:36:13
2026-09-25 17:03:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12667文章数 117170关注度
往期回顾 全部

科技要闻

华为赛力斯,一次声势浩大的权、利再分配

头条要闻

26年前为中国治沙筹款的赛考斯 出现在白宫国宴致辞中

头条要闻

26年前为中国治沙筹款的赛考斯 出现在白宫国宴致辞中

体育要闻

这场青春风暴,中国足球等了太久

娱乐要闻

肖战因拍《十日终焉》连续做半个月梦

财经要闻

月饼卖不动了...

汽车要闻

全新第四代博越L 上市限时价9.29万元起

态度原创

时尚
家居
健康
本地
数码

秋冬最舒适的“豹款”,这样穿才好看!

家居要闻

2026建博会(广州) 公装联探展交流活动

鼻子三角区的痘,千万别乱挤!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

数码要闻

海贝RS2音乐播放器发售:R2R技术达尔文三代架构,2798元起

无障碍浏览 进入关怀版