网易首页 > 网易号 > 正文 申请入驻

新华三王锋:超大规模超节点系统的全栈协同架构实践 | GACS 2026

0
分享至


主讲人:王锋

智猩猩AI整理

编辑:六六

在 2026 全球 AI 芯片峰会同期进行的超节点技术研讨会上,新华三集团云与计算存储产品线解决方案部总经理王锋带来了主题为《超大规模超节点系统的全栈协同架构实践》的一场演讲。


新华三致力于构建超大规模、极致效率、安全可信、业务永续的新一代超节点系统,以解决在智能体这一时代,Token 消耗量大幅增长给AI基础设施带来的四个巨大挑战:集群规模扩展难、算力资源的利用效率低、硬件安全防护能力不足、AI基础设施的运维排障慢。


演讲中,王锋详细分享了新华三在新一代超节点系统中,在计算、网络、存储、云、安全和运维六大领域所做的技术探索和相关进展。

  • 计算:以单柜 128 颗 GPU 的超高密部署叠加全液冷(无风扇)系统,一次性破解空间、供电、散热三大瓶颈。

  • 网络:走"柜内电、柜间光"的光电并行路线,以算网多维度调优将带宽利用率从 70% 提至 96% 以上,并用 Scale-up / Scale-out 实现全互联。

  • 存储:高性能分布式存储引擎做到了单节点带宽 200GB/s、数据访问性能 300 万 IOPS、时延低于 100 微秒;并以"以存换算"的 XCache 构建多级 KV Cache,让计算不再等数据。

  • 云:以"一云多芯"打通异构算力壁垒,支撑 10 万节点 30 天长稳训练;研发智算加速引擎将跨节点通信时间降低 50%,内存利用率超 90%。

  • 安全:构建算力运行、模型、Token 产出三层全链路防护,覆盖攻防检测、数据防泄漏与 AI 安全审计。

  • 运维:统一运维智能体整合 5000 万个真实运维案例,贯穿"规、建、维、优"全生命周期,实现开局部署时间节省 60%,重复告警压缩 90%,故障排查效率也提升 90%。

王锋认为,未来的超节点不是单一产品或单一技术的竞争,而是全栈能力与系统效率的综合较量。

以下是演讲回顾:

王锋:非常高兴和各位来宾、各位同仁一起分享新华三在超节点系统上的一些思考和成果。今天我分享的主题是《超大规模超节点系统的全栈协同架构实践》。

新华三作为一家 ICT 厂商,我们既不是站在单纯的 GPU 芯片视角,也不是站在某一个具体领域的视角,而是站在整体领域、从全局思考的角度来看超节点,分享我们的一些理解。

01

构建新一代超节点系统

应对AI基础设施四大挑战

智能体时代已经全面来临,算力行业迎来了颠覆性的重构,算力重心从过去的大模型训练转向了超大规模推理。Token 消耗量的巨大增长,给AI基础设施带来了巨大挑战:

  • 集群规模扩展难;

  • 算力资源的利用效率低;

  • 硬件安全防护能力不足;

  • AI基础设施的运维排障慢。


基于这些挑战,我们迫切需要我们打造一套面向超大规模场景的多元、开放、高效的超节点创新架构,这也是新华三一直在探索的方向。

新华三深耕计算、网络、存储、云、安全和运维六个领域,我们认为这六大方向都能够为超节点带来新的创新架构。因此,基于在硬件工程、软件融合、方案架构和专业服务上的核心能力,我们对超节点产品进行了深度整合。

我们的目标非常明确:构建超大规模、极致效率、安全可信、业务永续的新一代超节点系统。

02

算力释放超节点澎湃性能


首先需要释放超节点澎湃的算力性能。Token 用量呈指数级增长,Token 的每一次生成、每一次应用,都离不开算力,直接推动了算力需求的爆发式增长。

在同等算力规模下,高密机柜的优势非常明显:机柜更少、占地更小、布线和供电更集中、建设周期也更短。但挑战也随之而来:如今的算力芯片性能越来越强、功耗越来越高、面积越来越大。高密部署会让单机柜功耗飙升到几百千瓦,柜内温度急剧升高,散热问题也会进一步加剧,难以通过风冷和局部液冷来解决。

因此,我们必须采用超高密的算力架构,再加上全液冷系统,一次性地破解空间、供电和散热三大瓶颈。

(1)超高密算力架构设计


在柜内节点上,我们通过深度小型化的设计,让主板体积缩小 25%,彻底拿掉了节点的本地电源和风扇,省下了空间用于计算芯片的高密部署。其次,采用新一代液冷技术,将液冷部件同步做了一体化设计,把空间占用压到最低。

在机柜设计上,我们在国内首家落地了 1U 38.4 千瓦的高密电源,实现了大功率集中供电,整套架构原生兼容 800V 的高压直流供电。

这一系列组合让我们实现了单柜 128 颗高性能 GPU 的高密度部署,并且可以支撑未来更高算力密度的演进。


(2)全液冷(无风扇)整机系统设计


新华三在液冷领域持续深耕迭代:从最初的 CPU 冷板产品,到液冷背门技术,再到冷板式整机系统,如今我们将极致的液冷散热技术运用到超节点中,最大程度保障系统的冷静运行。

计算节点侧,主板上所有发热元件全部纳入液冷,冷板内部采用更高密度的流道设计,散热效率提升 10% 以上;机柜侧,率先落地集中式电源模块与机柜母线排的全液冷覆盖,配合全液冷计算节点,率先量产全液冷无风扇整机系统。

下一步,我们将在精密制造与整机密封技术上持续创新,推出相变冷板系统,目标是散热能力再提升 60% 以上。

03

网络实现超节点效能倍增


在大规模的超节点系统里,网络是算力规模高效扩展的关键变量,高效的网络设计可以实现超节点性能的效能倍增。

一方面,单 GPU 的互联带宽已从 800G 提升到 1.6T,强劲的 GPU 推动了互联带宽的持续飙升;另一方面,集群规模现已达到 10 万卡,受限于单机柜的空间和供电能力,跨柜协同已成为趋势。

只有 Scale-up 和 Scale-out 两大场景的有机结合,才能实现更高带宽和更大吞吐的算力效率。


(1)光电并行演进


柜内 Serdes 速率已发展到 224G,电信号在 PCB 板上的有效传播距离非常有限,对材料和设计都提出了更高要求。因此我们认为光电并行是未来的趋势,机柜内的电互联十分重要。我们通过对高速材料的甄选和高密度的制造,保障 224G 高速信号的可靠传输。

在机柜间互联场景,光已经成为更优的选择。CPO 等技术能够显著提升传输距离和带宽密度,但也对工程设计带来非常大的挑战:制造精度、散热和运维。所以我们并不是简单地“光电替代”,而是通过工程能力,把光和电都做到极致,从而实现高密可靠的互联。

(2)算网多维度调优


第二个技术点是算网协同调优。Scale-out 场景下带宽能否充分利用十分关键,而模型架构演进使流量更趋复杂,未经调优的网络物理带宽利用率仅约 70%。

新华三的网络调度技术已在某企业的超节点集群中将带宽利用率提升至 92.5% 以上,在某互联网客户的计算项目中将 GPU 带宽利用率提高到 96% 以上。

下一步,我们还将在毫秒级的微突发检测、网络状态快速通知和拥塞控制方面持续创新,进一步提升各场景下网络的有效吞吐。


超大规模超节点网络所需要的是一套真正面向 AI 大模型时代、Scale-up 与 Scale-out 全互联统一架构。我们通过“一级 Scale-up + 二级 Scale-out + Scale-Across”的三层融合架构,实现从芯片到机柜再到集群的全场景无缝互联。

04

存储消除超节点数据等待

随着超节点系统的规模不断提升,有一个问题开始愈发突出,那就是计算在等数据。我们认为让计算不再等待是超节点的关键。

算力服务商和大型金融机构的实践表明:存储性能已经成为算力集群普遍的瓶颈。

在模型训练时,常常因为数据访问带宽不足导致 GPU 等待;在模型推理时,超长上下文又需要存储提供微秒级的响应,才能保证多轮对话的连续性。所以超节点的存储面临三个问题:既要高带宽,又要高并发,还要低时延。

为此,新华三研发了高性能分布式存储系统和 KV Cache 推理加速系统来应对这些挑战。

(1)高性能分布式存储引擎


首先,我们通过全链路零拷贝、智能数据读取和多节点带宽聚合技术,打造了高性能的分布式存储引擎。该存储引擎可实现单节点带宽 200GB/s、数据访问性能 300 万 IOPS、时延低于 100 微秒,在全球测试榜单中排名第一。

(2)KV Cache 推理加速系统


第二是 KV Cache 推理加速系统。KV Cache 可以把大模型的历史上下文缓存在 GPU 显存中,避免重复计算;但长文本、多并发会使数据量激增,远超 GPU 显存上限。

为此,新华三以"以存换算"的理念,推出了 XCache 加速软件,构建从共享内存到 CXL 内存池、再到外部存储的多级缓存体系,扩展缓存容量,大幅提升了长上下文的响应速度。

05

云让超节点算力随需而动

谈完计算、网络、存储,下一个核心就是云。我们认为在 ICT 基础能力之外,如何让大规模超节点系统的算力高效运转,真正实现每一份算力随需而动,是关键所在。

在超节点的落地实践中,客户最关心的始终是三个核心痛点:

  • 管控的挑战:如何弥补多算力芯片的架构差异、降低使用门槛;

  • 资源的挑战:如何提升资源利用率;

  • 效能的挑战:如何深挖硬件潜力,最大化的释放算力性能。

我们认为,只有通过系统性的整合和优化,才能实现更大规模的资源池、更均衡的算力调度和更高性能的训推服务。为此,我们推出了智算融合架构与智算加速引擎。

(1)智算融合架构


首先是智算融合架构。通过“一云多芯”打通算力壁垒,通过多元异构统一纳管、亲和性拓扑感知调度、算力细粒度切分与全域资源池化聚合,实现算力的细粒度复用。

同时依托弹性伸缩高容错技术,我们能保证在 10 万节点规模下持续稳定运行,实现 30 天以上的长稳训练,从而实现资源的高效供给与调度。


(2)智算加速引擎


我们研发了智算加速引擎,其核心技术是通信域的拓扑感知优化,包含“云算网协同 + 低时延集合通信库”。

新华三通过网络拓扑感知与路径导航,实现流量的全局负载分担;结合通信算子卸载与计算通信重叠,降低算力开销;再辅以秒级的故障感知与分钟级的故障自愈,确保可靠性。将跨节点通信时间降低 50%,突破传统 AI 服务器的通信极限。


智算加速引擎的另一个核心是算子融合与内存池化。通过异构算子融合和多粒度并行,实现算子性能提升 20% 到 50% 以上;依托异构内存资源池化,将 GPU 显存和 CXL 全局内存池化,突破单卡显存瓶颈,内存利用率超 90%,推理效率提升 10% 以上,让超节点的硬件算力效能真正转化为业务性能。

06

安全护航超节点可靠供给

安全很少有人在超节点上谈。我们认为安全已成为超节点规模化应用的必要条件,来护航超节点算力的可靠供给。

当前超节点面临三类典型的安全威胁:

  • 算力被窃取:非法占用 GPU 资源,导致租户业务卡顿,拉高整体运营成本。

  • 数据安全风险:数据篡改、越权访问、敏感信息泄露,既造成资产损失,还会引发模型输出偏差、影响可用性。

  • 边界防护的缺失:DDoS、恶意高危操作劫持核心业务资源等,低成本的攻击就能引发严重损失。

这些问题,是我们提供 Token 服务时,整个超节点都必须考虑的痛点。

(1)算力体系化防护和数据供应链条管控


首先需要搭建分层、全链路的算力安全防护体系,从算力运行安全、模型安全、Token 产出安全三层架构入手,覆盖攻防检测、数据防泄漏、AI 安全审计等能力;同时从数据安全、供应链安全维度落地安全管控策略,做好模型合规训练、数据分级、服务器安全检测等。通过两者的协同防护消除安全隐患,保证 Token 业务稳定运行,最终达成最优的投入产出比。

07

运维保障超节点业务永续

接下来要考虑的核心点就是超节点系统能否稳定运行,而这正是运维要解决的核心问题,也是保证超节点业务永续的关键。

运维的本质是赋能人、管理物、处置事。当前超节点在运维方面面临几个痛点:

  • 超节点规模越来越大,庞大的设备节点和芯片规模带来了运维视野的盲区;

  • 告警风暴——出问题时大量告警同时爆发,导致问题处置力不从心;

  • 风险隐患难以提前感知。

基于以上挑战,我们采用的是统一运维智能体架构。

(1)统一运维智能体


这项技术沉淀新华三 5000万个真实运维案例场景的经验积累,与 AI 智能体技术充分整合;通过排障、巡检和调优等多智能体的协同,实现了贯穿“规、建、维、优”全生命周期的智能运维。

采用统一运维智能体技术的新华三智能运维平台,标志着新华三的运维服务正式从“业务工具”向“智慧伙伴”迈进。

我们可实现开局部署时间节省 60%,重复告警压缩 90%,故障排查效率也提升 90%。全方位保障 AI 基础设施的稳定运行。

08

超节点不是产品技术的简单集成

而是全栈能力的极致协同

众所周知,单域能力的简单叠加并不能达到系统的最优,真正起决定性作用的是全栈能力的极致协同。超节点正是这个理念的最佳实践。


新华三发布的 UniPoD S80000 超节点系列是一个非常广泛的系列,从入门到超大规模场景,这是新华三全栈能力的技术结晶,也是目前无论从规模、密度还是复杂度来说具备行业领先水平的产品,更是我们践行全栈协同核心理念的一个成果。

1024 超节点可通过 Scale-Up 扩展至 16384 卡,同时也支持 73728 卡的超大规模集群。

如果说 1024 超节点是 S80000 系列极致性能的代表,那么 256 超节点就是客户业务灵活扩展的首选。

256 超节点单柜 64 卡,支持 256 卡全互联,相比传统AI服务器,集群互联带宽提升 4 倍,单卡推理性能提升 2 倍,单卡训练性能提升 1.5 倍。

09

构建开放兼容的超节点架构

完全兼容国产生态

以上是我们的超节点在算、网、存、云、安、维六个方面的思考和实践。我们也看到,AI 的发展方兴未艾,芯片、协议、软件均呈现出百花齐放、百家争鸣的态势。

作为 AI 基础设施提供商,我们的态度是技术无边界,选择不设限。新华三坚持与产业链伙伴一起深度合作,联动上下游伙伴,构建开放兼容的超节点架构,完全兼容国产生态。


当前各类 GPU 芯片架构各异、标准不一。新华三秉持开放解耦设计理念,通过异构算力生态、算力互联生态和融合软件生态这三个生态能力,构建了多元算力开放架构。我们支持多厂商 GPU 芯片的平滑接入,推动算网深度融合,为客户提供最优超节点解决方案。

最后,未来的超节点并不是单一产品或单一技术的竞争,而是全栈能力与系统效率的综合较量。新华三将继续秉承开放兼容的设计理念,以全栈之力持续优化超节点系统,助力用户实现 Token 最佳性价比。

谢谢大家!

关注+星标,获取AI前沿进展与开源一线动态

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
懂车帝大量删视频,彻底玩砸了!

懂车帝大量删视频,彻底玩砸了!

财经三分钟pro
2026-10-16 19:36:13
被美方驱逐的美籍华人发现:恢复中国籍的门槛,比拿美国绿卡还高

被美方驱逐的美籍华人发现:恢复中国籍的门槛,比拿美国绿卡还高

浯江孤舟
2026-10-17 10:47:18
中国“英伟达”诞生!拥有100%全自研技术,国产替代将要崛起了

中国“英伟达”诞生!拥有100%全自研技术,国产替代将要崛起了

负面黑洞
2026-10-16 15:18:41
赢球也挨骂,输球也挨骂:张耀坤,你凭什么带这支国少?

赢球也挨骂,输球也挨骂:张耀坤,你凭什么带这支国少?

中场阴谋家
2026-10-17 19:12:06
安东诺夫机场无冤魂,看透俄乌战争的本质!

安东诺夫机场无冤魂,看透俄乌战争的本质!

梦归秋辰
2026-10-16 17:15:42
曾喊话冲击世界第一,负债66亿!又一国产车企倒下,曾拉华为站台

曾喊话冲击世界第一,负债66亿!又一国产车企倒下,曾拉华为站台

二大爷观世界
2026-10-15 18:52:36
登岛立竿见影,仅48小时,高市就开始报复,中国一句话让日本破防

登岛立竿见影,仅48小时,高市就开始报复,中国一句话让日本破防

三生一梦莫
2026-10-15 21:26:28
上市5天就破发的新股,现在比发行价还低18%,今年有8只新股破发

上市5天就破发的新股,现在比发行价还低18%,今年有8只新股破发

财经智多星
2026-10-17 20:29:30
年轻人都想买的7座SUV,被他造出来了

年轻人都想买的7座SUV,被他造出来了

新车评网
2026-10-17 15:42:05
未来3到5年,找工作将消失?不是没岗位,而是雇佣关系正在崩塌

未来3到5年,找工作将消失?不是没岗位,而是雇佣关系正在崩塌

时尚的弄潮
2026-10-17 06:51:10
华南虎没有灭绝?专家:如果还有,最可能在山西,不在广东福建

华南虎没有灭绝?专家:如果还有,最可能在山西,不在广东福建

掠影后有感
2026-10-17 09:52:00
DeepSeek V4.1 Flash新版本发布 许愿式编程一键成真 网友怒赞:太上进 超级斩杀线

DeepSeek V4.1 Flash新版本发布 许愿式编程一键成真 网友怒赞:太上进 超级斩杀线

快科技
2026-10-17 17:50:07
切赫悲剧重演?34岁大马丁头部被对手撞击:治疗8分钟 被担架抬走

切赫悲剧重演?34岁大马丁头部被对手撞击:治疗8分钟 被担架抬走

风过乡
2026-10-17 21:28:33
多亏俄乌大战,我们才彻底认清俄罗斯真面目!简单来说就是两句话:东方的命,西方的心

多亏俄乌大战,我们才彻底认清俄罗斯真面目!简单来说就是两句话:东方的命,西方的心

扶苏聊历史
2026-10-15 15:10:43
陈坤公开发文,高调官宣周迅新喜讯,两人领证结婚传闻早真相大白

陈坤公开发文,高调官宣周迅新喜讯,两人领证结婚传闻早真相大白

秋之洁
2026-10-17 14:53:03
九十五岁的宋美龄还穿着高跟鞋,这个女人奢侈了一辈子!

九十五岁的宋美龄还穿着高跟鞋,这个女人奢侈了一辈子!

手工制作阿歼
2026-10-17 00:46:34
信访新规明确:越级上访就问责!可如果基层不受理,该到哪说理去

信访新规明确:越级上访就问责!可如果基层不受理,该到哪说理去

职场资深秘书
2026-10-17 11:37:20
博主:泰山现场播报队内五名亚运会季军成员,观众致以掌声

博主:泰山现场播报队内五名亚运会季军成员,观众致以掌声

懂球帝
2026-10-17 20:35:03
与日本丈夫离婚真相大白!林志玲近况曝光,难怪总拍大胆杂志谋生

与日本丈夫离婚真相大白!林志玲近况曝光,难怪总拍大胆杂志谋生

诺诺谈史
2026-10-04 11:26:19
永不原谅!杨议硬刚郭德纲,潘长江补刀,这次谁都救不了

永不原谅!杨议硬刚郭德纲,潘长江补刀,这次谁都救不了

角落的隐藏美景
2026-10-17 11:42:52
2026-10-17 22:20:49
智猩猩
智猩猩
AI 技术内容与服务平台
246文章数 11关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

男子服刑七年 出狱后发现账户里数十万资金仅剩6.43元

头条要闻

男子服刑七年 出狱后发现账户里数十万资金仅剩6.43元

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

庾澄庆罕谈前妻 撕下伊能静仅剩的体面

财经要闻

新一轮大跌源头,找到了!

汽车要闻

特斯拉会飞?全新Roadster亮相

态度原创

本地
时尚
教育
健康
公开课

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

降落伞裤的3组搭配,打破秋冬沉闷感!

教育要闻

石河子大学2027届保研数据:化工登顶,体育垫底,一头一尾差4倍

看着很健康的人,怎么会突然猝死?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版