网易首页 > 网易号 > 正文 申请入驻

国产芯片厂为什么扎堆布局超节点?

0
分享至

(文/孙梅欣 编辑/吕栋)

在今年WAIC展会上,超节点成为热词。华为的昇腾950超节点、阿里磐久AL128超节点、沐曦的曦景S系列超节点、中兴通讯的OEX超节点......几乎所有底座厂商,都在谈论并且推出超节点产品。

作为英伟达在2023年就提出的概念,超节点在行业内并不是一个新词汇。它通过将内部GPU进行高速总线互联,支撑起更大的计算任务,加速GPU之间的参数交换和数据同步,缩短大模型的训练周期。

英伟达的这一开拓,也将芯片厂商过去卖GPU的概念,变化成为通过AI超级计算机提供算力基础。

而国产芯片厂商纷纷入局,这背后既有需求发生的改变,也有国产AI芯片厂商竞争正在从单点突破走向系统协同,从芯片竞争走向AI基础设施竞争的产业逻辑变化。

“时间到了”,超节点火了

当展台上出现大量小型数据中心一样的超节点柜机时,大多数人都会有个疑问:什么是超节点?

超节点的核心,是把原本分散的众多AI芯片,通过超高速互联、统一软件和系统调度,组成一台”超级计算机”。其重点不在于有多少GPU的堆叠,而是这些GPU之间能不能通过有效通信,像同一块高性能GPU一样协同工作。

之所以超节点在今年的WAIC上成为热词,在行业人士看来,是因为“时间到了”。

从行业趋势来说,英伟达在提出超节点概念时就已经提到,随着大模型从训练模型转向推理模型,单块GPU的性能已经不够用了,边际效应正在逐渐显现,需要通过系统集成之间的信息互联去支撑更大的算力需求。

从国内现实来说,国内芯片厂商也直面和英伟达单颗GPU之间存在较大差距。

一家头部国产芯片厂商的技术工程师对观察者网坦言,目前国内芯片厂商的制造能力,和全球顶尖厂商之间仍有差距,这其中有制造工艺、良率等各方面的差异。

“我们目前这一代的产品,基本可以对标英伟达H20的产品,但和英伟达下一代Rubin这一代的算力相比,还有1代到1.5代的差距。”该工程师坦言,差异主要来自于生产工艺。

良率也是造成掣肘的问题。他提到,一些全球顶尖厂商生产芯片,100颗里有90颗都能使用,良率更高浪费越少:“这些都需要常年累积下来的经验,国内大部分厂商还做不到这一点。不论工程还是产线,从50%的良率提升到90%的良率,至少需要3-5年时间去弥补。但是现在整体AI需求的爆发,没有时间去干等技术的提升,因此需要通过其他的集成方式,去提高整体的性能。”

传统上试图通过堆卡去弥补性能上的不足,但算力需求的急剧膨胀使得单纯的堆卡集成已经不能提供有效算力,而是需要芯片之间的互通互联带来整体算力的提升。

天数智芯副总裁石加圣举了一个例子:“一张内容很多、时间有限的试卷,即使能力很强的人,也未必能够独自完成全部题目。简单增加做题人数,如果大家各做各的、重复劳动,最终效果未必理想。更有效的方式,是把任务合理拆分,让不同的人并行完成各自负责的部分,同时通过高效的信息传递和统一调度,及时汇总结果。只有这样,个人能力才能真正转化为团队的整体能力。”

在这一点上,去年华为的CloudMatrix384超节点AI集群就提供了一个很好的思路,到了今年,则迅速在国产头部厂商之间铺开。

根据WAIC展会上各家厂商提供的官方数据,华为Atlas 950 SuperPoD能够提供1 EFLOPS FP8 、2 EFLOPS FP4算力;曙光8000的单个计算单元密度较其他超节点提升20倍,同时采用自研scaleFabric类IB原生RDMA无损高速互连技术,实现十万卡规模超高速稳定互连。

天数智芯的超节点则面向大模型训练与高并发推理场景,以国产通用GPU为核心,实现144芯高速全互联,通过高带宽互联、统一资源调度和软硬件协同优化,提供稳定、可靠、可扩展的高质量算力;燧原科技与中兴通讯合作的云燧ESL64-O超节点,将Scale-up和Scale-out进行融合,可横向扩展到16384集群超节点。

用产业链能力补足制程工艺差距

据展会上的工作人员透露,现场展示的部分超节点机柜,一个核心算力单元的价格就上亿元,可见其研发和部署成本之高。也就是说,当下超节点不论是研发、建设还是使用,成本都极为高昂,为何各大厂商仍然选择积极投入?

原因还是在于,市场对于算力的需求在急剧膨胀,以及越来越多的企业需求开始从训练模型转向推理模型。

相较于模型训练,面向大规模用户的在线推理服务通常需要同时满足高吞吐和低延迟要求。对于无法由单卡容纳的大模型,以及采用张量并行、专家并行或Prefill/Decode分离的推理系统,GPU之间需要频繁交换激活数据、Token或KV Cache,因此对互联带宽和通信延迟提出了更高要求。

这也是产业界发展超节点,并从芯片、互联、软件栈和运维等层面进行系统级优化的重要原因之一。

石加圣提到,随着大型模型的参数量和上下文长度持续增加,单卡显存容量和计算能力往往难以满足训练或高性能推理需求,因此需要采用数据并行、张量并行、流水线并行或专家并行等方式,在多个GPU之间切分计算任务。

传统集群主要通过高速网卡实现跨服务器通信,而超节点则进一步扩大了高带宽、低延迟的Scale-up互联域,能够降低部分跨GPU通信的开销。

他解释,当前越来越多的大型模型采用MoE架构。专家并行会带来频繁的跨GPU Token路由和All-to-All通信,因此对互联带宽、通信延迟和软件通信效率提出了较高要求:“对于通信密集型的大规模MoE训练和推理任务,超节点有望减少跨节点通信开销,并在满足一定利用率和业务规模的条件下提升整体性能与性价比。”

中科曙光技术工程师王德志认为,规模扩大以后,系统复杂度不是简单地线性放大。一方面,大规模并行计算需要整个系统高度协同,任何网络或计算短板都会使性能大幅损失,必须保证规模扩展时性能效率近似线性增长;另一方面随着部件数量的上升,故障概率也会大幅增加,进一步增加了保证系统可靠性的难度,其中涉及到通讯、功耗、散热等一系列问题。

除了算力本身需求增长之外,还有一个国内的客观因素在于,在国产芯片性能差异和被“卡脖子”的当下,如何通过系统性的解决方式,把差距补回来。

摩尔线程副总裁马鉴就提到,超节点本身应对的是“卡脖子”的问题:“厂商实际上要解决的是用更高的密度去解决单卡解决不了的问题,通过系统上的提升去对标国际先进领先的超大规模的集群,去训练出同样先进的模型。”

石加圣认为,中国拥有规模极大的制造业基础,以及很强的产业协同、系统集成和场景落地能力:“对于算力产业而言,单颗芯片在工艺和性能上的进步十分重要,但最终交付能力并不只取决于单个指标,还取决于芯片、封装、存储、互联、软件栈和整机系统之间的协同。”

他认为,面对部分环节的短板,可以通过架构创新和系统级优化进行一定程度的缓解,通过综合评估性能、功耗、成本和工程复杂度等方式来确认替代方案的可行性。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“一到暑假奶奶就变成了鬼火少年…?”哈哈哈七旬老奶深夜怒拿五杀!

“一到暑假奶奶就变成了鬼火少年…?”哈哈哈七旬老奶深夜怒拿五杀!

不二表姐
2026-07-27 23:34:41
美联储还没出手,日本按下自爆按钮!时隔31年加息,日元跌穿40年

美联储还没出手,日本按下自爆按钮!时隔31年加息,日元跌穿40年

菁菁子衿
2026-07-27 11:21:18
美股芯片股血流成河,英伟达重挫5%,中国资产普涨,国际油价大幅回落

美股芯片股血流成河,英伟达重挫5%,中国资产普涨,国际油价大幅回落

第一财经资讯
2026-07-28 07:20:46
惨案!儿媳连刺79岁婆婆245刀! 丈夫曝导火索: 听说妹妹要来, 她"整个人变了"

惨案!儿媳连刺79岁婆婆245刀! 丈夫曝导火索: 听说妹妹要来, 她"整个人变了"

北国向锡安
2026-07-27 10:35:42
爸妈一分钱存款都没有是啥体验?网友:戳到我的痛点了,遇到这样的父母也算我倒霉

爸妈一分钱存款都没有是啥体验?网友:戳到我的痛点了,遇到这样的父母也算我倒霉

带你感受人间冷暖
2026-07-25 00:05:15
激烈!又一电影撤档!周星驰笑开花!《功夫女足》30亿美梦来了?

激烈!又一电影撤档!周星驰笑开花!《功夫女足》30亿美梦来了?

立场影视
2026-07-27 16:52:11
澎湃OS 4全面曝光:小米花了十六年,终于下决心把地基炸了!

澎湃OS 4全面曝光:小米花了十六年,终于下决心把地基炸了!

明美无限
2026-07-27 23:17:43
中东第二战场终于打响了!

中东第二战场终于打响了!

星火聊天下
2026-07-26 07:24:03
莫迪政府单方面主张5800平方公里领土归印,中方回应:中国领土

莫迪政府单方面主张5800平方公里领土归印,中方回应:中国领土

流史岁月
2026-07-28 10:40:40
和吴越再婚真相大白后,辛柏青首谈亡妻朱媛媛,他的回应字字催泪

和吴越再婚真相大白后,辛柏青首谈亡妻朱媛媛,他的回应字字催泪

琴琴有氧运动
2026-07-25 13:03:21
8月1日正式落地!燃油车全面整改,买车卖车年检全部更新!

8月1日正式落地!燃油车全面整改,买车卖车年检全部更新!

阿芒娱乐说
2026-07-28 06:02:26
赵雅芝一生最恨两个女人:一个跟她抢郑少秋,一个捅破她的婚外情

赵雅芝一生最恨两个女人:一个跟她抢郑少秋,一个捅破她的婚外情

观察鉴娱
2026-07-26 15:19:28
终于⋯千万流量、SOD女子社员拔掉口罩了!

终于⋯千万流量、SOD女子社员拔掉口罩了!

孤独的独角兽影视
2026-07-28 10:40:09
50亿真实大案改编,80%台词来自真实审讯录音!贾玲新片海报刚出就撕番!

50亿真实大案改编,80%台词来自真实审讯录音!贾玲新片海报刚出就撕番!

情感大头说说
2026-07-28 02:13:18
陈丽华是慈禧什么人,跟溥仪又有什么关系?为何能居住在颐和园?

陈丽华是慈禧什么人,跟溥仪又有什么关系?为何能居住在颐和园?

历史龙元阁
2026-07-27 10:55:18
左权牺牲后,八路军派出高手为他报仇,把凶手全部干掉了

左权牺牲后,八路军派出高手为他报仇,把凶手全部干掉了

南书房
2026-07-22 19:20:05
尴尬了!美航母刚进南海,10艘万吨大驱登场,菲方终于明白一件事

尴尬了!美航母刚进南海,10艘万吨大驱登场,菲方终于明白一件事

阿伧说事
2026-07-28 11:50:06
哈里王子妻子在戴安娜王妃故居拍摄“低俗”照片,威廉王子很震怒

哈里王子妻子在戴安娜王妃故居拍摄“低俗”照片,威廉王子很震怒

原来仙女不讲理
2026-07-28 08:16:46
比诺奖更残酷!百年菲尔兹奖:从不奖励天才的晚年,只奔赴人类的未来

比诺奖更残酷!百年菲尔兹奖:从不奖励天才的晚年,只奔赴人类的未来

浪子说
2026-07-27 09:42:56
原湖北电视台一哥王茂亮落马!

原湖北电视台一哥王茂亮落马!

南传
2026-07-27 17:38:59
2026-07-28 12:35:00
观察者网 incentive-icons
观察者网
全球视野,中国关怀
146627文章数 1851033关注度
往期回顾 全部

科技要闻

Kimi K3完整开放!2.78万亿参数模型可部署

头条要闻

牛弹琴:在中东地区 巴基斯坦又拿下一个历史性协议

头条要闻

牛弹琴:在中东地区 巴基斯坦又拿下一个历史性协议

体育要闻

传奇同框!63岁乔丹与51岁贝克汉姆共进午餐

娱乐要闻

李登科向李宏毅道歉 称给他道歉不丢人

财经要闻

悟空租车乱象追踪:货不对板与迟来的赔偿

汽车要闻

极氪9X五座版正式上市 限时售价45.19万元起

态度原创

健康
家居
亲子
时尚
手机

中风急救,第一时间该做什么?

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

我养女儿的新重点:原来所谓能力强,就差在这一个字!

地表最强“小个子穿搭教科书”,结婚了!

手机要闻

摩托罗拉首款兼容GrapheneOS手机明年登场

无障碍浏览 进入关怀版