网易首页 > 网易号 > 正文 申请入驻

国产超节点元年后,迎来第一次期中考试

0
分享至



过去两年,大模型架构最大的变化,是MoE(混合专家)模型的流行。MoE把模型切成数十上百个专家模块,每次推理只激活其中一部分,最顺手的部署方式就是“一卡一专家“,专家摊得越开,并行度越高。

行业给出的解决方案,便是超节点:依靠高带宽柜内互联,把几十上百颗GPU收拢进统一内存域,以此化解通信与显存的双重矛盾。自去年底到今年WAIC,华为、摩尔线程、沐曦等厂商陆续推出整机柜乃至跨机柜超节点方案,单机卡数纪录从256一路刷新至1024。AI芯片的竞争,已经跳出单卡性能比拼,演进为整套系统能力的较量。

但热闹的发布会背后,现实略显尴尬:能够真正实现规模部署、产生持续商业收入的超节点产品寥寥无几。

01
为什么很多超节点用不起来?

算力市场的增长预期是确定的。IDC预计,2026年中国智能算力规模达2576.5 EFLOPS,同比增长87.9%,2030年将达10524.3 EFLOPS,2025-2030年复合增速50.3%,显著高于通用算力27.7%的增速。旺盛的算力需求客观存在,但高需求不等于硬件产品就能够顺理成章完成商业转化。对企业客户而言,引入一套超节点,绝不是简单采购一批GPU硬件,而是要综合评估迁移适配、机房改造、长期运营的综合代价。从发布到规模部署,需要克服多个难题。

一是迁移成本。国产方案普遍宣称兼容CUDA,但兼容不等于无损迁移,算子覆盖、精度对齐、性能调优,每一项都是繁重的工程工作。不少客户的真实状态是:测试环境能跑,生产环境掉坑;纸面性能可观,实际负载打折。

二是部署门槛。当前主流整机柜超节点多为专属形态,配套专属液冷与供电,意味着“先建房、再上柜”,供电改造、承重加固、散热重构,决策链以半年计,投入以千万计。而中国真正掏钱的存量客户,金融、能源、制造的头部企业,大多有现成机房,但不可能为AI重建一座数据中心。产品定义时没考虑这点的方案,往往发布会即是巅峰。

三是运营与验证成本。超节点属于千万级甚至上亿的大额IT采购。客户不会仅凭纸面参数就下定决心,必须要有同规模、同业务场景下稳定运行的真实案例作为参考。这造成一个马太效应:没有案例的拿不到案例,有案例的越滚越多。行业里相当一部分产品发布,本质就是厂商在寻找第一个灯塔客户的过程。与此同时,市场真实业务场景也和部分产品的设计出发点出现错位。很多超节点产品的叙事围绕万卡大模型训练展开,但当下市场真正愿意掏钱的场景,更多是私有化部署、大规模在线推理。推理业务流量波动剧烈,客户不追求一次性把算力拉满,更看重算力可以分步扩容,避免硬件闲置浪费,还要控制每一轮Token产出的长期运行成本。

当液冷、高速互联这些底层硬件技术持续突破之后,单纯比拼硬件堆叠已经很难拉开差距。超节点的竞争重心,正在从物理硬件参数,向真实业务下的系统经济效能转移。

02
面向真实落地,如何优化系统经济效能?

从客户痛点出发,天数智芯选择了最契合场景落地的方案:不打造规格最大的机柜,而是打造更容易落地进门、综合成本更划算的算力柜子。10月12日,2026中国国际工业博览会现场,天数智芯发布系统化超节点布局的首款产品天垓300 IXL144。作为业界最高密度的单机柜GPU超节点,该方案单柜可集成144颗GPU和18颗CPU,配备约10.1TB显存。其价值不止于密度,更在于系统经济效能的整体改善。整套方案的设计出发点,就是回应客户关心的迁移、机房、运营等问题。



首先是依靠软硬件栈能力,压低业务迁移的实际代价。超节点从方案走向应用,客户首先要面对模型、框架和代码的迁移成本。硬件能力能否被快速使用,取决于软件栈对已有开发成果的支持,以及后续调优所需的工作量。天垓300 IXL144依托天数智芯自主通用GPU架构与自研软件栈,兼容CUDA生态,支持客户复用已有模型、主流框架及开发经验,降低迁移工作量与上线成本。作为通用GPU,同一底座既承载大模型训练与推理,也支撑金融估值、科学智能等任务,区别于仅适配特定AI负载的专用芯片,迁移成本与上线周期相应下降。更重要的是,Agent正在参与“造AI”本身,成为压低迁移成本的新路径。近期天数智算软件栈将迎来版本更新,进一步构建面向Agent协同的智能开发套件,把AI引入模型适配、部署与性能优化等环节,推动开发从人工操作为主向人机协同演进。当AI介入适配与调优,客户迁移与上线的人力成本、时间成本将得以进一步下降。天数智芯的软件迁移能力已经在多个行业的真实生产项目完成验证。截至目前,天数智芯已服务30多个行业的380多家商业化客户,落地部署超过1000个项目。

其次是机柜形态的取舍,优先适配存量机房现实条件。和行业部分采用宽体、高度定制化整机柜的思路不同,IXL144采用贴近常规机柜标准的单机柜形态。只要客户现有机房的供电、承重、散热条件能够匹配,这套设备就可以直接部署进存量机房,不需要为算力设备专门开展机房新建或者大规模基建改造。在算力扩容策略上,方案支持一次规划、分步扩展。企业可以根据自身业务发展节奏逐步叠加算力,不必一次性完成全部硬件采购,以此规避业务尚未起来,硬件已经全部就位带来的算力闲置风险,大幅降低项目前期投资压力。

最后是通过柜内互联与系统调度协同,改善长期运营效率。天垓300 IXL144内部实现高带宽整柜P2P互联,拥有100ns级单跳时延,原生Load/Store以及跨节点显存直访,将144颗GPU构建成具备统一内存语义的高带宽域。对于MoE模型非常关键的All‑to‑All高频交互,尽量约束在单机柜内部完成,减少跨机柜通信带来的时延损耗,在特定MoE All‑to‑All场景下有效带宽可以提升15%,资源利用率与单柜业务承载随之改善。

产品的系统调优,重点面向当下主流的大规模在线推理业务,针对高并发请求、多业务并行与流量波动等运行特点做深度优化,兼顾业务高峰期的承载能力和低谷阶段的算力利用效率。本地化团队在交付与服务环节还可提供必要的部署、运维与扩容支持,为大型算力投入提供长期保障。根据官方测算,该方案每百万有效Token的成本,相比国际主流方案能够下降40%,直接缓解客户长期业务运营成本压力。天垓系列已实现万卡级规模部署,天数智芯由此具备系统级交付与运维经验,也破解了行业普遍存在的验证成本难题,缓解“没有案例就拿不到新案例”的马太效应。

“超节点不是单一产品,而是一项系统工程,最终比拼的是系统经济效能。”天数智芯副总裁邹翾表示,“天垓300IXL144只是一个开始,是天数智芯整套系统化超节点方案中率先推出的第一个;面向不同算力规模、不同机房条件的完整产品布局已经形成,后续将在合适场合逐一呈现,系统展示我们对超节点的整体思考与技术布局。”

03
不止云端超节点:云‑边‑端分层算力布局

AI应用正在从云端走向现场,算力需求呈现分层化特征,端侧算力不是云端能力简单下放,而是独立且体量庞大的需求层级。云端承接大规模训练与复杂结果复判;大量对实时性、数据本地安全有要求的业务,则需要在端侧现场完成推理。

长期以来,端侧算力大多依靠专用硬件承载,算子库、编译器工具链能力薄弱,模型迭代升级之后往往难以移植,设备容易形成算力孤岛。由云端GPU厂商向下做端侧产品,核心优势来自架构同源:把成熟通用GPU架构与全套软件工具链下沉至端侧,摆脱传统端侧硬件的工具链短板;打通“云端训练、端侧部署、云端复判”的业务闭环,保障云端、端侧模型精度对齐,避免端侧成为算力孤岛。



工博会现场,天数智芯同步展出彤央端侧系列算力产品。智铠系列承担云端、边缘推理任务;全新彤央系列以算力模组、算力终端形态落地,服务具身智能、物理AI、本地离线数据审核等多样化场景。例如彤央TY1200算力终端,可离线运行大模型,完成投资材料分析、合同审核等数据敏感业务;也可以作为具身智能设备的“外挂大脑”,为物理AI提供本地实时推理能力。

依托“通用GPU+自研软件栈”底座,天数智芯已经在众多行业形成落地案例:工业领域完成时序大模型训练微调与大模型推理部署,赋能工艺优化;金融行业支撑多模态大模型、蒙特卡洛模拟、金融估值计算;能源矿业实现物探全流程千卡级部署、智慧矿山视频智能分析;城市治理完成交通长尾事件识别、园区存量摄像头智能巡检;医疗场景对接医院业务系统,落地病历质控、医保审核、ICU辅助决策等。

04
超节点下半场:从拼卡数到拼使用价值

回看这一年的超节点竞赛,厂商的路线已经分化成两条。一条路线追求超大规模,能够支撑超大参数模型训练。华为、曙光等把超节点做到跨机柜、千卡级,追求最大的算力规模,但这类方案配套专属液冷与供电,往往要求专门机房,供电、承重、散热都要改造,改造成本高、部署周期长。另一条路线选择通用单机柜形态,机房改造成本可控,但受限于空间、散热约束,单机柜内部可集成的GPU数量有限,超节点的算力密度上不去。这就构成了产业现实矛盾:高密度和机房友好,往往难以兼得。很多方案要么密度够,但必须改造甚至重建机房;要么适配存量机房,单机柜算力规模又存在明显短板。

天垓300 IXL144的144卡高密度方案,价值恰恰就体现在这个取舍之间。它没有走宽体定制机柜路线,而是在贴近行业标准机柜的物理边界之内,实现144颗GPU的高密度集成。既把单机柜算力密度拉到新高度,又最大程度保留对存量机房的兼容性,把机房改造成本压到最低。

超节点竞争的下半场,比拼的不再是谁能做出规格最大的硬件柜子,而是如何在硬件密度、基础设施适配、软件迁移成本之间找到最优解。IXL144代表的正是这样一种产品思路:不只为实验室跑分设计,面向千行百业存量数据中心,让高密度超节点真正实现“造得出,更用得起”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
7岁女孩吃完自助,衣兜撑满,店员怀疑偷拿!翻开布兜,众人哭了

7岁女孩吃完自助,衣兜撑满,店员怀疑偷拿!翻开布兜,众人哭了

品读时刻
2026-10-16 09:04:23
网传“退休金比打工人工资还高”,评论区炸锅了

网传“退休金比打工人工资还高”,评论区炸锅了

墨言执笔
2026-10-13 05:47:41
今年冬天可能是60年以来最反常的冬天,有三大特点,大家要注意

今年冬天可能是60年以来最反常的冬天,有三大特点,大家要注意

新时代的两性情感
2026-10-15 10:08:12
曝60岁老戏骨上海独栋别墅,院子大到能踢球,炫富的毛病还是没改

曝60岁老戏骨上海独栋别墅,院子大到能踢球,炫富的毛病还是没改

山谷里的怒吼
2026-10-14 19:17:29
表哥在澳门赌博,7天赢了800万,第八天的时候,人在宾馆没了

表哥在澳门赌博,7天赢了800万,第八天的时候,人在宾馆没了

千秋文化
2026-05-25 19:50:55
初中生搀扶摔倒大爷却被讹25万,保送被取消后自尽,大爷一家被灭门

初中生搀扶摔倒大爷却被讹25万,保送被取消后自尽,大爷一家被灭门

罪案洞察者
2025-10-22 10:44:02
故事:妹妹远嫁8年未曾回家过,哥哥前往探望,见到妹夫时愣住了

故事:妹妹远嫁8年未曾回家过,哥哥前往探望,见到妹夫时愣住了

潮河讲堂
2025-05-16 18:17:01
新机怎么就「褪色」了?红色iPhone 18 Pro被吐槽:真机惨不忍睹

新机怎么就「褪色」了?红色iPhone 18 Pro被吐槽:真机惨不忍睹

泡泡网
2026-10-15 15:43:06
莫迪不宣而战!印军越境开火,美派F-35A助阵,中印边境恐要生变?

莫迪不宣而战!印军越境开火,美派F-35A助阵,中印边境恐要生变?

孤城落叶
2026-10-12 15:01:41
一查吓一跳!被判刑的明珍珍,私生活奢侈无度,远超大众想象

一查吓一跳!被判刑的明珍珍,私生活奢侈无度,远超大众想象

翰飞观事
2026-10-11 11:52:03
“摸奶子”再惹争议,OPPO的流量反噬开始了

“摸奶子”再惹争议,OPPO的流量反噬开始了

品牌头版
2026-05-13 10:18:15
从3300亿到1900亿!Labubu神华破灭?泡泡玛特PE从百倍跌到12倍

从3300亿到1900亿!Labubu神华破灭?泡泡玛特PE从百倍跌到12倍

懂财帝
2026-10-16 14:56:04
四川炸串摊主遭顾客差评后轻生,家属已报案,多部门介入处置;摊主朋友:她是很踏实很本分的人,待人温柔、客气,摊上东西会给自己孩子吃

四川炸串摊主遭顾客差评后轻生,家属已报案,多部门介入处置;摊主朋友:她是很踏实很本分的人,待人温柔、客气,摊上东西会给自己孩子吃

扬子晚报
2026-10-15 18:01:10
法国变天了!勒庞当众表态:我一上台,乌克兰一分钱也别想拿到!

法国变天了!勒庞当众表态:我一上台,乌克兰一分钱也别想拿到!

地球记
2026-10-15 20:25:59
“江苏体制内独生女炫耀家境!”惹怒网友:你在这装什么呢?

“江苏体制内独生女炫耀家境!”惹怒网友:你在这装什么呢?

林林先生
2026-10-14 11:07:09
国内首次!内蒙古又有重大发现→

国内首次!内蒙古又有重大发现→

丰川大地
2026-10-13 22:54:46
家长晒“10岁女儿的脚”,才知道啥叫家教差距,很多人被养得太差

家长晒“10岁女儿的脚”,才知道啥叫家教差距,很多人被养得太差

番外行
2026-10-10 10:07:57
银行宣传“社银贷”!灵活就业人员可以贷款缴社保,三方共赢

银行宣传“社银贷”!灵活就业人员可以贷款缴社保,三方共赢

六子吃凉粉
2026-10-15 15:52:57
马继华点评王曼昱,被指双标:如果孙颖莎进了决赛?张本美和兼三,王曼昱仅兼二,金牌含金量低

马继华点评王曼昱,被指双标:如果孙颖莎进了决赛?张本美和兼三,王曼昱仅兼二,金牌含金量低

开成运动会
2026-10-15 17:44:34
于和伟湘江边一个镜头封神!零台词零眼泪,却让亿万观众瞬间破防

于和伟湘江边一个镜头封神!零台词零眼泪,却让亿万观众瞬间破防

陈意小可爱
2026-10-16 11:30:55
2026-10-16 15:35:00
半导体产业纵横 incentive-icons
半导体产业纵横
探索IC产业无限可能。
3396文章数 1348关注度
往期回顾 全部

科技要闻

杨天若院士:AI是中国弯道超车的机会

头条要闻

泽连斯基公开叫板"受够了" 特朗普:他不值得美打交道

头条要闻

泽连斯基公开叫板"受够了" 特朗普:他不值得美打交道

体育要闻

工资一分不要,曼联名将想把母队带回西甲

娱乐要闻

徐艺洋官宣生子,完全看不出生过宝宝

财经要闻

特斯拉“飞”起来了!意向金33.2万元

汽车要闻

1213公里不充电 宝马这台纯电车真能跑这么远?

态度原创

教育
亲子
旅游
艺术
公开课

教育要闻

领度文化值不值得报名?报名前需要注意什么?这份报名参考请收好

亲子要闻

昊泽三步法解决孩子厌学复学率95%

旅游要闻

本周末的双流凤翔湖,要被甘孜巴塘“请客包场”了

艺术要闻

徐明 风景油画选

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版