网易首页 > 网易号 > 正文 申请入驻

业界最高密度单机柜超节点来了

0
分享至



今年的算力展会上,超节点是最不缺关注的那类产品。各家比的东西也很直接:一个机柜,到底能塞下多少张卡。

看多了会发现一个现实问题,卡越塞越多,但这些超级机柜大多是专用形态,供电、液冷都得单独配,老数据中心往往接不住。

工博会上,天数智芯拿出的天垓300 IXL144,想解决的就是这件事。单柜144颗GPU、18颗CPU,约10.1TB显存,用的却是贴近标准的单机柜形态,现有机房条件匹配就能上。


超节点的门槛,不止在芯片上

大模型和智能体把算力需求一再推高。IDC的判断是,2026年中国智能算力规模约2576.5 EFLOPS,同比增长87.9%。需求是真的,超节点也因此从技术验证走到规模采购。

真到掏钱的时候,客户关心的反而不是峰值算力。机房要不要改造,已有模型和代码要不要重写,每百万Token的成本能不能降下来,这三件事决定了一套超节点能不能铺开。

换句话说,超节点拼到这一步,已经不只是拼芯片,而是拼整套方案在客户现场好不好落地。


机房改动尽量小

这是IXL144和不少现有整机柜方案最不一样的地方。

常见的整机柜超节点,机柜是专门设计的,液冷、供电也是专属配套,往往要专门机房,相当于“先建房、再上柜”,投入和周期都不小。

IXL144贴近常规机柜标准,供配电、承重、散热条件对得上,就能进现有机房;组网拓扑也支持一次规划、分步扩容,不用一开始就把钱砸满。对机房空间紧张、又不想新建的客户来说,这一点比单纯多塞几张卡更实在。

代码和模型,尽量不重写

迁移是另一道坎。天数智芯用的是自研通用GPU架构和软件栈,兼容CUDA,客户已有的模型、框架和开发经验基本能接着用。

通用GPU还有个好处,训大模型、做推理可以,金融估值、科学智能这类任务也能跑,不是只适配某一类AI负载,算力利用效率自然更好,适配、迁移工作也更好做。

底座天垓300,对标的是H100、H200

IXL144里的GPU,是天数智芯今年7月WAIC发布的旗舰天垓300,基于SIMT通用计算架构。它的对标对象,是英伟达Hopper这一代,也就是H100、H200。

官方给出的实测数据集中在几个主流场景:64k长上下文的Attention效能高出约10%,DeepSeek V4这类MoE场景计算效率超过70%;主流模型首字延迟降低约20%,Decode阶段通信延迟降低约13%。


需要说明的是,这些都是特定模型、特定场景下的对比,不是全场景的跑分碾压。但能在大模型最吃重的几个环节正面比较、甚至占优,对国产GPU来说已经说明问题。

144张卡,要像一张卡那样协同

卡多了,互联跟不上,算力就会空转。IXL144用整柜高带宽互联把144颗GPU连成一个统一内存域,单跳时延在100ns量级,高频的All-to-All通信尽量留在柜内,个别MoE场景有效带宽能提升约15%。10.1TB显存,则用来放模型权重、MoE专家和长上下文的KV Cache。

面向在线推理,它也按高并发、多业务和流量波动做了优化,重点看吞吐、时延和利用率。

最后算的是Token这笔账

前面这些,最终都要落到成本上。天数智芯给出的测算是,IXL144每百万有效Token的成本,比国际主流方案低40%。

这个数字是厂测口径,落到不同客户的真实业务上会有差异,还需要更多项目验证。不过天垓系列已经做到万卡级规模部署,服务380余家客户、落地超千个项目,系统交付和运维有实际经验打底。

“超节点不是单一产品,而是一项系统工程。”天数智芯副总裁邹翾说,IXL144只是整套方案里的第一个,面向不同算力规模和机房条件的产品已经布局好,后面会陆续推出。

超节点这门生意,最终还是要回到客户的机房和账单里。能不能让客户少改一点机房、少重写一点代码、少花一点Token的钱,比单柜塞了多少颗卡,更值得关心。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
亚马尔20岁前已经在欧冠打进12球,距离姆巴佩的纪录仅差一球

亚马尔20岁前已经在欧冠打进12球,距离姆巴佩的纪录仅差一球

懂球帝
2026-10-12 15:03:14
恭喜国足!恭喜邵佳一!29岁归化爆发,苦等7年有望迎来国家队首秀

恭喜国足!恭喜邵佳一!29岁归化爆发,苦等7年有望迎来国家队首秀

禾三千体育
2026-10-12 17:59:41
广东省教育厅原党组书记、厅长罗伟其被开除党籍

广东省教育厅原党组书记、厅长罗伟其被开除党籍

界面新闻
2026-10-12 17:02:21
A股:行情很诡异,再现缩量普跌,释放什么信号?即将大变盘吗

A股:行情很诡异,再现缩量普跌,释放什么信号?即将大变盘吗

云鹏叙事
2026-10-12 11:38:22
刚刚,迟到20年的诺贝尔奖,给中国企业打了一针强心剂

刚刚,迟到20年的诺贝尔奖,给中国企业打了一针强心剂

亿欧健谈
2026-10-12 11:25:39
痛心,东北新婚夫妻马尔代夫蜜月溺亡,目击者曝内情,蜜月变永别

痛心,东北新婚夫妻马尔代夫蜜月溺亡,目击者曝内情,蜜月变永别

星娱叨叨社
2026-10-12 15:44:56
炸裂!百万博主被绿当小十,女友多P大量擦边照,他也被扒底朝天

炸裂!百万博主被绿当小十,女友多P大量擦边照,他也被扒底朝天

社会日日鲜
2026-10-10 08:26:51
男子“技术好”,3女人倒贴他还都生了娃,2018年安排仨女人住同一小区穿帮

男子“技术好”,3女人倒贴他还都生了娃,2018年安排仨女人住同一小区穿帮

汉史趣闻
2026-10-12 11:19:44
还有人没交社保?他们正挨个打电话找人

还有人没交社保?他们正挨个打电话找人

小鹿姐姐情感说
2026-10-11 10:08:47
中国打星谢苗杀进好莱坞,新片全程英文对白

中国打星谢苗杀进好莱坞,新片全程英文对白

赴一场山海啊
2026-10-11 06:07:38
拒不认中国人身份,蒋万安在蓝营大本营遇冷,当不成台北市长了?

拒不认中国人身份,蒋万安在蓝营大本营遇冷,当不成台北市长了?

阿天爱旅行
2026-10-12 05:22:48
这两天印度那边是真急眼了

这两天印度那边是真急眼了

静暖文字
2026-10-11 20:24:15
火箭全员亮相10人轮换锁定,博格丹或被DNP,新秀+卡佩拉恐出局

火箭全员亮相10人轮换锁定,博格丹或被DNP,新秀+卡佩拉恐出局

五姑娘台球
2026-10-12 11:45:12
孙千妈妈开70家店被扒后,最戳我的不是钱,是她那句“都戴上,别纠结”

孙千妈妈开70家店被扒后,最戳我的不是钱,是她那句“都戴上,别纠结”

玫瑰进化出獠牙h
2026-10-11 19:00:45
国庆顺风车司机8天狂揽4100元,节后账号一夜被封,钱还被追回!

国庆顺风车司机8天狂揽4100元,节后账号一夜被封,钱还被追回!

普陀动物世界
2026-10-12 08:52:20
女子3个月内对盒马399件商品申请仅退款,若快递员取件,她就将吃剩的部分退还,店员称“只要她买了就退”,已被警方采取刑事强制措施

女子3个月内对盒马399件商品申请仅退款,若快递员取件,她就将吃剩的部分退还,店员称“只要她买了就退”,已被警方采取刑事强制措施

华商网
2026-10-12 14:57:38
喊十几年爹白喊了!牡丹江男子离婚7个月工地坠亡获赔65万,继女起诉索要39万被驳回,评论区炸锅

喊十几年爹白喊了!牡丹江男子离婚7个月工地坠亡获赔65万,继女起诉索要39万被驳回,评论区炸锅

火山詩话
2026-10-12 09:26:23
台州温岭宝龙广场被法拍

台州温岭宝龙广场被法拍

地产微资讯
2026-10-12 10:00:01
一段“江浙沪托举女儿”视频,让外地家长自愧不如,钱不是问题

一段“江浙沪托举女儿”视频,让外地家长自愧不如,钱不是问题

番外行
2026-10-12 09:54:58
沈伯洋竞选总部成立,一人罕见现身,亲民党前发言人:橘子绿了

沈伯洋竞选总部成立,一人罕见现身,亲民党前发言人:橘子绿了

阿器谈史
2026-10-10 08:46:42
2026-10-12 20:32:49
芯榜 incentive-icons
芯榜
中国芯片排行榜
5450文章数 3270关注度
往期回顾 全部

科技要闻

尊界:10月底确认制动踏板支架升级方案

头条要闻

8千元小狗遭仅退款 商家驱车600公里上门顾客称狗已死

头条要闻

8千元小狗遭仅退款 商家驱车600公里上门顾客称狗已死

体育要闻

一周吃6顿披萨的胖子,也能单防姆巴佩?

娱乐要闻

张艺谋身体状况曝光 陈婷不再顾及体面

财经要闻

尊界,是江淮的救命车还是失血引擎?

汽车要闻

全新smart精灵2号来了 两门两座 传承经典纯电进化

态度原创

健康
游戏
本地
旅游
数码

孩子运动莫名晕倒?当心这类疾病

《街霸》电影招牌必杀全还原 期待春丽一字马回旋

本地新闻

踏访沙县第一村,寻国民小吃本源

旅游要闻

演唱会、顶流IP轮番上场,双节假期天河文商旅成绩单亮眼

数码要闻

PC降价没希望:CPU三大厂接力涨价!Intel、AMD、高通全都要涨

无障碍浏览 进入关怀版