网易首页 > 网易号 > 正文 申请入驻

AI机架密度的真正上限:电力、冷却与故障风险

0
分享至


人工智能加速推动计算硬件向更小空间内塞入更多算力,其速度之快前所未有,数据中心运营商正竭尽全力从AI工厂部署的每个机架中榨取最大性能。

变化之剧烈令人咋舌。两年前看似极端的机架规格,如今已显得平平无奇,而下一代升级方案早已列入建设计划。数字本身就能说明问题。据Uptime Institute第16届全球数据中心年度调查,2026年"模态机架密度"(最常见的每机架功耗值)达到11千瓦,较2025年的9千瓦有所提升。这一11千瓦的数字描述的是典型企业服务器机房的水平,也就是你在大多数数据中心随处可见的那种,而非AI训练集群。

AI机架所处的功耗等级则完全是另一番天地。根据英伟达NVL72 AI工厂参考架构,英伟达GB300 NVL72——贯穿2025年至2026年初AI训练集群的核心平台——每机架功耗高达142千瓦。英伟达最新平台Vera Rubin NVL72于2026年6月进入全面量产阶段,计划于今年秋季向云服务商发货。尽管英伟达尚未公布官方机架功耗数据,但供应链行业报道将其定位在190至230千瓦之间。其后续产品英伟达Rubin Ultra NVL576"Kyber"机架已规划在2027年下半年上市,功耗约为600千瓦。

那么,究竟是什么真正限制了密度?三个问题划定了上限:机架能散多少热、芯片消耗多少电,以及设施能安全输送多少电力。

eRacks Systems创始人兼首席技术官约瑟夫·沃尔夫在接受Data Center Knowledge采访时表示:"关于限制密度的最大误解是,人们认为限制来自每个机箱的GPU数量,或者是一个换几台更大风扇就能解决的冷却问题。"

风冷已达极限,液冷全面接管

计算量越大,产热越多。多年来,散热能力一直是密度的硬上限,而随着冷却技术的进步,这一上限不断被突破。

风冷走向不可行

据Uptime Institute,每机架功耗超过约50千瓦后,风冷便变得不切实际。超过这一阈值,风扇已无法输送足够的气流来应对热负荷。

直接液冷已成主流

通过芯片冷板输送液体的直接液冷方案,目前可处理每机架100至150千瓦的热量,并已成为主导液冷方式。据施耐德电气统计,截至2026年,其市场份额占比达55%。

两相浸没式冷却复苏而非消亡

曾被誉为终极方案的两相浸没式冷却,因全氟和多氟烷基物质(PFAS)限制切断了冷却液供应而遭遇挫折,采用率尚未完全恢复。替代冷却液已于2026年初通过认证,但监管结果要到2027年才能明朗。IBM多供应商支持服务副总裁奥姆卡尔·尼姆巴尔卡尔在接受Data Center Knowledge采访时表示:"微流体技术仍是我所说的'路线图阶段',科学原理已经得到验证,但主流部署还需要几年时间。"

下一步在于芯片内部

2025年9月,微软与瑞士初创公司Corintis在实验室测试中报告,直接蚀刻在芯片内部的微通道散热效果比标准冷板高出三倍。

供电,而非冷却,才是真正的天花板

热物理学并非唯一的制约因素,供电能力同样构成硬约束,而且真正决定上限的并非芯片规格本身。

尼姆巴尔卡尔表示:"人们用芯片规格来衡量密度,但实践中密度受电气工程和故障规划的约束。"

传统54伏直流遭遇铜导线瓶颈

传统54伏直流配电在每机架约200千瓦以上会遭遇硬限制——传输所需电流的铜导线将变得过于粗重,难以施工。

冗余设计带来容量代价

尼姆巴尔卡尔指出,典型配电单元(PDU)在双冗余配置下可处理约20千瓦,而每台服务器功耗可达6千瓦。他说:"设计问题从来不是你能买多少GPU,而是在一个电源发生故障时,你能安全运行多少。"

供电线路,而非芯片,最终决定上限

芯片供应商已在设计中考虑这些限制,以不同功耗等级提供相同GPU,以适配实际场景。沃尔夫表示:"真正的限制是每个机箱的功耗和散热预算,这由GPU本身决定。英伟达同款96GB RTX PRO 6000 Blackwell既有600瓦版本,也有300瓦的Max-Q版本——后者之所以存在,是因为八块600瓦显卡装入一台4U机箱将带来5千瓦级别的热量,大多数风冷机房根本无法供电和散热。"

解决方案正从试点走向标准化

多项举措正在推进,以弥合机架需求与设施供给之间的差距。

高压直流配电正走出试点阶段

Vera Rubin NVL72已搭载800伏直流出货。这一转变已超越试点阶段:维谛技术(Vertiv)、施耐德电气、伊顿(Eaton)和台达均已规划在2026年下半年推出商用800伏直流产品,富士康台湾高雄Kaohsiung-1工厂(40兆瓦)也正为此而建。但硬件可用并不等于广泛普及。Flex嵌入式与关键电源业务总裁克里斯·巴特勒在接受Data Center Knowledge采访时表示:"我们实际上是在要求企业在18至24个月内消化掉一代人的变革积累。"

供电与计算机架正走向分离

开放计算项目(OCP)的Mount Diablo项目于2026年3月完成0.7.0规范定稿,微软和Meta于2026年7月展示了基于该规范的可运行硬件。通过将供电与计算分离,设施可以独立扩展供电能力,无需同步改变机架配置。

现场发电与表后发电正获得更多关注

越来越多的运营商选择自建电力容量,而不是等待电网扩容。园区层面的账面电力并不代表能够可靠地输送到单一机架。

Axe Compute首席执行官克里斯托弗·米格里诺在接受Data Center Knowledge采访时表示:"一旦开始以那种密度运营,供电和冷却就必须协同推进。我更关注的数字不一定是一个园区账面上有多少兆瓦,而是你实际上能可靠地输送、冷却并稳定运行多少电力。"

未来三至五年,上限可能落在何处

散热能力、供电水平、故障风险和成本,各自都面临悬而未决的问题。这四者的最终走向,将共同决定"典型配置"的面貌。

电网,而非机架,将是决定性因素

电力供应将成为关键制约。据劳伦斯伯克利国家实验室发布的《Queued Up》报告,截至2025年底,美国互联互通申请队列中等待接入的发电和储能项目已超过2060吉瓦。

米格里诺表示:"现场发电在一定程度上取决于具体项目,但对于超大规模AI园区而言,它正变得越来越重要——因为在很多市场,制约因素既不是需求,也不是GPU获取,而是你能多快从电网获取足够的电力。"

机架越密集,故障代价越高昂

随着密度提升,单一故障所造成的算力损失也远超以往,这对故障检测和优雅降级提出了更高要求。

尼姆巴尔卡尔表示:"更聪明的做法是在固件层面内置故障检测机制,能在数秒内将机架降频,这样你就可以以比保守静态数字通常允许的更高密度运行。"

到2028年,典型高密度机架功耗可能超过100千瓦

最有可能成为默认标准的是每机架100千瓦或以上。尼姆巴尔卡尔表示:"2028年典型的高密度AI机架,大概率是直接液冷标配、400伏供电,以及将故障处理逻辑内置于固件而非事后补打补丁的100千瓦以上部署。"

米格里诺对这一门槛持相同预判,并认为前沿水平将远不止于此。

然而,沃尔夫预计市场将出现分化:大多数企业将继续沿用风冷方案,而少数头部机架将远超100千瓦大关。他表示:"大多数企业实际上会部署的典型高密度AI机架,是风冷4U节点,每节点八块300瓦级GPU,每箱约4千瓦,三到四个机箱组成一个机架,接入普通的208伏电源。"

Q&A

Q1:AI机架密度目前受到哪些核心因素限制?

A:AI机架密度主要受三方面制约:散热能力、供电能力以及故障风险管理。风冷在约50千瓦以上已不可行,液冷成为主流。传统54伏直流配电在约200千瓦以上因铜导线过重而受限,高压直流(如800伏)正在推进商用。冗余设计也会占用一部分容量。总体而言,供电线路和电网接入,往往比芯片本身更早成为瓶颈。

Q2:英伟达最新AI机架的功耗大概是多少?

A:英伟达GB300 NVL72每机架功耗可达142千瓦;最新平台Vera Rubin NVL72据行业报道功耗在190至230千瓦之间;而规划于2027年下半年推出的Rubin Ultra NVL576"Kyber"机架,功耗约为600千瓦。相比之下,普通企业服务器机架在2026年的典型功耗仅为11千瓦,差距悬殊。

Q3:到2028年,典型高密度AI机架会是什么样子?

A:多位业内人士预测,2028年典型高密度AI机架将达到100千瓦以上,标配直接液冷、400伏供电,并在固件层面内置故障检测逻辑。不过也有观点认为市场将分化:大多数企业实际部署的仍是风冷4U节点,每机架约12至16千瓦;只有少数头部场景才会冲破100千瓦大关。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一旦俄罗斯失败,中国怎么办?网友建议:把握时机,恢复汉唐疆土

一旦俄罗斯失败,中国怎么办?网友建议:把握时机,恢复汉唐疆土

世界地缘档案
2026-09-01 17:25:04
最伤身的“饮料”公布,停止饮用,很多人还当成宝,天天喝!

最伤身的“饮料”公布,停止饮用,很多人还当成宝,天天喝!

健康科普365
2026-08-29 20:40:04
日本的反击来了:中国敢不买日本水产? 马上关了在中国的事务所

日本的反击来了:中国敢不买日本水产? 马上关了在中国的事务所

老范谈史
2026-09-01 11:47:39
孙宇晨彻底破防了!被回旋镖命中:三年旧文重发,36氪这篇稿件句句诛心

孙宇晨彻底破防了!被回旋镖命中:三年旧文重发,36氪这篇稿件句句诛心

火山詩话
2026-08-31 06:23:14
五大联赛正在失去中国年轻人:凌晨三点的闹钟,没人定了

五大联赛正在失去中国年轻人:凌晨三点的闹钟,没人定了

体育全天候
2026-09-01 15:58:08
张东健美国被偶遇,送儿子去上高中,54岁状态好没有医美过度

张东健美国被偶遇,送儿子去上高中,54岁状态好没有医美过度

情感的我
2026-09-01 06:53:08
“教官当众骂我恶心”,男生全妆军训,委屈哭诉后评论区却吵翻了

“教官当众骂我恶心”,男生全妆军训,委屈哭诉后评论区却吵翻了

妍妍教育日记
2026-09-01 09:25:12
宇树科技发布消防机器人:机器人为人而生,贯彻为人民服务的使命!赴汤蹈火,使命担当

宇树科技发布消防机器人:机器人为人而生,贯彻为人民服务的使命!赴汤蹈火,使命担当

鲁中晨报
2026-09-01 11:38:04
别找了,全剧一个真人演员都没有!湖南卫视把黄金档给了一部AI剧

别找了,全剧一个真人演员都没有!湖南卫视把黄金档给了一部AI剧

抽象派大师
2026-08-31 17:02:48
14年赚2.24亿还不够!巴恩斯直接买银行,退役每年还有29万养老金

14年赚2.24亿还不够!巴恩斯直接买银行,退役每年还有29万养老金

锅子篮球
2026-08-30 17:22:26
对比2025年,越南降低规格出席2026上合峰会,背后因为我国?

对比2025年,越南降低规格出席2026上合峰会,背后因为我国?

DS北风
2026-08-31 16:46:04
投资收益超3900亿元,全国社保基金2025年年报发布

投资收益超3900亿元,全国社保基金2025年年报发布

界面新闻
2026-09-01 09:46:43
广西壮族自治区党委常委、副主席卢新宁:“我带来了一个二维码”

广西壮族自治区党委常委、副主席卢新宁:“我带来了一个二维码”

极目新闻
2026-09-01 10:44:28
流落中国的外国公主,如今拒绝回国:我是中国人,中国就是我的家

流落中国的外国公主,如今拒绝回国:我是中国人,中国就是我的家

奇思妙想生活家
2026-08-30 09:33:02
北大校长的沉默,令这所128年历史的富可敌国的大学蒙羞

北大校长的沉默,令这所128年历史的富可敌国的大学蒙羞

再战五百回合
2026-08-30 15:38:58
笑不活了!一母猫咪到处“撩猫”,邻居一纸告示找上门:管好你家猫,别来撩我家公猫

笑不活了!一母猫咪到处“撩猫”,邻居一纸告示找上门:管好你家猫,别来撩我家公猫

火山詩话
2026-08-30 16:58:41
柬埔寨国王西哈莫尼和太后莫尼列来华

柬埔寨国王西哈莫尼和太后莫尼列来华

新华社
2026-09-01 14:55:05
二手房迎来一个 “好消息”,房子变得值钱了

二手房迎来一个 “好消息”,房子变得值钱了

说故事的阿袭
2026-08-31 13:01:32
我和妈妈十年受的苦原来100元就能解決,网友:穷人习惯得过且过

我和妈妈十年受的苦原来100元就能解決,网友:穷人习惯得过且过

夜深爱杂谈
2026-08-29 21:06:18
离职员工对公司心存不满,进入直播间后台,将100克金条从104100元改价为8元买走

离职员工对公司心存不满,进入直播间后台,将100克金条从104100元改价为8元买走

第一财经资讯
2026-09-01 12:26:17
2026-09-01 18:07:00
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
21444文章数 49729关注度
往期回顾 全部

科技要闻

抖音突发推荐算法大面积错乱!

头条要闻

患癌母亲扛50斤行李送女儿上大学 因没给她买电脑落泪

头条要闻

患癌母亲扛50斤行李送女儿上大学 因没给她买电脑落泪

体育要闻

大爹杨瀚森,让中国男篮有了容错空间

娱乐要闻

孙宇晨破防,他无法接受孙割这个名字

财经要闻

库克卸任,苹果下一个增长点在哪?

汽车要闻

昊铂埃安8月销量36383辆 连续6个月逆势正增长

态度原创

亲子
艺术
数码
手机
公开课

亲子要闻

产后恢复塑形真的有效吗

艺术要闻

任传文 油画作品集

数码要闻

漫步者Comfo Clip Q2耳夹式耳机发售,399元

手机要闻

行业最高规格!vivo X500 Pro系列首发4K 240fps高光慢动作

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版