网易首页 > 网易号 > 正文 申请入驻

训练一个大模型,30%的电费其实没花在算力上

0
分享至

很多人以为,AI数据中心最烧钱的是GPU H100,一颗700瓦,几万颗一起跑,电费看起来确实夸张。但如果你看过真实的超大规模数据中心能耗结构,会发现一个更反常识的结果:

差不多30%的IT电力,并不是花在算力上,而是花在“算力之间的通信”上。你以为电费在“算模型”,其实有三分之一在“让模型互相说话”。

一、AI真正的瓶颈,已经不是算力了

过去大家比的是:GPU更快,算力更多,集群更大。但现在AI训练进入一个新阶段:万卡 → 十万卡级别集群,问题变了。不再是“能不能算”,而是:这些GPU之间,能不能及时把数据传过去。

在大模型训练里,通信量增长速度,甚至比算力还快。于是一个很现实的情况出现:GPU还在进化,网络和光互联,先顶不住。交换机、路由器、光模块,开始变成新的“电老虎”。


二、光模块快到极限了,于是CPO被推上台前

传统数据中心的结构是这样的:GPU → PCIe → 交换机 → 光模块 → 光纤。问题出在“光模块”这一层。

因为高速信号要在PCB上跑一段距离:

频率越高 → 损耗越大

功耗越高 → 发热越严重

速率越快 → 稳定性越差

结果就是:不是算力不够,是电信号跑不动,于是CPO被推出来。

它的思路很直接:把光模块“拆掉外壳”,直接放进芯片封装里。让电信号只跑几毫米,然后立刻变成光信号离开。

从工程角度看,CPO不是升级光模块,而是把“外接显卡”直接焊进主板芯片里。在理想状态下,单位带宽功耗可以下降30%~50%。对数据中心来说,这不是优化问题,是生存问题——因为电费已经开始成为扩张瓶颈。

三、但CPO真正难的,不是光,而是“热”和“时间”

很多人以为CPO难在光器件,其实不是。

真正的难点有两个:

1)热:以前光模块是“可插拔”的,坏了换一个就行。

但CPO是“焊死在封装里的”:光引擎 + ASIC + 封装基板,全部挤在一起发热。

结果就是:一个温度漂移,可能影响整个链路稳定性。

2)时间:这一步很多人忽略。

传统系统里:

光模块有自己的时钟

交换芯片有自己的时钟

各自“分开跑”

但CPO之后变成:同一个封装内,共用一个时间基准,问题瞬间升级。

因为任何微小的抖动(jitter)、相位噪声、时钟漂移,都会直接影响光信号输出。

以前是“不同步可以调整”,现在是“不同步直接出错”。

这也是为什么行业开始发现:传统单端晶振,在CPO架构里已经不够用。

四、时钟开始从“辅助器件”,变成系统底座

进入800G光模块之后,时钟要求已经明显变严:

必须差分输出(LVDS / HCSL / LVPECL)

抖动要压到皮秒级

温漂要控制在±10ppm甚至更严

全温区不能漂

而到了CPO阶段,问题进一步升级:光引擎数量增加,时钟节点翻倍,封装空间反而更小

于是现实:系统越先进,留给时钟的空间越少,但要求越高。

在这种结构下,像晶科鑫SJK这类晶振厂商的角色,变得很微妙:它不再只是“提供频率”,而是:决定系统能不能稳定跑在这个频率上。


五、一个容易被忽略的事实:AI系统其实是“时间系统”

回头看整个链路:

GPU负责算力

光互联负责传输

CPO负责压缩路径

而晶振/时钟负责一件更底层的事:让所有计算发生在同一个时间坐标系里。

很多AI系统问题,最后不是算力问题,也不是带宽问题,而是:同步漂移,时钟抖动

时间误差累积。

六、真正的瓶颈,不在“更快”,而在“是否同频”

AI算力还在增长,但增长方式已经变了。从“单点更强”,变成“系统更密”。

而系统一旦变密,有一个问题会被放大:所有东西必须在同一个时间上工作。

CPO解决的是“距离问题”,

光互联解决的是“带宽问题”,

而真正底层的问题是:时间是否一致。

所以回头看那句容易被忽略的数据:电费里30%不在算力,而在通信。

它背后真正的含义是:AI已经不只是算力竞争,而是一个“互联 + 时间系统”的竞争。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
人最大的愚痴:沉迷肉体欲望,弄丢清净自在的灵魂

人最大的愚痴:沉迷肉体欲望,弄丢清净自在的灵魂

青苹果sht
2026-07-10 05:07:10
名人蛋白大战:卡戴珊爆米花PK大威奶昔

名人蛋白大战:卡戴珊爆米花PK大威奶昔

追星雷达站
2026-07-12 00:30:45
小米澎程N90 MAX实车图曝光:轴距超3米,还能“开会客厅”

小米澎程N90 MAX实车图曝光:轴距超3米,还能“开会客厅”

我是一个粉刷匠2
2026-07-12 02:32:36
为了避雷“工业糖精”,年轻人宁愿代购港版可乐

为了避雷“工业糖精”,年轻人宁愿代购港版可乐

新周刊
2026-07-10 13:05:45
被罚9.48亿后申请破产,最后4.4亿和解收场

被罚9.48亿后申请破产,最后4.4亿和解收场

Ping值焦虑
2026-07-12 02:14:23
“这么小就有阴德纹,她的家长不简单!”小学女生面相走红

“这么小就有阴德纹,她的家长不简单!”小学女生面相走红

泽泽先生
2026-07-11 15:40:54
从小就注定在2米长的铁罐子里度过一生,美国最后一个铁肺使用者,走了...

从小就注定在2米长的铁罐子里度过一生,美国最后一个铁肺使用者,走了...

英国那些事儿
2026-07-12 23:22:59
伟大的2-0!中国金花圆梦大满贯:刷新3大纪录,狂赚346万奖金!

伟大的2-0!中国金花圆梦大满贯:刷新3大纪录,狂赚346万奖金!

刘姚尧的文字城堡
2026-07-13 08:27:18
日本防相小泉出轨已婚少妇,不想家中老婆更风流,曾与外国人拍片

日本防相小泉出轨已婚少妇,不想家中老婆更风流,曾与外国人拍片

往史过眼云烟
2026-07-09 21:59:41
三方共赢!3队6人交易方案,库明加去独行侠,东契奇昔日小弟投奔湖人

三方共赢!3队6人交易方案,库明加去独行侠,东契奇昔日小弟投奔湖人

球毛鬼胎
2026-07-12 13:53:09
看完阿根廷3-1瑞士!不得不承认的5个事实,阿根廷完全没有冠军相

看完阿根廷3-1瑞士!不得不承认的5个事实,阿根廷完全没有冠军相

小青年渌渌
2026-07-12 19:55:01
格雷厄姆突发急病去世,他是以色列坚定的支持者,生前被俄罗斯通缉,对华态度强硬,与特朗普关系密切

格雷厄姆突发急病去世,他是以色列坚定的支持者,生前被俄罗斯通缉,对华态度强硬,与特朗普关系密切

极目新闻
2026-07-12 17:46:19
专家:必须限制仿真伴侣机器人功能,否则单身越来越多

专家:必须限制仿真伴侣机器人功能,否则单身越来越多

上峰视点
2026-07-11 16:10:21
阎锡山为啥不敢动徐向前家人?不是因为老乡,是怕了这个

阎锡山为啥不敢动徐向前家人?不是因为老乡,是怕了这个

我是孤独的小船
2026-07-12 16:28:14
当菲律宾拉来14国纪念南海仲裁,世界才发现:南海邻居一个没来

当菲律宾拉来14国纪念南海仲裁,世界才发现:南海邻居一个没来

聚焦最新动态
2026-07-13 02:17:40
蒋万安被记者当面问懵:你连中国人都不认,凭啥张罗把两蒋灵柩迁回大陆?他是如何回答的?

蒋万安被记者当面问懵:你连中国人都不认,凭啥张罗把两蒋灵柩迁回大陆?他是如何回答的?

人生录
2026-07-09 23:17:49
郑州“入河排污口”成免费戏水乐园?管理方:排放的中水水质达标,但中水再清澈也是中水,曾多次劝阻劝不住

郑州“入河排污口”成免费戏水乐园?管理方:排放的中水水质达标,但中水再清澈也是中水,曾多次劝阻劝不住

大风新闻
2026-07-12 13:20:04
贪官末日来了!中央反腐新规已落地,无论在职退休一律终身追责

贪官末日来了!中央反腐新规已落地,无论在职退休一律终身追责

职场资深秘书
2026-07-12 18:23:50
虽败犹荣!女排2-3惜败世界No.1 诞生两大不可思议,女排尽力了

虽败犹荣!女排2-3惜败世界No.1 诞生两大不可思议,女排尽力了

南海浪花
2026-07-12 22:20:04
世界杯巴西队被淘汰后,内马尔参加世界扑克系列赛,此前他已在该赛事拿过奖金

世界杯巴西队被淘汰后,内马尔参加世界扑克系列赛,此前他已在该赛事拿过奖金

扬子晚报
2026-07-12 20:02:01
2026-07-13 10:04:49
SJK晶科鑫晶振
SJK晶科鑫晶振
SJK晶振
303文章数 1关注度
往期回顾 全部

科技要闻

苹果为了AI,连Mac芯片节奏都改了

头条要闻

浙江苍南一家三口躲过一劫:刚被成功劝离 房子就塌了

头条要闻

浙江苍南一家三口躲过一劫:刚被成功劝离 房子就塌了

体育要闻

被3个队友锁死,哈兰德以最憋屈的方式出局

娱乐要闻

台媒曝S妈许雅钧 诱使具俊晔放弃遗产

财经要闻

扫开就近2元,共享单车涨价到哪里是个头

汽车要闻

纯电/增程双动力 一汽悦意08正式上市售9.99万起

态度原创

本地
艺术
游戏
公开课
军事航空

本地新闻

重庆人有自己的避暑桃花源 | 夏天就去「酉」风的地方!

艺术要闻

孙中山亲笔手稿曝光!

《GTA6》不上PC原因曝光!前R星制作人揭秘

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美国宣布实施打击 伊朗表态“放马过来”

无障碍浏览 进入关怀版