网易首页 > 网易号 > 正文 申请入驻

AI基建不拼“买了多少卡”,开始拼“真能用多少”了

0
分享至

最近AI圈有个词讨论度很高——“有效算力”。听起来有点技术,但它背后的事其实很扎心:WAIC 2026上有行业人士提到,AI 服务器交付后,真正被有效利用的算力不到规格表标称值的30%。也就是说,数据中心花大价钱买回来的GPU,真正跑起来产生价值的可能不到三成,剩下七成在空转。为什么会这样?这对投资又意味着什么?(数据参考来源:《AI 落地,还差一口气》,发布时间2026.07.21)

花大价钱买的卡,为什么有七成在空转?

打个比方:大家买了一辆马力500匹的跑车,但如果路况堵、冷却系统故障、变速箱调校不佳,实际跑起来可能连一半马力都用不上。算力也是同理——GPU参数表上标着多少T算力,不代表真能全部转化为大模型训练和推理的产出。

算力损耗主要卡在三个环节。第一个是网络传输。现在训练一个大模型动辄上万张卡协同工作,卡和卡之间要不停交换数据,一旦网络带宽跟不上,GPU就得停下来等数据。第二个是散热。新一代AI芯片功耗越来越高,散热不足时芯片会自动降频保护,纸面算力直接打折。第三个是任务调度。资源分配不合理,就会出现有的卡排队忙不过来、有的卡长期闲置的情况。

这里有个很反直觉的细节。一个700亿参数的模型,每生成一个字(也就是一个Token),都要把约140GB的模型参数从显存里完整读一遍。在主流GPU上,计算单元大部分时间其实是在等数据搬运,真正做计算的时间不到5%。这就像一台顶级发动机,大部分时间都在等零件送到,根本没在全力运转。

也正因为如此,运营能力的差距被拉得很大。Oracle最新财报显示其 GPU利用率达到了 97.9%,而行业平均水平不到30%。这说明有效算力并非做不到,而是要在网络、散热、软件调度上持续投入精细运营。只不过这种“精细活”费钱又费力,行业为什么偏偏在这个时候开始较真?(数据参考来源:《甲骨文:四年以上旧GPU还能“涨20%”》,发布时间2026.09.11)

AI开始算“经济账”:推理时代来了

答案藏在AI产业的重心迁移里:算力消耗的主力,正在从“训练”转向“推理”。

训练和推理有什么区别?训练像盖工厂,一次性投入把模型“教”出来;推理则是工厂开工后每天的生产,用户每问一句话、每生成一张图,都要实时消耗算力。训练的钱是分批花的,推理的钱却是7×24小时不停烧的。行业数据很能说明问题。有海外机构测算,2023年推理只占全部AI算力的约三分之一,到2026年这个比例已经升到约三分之二。(数据参考来源:《The Inference Economy: How AI Compute Flipped From Training to Serving》,发布时间2026.09.07)

据国家数据局公开信息,国内日均Token调用量从2024年初的约1000亿,涨到2026年3月的140万亿,两年多涨了上千倍。当算力消耗的主力从“建模型”变成“用模型”,成本账就完全不一样了。最直接的变化体现在计费方式上。过去云厂商按GPU租用时长收费,本质是“资源租赁”,卡有没有在干活都收一样的钱;现在越来越多厂商开始按实际产出的Token计费,客户只为真正生成的智能内容买单。这意味着算力厂商的竞争逻辑变了——前两年比的是谁建的数据中心大、买的卡多,现在比的是谁能把单位Token的成本压到最低。建完卡只是第一步,能不能让卡低成本、高负载地跑出Token,才是真正的考验。

“效率竞赛”下,哪些环节更受益?

要把单位Token的成本压下来,单纯堆卡已经走不通了,钱得花在能真正提升效率的地方,产业链上受益的环节也随之迁移。除了芯片本身,那些能把算力利用率拉上去的配套方向,可能更值得关注。

首先是光互联。光互联在跨机柜、长距离互联场景加速渗透,800G光模块正成为数据中心标配,1.6T产品今年开始规模出货,深圳光博会上不少厂商的订单已经排到明年。阿里云披露其光模块上线数量逐年翻倍,明年新增规模可能超过历年总和。卡间互联的速率每上一个台阶,对高速光模块的需求就跳一档。(数据参考来源:《1.6T光模块订单排至明年:AI算力浪潮下,光通信产业的"抢跑"与卡位》,发布时间2026.09.13)

其次是液冷散热。风冷已经压不住高功率AI芯片的发热量,液冷正从“可选配置”变成“必选项”。行业数据显示,AI训练服务器的液冷渗透率已经达到约74%,预计2026年国内液冷市场规模约716亿元,同比增长超过70%。在数据中心能耗指标(PUE)管控趋严的背景下,液冷既保障芯片不降频,又能降低整体用电成本,放量节奏可能还会加快。(数据参考来源:《算力产业:上游把“工地”搬进工厂,下游把算力当水电卖》,发布时间2026.09.13)

第三是算力调度软件。硬件堆得再多,调度跟不上利用率还是上不来。通过智能调度给任务“削峰填谷”、把闲置算力盘活,是提升满载率最直接的手段。随着全国一体化算力网建设推进,跨区域、跨数据中心的算力统一调度,也可能打开新的市场空间。

对投资者来说,跟踪AI基建的思路可以换一换:别只盯着谁又买了多少卡,更值得关注的,或许就是“谁能让卡里的每一分钱都真正转起来”。

泰康研究精选股票发起

A类:014416 C类:014417

泰康半导体量化选股

A类:020476 C类:020477

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2026年开始,彻底没有“铁饭碗”了:普通人所求的安稳,早已是伪命题

2026年开始,彻底没有“铁饭碗”了:普通人所求的安稳,早已是伪命题

舒山有鹿
2026-10-09 18:08:35
郑钦文中网夺冠次日现身八达岭长城拍写真,多人偶遇

郑钦文中网夺冠次日现身八达岭长城拍写真,多人偶遇

极目新闻
2026-10-12 15:10:07
中国开始战备动员,多地百姓申请参战,释放3重信号,会打日本吗

中国开始战备动员,多地百姓申请参战,释放3重信号,会打日本吗

霁寒飘雪
2026-10-12 09:55:46
银行挂出1.95%的三年定存没人存!储户不是不识货,是把账算透了

银行挂出1.95%的三年定存没人存!储户不是不识货,是把账算透了

平说财经
2026-10-12 15:24:23
身高2米2四川女网红小玥病逝!年仅26岁,与男友常晒“最萌身高差”,去年刚诞下一子

身高2米2四川女网红小玥病逝!年仅26岁,与男友常晒“最萌身高差”,去年刚诞下一子

韩小娱
2026-10-11 22:25:16
泽连斯基发表最新全国讲话

泽连斯基发表最新全国讲话

吃货的分享
2026-10-12 10:40:50
女子网购猪肝发现苍蝇索赔1500元,被怼“你不就想要钱吗”,涉事公司:会积极处置

女子网购猪肝发现苍蝇索赔1500元,被怼“你不就想要钱吗”,涉事公司:会积极处置

大风新闻
2026-10-12 15:21:04
特朗普公开要求换掉泽连斯基,乌克兰军人回应:没人比他更幼稚

特朗普公开要求换掉泽连斯基,乌克兰军人回应:没人比他更幼稚

谁将笑到最后
2026-10-12 14:43:51
两场轰51分!CBA最强逆袭新星 离开上海涅槃重生 吉林捡大漏?

两场轰51分!CBA最强逆袭新星 离开上海涅槃重生 吉林捡大漏?

兰亭墨未干
2026-10-12 11:54:33
喜欢开油车的有福了:没意外的话,明年开始,油车将迎来3大变化

喜欢开油车的有福了:没意外的话,明年开始,油车将迎来3大变化

沙雕小琳琳
2026-10-11 00:25:11
孙宇晨突然点名韦东奕,直言牙齿掉了不可逆,岂料网友翻出15年前一张旧照,发现事情远没那么简单

孙宇晨突然点名韦东奕,直言牙齿掉了不可逆,岂料网友翻出15年前一张旧照,发现事情远没那么简单

进行时娱乐中
2026-10-10 22:46:04
视频中“男子在山西大同悬空寺横梁做引体向上”,工作人员:游客还没找到,也有可能是AI生成的

视频中“男子在山西大同悬空寺横梁做引体向上”,工作人员:游客还没找到,也有可能是AI生成的

南方都市报
2026-10-12 17:51:26
人社部要“数据找人”动员参保:找得到人 更要留得住心

人社部要“数据找人”动员参保:找得到人 更要留得住心

闪电新闻
2026-10-12 11:45:30
1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

帝哥说史
2026-10-11 16:14:43
美乌关系急剧恶化,欧洲盟友感到震惊,特朗普“换乌克兰总统”言论引发风波

美乌关系急剧恶化,欧洲盟友感到震惊,特朗普“换乌克兰总统”言论引发风波

环球网资讯
2026-10-12 06:32:12
林俊杰七七牵手逛街 21岁年龄差不明显

林俊杰七七牵手逛街 21岁年龄差不明显

情感大头说说
2026-10-12 15:05:29
墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

雅俗共赏1
2025-09-03 14:00:28
同为马刺效力3年,邓肯总得分4531分+497盖帽,文班亚马呢?

同为马刺效力3年,邓肯总得分4531分+497盖帽,文班亚马呢?

林子说事
2026-10-12 15:33:20
国家出手!让余承东“闭嘴”、雷军“低调”、李想“沉默”……车企大佬“吹牛式营销”上了紧箍咒

国家出手!让余承东“闭嘴”、雷军“低调”、李想“沉默”……车企大佬“吹牛式营销”上了紧箍咒

大厂财经社
2026-10-11 11:02:59
外媒:中国“山东”号航母已停用9个月,或停用至1年,改装容纳歼-35隐身舰载机

外媒:中国“山东”号航母已停用9个月,或停用至1年,改装容纳歼-35隐身舰载机

蓝星杂谈
2026-10-11 11:37:53
2026-10-12 19:55:00
界面新闻 incentive-icons
界面新闻
只服务于独立思考的人群
1191932文章数 1340685关注度
往期回顾 全部

科技要闻

尊界:10月底确认制动踏板支架升级方案

头条要闻

8千元小狗遭仅退款 商家驱车600公里上门顾客称狗已死

头条要闻

8千元小狗遭仅退款 商家驱车600公里上门顾客称狗已死

体育要闻

一周吃6顿披萨的胖子,也能单防姆巴佩?

娱乐要闻

张艺谋身体状况曝光 陈婷不再顾及体面

财经要闻

尊界,是江淮的救命车还是失血引擎?

汽车要闻

全新smart精灵2号来了 两门两座 传承经典纯电进化

态度原创

游戏
数码
健康
本地
公开课

《街霸》电影招牌必杀全还原 期待春丽一字马回旋

数码要闻

PC降价没希望:CPU三大厂接力涨价!Intel、AMD、高通全都要涨

孩子运动莫名晕倒?当心这类疾病

本地新闻

踏访沙县第一村,寻国民小吃本源

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版