AI基建不拼“买了多少卡”，开始拼“真能用多少”了

最近AI圈有个词讨论度很高——“有效算力”。听起来有点技术，但它背后的事其实很扎心：WAIC2026上有行业人士提到，AI服务器交付后，真正被有效利用的算力不到规格表标称值的30%。也就是说，数据中心花大价钱买回来的GPU，真正跑起来产生价值的可能不到三成，剩下七成在空转。为什么会这样？这对投资又意味着什么？（数据参考来源：《AI落地，还差一口气》，发布时间2026.07.21）

花大价钱买的卡，为什么有七成在空转？

打个比方：大家买了一辆马力500匹的跑车，但如果路况堵、冷却系统故障、变速箱调校不佳，实际跑起来可能连一半马力都用不上。算力也是同理——GPU参数表上标着多少T算力，不代表真能全部转化为大模型训练和推理的产出。

算力损耗主要卡在三个环节。第一个是网络传输。现在训练一个大模型动辄上万张卡协同工作，卡和卡之间要不停交换数据，一旦网络带宽跟不上，GPU就得停下来等数据。第二个是散热。新一代AI芯片功耗越来越高，散热不足时芯片会自动降频保护，纸面算力直接打折。第三个是任务调度。资源分配不合理，就会出现有的卡排队忙不过来、有的卡长期闲置的情况。

这里有个很反直觉的细节。一个700亿参数的模型，每生成一个字（也就是一个Token），都要把约140GB的模型参数从显存里完整读一遍。在主流GPU上，计算单元大部分时间其实是在等数据搬运，真正做计算的时间不到5%。这就像一台顶级发动机，大部分时间都在等零件送到，根本没在全力运转。

也正因为如此，运营能力的差距被拉得很大。Oracle最新财报显示其GPU利用率达到了97.9%，而行业平均水平不到30%。这说明有效算力并非做不到，而是要在网络、散热、软件调度上持续投入精细运营。只不过这种“精细活”费钱又费力，行业为什么偏偏在这个时候开始较真？（数据参考来源：《甲骨文：四年以上旧GPU还能“涨20%”》，发布时间2026.09.11）

AI开始算“经济账”：推理时代来了

答案藏在AI产业的重心迁移里：算力消耗的主力，正在从“训练”转向“推理”。

训练和推理有什么区别？训练像盖工厂，一次性投入把模型“教”出来；推理则是工厂开工后每天的生产，用户每问一句话、每生成一张图，都要实时消耗算力。训练的钱是分批花的，推理的钱却是7×24小时不停烧的。行业数据很能说明问题。有海外机构测算，2023年推理只占全部AI算力的约三分之一，到2026年这个比例已经升到约三分之二。（数据参考来源：《TheInferenceEconomy:HowAIComputeFlippedFromTrainingtoServing》，发布时间2026.09.07）

据国家数据局公开信息，国内日均Token调用量从2024年初的约1000亿，涨到2026年3月的140万亿，两年多涨了上千倍。当算力消耗的主力从“建模型”变成“用模型”，成本账就完全不一样了。最直接的变化体现在计费方式上。过去云厂商按GPU租用时长收费，本质是“资源租赁”，卡有没有在干活都收一样的钱；现在越来越多厂商开始按实际产出的Token计费，客户只为真正生成的智能内容买单。这意味着算力厂商的竞争逻辑变了——前两年比的是谁建的数据中心大、买的卡多，现在比的是谁能把单位Token的成本压到最低。建完卡只是第一步，能不能让卡低成本、高负载地跑出Token，才是真正的考验。

“效率竞赛”下，哪些环节更受益？

要把单位Token的成本压下来，单纯堆卡已经走不通了，钱得花在能真正提升效率的地方，产业链上受益的环节也随之迁移。除了芯片本身，那些能把算力利用率拉上去的配套方向，可能更值得关注。

首先是光互联。光互联在跨机柜、长距离互联场景加速渗透，800G光模块正成为数据中心标配，1.6T产品今年开始规模出货，深圳光博会上不少厂商的订单已经排到明年。阿里云披露其光模块上线数量逐年翻倍，明年新增规模可能超过历年总和。卡间互联的速率每上一个台阶，对高速光模块的需求就跳一档。（数据参考来源：《1.6T光模块订单排至明年:AI算力浪潮下,光通信产业的"抢跑"与卡位》，发布时间2026.09.13）

其次是液冷散热。风冷已经压不住高功率AI芯片的发热量，液冷正从“可选配置”变成“必选项”。行业数据显示，AI训练服务器的液冷渗透率已经达到约74%，预计2026年国内液冷市场规模约716亿元，同比增长超过70%。在数据中心能耗指标（PUE）管控趋严的背景下，液冷既保障芯片不降频，又能降低整体用电成本，放量节奏可能还会加快。（数据参考来源：《算力产业：上游把“工地”搬进工厂，下游把算力当水电卖》，发布时间2026.09.13）

第三是算力调度软件。硬件堆得再多，调度跟不上利用率还是上不来。通过智能调度给任务“削峰填谷”、把闲置算力盘活，是提升满载率最直接的手段。随着全国一体化算力网建设推进，跨区域、跨数据中心的算力统一调度，也可能打开新的市场空间。

对投资者来说，跟踪AI基建的思路可以换一换：别只盯着谁又买了多少卡，更值得关注的，或许就是“谁能让卡里的每一分钱都真正转起来”。

泰康研究精选股票发起

A类：014416C类：014417

泰康半导体量化选股

A类：020476C类：020477

以上内容与数据，与有连云立场无关，不构成投资建议。据此操作，风险自担。