![]()
台上摆的已经不是一块板卡。
从 2024 年的 GB200 NVL72 开始,英伟达把产品从芯片做成了机柜:72 块 GPU、36 颗 CPU、交换机和液冷,整柜交付,整柜定价。
一块 H100 卖 3 万美元,一个 NVL72 机柜卖 300 万美元。
毛利率降了,锁定变强了
单看毛利率,卖整机不如卖芯片。芯片毛利七成以上,整机装配这一层薄得多。
但英伟达算的不是毛利率。
一块卡可以被换掉,一个机柜不行。机柜里的供电、液冷、背板、交换机都是为特定 GPU 定制的,客户换供应商等于重建整个机房。
黄仁勋在 2024 年的财报会上说过一句话,我们卖的不是芯片,是数据中心。这句话是这轮转型的核心。
云厂商的议价空间被削掉一块
以前云厂商可以自己设计服务器,自己挑主板、电源、散热,把成本压到最低。现在拿到的是整柜方案,可调的只剩机房的位置和数量。
更麻烦的是配额。机柜产能受限于封装和内存,这两样都在英伟达的分配权里。谁拿到配额,谁才有算力。
受损的不只云厂商。服务器代工厂从整机设计方变成了按图纸代工,做自研芯片的公司被软件生态挡在外面,二手市场的残值掉得比单卡更快。
下一轮瓶颈在电上
一个 NVL72 机柜功耗 120 千瓦左右。一百个柜子的机房,用电负荷顶得上一座小城镇。
美国几大电网的并网申请已经排到三年之后。这意味着即便芯片产能充足,数据中心也未必建得起来。土地、电力、水冷,过去是配套,现在是前置条件。
国内的约束一样存在。算力往电便宜的地方搬,这个逻辑和东数西算是一回事。
还有一个变化发生在软件层。
过去客户买卡,软件栈自己搭,用起来出问题自己扛。现在整柜交付,配套的编译器和调度框架也一并给到。这套软件是英伟达真正的护城河,客户跑在上面,迁移成本比换硬件更高。
所以整柜这门生意,卖的是硬件加软件,收的是长期依赖。一旦客户的模型和工具链都按这套来建,后面几代的采购就很难换别家。
隐患还有两个。一是客户集中度,前几大客户占收入四成以上,而这几家都在自研芯片。二是交付节奏,整柜从下单到通电要半年以上,2024 年那轮抢卡就有大批卡闲置半年才上线。
整柜的单笔金额更大,闲置的代价也更大。
还有一个变量是客户自己的机房条件。整柜方案对供电、承重、制冷的要求都比通用机架高,很多老旧数据中心要改造才能装。改造周期三五个月,这段时间里买回来的柜子只能等着。
这也解释了为什么新一代数据中心的建设速度,成了算力落地的真实上限,而不是芯片产能。
国内的情况要复杂一些。
一方面是管制,先进制程的卡进不来,能拿到的算力有限;另一方面是需求,几个大厂的模型训练都要排队等卡。
这就逼出了一条自己的路:把有限的算力用得更省。混合精度、稀疏化、蒸馏,这些技术在国内推得比国外快,不是因为更先进,是因为更缺。
另一个变化是国产替代的节奏。推理这一侧,国产卡的性价比已经能打;训练这一侧,差距还在。所以国内的实际格局往往是训练用少量高端卡,推理铺大量国产卡。
这个格局决定了国内算力生意的形态:整柜方案未必照搬,但"卖系统不卖零件"这个逻辑,一定会被学过去。
现在轮到拼选址和拼电费了,芯片本身的差距,暂时不是最要紧的那个变量。
来源:NVL72 配置与定价来自英伟达公开发布(2024 年);客户集中度来自英伟达财报;机柜功耗来自公开技术白皮书。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.