1000台迷你主机拼出机房：一张H100的钱能买40台

一、两个多月，货架变成了机柜

10 月 15 日，香港 HKEPC 放出一段机房画面。不是数据中心那种整齐的机柜阵列——是一排标准机柜里，每层托盘被切成好几个独立插槽，白色的小方盒子一个挨一个直立插进去，密到几乎看不见缝隙。盒子背面统一装了散热风扇模块，机柜后方每台单独一根网线、一根电源线，从柜顶收拢理线。

这些白盒子是苹果的 Mac mini。

七月份的时候，同一批设备还是另一副样子。当时曝光的画面里，它们躺在一间普通办公室里，摆在五金店就能买到的那种廉价货架上，没有标准服务器机架，没有防静电高架地板，也没有专用冷却散热塔。欧洲科技网站 Let'em Svet'em Apple 在七月报道过其中一家：一间中国初创公司，用大约 1000 台 M4 版 Mac mini 搭了一套 AI 算力。

两个多月，从五金店货架到带风扇模组的专用托盘。这个变化本身没什么技术含量，但它说明一件事已经落地了——有人真的把这套东西当基础设施在跑，而不是拿几台机器玩玩。

数字也确实抓人。按报道口径，单张 NVIDIA H100 的市场价，约等于 30 到 40 台 Mac mini 的总价；每台 mini 在典型 AI 负载下吃 10 到 30 瓦。于是一个谁都听得懂的换算出现了：一张卡的钱，能买 40 台整机。

问题是，这 40 台拼起来，究竟等于什么。

二、先把三个数字的口径拆开这个 1000 不是行业统计

它来自 Let'em Svet'em Apple 七月的报道，指向的是一家中国初创公司，原文用的是"约 1000 台"。十月机架画面里，港媒的说法是"现场已完成数十座层架的组装，整体规划规模达上千台"——说的是同一批在继续扩建，不是另一家公司又搞了一千台。

这一点必须说在前面。后面所有换算，都建立在这"约 1000 台"上。

40 台是采购口径，不是算力口径

港媒原文写得很清楚：从采购成本衡量，单张 H100 的市场价约等于 30 至 40 部 Mac mini 的总和。注意"采购成本"这四个字。它比的是两张报价单，不是两台机器的能力。

10 到 30 瓦的边界在哪

这个数字同样来自报道方，是"典型 AI 负载下"的整机功耗，不是实测，更不是峰值。苹果官方给 Mac mini 的电气规格里，写的是最大持续功率 155 瓦——是这个区间的五到十五倍。

这不是抠字眼。后面算电费的时候会发现，这个数字取 20 瓦还是取 155 瓦，结论的符号是反的。

两侧的硬参数，官方页面都能查到

项目

一台 Mac mini（M4）

一张 H100（SXM）

差距

内存容量

16GB 统一内存，可配 24/32GB

80GB HBM3

5 倍

内存带宽

120GB/s

3350GB/s

27.9 倍

功耗

典型 20W 上下，官方上限 155W

TDP 700W

35 倍或 4.5 倍

互联

千兆，可选万兆，雷雳 4 40Gb/s

NVLink 900GB/s

数量级

大模型推理的速度几乎完全由内存带宽决定——每生成一个 token，都要把权重从头读一遍。所以这一栏的 27.9 倍，比任何跑分都更能说明两者的定位差。

那它到底能干什么？港媒给的使用场景是：中小规模大语言模型推理、iOS 开发的自动化编译，以及高并行度任务。苹果这颗 M4 的统一内存架构，让 CPU 和 GPU 共用同一块内存，不用在两边反复拷数据，单机跑 8B 到 14B 的量化模型是舒服的。

港媒同时给了一条不留情面的边界：这套"货架级 AI"架构算力分散、带宽受限，完全无法承担前沿大语言模型的大规模预训练任务，只适用于轻量化推理和本地任务自动化。

为什么偏偏是它

如果只是要一堆便宜的小机器，市面上选择很多。港媒给的理由是两条：统一内存，和每瓦性能。

统一内存的意思是 CPU 和 GPU 共用同一块物理内存，跑模型时不用在两边反复拷权重。这件事的分量，前面那句"每生成一个 token 都要把权重读一遍"已经说明白了——权重存在哪、离计算单元多近，直接决定快慢。

第二条是每瓦性能。同样二十瓦上下，能不能把一个 8B 模型跑到可用的速度，才是这盘账算得过来的前提。再便宜一档的机器，如果每瓦产出掉一半，省下来的采购差价会从电费和机位上一点点还回去。

再加上 macOS 上现成的 MLX 和 Ollama，一套镜像复制一千遍就能跑，不必为每台机器单独适配。这三条凑在一起，才是"约 1000 台"这个数字出现的原因。

三、真正的差别不在总量，在能不能拼成一个

先说这套换算成立的地方。它抓到了一个真问题：采购单价。当一张加速卡的钱能买 40 台能开机的整机时，任何只看"峰值算力"的评估，都会漏掉一笔账——那 40 台机器，是可以全部同时干活的。

但这句话里藏着一个不对等：40 台，是 40 台插电就能跑完一整件事的电脑；一张 H100，是一块开不了机的零件。它没有 CPU、没有内存、没有主板、没有机箱、没有电源。真要把它跑起来，还得配上那些东西，而配的那些东西，报价单上是要另外算的。

反过来也一样：40 台都能开机，但算力加不成一份。这是整件事最容易被忽略的一层。

把所有机器的带宽直接相加，35 台是 4200GB/s，比一张 H100 的 3350GB/s 还高四分之一。纸面上看，这买卖赚了。

但纸面相加的前提是"能通"。把线插上之后：

互联方式

35 台合计带宽

相当于一张 H100

与纸面相差

纸面直接相加

4200GB/s

1.25 倍

千兆网口

4.4GB/s

1/766

960 倍

万兆网口

43.8GB/s

1/77

96 倍

雷雳 4 直连

175GB/s

1/19

24 倍

落差是 960 倍。原因很朴素：那 4200GB/s 是每台机器内部的一条总线，出了机箱就没了。机箱外面那根线，千兆的，一秒只能搬 0.125GB。

还有个数字更刺眼。1000 台全部走千兆，这些网线的带宽加起来是 125GB/s——比一台 M4 mini 内部那一条内存总线的 120GB/s，只高 4%。一千台机器的连线总和，约等于一台机器肚子里的一根线。

这就解释了为什么它只能做"推理"不能做"预训练"。想把一个大模型切成 35 份分给 35 台机器，每生成一个 token 都要跨机同步一次计算结果；GPU 内部那次同步在微秒级，跨一根千兆网线就是毫秒级。变量一多，等待时间会盖过计算时间。

所以这套农场的真实跑法，不是"一个 35 份的大集群"，而是"35 个各自的完整副本，前面加一个调度器分流"。多副本，不是大集群。

苹果自己给过一个参照。据媒体今年八月的报道，苹果允许多台 Mac Studio 通过雷雳 5 加 RDMA 组集群，苹果自测四台设备的 AI 推理性能最高达到单机的三倍。四台只有三倍，扩展效率七成五——而这已经是苹果能拿出来的最好条件：自家协议、直连、不是以太网。港媒那句"无法承担大规模预训练"，原因不是"每台太弱"，是"合不起来"。

四、算完电费，"省电"这个说法要收回一半

这笔账值得单独算一遍，因为"每台只吃 10 到 30 瓦"正被当成这套架构的核心卖点在传。

把 1000 台按每台 20 瓦典型值算，是 20 千瓦。而 1000 台按 35 台换一张卡折算，等于 28 张 H100——这 28 张卡自己的 TDP 加起来是 19.6 千瓦。

差 2%。

口径

1000 台农场

等值 28 张 H100

谁更省

只比卡/整机的核心部件

20kW

19.6kW

打平

加上服务器其他部件

20kW

31.4kW 左右

农场省 36%

单台按官方上限 155W

155kW

19.6kW

农场费 7.9 倍

第二行才是真实的采购对比——卡不会自己转，得放进机箱、配 CPU 和内存、加风扇和电源，整机功耗通常是卡 TDP 的一点五到一倍八，这里按一点六倍估。按这个口径，农场确实省，省三成六。

但三成六不等于"省电"。它省的不是电，是箱子——一台服务器里卡以外的那些东西。而第三行说明，这套架构的功耗优势完全建立在"负载不重"上；哪天业务把机器压到官方上限，账立刻翻过来。

真要给这套架构找一个跟电有关的说法，只有一个：省的是闲置。H100 不跑也得开着，mini 可以按请求量关。港媒那句"免除公有云端按量计费的庞大租赁账单"，说的就是这件事。

对普通团队来说，判断只有一条：看日均 GPU 利用率。负载持续、能排队、能忍延迟的——夜间批量、Agent 长任务、CI 编译、内部知识库问答——自建划算。突发高并发的在线推理，农场的延迟墙会在第一波峰值上撞上来。

比较稳的做法是分层：7B 到 32B 的常驻推理放本地小机器，永远在线、便宜、数据不出楼；训练和长上下文预填充按需租卡。两层各干各擅长的事，不用非此即彼。

最后提醒一句运维。1000 台 macOS 不是"没有机房"，是"没有空调，但有 1000 个要打补丁的系统"。有媒体分析指出，Mac 至今缺少成熟的集群调度、容错和远程管理能力，CUDA 仍是 AI 开发的事实标准。三五十台还能靠脚本凑合，上千台的批量部署、系统升级、单机故障隔离，是一份真正的工作量。

五、如果是你，会怎么摆这 40 台

从五金店货架到带风扇的托盘，只用了两个多月。有人真在把消费级硬件往基础设施推，哪怕它原本不是为这个设计的。

但它替代的从来不是 H100，是那张每月都在扣费的云账单。

所以问题只剩一个：给你"一张卡的钱"这个预算，你会买 40 台小机器摆进办公室，还是继续租？更实际一点——你们团队那批卡，一天里真正满载的有几个小时？