CUDA正在被抛弃——不是我们选的，是被逼的

上个季度，我签了一张这辈子最憋屈的采购单。8 台 H20 服务器，600 万。

H20 是什么？是 H100 被美国政府阉割了三刀之后卖给中国的版本。算力砍掉一半，互联带宽砍掉一半，价格只便宜了 15%。

买回来第一天我让工程师跑了基准测试。同样的模型，训练速度只有 H100 的三分之一。三分之一。

花最多的钱，买最差的货。我盯着采购单看了五分钟，脑子里只有一个念头：我们不是在买 GPU，是在交赎金。

这就是中国 AI 开发者的现状——你花着全球最贵的溢价，用着全球最差的版本，还得感恩戴德人家愿意卖给你。然后你告诉自己："没事，CUDA 生态好。"

CUDA 到底有多好？好到你明知道自己被当韭菜割，还是离不开它。

没人敢承认的一个事实：CUDA 的护城河不是技术——是 18 年的时间差。而这道墙，正在被一把叫"制裁"的锤子从外面砸开。

90% 的 AI 跑在 CUDA 上——这个数字正在松动

不是 70%，不是 80%，是 90%。全球绝大多数 AI 训练和推理跑在 CUDA 上。

不是因为 Nvidia 的硬件比对手快多少。AMD 的 MI300X 在纸面算力上已经追平 H100。

问题出在软件。cuDNN、cuBLAS、NCCL、TensorRT——这些库花了 18 年积累，每一行 PyTorch 代码都默认调用它们。换个 GPU，这些隐式依赖全部炸掉。

CUDA 的护城河是时间壁垒：你过去十年写的所有代码、搭的所有训练流程、调的所有 bug，都和 CUDA 绑死了。

我参与过一个国产 GPU 适配项目，把一个中等规模训练任务从 CUDA 迁出来。模型迁移两天搞定——PyTorch 的 device map 本来就不绑硬件。但剩下三个月花在了：

• 自定义算子 — CUDA 有现成的，新平台上每个都要手写
• 混合精度训练 — CUDA 的 AMP 透明，新平台变成显式管理
• 分布式通信 — NCCL 换成自研库，调试工具少了十倍
• 性能调优 — 一样的结构，新硬件上瓶颈完全不一样

三个月。如果算人力成本，这个迁移比直接买 Nvidia 的卡还贵。这就是护城河的真正威力——不是你没得选，是选别的代价太高。

但裂痕已经肉眼可见了

昨天 Hacker News 上一篇 hpcwire 的文章冲到首页第 12 名，87 分，43 条评论。标题是"在非 Nvidia 硬件上跑 CUDA 的替代方案"。评论区没有一个人在讨论"能不能做"——全在讨论"哪个方案更好"。

这意味着判断已经变了。"能否替代 CUDA"这个问题已经有了答案。现在的问题只是"哪个替代方案最快"。

三个方向正在同时推进，而且速度超出预期：

• AMD ROCm — PyTorch 2026 年将 ROCm 列为一级支持。AMD 卡上自动路由，一行代码不用改
• Intel oneAPI — SYCL 一套代码跑 CPU/GPU/FPGA。Gaudi 3 推理性价比已超 H100
• 国产 GPU — 摩尔线程、壁仞、寒武纪。算力有差距，但零 CUDA 包袱，从 PyTorch 2.0 底层直接适配

后来者没有 CUDA 的遗产，也就没有 CUDA 的诅咒。

PyTorch 2.0 才是真正的杀手

很多人没意识到：PyTorch 2.0 的 torch.compile 是捅向 CUDA 垄断最深的一刀。

以前你要给不同 GPU 写不同算子。现在 torch.compile 把计算图编译成中间表示，各家后端各自编译到自己的硬件上。硬件厂商不再需要说服你学一个新 API——他们只需要做好自己的 torch.compile 后端。

这意味着什么？你不是在 AMD 和 Nvidia 之间选。你是在 AMD、Intel、摩尔线程、壁仞的 torch.compile 后端之间选。切换成本从"重写所有算子"变成了"换一个编译后端"。

护城河最深的地方，恰恰是最脆弱的地方。 CUDA 的生态深度来自于它和上层框架的深度绑定。当框架层开始解耦，18 年的积累就从一个资产变成了一个包袱——你绑得越深，转身越慢。

这就是没人敢说的真相：Nvidia 最强大的武器不是硬件，不是软件，是你的习惯。 而习惯是可以被打破的——尤其是当有人在后面拿刀逼你的时候。

被逼出来的东西往往更结实

Nvidia 对这一切心知肚明。他们已经在布局下一代护城河——不是 CUDA 2.0，是 AI 工厂。从 GPU 到 NVLink 到 InfiniBand 到液冷机柜，卖的不再是芯片，是一整套 AI 基础设施。CUDA 只是拼图里的一块。

但对中国的开发者来说，这块拼图有一半买不到。H100 禁了，给你 H20。H20 可能也要禁了，到时候给你什么？H10？

你知道那种感觉吗——你花了十几年掌握了一门技术，然后有人告诉你：对不起，你的国籍决定了你不配用最好的版本。不是因为你技术不好，不是因为你公司不够大。就是因为你的护照颜色不对。

这不是技术问题，这是尊严问题。

所以你不是在"选择"离开 CUDA。你是在被推着离开。每一条新的出口管制，都是在给 CUDA 的替代生态加一把火。

上次我参加一个 AI infra 的闭门会，一个做国产 GPU 的创始人说了一句话让我记到现在："我们现在卖的每一块卡，客户都不是因为性能好才买的。是因为他们怕明年 Nvidia 连 H20 都不卖了。"

这句话翻译过来就是：CUDA 的不可替代性正在被恐慌瓦解。 恐慌来自华盛顿，不来自硅谷。

Linux 是 Linus 买不起 Unix 逼出来的。RISC-V 是中国被 ARM 卡脖子逼出来的。

CUDA 的替代生态，正在被同一把刀逼出来。被逼出来的东西，往往比主动造出来的更结实——因为它没有退路。

结论很明确：CUDA 的垄断会松动。不是明年，但方向已经不可逆。

讲点实在的——未来三年你会看到三件事：

• 训练和推理分流。 训练继续用 Nvidia，CUDA 训练生态短期没对手。推理要便宜、省电、堆量——国产 GPU 和 AMD 的天然主场
• 框架解耦加速。 PyTorch 2.0 把硬件选择权还给开发者。你不用学 ROCm，换编译后端就行
• 国产替代升级。 2023 年问能不能跑，2026 年问够不够快。问题的变化就是答案

你现在花在学 ROCm、学 oneAPI、学国产工具链上的时间，不是成本，是期权。五年后回头看，今天的每一分投入都是在低位建仓。

去年 AMD 的 MI300X 出货量翻了四倍，一半以上去了中国。不是突然变好了——是 Nvidia 的货进不来。

需求没消失，换跑道了。垄断只能被两种力量打破：更好的产品，或者一堵墙。现在那堵墙已砌好。

具体怎么做？如果你是个人开发者，今天就能做的三件事：第一，装一个 ROCm 环境试试——AMD 的 ROCm 现在在 Linux 上一键安装，PyTorch 官方镜像已经内置支持，你可以在自己电脑上跑跑看差距到底有多大。第二，关注 PyTorch 的 torch.compile 后端进展——框架层的解耦比硬件层的追赶快得多，哪天 torch.compile 的 AMD 后端性能追上 CUDA，切换就是一行参数的事。第三，如果你在公司负责基础设施采购，现在就应该要求供应商同时提供 Nvidia 和 AMD 的报价——不是为了马上换，是为了让你老板看到那个价格差，然后为将来的决策提前埋好伏笔。

别等。等就是最贵的选项。等 H20 也被禁的那天再学，你的竞争对手已经跑完三圈了。

转给你身边还在纠结要不要碰 AMD 卡的朋友。问他一句：你觉得 H20 之后，Nvidia 还会给你什么？

评论区说说：你在用非 Nvidia 的 GPU 跑 AI 吗？踩过最多的坑是什么？