被CUDA报错折磨三个月后，我重新看了一遍DeepSeek的开源公告

上个月月底，凌晨一点四十，我盯着屏幕上第无数次跳出来的红字发呆。

RuntimeError: CUDA error: an illegal memory access was encountered

旁边还有一行小字：device-side assert triggered。

这个报错我已经追了三天。代码在英伟达的卡上跑得好好的，一搬到昇腾环境，跑到第三层注意力计算就崩。查日志、翻文档、问社区，能试的全试了。最后定位到的是一个算子——英伟达那边有现成的，昇腾这边没有，我硬用底层指令拼了一个，精度对不上。

那天晚上我关掉电脑，在楼下便利店买了瓶水，坐在马路牙子上想了一个问题：我到底是在做AI，还是在做搬家？

一、搬一次家，家具全得重买

我们团队今年年初决定试水国产芯片。理由很简单，老板算了一笔账：同样算力，英伟达的卡贵不说，还经常排不上队。

但真动手了才发现，事情没那么简单。

打个比方。英伟达的软件体系就像一条修了二十年的高速公路，路面平整、路标清晰、服务区密集。你在上面开车，基本不用操心路况。而国产芯片的硬件本身不差，马力够足，但路是刚铺的，很多匝道还没修通。

你原来在高速上跑得好好的运输车队，现在要换到另一条路上。车没问题，油也没问题，问题是——你车上装的货，得重新打包。

因为两边的“货架标准”不一样。英伟达那边用的是一套叫CUDA的打包方式，国产芯片用的是另一套。你想把货搬过去，得一件一件重新装箱。大模型训练里有成千上万个这样的“箱子”，每个箱子都要重装、重新称重、重新测试。

我们团队三个人，干了快两个月，才搬过去一小半。性能还掉了两成多。

二、老周把手机递过来说：你看看这个

就在我准备放弃的那个周五晚上，老周——我们组另一个后端——把手机递到我面前。

屏幕上是一条公告：DeepSeek开源了面向华为昇腾的全套开发工具。

我第一反应是“又来了”。过去两年，国产芯片的发布会我看了不下十场，每次都说“生态成熟”“无缝迁移”，真上手全是坑。

但这次我多看了两眼。

公告里有一句话让我停住了：同一套代码，可以在英伟达和昇腾上跑，不需要重写。

我往下翻，看到他们开源的不只是一个工具，而是一整套东西：负责把计算逻辑翻译成芯片语言的编译器、负责矩阵运算的加速库、负责多卡之间传数据的通信库。最关键的是，这些东西和他们在英伟达上用的版本，是一一对应的。

什么意思？还是拿搬家打比方。以前你从英伟达搬到昇腾，相当于你原来用的是宜家的螺丝，现在换成国产螺丝，孔位对不上，你得把每块板子上的孔重新打一遍。

现在DeepSeek做的事，是把两边的孔位做成一样的。你原来怎么拧，现在还怎么拧。

公告里还提到一个细节：他们自己训练V4系列模型，大部分核心计算程序已经用上了这套新工具。不是实验室跑分，是真在训练前沿大模型。

三、我算了一笔账，然后沉默了

那个周末我没休息，把DeepSeek开源的几个组件挨个看了一遍。

有个项目叫TileKernels，更新说明里写着：新增昇腾支持后，同一组Python接口，可以在英伟达和昇腾上同时调用，程序运行时自动选择底层实现。

这句话翻译成人话就是：你写一遍代码，两边都能跑，不用改。

我又翻到一个数据：面向昇腾某款芯片的稀疏注意力计算，在读取输入阶段达到了硬件极限的95%。这个数字我不敢全信，因为测试条件没公开，精度、批量大小都不知道。但至少说明，差距在缩小。

当然，问题也不少。文档还不全，有些功能标注着“开发中”，调试工具也不如英伟达那边顺手。社区里有人吐槽，说学这套新东西花了他两周，中间踩了不少坑。

但真正让我沉默的，是另一件事。

文章里提到，DeepSeek创始人梁文锋在内部会上说，公司超过70%的算力用于模型训练，留给推理的不到30%。V4-Pro的服务能力有限，要等昇腾超节点批量上市，价格才会降下来。

这段话让我想了很久。DeepSeek开源昇腾版，不全是情怀，更是被算力逼出来的现实选择。 他们训练模型要用大量芯片，高端卡供给受限，昇腾是能拿到手的方案。但要让这些芯片真正跑起来，软件层面必须先打通。

他们把自己的路蹚了一遍，然后把地图公开了。

四、周一上班，我做了个决定

周一早上，我把老周叫到会议室。

“把那套东西搭起来试试。”

老周没说话，点了点头。他知道我这个人，不见到实际跑起来的东西，不会松口。

我们花了一周时间，把原来迁移到一半的代码重新整理了一遍。之前那些卡在算子不兼容上的模块，有几个居然直接跑通了。有一个注意力计算的模块，我原来手写了三百多行底层代码，现在用新工具不到八十行就搞定了，速度还快了一些。

当然，不是所有模块都顺利。有个通信相关的组件，文档里写的是“部分场景支持”，我们试了三种配置才找到能跑通的那一种。

但至少，路通了。

五、说句扎心的实话

在这个行业干了六年，我最大的感受是：技术人的安全感，从来不是来自你多努力，而是来自你脚下的路有多宽。

CUDA生态积累了近二十年，几百万开发者，无数成熟的工具和文档。这些都是事实，短期内不会改变。国产芯片想追，不可能靠一次开源就抹平差距。

但这次不一样的地方在于，有人把“搬家”这件事，从“每个团队自己扛”，变成了“芯片厂商统一适配一次”。这意味着，后来的人不用再像我一样，坐在马路牙子上怀疑人生。

DeepSeek公告里有句话我记到现在：希望这套工具能为更多AI芯片建立软件生态起到示范作用。

摩尔线程、沐曦、算能这些厂商，已经在跟TileLang做适配了。如果这条路走通，国产芯片第一次有可能共享同一套算子生态，而不是各修各的路。

那天晚上加班到十一点，我关掉电脑准备走。老周还在翻文档，头也不抬地问了一句：“你说，以后招人，JD上还写‘熟悉CUDA优先’吗？”

我没回答。走进电梯的时候在想另一个问题

如果写代码这件事越来越不依赖特定硬件，那我们这些年熬夜啃底层指令积累的经验，到底是变得更值钱了，还是正在被稀释？

评论区说说你的判断。