网易首页 > 网易号 > 正文 申请入驻

DeepSeek的优雅迁移:向昇腾训练再进一步

0
分享至

DeepSeek开源面向华为昇腾的编程工具、计算库和通信库,宣布把已经在英伟达平台上验证过的模型研发与训练软件能力,系统性地扩展到昇腾,即所有组件与此前面向英伟达平台的开源组件“一一对应”。

在DeepSeek推进新一轮融资、筹划大规模采购昇腾芯片的背景下,这是关键的一步。资本可以买来设备,但只有软件、模型和硬件真正协同起来,设备才会成为持续提供推理和训练的基础设施。

先在英伟达上验证,再把能力带到昇腾

重点是TileLang,这条路线首先在英伟达成熟平台上得到验证,如今已承载DeepSeek V4系列模型训练中大部分算子的实现;目前,DeepSeek训练中使用的每一个TileLang算子,在昇腾上都有对应的高性能实现。性能数据已经显示出潜力。按照团队自测,FlashMLA在昇腾950上的稀疏注意力预填充内核最高达到410 TFLOPS,约为硬件峰值的95%。这是特定算子的结果。

这是一条稳健的工程路径,先在成熟硬件上验证编程方法和真实训练需求,再将相关能力带到另一种架构上。迁移过程中,模型团队已有可供对照的数值结果、算子行为和性能经验,不必同时重新证明模型算法与编程工具是否成立。

TileLang是一种面向高性能计算内核的领域专用语言及编译系统。“Tile”意为分块,开发者用接近Python的语法,描述矩阵块怎样计算、数据怎样移动,编译器承担部分存储规划、调度和同步工作。它把编程抽象提高了一层,但仍允许开发者表达硬件特有的优化。

这层抽象,是“优雅迁移”的关键,尽量保留上层计算表达、接口和研发流程,把必须因硬件而异的工作交给不同后端。昇腾版本封装Ascend C底层能力,面向昇腾原生执行;构建时可以关闭CUDA,无须安装CUDA工具包。它不是让昇腾模拟英伟达指令,而是开辟另一条执行路径。

“一一对应”,究竟是什么

本次对应的是DeepSeek自己的六类开源组件,而非CUDA生态中的所有功能。


这里既有组件定位的对应,也有接口的对齐,但不能把它理解为功能、数据类型和性能的完全等价。在已经覆盖的任务上,它们可以提供不依赖CUDA的实现;但不能自动运行任意CUDA程序,也没有替代CUDA整个开发与运行生态。

它们与华为软件栈也不是相互取代的关系。CANN提供昇腾基础计算环境,Ascend C等工具暴露底层硬件能力,DeepSeek则把模型的具体需求转化为高性能实现。例如,DeepGEMM-Ascend直接针对昇腾矩阵乘加原语优化;DeepEP-Ascend使用Ascend C并连接华为通信设施。因此,这批组件也并非全部用TileLang编写。

总之,华为提供通用底座,模型团队贡献真实工作负载与专用优化,双方再共同改善底层工具。

训练的信号,已经进入代码

这次发布不能主要被理解为推理适配,因为公开代码已经包含直接面向训练的内容。

TileLang的昇腾示例中,不只有注意力前向计算,还有生成查询、键和值梯度的反向计算,并提供正确性测试。DeepEP-Ascend也展示了专家通信的反向过程:前向时分发Token、汇总专家输出,反向时则传回相应梯度。这些都是训练所需要的能力。

优化还跨出了单卡。公告明确提到双方共同推进昇腾950的128卡超节点方案,通信库也公布了最高EP128规模的测试。它说明工作已经进入多设备协同。

不过,DeepSeek公告说的是“大部分算子”,不是“大部分算力”;算子数量不能直接换算成计算量或训练时间。“所有训练中使用的TileLang算子都有对应实现”,也不是说整个训练系统的全部功能都已完成迁移。

同样,128设备通信测试,不等于完整模型的128卡训练,更不等于跨多个超节点的长期预训练验证。当前公开通信性能还依赖非公开的概念验证版驱动固件及手工配置,推荐的公开商用版本计划于10月中旬提供,部分通信功能仍待完善。

因此,DeepSeek已经在系统性建设昇腾训练所需的核心软件能力,下一步需要看到的,是端到端收敛、训练吞吐、长期稳定性和故障恢复,而不只是若干算子接近自身硬件峰值。

融资与16万片950,在这条迁移路线上

资本与硬件扩张,让这次软件发布有了更具体的背景。据The Information,DeepSeek正推进第二轮融资,目标以5000亿元估值募集500亿元,争取10月底完成;公司将超过70%的算力用于训练。媒体也报道过,DeepSeek计划在内蒙古的数据中心部署至少16万片昇腾950DT,交付进度取决于华为产能,履约可能超过一年。

这凸显了DeepSeek发布这些组件的意义,此前的大规模硬件计划主要指向模型服务,现在公开的软件建设,则进一步覆盖训练所需的能力。

两条路线可以同时推进。新增昇腾资源若承接更多推理需求,就有机会缓解既有GPU的服务压力,为研发释放资源;训练软件逐步成熟后,DeepSeek又可以验证并扩大昇腾承担训练任务的范围。继续使用英伟达,与建设昇腾训练能力,目前并不矛盾。

走向持续的芯模协同

DeepSeek与华为的合作,已经是深度的芯模协同。TileLang昇腾后端的初版主要由DeepSeek团队开发,并获得华为协作支持;双方的优化延伸至编译器、计算内核、通信和固件。这意味着模型需求开始直接参与底层软件体系的建设。

英伟达与OpenAI的合作中,同样明确提出共同优化模型、基础设施软件与硬件软件路线图。

谷歌的TPU与Gemini,则具有更完整的纵向组织条件。谷歌发布第八代TPU时明确说明,芯片与DeepMind共同设计,将模型架构、应用需求、网络和软件纳入协同。它不仅让模型适应现有硬件,也让未来硬件按模型需求改变。

DeepSeek这条路线的独特价值,在于把跨企业合作的成果开放出来。其他团队可以研究、复用和改进真实模型所需的优化,减少重复移植,让更多国产设备不仅能跑模型,还能高效支持模型迭代。但其他芯片仍需建设自己的后端,开源不会自动消除硬件差异。

DeepSeek英伟达平台积累能力的基础之上,逐步获得对昇腾的选择,并且让自己的模型研发与训练能力,具备在更多硬件平台上延续的条件。

参考:

DeepSeek及文内相关github文档

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
俄罗斯到底为啥打不下一个乌克兰?真正限制俄军的,是这五道难题

俄罗斯到底为啥打不下一个乌克兰?真正限制俄军的,是这五道难题

民间胡扯老哥
2026-09-29 04:30:58
美国游泳杂志:于子迪两项世界排名第一,短池世锦赛麦金托什避战

美国游泳杂志:于子迪两项世界排名第一,短池世锦赛麦金托什避战

杨华评论
2026-10-01 00:00:31
赛力斯半价“问界”来了,华为彻底懵圈!

赛力斯半价“问界”来了,华为彻底懵圈!

互联网品牌官
2026-09-29 12:34:29
加州科技高管命案曝新细节:婚前完成性别转换,亚裔岳父母被指对他长期辱骂

加州科技高管命案曝新细节:婚前完成性别转换,亚裔岳父母被指对他长期辱骂

译言
2026-09-30 08:25:42
老了肌肉流失怎么办?医生:2样东西必须吃,2件事做得越早越好

老了肌肉流失怎么办?医生:2样东西必须吃,2件事做得越早越好

健康科普365
2026-09-30 11:40:19
人心不足蛇吞象!孙颖莎输球不到12小时,人民日报点名,误会太深

人心不足蛇吞象!孙颖莎输球不到12小时,人民日报点名,误会太深

最爱乒乓球
2026-10-01 01:59:15
终于倒闭了!中国最“暴利”的行业,嚣张20年后彻底被时代淘汰

终于倒闭了!中国最“暴利”的行业,嚣张20年后彻底被时代淘汰

莫地方
2026-09-30 21:08:58
金与正回应地雷爆炸事件

金与正回应地雷爆炸事件

第一财经资讯
2026-09-30 08:51:02
睡完首富睡总统:从厂妹到顶级名媛,靠男人捞到268亿,她凭啥?

睡完首富睡总统:从厂妹到顶级名媛,靠男人捞到268亿,她凭啥?

料峭春寒洞
2026-09-29 18:36:46
事业没了、婚也离了,被封5年后赵薇再曝近况,瘦到脱相不敢认

事业没了、婚也离了,被封5年后赵薇再曝近况,瘦到脱相不敢认

阿讯说天下
2026-08-30 06:10:34
中国球迷意难平!不止因为国足1:2遭韩国逆转,更多在于这五点!

中国球迷意难平!不止因为国足1:2遭韩国逆转,更多在于这五点!

田先生篮球
2026-09-30 16:48:08
重大信号!俄罗斯,下死手了!

重大信号!俄罗斯,下死手了!

大嘴说天下
2026-09-30 22:15:04
英法已出兵!巴土也要参战,第二个俄乌战场即将打响,中国出手了

英法已出兵!巴土也要参战,第二个俄乌战场即将打响,中国出手了

兵卒史
2026-09-28 06:11:27
布鲁斯·威利斯近照曝光,患额颞叶痴呆后鲜少露面

布鲁斯·威利斯近照曝光,患额颞叶痴呆后鲜少露面

这里是美国
2026-09-30 13:51:33
广西广投刘明洪被双开:送钱买自己的位置,收钱卖别人的位置!

广西广投刘明洪被双开:送钱买自己的位置,收钱卖别人的位置!

娱乐小可爱蛙
2026-10-01 00:32:18
中网首日:莲花球场噪音不断,观众无序霸座,观赛礼仪再引热议

中网首日:莲花球场噪音不断,观众无序霸座,观赛礼仪再引热议

网球之家
2026-09-30 19:04:57
真是偷鸡不成蚀把米!据爆料,鸟哥已经与梁女士分手了,估摸着这下梁女士肠子都悔青了吧

真是偷鸡不成蚀把米!据爆料,鸟哥已经与梁女士分手了,估摸着这下梁女士肠子都悔青了吧

静若梨花
2026-09-29 11:05:31
“我是毛主席的儿子,我有证据!”1993年,浙江杭州老人鞠涛声称自己是流落民间的“毛岸龙”

“我是毛主席的儿子,我有证据!”1993年,浙江杭州老人鞠涛声称自己是流落民间的“毛岸龙”

回京历史梦
2026-09-30 18:28:05
游本昌孙女讲述爷爷最后时光:90岁以后,他吃东西就很少了,越来越瘦,但头脑很清晰;他走的时候没有病痛,非常安详

游本昌孙女讲述爷爷最后时光:90岁以后,他吃东西就很少了,越来越瘦,但头脑很清晰;他走的时候没有病痛,非常安详

台州交通广播
2026-09-30 17:33:46
车主注意!11月1日起加油新规正式生效:不懂很容易吃亏被罚

车主注意!11月1日起加油新规正式生效:不懂很容易吃亏被罚

快科技
2026-09-30 16:11:41
2026-10-01 07:16:49
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
519文章数 66关注度
往期回顾 全部

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

美国著名演员史泰龙发声:我糟蹋了自己的身体

头条要闻

美国著名演员史泰龙发声:我糟蹋了自己的身体

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

胡歌现身游本昌遗体告别仪式

财经要闻

“杭州六小龙”迎来价值重估

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

健康
时尚
亲子
游戏
艺术

刷酸祛痘,为什么有人翻车?

从理性到反叛,看米兰时装周风格流转

亲子要闻

农村生活

曝顽皮狗正开发《神秘海域》系列新作 不是初代重制版

艺术要闻

不服来辩!这些山水画,才是中国画的真正巅峰!

无障碍浏览 进入关怀版