网易首页 > 网易科技 > 网易科技 > 正文

DeepSeek开源昇腾基础组件,联手华为优化128卡超节点

0
分享至

9月30日消息,DeepSeek宣布开源面向华为昇腾平台的基础设施组件,覆盖编程工具、计算库和分布式通信库,与此前面向英伟达平台的开源组件一一对应。

DeepSeek还披露,双方正在共同推进基于昇腾950的128卡超节点方案,对计算和通信进行深度优化。华为团队参与了这批组件的研发支持。

这批工具面向的是开发和运行模型的团队。模型换一套芯片运行,矩阵运算、数据读写、多卡之间的通信都需要适配。DeepSeek此次公开了自己在这些环节上的实现,供其他开发者复用。

V4训练用到的TileLang算子,已有昇腾实现

在这套工具中,TileLang负责让开发者更方便地编写算子。所谓算子,就是模型运行时执行矩阵运算、数据处理等具体计算的程序。它们会被反复调用,写得是否高效,直接影响硬件能发挥多少性能。

DeepSeek称,相比用CUDA编程,TileLang可以简化代码、提高开发效率,同时保留针对芯片特性进行优化的能力。这条路线先在英伟达平台上得到验证,目前已用于DeepSeek V4系列模型训练中的大部分算子。

昇腾版本则把底层Ascend C指令封装起来,让开发者通过更高层的语言编写程序。按照DeepSeek的说法,这种简化不会损失硬件性能;目前其训练中用到的每一个TileLang算子,都已有对应的昇腾高性能实现。

与编程工具一起开放的,还有承担具体工作的计算库。DeepGEMM加速矩阵运算,TileKernels提供常规向量计算和内存访问算子;FlashMLA负责稀疏注意力计算,提高长上下文处理效率,DeepSelect则用于高效筛选数据。

FlashMLA的项目文档给出了一组具体结果:在昇腾950上,处理输入上下文的预填充阶段,稀疏注意力算子最高达到硬件理论峰值的95%;逐步生成内容的解码阶段,最高达到83%。这两项均为项目方公布的测试成绩。

从单卡计算到128卡协作

多张卡一起运行模型时,还要不断交换数据。单卡计算再快,如果数据传输跟不上,其他卡仍然需要等待。此次开源的DeepEP昇腾版,就负责大规模跨设备通信。

在混合专家模型中,不同数据会被分给不同的专家网络处理,计算结果再汇合。DeepEP提供这类分发、汇合操作,并将公开接口与英伟达版本对齐,方便开发者沿用已有的调用方式。

DeepSeek称,在多项关键测试用例中,这批组件的计算和通信性能已接近硬件上限。具体到DeepEP,文档给出的范围是:在专家并行规模不超过32的测试中,数据分发带宽约达到物理带宽上限的90%至95%;更大规模的数据分发,以及结果汇合操作,仍在优化。

公开代码中的部分能力也仍在完善。DeepEP文档列出,一些集合通信操作尚在开发,部分接口还处于实验阶段。其性能测试使用了华为提供的概念验证版硬件开发套件(PoC HDK),并做了额外的手动配置,这套配置尚未公开分发。文档称,后续Atlas 850E商用HDK将包含达到完整带宽所需的配置。

其他团队接入时,仍需配齐相应的芯片、软件和固件环境。接口层面已经有了一些便利:TileKernels的更新说明写明,新增昇腾后端后,同一组Python接口可以在英伟达GPU和华为NPU上使用,由程序在运行时自动选择后端。开发者调用这些算子时,可以保留同样的接口,再针对各自硬件继续优化。(易句)

(本文由AI撰文,网易编辑负责校对)

相关推荐
热点推荐
网传物业费会成为压死失业人群的最后一根稻草…

网传物业费会成为压死失业人群的最后一根稻草…

慧翔百科
2026-11-12 11:33:59
C罗退队后首次发声!点赞威尔士主帅言论:葡萄牙人应感激拥有过他

C罗退队后首次发声!点赞威尔士主帅言论:葡萄牙人应感激拥有过他

我爱英超
2026-11-18 23:40:47
从0-1到2-1!印度队逆转夺冠!四连胜强势登顶,成就三连冠壮举

从0-1到2-1!印度队逆转夺冠!四连胜强势登顶,成就三连冠壮举

绿茵舞着
2026-11-18 19:55:18
中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

迷彩人生
2026-11-13 10:25:30
陈中华:公务员应带头为人民服务,而不是带头带薪休假享乐

陈中华:公务员应带头为人民服务,而不是带头带薪休假享乐

铜臭的历史味
2026-08-19 15:17:57
王传福,依旧C位!

王传福,依旧C位!

大佬灼见
2026-11-18 20:57:53
五角大楼批评乌打击俄远离前线目标,德国防长力挺乌克兰

五角大楼批评乌打击俄远离前线目标,德国防长力挺乌克兰

参考消息
2026-11-18 18:51:07
深圳APEC让很多外国人惊喜,印度人的说法最离谱

深圳APEC让很多外国人惊喜,印度人的说法最离谱

世家宝
2026-11-18 20:15:33
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
36岁克莱打疯了!每分钟0.168记三分创NBA历史第一!

36岁克莱打疯了!每分钟0.168记三分创NBA历史第一!

篮球大图
2026-11-18 15:01:21
多家银行上调美元存款利率

多家银行上调美元存款利率

中国经营报
2026-11-18 20:36:44
黄仁勋夫人比他大两岁,年轻的时候很有魅力

黄仁勋夫人比他大两岁,年轻的时候很有魅力

微评社
2026-11-18 11:42:53
iPhone 18e这次变化有点大,X光图都出来了,跟标准版居然共用模具!

iPhone 18e这次变化有点大,X光图都出来了,跟标准版居然共用模具!

明美无限
2026-11-18 18:59:06
蔚来向公安机关报案

蔚来向公安机关报案

极目新闻
2026-11-17 14:00:24
浑水宣布做空英伟达

浑水宣布做空英伟达

界面新闻
2026-11-18 11:36:52
这样的女人是极品中的极品

这样的女人是极品中的极品

风起见你
2026-11-03 12:37:03
中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

福建睿平
2026-05-25 08:01:59
法国民调惊人:若亲华的梅朗雄当选总统,近七成犹太人将出走法国

法国民调惊人:若亲华的梅朗雄当选总统,近七成犹太人将出走法国

影孖看世界
2026-11-17 23:51:09
缴费提醒!即将结束

缴费提醒!即将结束

新浪财经
2026-11-16 18:44:07
我国规上工业发电量出现连续4个月负增长

我国规上工业发电量出现连续4个月负增长

投资者内参
2026-11-18 20:59:16
2026-11-19 00:24:49

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

房产
艺术
旅游
健康
亲子

房产要闻

周大生出手!海棠湾又一大商业体来了

艺术要闻

洛阳发现唐代墓志,将魏碑、唐楷精髓融于一体,比欧颜柳赵的字更耐看!

旅游要闻

维港夜空告别“幻彩咏香江” 22年光影记忆落幕

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

当婴配市场进入存量博弈,有机赛道如何破局突围?

无障碍浏览 进入关怀版
×