网易首页 > 网易科技 > 网易科技 > 正文

DeepSeek开源昇腾基础组件,联手华为优化128卡超节点

0
分享至

9月30日消息,DeepSeek宣布开源面向华为昇腾平台的基础设施组件,覆盖编程工具、计算库和分布式通信库,与此前面向英伟达平台的开源组件一一对应。

DeepSeek还披露,双方正在共同推进基于昇腾950的128卡超节点方案,对计算和通信进行深度优化。华为团队参与了这批组件的研发支持。

这批工具面向的是开发和运行模型的团队。模型换一套芯片运行,矩阵运算、数据读写、多卡之间的通信都需要适配。DeepSeek此次公开了自己在这些环节上的实现,供其他开发者复用。

V4训练用到的TileLang算子,已有昇腾实现

在这套工具中,TileLang负责让开发者更方便地编写算子。所谓算子,就是模型运行时执行矩阵运算、数据处理等具体计算的程序。它们会被反复调用,写得是否高效,直接影响硬件能发挥多少性能。

DeepSeek称,相比用CUDA编程,TileLang可以简化代码、提高开发效率,同时保留针对芯片特性进行优化的能力。这条路线先在英伟达平台上得到验证,目前已用于DeepSeek V4系列模型训练中的大部分算子。

昇腾版本则把底层Ascend C指令封装起来,让开发者通过更高层的语言编写程序。按照DeepSeek的说法,这种简化不会损失硬件性能;目前其训练中用到的每一个TileLang算子,都已有对应的昇腾高性能实现。

与编程工具一起开放的,还有承担具体工作的计算库。DeepGEMM加速矩阵运算,TileKernels提供常规向量计算和内存访问算子;FlashMLA负责稀疏注意力计算,提高长上下文处理效率,DeepSelect则用于高效筛选数据。

FlashMLA的项目文档给出了一组具体结果:在昇腾950上,处理输入上下文的预填充阶段,稀疏注意力算子最高达到硬件理论峰值的95%;逐步生成内容的解码阶段,最高达到83%。这两项均为项目方公布的测试成绩。

从单卡计算到128卡协作

多张卡一起运行模型时,还要不断交换数据。单卡计算再快,如果数据传输跟不上,其他卡仍然需要等待。此次开源的DeepEP昇腾版,就负责大规模跨设备通信。

在混合专家模型中,不同数据会被分给不同的专家网络处理,计算结果再汇合。DeepEP提供这类分发、汇合操作,并将公开接口与英伟达版本对齐,方便开发者沿用已有的调用方式。

DeepSeek称,在多项关键测试用例中,这批组件的计算和通信性能已接近硬件上限。具体到DeepEP,文档给出的范围是:在专家并行规模不超过32的测试中,数据分发带宽约达到物理带宽上限的90%至95%;更大规模的数据分发,以及结果汇合操作,仍在优化。

公开代码中的部分能力也仍在完善。DeepEP文档列出,一些集合通信操作尚在开发,部分接口还处于实验阶段。其性能测试使用了华为提供的概念验证版硬件开发套件(PoC HDK),并做了额外的手动配置,这套配置尚未公开分发。文档称,后续Atlas 850E商用HDK将包含达到完整带宽所需的配置。

其他团队接入时,仍需配齐相应的芯片、软件和固件环境。接口层面已经有了一些便利:TileKernels的更新说明写明,新增昇腾后端后,同一组Python接口可以在英伟达GPU和华为NPU上使用,由程序在运行时自动选择后端。开发者调用这些算子时,可以保留同样的接口,再针对各自硬件继续优化。(易句)

(本文由AI撰文,网易编辑负责校对)

相关推荐
热点推荐
国足2比2战平巴林,邵佳一的水平明显比伊万低一个档次

国足2比2战平巴林,邵佳一的水平明显比伊万低一个档次

李广专业体育评论
2026-11-17 22:03:44
晚上12点!CCTV5直播国足年度“重头戏”,U17国少迎战世界第一,力争21年来首胜

晚上12点!CCTV5直播国足年度“重头戏”,U17国少迎战世界第一,力争21年来首胜

大卫的篮球故事
2026-11-18 11:27:29
山东大师王兴夫被抓捕归案,99名女徒弟揭露内幕,真相让人意外

山东大师王兴夫被抓捕归案,99名女徒弟揭露内幕,真相让人意外

诡谲怪谈
2025-03-25 17:25:18
中俄美元首首次三方"面谈" 深圳迎来历史性会晤

中俄美元首首次三方"面谈" 深圳迎来历史性会晤

看看新闻Knews
2026-11-17 23:12:04
两条消息引发大盘逆转

两条消息引发大盘逆转

趋势巡航
2026-11-18 14:52:58
网上爆火的山姆包到底多好用?我们替你测了个遍

网上爆火的山姆包到底多好用?我们替你测了个遍

酷玩实验室
2026-11-18 10:49:05
中超主教练合同曝光!年薪304万美元+奖金另算 媒体人:花的窝囊

中超主教练合同曝光!年薪304万美元+奖金另算 媒体人:花的窝囊

念洲
2026-11-18 16:28:53
又一国宣布:加息!金价,重挫!

又一国宣布:加息!金价,重挫!

证券时报
2026-11-18 17:28:04
已经彻底摆烂!媒体人透露:广东男篮召开俱乐部杯赛前会议,新帅摊牌"不盯成绩",陈海涛沉默认同!11冠王还能撑多久?

已经彻底摆烂!媒体人透露:广东男篮召开俱乐部杯赛前会议,新帅摊牌"不盯成绩",陈海涛沉默认同!11冠王还能撑多久?

锐评利物浦
2026-11-18 14:49:03
真香现场:外国人在深圳聚餐齐齐用筷子,网友:夹颗花生看看

真香现场:外国人在深圳聚餐齐齐用筷子,网友:夹颗花生看看

西昆仑Bruce
2026-11-17 18:35:23
取消特权,全民赞成!退休金设计者郑秉文,55年出生,他会怎样?

取消特权,全民赞成!退休金设计者郑秉文,55年出生,他会怎样?

棠棣分享
2026-11-07 00:22:19
高市早苗抵达深圳,中方铺红毯,派三军仪仗队迎接

高市早苗抵达深圳,中方铺红毯,派三军仪仗队迎接

烽火观天下
2026-11-18 19:59:31
湘雅二院“虾滑论文”火了:湖南写成人类,一厘米刻12毫米,还拿了五项基金!

湘雅二院“虾滑论文”火了:湖南写成人类,一厘米刻12毫米,还拿了五项基金!

迷世书童
2026-11-18 00:05:12
高市早苗拒不道歉,专机飞往中国之前,还提要求希望得到平等待遇

高市早苗拒不道歉,专机飞往中国之前,还提要求希望得到平等待遇

通鉴史智
2026-11-18 09:37:22
日本10月份出口同比增长20.5%

日本10月份出口同比增长20.5%

每日经济新闻
2026-11-18 07:56:11
离称霸,字节只差一个聊天软件了!

离称霸,字节只差一个聊天软件了!

城事堂
2026-11-17 14:09:44
一场2-2!揪出国足4大“水货” 表现拉胯 恐被邵佳一弃用 球迷:卧底

一场2-2!揪出国足4大“水货” 表现拉胯 恐被邵佳一弃用 球迷:卧底

球场新视角1号
2026-11-18 07:14:28
前国脚:别埋汰拜合拉木有身体没技术了!他能活到现在已经是奇迹了

前国脚:别埋汰拜合拉木有身体没技术了!他能活到现在已经是奇迹了

念洲
2026-11-18 08:15:52
黄仁勋又下了步臭棋,前脚声明要回归英伟达,后脚就被董事会拒绝

黄仁勋又下了步臭棋,前脚声明要回归英伟达,后脚就被董事会拒绝

光电科技君
2026-11-18 11:31:59
蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

果妈聊娱乐
2026-08-23 08:38:03
2026-11-18 21:12:49

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

中俄美三国领导人会晤是否会讨论乌克兰问题 中方回应

头条要闻

中俄美三国领导人会晤是否会讨论乌克兰问题 中方回应

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
家居
房产
游戏
健康

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

周大生出手!海棠湾又一大商业体来了

新西兰旅游局官方调侃:最早玩上《GTA6》的地区

医生眼里"很伤腰"的椅子,很多人天天坐

无障碍浏览 进入关怀版
×