网易首页 > 网易号 > 正文 申请入驻

DeepSeek官方开源昇腾基础组件,与昇腾共建高效易用的AI芯片软件生态

0
分享至

9月30日,DeepSeek 正式开源面向昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、高性能计算库与分布式通信库,与此前面向GPU平台开源的组件一一对应。Deepseek团队面向华为昇腾平台开源发布基础设施加速库,对中国 AI 软件生态具有里程碑意义,为算力平台提供了新的选择。

本次开源,DeepSeek发布了DeepGEMM、FlashMLA、TileKernel、DeepSelect等高性能昇腾算子库组件和DeepEP分布式通信库。昇腾提供了稳定、开放的Ascend C API接口,使能用户对访存路径及计算流水线进行深度调优,完成高性能算子开发。同时依托开放 Ascend C 编程接口与 PTO ISA 底层指令体系,支持了DeepSeek的TileLang编程开源工作。昇腾生态兼顾不同开发范式,既支持资深开发者进行精细的手工调优,也支持 TileLang 等高级语言的编译对接。

华为向DeepSeek团队提供了联合定义的昇腾超节点SuperPoD Flex 和UBL128组网方案,可实现128卡3.2Tbps单层交换Scale-up网络和256K卡两层交换Scale-out网络,可以支持超低时延推理和前沿基座模型的大规模训练的需求。基于全互联的UBL128超节点,昇腾提供了 ASC-COMM 高性能自定义通信编程库,支撑用户通信算子与通算融合算子高性能编程。Deepseek团队开发了高性能 DeepEP 通信库,涵盖EP / CP / PP / FSDP 等模式下的通信算子,为更大模型向更大集群扩展提供支持,互联带宽实测达到 Dispatch 375 GB/s、Combine 347 GB/s 的通信性能,接近硬件上限。

为支持广泛的开发者基于昇腾 950 及超节点集群部署 DeepSeek模型,华为将此次联合创新的成果在CANN社区开源,包括大EP低延时推理部署、单卡/单机部署、大规模训练、超长文本KVcache池化与 Agentic RL。其中面向大规模推理场景,基于EP32部署策略,offline推理模式下DeepSeek-V4.1-Flash不带框架纯模型性能可实现TPOT=5ms,每卡输出吞吐2469 tokens/s;TPOT=10ms,每卡输出吞吐5102 tokens/s。(注:Benchmark数据均基于Offline推理模式采集,不包含Serving调度和框架负载均衡影响。ContextLength = 128K,Dspark 投机接受率 0.85,profiling链接详见附录:DeepSeek-V4.1-Flash超节点部署推理优化实践)

基承其本,算展其用。华为昇腾平台将与Deepseek等前沿模型团队,持续深耕芯模协同,联合创新。以AI算力底座承载模型能力,深度适配,双向奔赴,打通推理到训练的全链路,携手打造开放、高效、易用的AI软件生态。

开源参考实践和技术报告请访问gitcode。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国总统特朗普抵达深圳

美国总统特朗普抵达深圳

界面新闻
2026-11-18 16:42:19
终于看明白了!高油价正在复制香烟的涨价套路,老百姓却不玩了?

终于看明白了!高油价正在复制香烟的涨价套路,老百姓却不玩了?

混沌录
2026-11-18 19:29:09
这才是宋氏三姐妹真实的相貌,不是演员扮演的角色!

这才是宋氏三姐妹真实的相貌,不是演员扮演的角色!

历史伟人录
2025-05-08 10:08:01
日本3岁女童惨死家中!全身50多处淤青、食道破裂!亲妈多次目睹丈夫施暴却未阻止!

日本3岁女童惨死家中!全身50多处淤青、食道破裂!亲妈多次目睹丈夫施暴却未阻止!

东京新青年
2026-11-17 19:22:35
五角大楼批评乌打击俄远离前线目标,德国防长力挺乌克兰

五角大楼批评乌打击俄远离前线目标,德国防长力挺乌克兰

参考消息
2026-11-18 18:51:07
来了来了!曝重磅加盟!NBA杀神搭档高诗岩

来了来了!曝重磅加盟!NBA杀神搭档高诗岩

篮球实战宝典
2026-11-18 15:24:02
俄罗斯外交部长专门谈到台湾问题!11月18日,俄外长拉夫罗夫表示

俄罗斯外交部长专门谈到台湾问题!11月18日,俄外长拉夫罗夫表示

果妈聊娱乐
2026-11-18 12:25:45
中国第二轮“严打”来了,这次查的更严,一旦查到谁都跑不了!

中国第二轮“严打”来了,这次查的更严,一旦查到谁都跑不了!

职场资深秘书
2026-11-18 15:57:52
普京来中国带上三大副总理,办完大事不急着回国,直奔中俄大后方

普京来中国带上三大副总理,办完大事不急着回国,直奔中俄大后方

巷北楠猫本尊
2026-11-17 16:13:32
“我儿子敢这样穿,我上去就是一巴掌”,儿子一套低认知穿搭,家长还发到网上炫耀,网友怒了

“我儿子敢这样穿,我上去就是一巴掌”,儿子一套低认知穿搭,家长还发到网上炫耀,网友怒了

蝴蝶花雨话教育
2026-11-18 00:05:17
中方寸步不让!荷兰心急如焚

中方寸步不让!荷兰心急如焚

戎评
2026-11-18 13:56:41
今年“双十一”或是最惨的一年!业绩遇冷引内部通报,有管理者怒斥运营躺平

今年“双十一”或是最惨的一年!业绩遇冷引内部通报,有管理者怒斥运营躺平

火山詩话
2026-11-16 09:15:37
陆毅女儿贝儿进娱乐圈了,18岁签约百沐娱乐,以歌手身份高调出道

陆毅女儿贝儿进娱乐圈了,18岁签约百沐娱乐,以歌手身份高调出道

观鱼听雨
2026-11-18 17:42:38
女子30万元买下网剧3%收益权,上线5个月仅能分得17元 诉请出品方付30万回购,一审判了

女子30万元买下网剧3%收益权,上线5个月仅能分得17元 诉请出品方付30万回购,一审判了

红星新闻
2026-11-18 11:19:59
红船观察丨王忠林被查,权威声音释放关键信息

红船观察丨王忠林被查,权威声音释放关键信息

红船融媒
2026-11-17 11:36:09
“妈妈,我是不是智商不行”,杭州重高男生快急哭:期中连考9门,一门扣掉几十分,落差大到“怀疑人生”

“妈妈,我是不是智商不行”,杭州重高男生快急哭:期中连考9门,一门扣掉几十分,落差大到“怀疑人生”

极目新闻
2026-11-16 11:21:01
刚刚通报!重庆三名干部被查处

刚刚通报!重庆三名干部被查处

新浪财经
2026-11-18 19:34:45
一旦我国出生人口跌破700W会怎样?网友们竟都直言不讳!真有条有理

一旦我国出生人口跌破700W会怎样?网友们竟都直言不讳!真有条有理

夜深爱杂谈
2026-11-17 20:43:25
中美建交47年,还没有任何一个在任美国总统敢落地台湾。

中美建交47年,还没有任何一个在任美国总统敢落地台湾。

叶葉夜
2026-11-15 13:56:44
广西壮族自治区统计局局长李盛任自治区人民政府秘书长

广西壮族自治区统计局局长李盛任自治区人民政府秘书长

澎湃新闻
2026-11-18 17:49:02
2026-11-18 20:20:49
脑极体 incentive-icons
脑极体
从智能密钥到已知尽头
3864文章数 167664关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

教育
家居
旅游
本地
公开课

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版