网易首页 > 网易科技 > 网易科技 > 正文

DeepSeek这次开源,想让华为芯片更好用

0
分享至

出品 | 网易智能

作者 | 小扣

编辑 | 王凤枝

做大模型的DeepSeek,为什么要给国产芯片写软件?

9月30日,DeepSeek宣布开放面向昇腾的基础设施组件,帮助开发者编写程序、提高计算效率,让多张芯片协同工作。此前面向英伟达平台开放的组件,如今有了对应的昇腾版本。

DeepSeek这次开源,想让华为芯片更好用

DeepSeek自己就需要大量算力。芯片买到手,还得让模型在上面高效运行。

把昇腾的软件适配做好,它就更有条件把计算任务交给国产芯片,在英伟达之外多一种选择。

芯片的算力,还得靠软件用起来

模型运行时,要反复计算、读取数据,多张芯片之间还要传递结果。如果这一轮计算已经做完,下一批数据却没送到,芯片就只能等;数据反复搬运,同样会拖慢进度。

软件需要把这些环节安排好,尽量减少等待和重复操作。

这些程序还要针对硬件调整:不同芯片的计算单元、存储和数据传输方式不同,适合英伟达GPU的实现,换到昇腾上也要重新适配。

DeepSeek为这些基础工作提供了现成的计算库:DeepGEMM加速矩阵运算,TileKernels处理常规向量计算和数据读写,FlashMLA则优化稀疏注意力计算,提高模型处理长文本的效率。

FlashMLA项目文档给出了昇腾950上的测试结果:在处理输入内容的“预填充”阶段,稀疏注意力计算性能最高达到硬件理论峰值的95%;在逐步生成内容的“解码”阶段,最高达到83%。


DeepSeek做过的工作,别人可以接着用

DeepSeek自己训练模型时,就要编写大量执行基础计算的程序,也就是“算子”。

公司称,V4系列训练中的大部分算子使用编程工具TileLang实现;训练中用到的每一个TileLang算子,如今都有对应的昇腾实现。

华为团队参与了这批组件的研发支持。双方还在共同推进昇腾950的128卡超节点方案,让这批芯片更高效地协同计算、交换数据。

如果这些代码只留在DeepSeek内部,其他模型团队遇到相似问题,仍得自行适配。

开源后,开发者可以检查、复用已有实现,再按自己的模型调整,减少一部分重复开发。

计算库TileKernels新增昇腾支持后,英伟达GPU和华为NPU上的相应功能,就能通过同一组Python接口调用,由程序自动选择硬件后端。使用这些功能的代码,不必再因为更换芯片而重写一遍。

英伟达难追的,还有芯片之外的积累

英伟达提供的并不只是一张GPU。人们常说的CUDA,背后包括计算库、编译器,以及查找程序错误、分析性能的工具。开发者既要把程序写出来,也要有办法查清楚:为什么跑不动,哪里拖慢了速度。

模型扩展到多张卡、多台服务器上运行,英伟达还有NCCL这样的通信库,负责协调数据交换。这些工具与硬件配合,让开发者有现成的办法处理从单卡计算到多机协作的问题。

团队已经写好的代码、工程师熟悉的调试方法,也会影响下一次采购。

换一种芯片,要算的不只有硬件价格,还有程序要改多少、多久才能投入使用。

对赶着训练和发布模型的公司来说,时间同样是成本。

DeepSeek这次为昇腾开放的计算和通信组件,也需要华为配套的软件环境。以DeepEP昇腾版为例,一些功能仍在开发,部分性能测试依赖尚未公开分发的手动配置。其他团队要复现这些结果,还得配齐相应的硬件、软件和固件。

国产芯片要追上英伟达,还得让更多团队用起来。针对一个模型做好的优化,要能用到其他模型上;从几张卡扩展到几百张卡,程序也要跑得稳。

工具是否齐全、遇到问题能否及时解决,都会影响开发者下一次还愿不愿意选它。

相关推荐
热点推荐
所有人都只记住四渡赤水!真正救下红军的,是被遗忘的隐秘底牌

所有人都只记住四渡赤水!真正救下红军的,是被遗忘的隐秘底牌

马探解说体育
2026-09-28 20:55:15
C罗的含金量上升?西班牙40场不败+4进决赛夺3冠,唯独输给葡萄牙

C罗的含金量上升?西班牙40场不败+4进决赛夺3冠,唯独输给葡萄牙

球场没跑道
2026-09-30 07:26:11
史上最严!网红集体退出这一行业?

史上最严!网红集体退出这一行业?

中国新闻周刊
2026-09-30 18:20:19
刘欢妻子辟谣网传临终传闻后事图片:我会在适当时机,选择适当窗口公布相关信息

刘欢妻子辟谣网传临终传闻后事图片:我会在适当时机,选择适当窗口公布相关信息

蓬勃新闻
2026-09-30 14:25:54
陪睡门主角魏莹奢靡生活曝光,豪车出行、到处旅游打卡,纸醉金迷

陪睡门主角魏莹奢靡生活曝光,豪车出行、到处旅游打卡,纸醉金迷

一曲一场談
2026-08-20 15:50:26
央视新剧《无可替代》首播,拿下全国收视第一名

央视新剧《无可替代》首播,拿下全国收视第一名

喜欢历史的阿繁
2026-09-30 08:24:41
印度一对夫妇为买手机和珠宝,以8000元卖掉刚满月婴儿,婴儿被转手四次获救时距父母超550千米,警方已逮捕包括父母在内的7名嫌疑人

印度一对夫妇为买手机和珠宝,以8000元卖掉刚满月婴儿,婴儿被转手四次获救时距父母超550千米,警方已逮捕包括父母在内的7名嫌疑人

扬子晚报
2026-09-30 19:27:05
原来这些都是交警的暗示啊!网友:给你台阶你是真不下啊!

原来这些都是交警的暗示啊!网友:给你台阶你是真不下啊!

夜深爱杂谈
2026-09-30 16:04:26
缅甸妙瓦底电诈园区“死灰复燃”,通过社交媒体公开招募成员,王星曾被骗至此处

缅甸妙瓦底电诈园区“死灰复燃”,通过社交媒体公开招募成员,王星曾被骗至此处

扬子晚报
2026-09-29 16:11:18
CBA宣布重要决定,中国男篮疑似又被坑了,日韩联赛再次嘲讽

CBA宣布重要决定,中国男篮疑似又被坑了,日韩联赛再次嘲讽

宗介说体育
2026-09-30 13:07:56
嘌呤大户被揪出,是海鲜的15倍?医生提醒:经常吃,关节或“扛不住”

嘌呤大户被揪出,是海鲜的15倍?医生提醒:经常吃,关节或“扛不住”

观星赏月
2026-09-28 16:17:06
“空姐下跪求乘客谅解”引热议,目击者发声;东航内部人士:事发时乘客处于睡眠状态,被服务车蹭碰惊醒;东航暂未正面回应

“空姐下跪求乘客谅解”引热议,目击者发声;东航内部人士:事发时乘客处于睡眠状态,被服务车蹭碰惊醒;东航暂未正面回应

爱看头条
2026-09-30 14:13:32
按照党中央部署,29个省份正在开展整省试点

按照党中央部署,29个省份正在开展整省试点

政知新媒体
2026-09-29 22:33:11
可怕!拜登政府从阿富汗接来的“难民”,40%审查错误,多名恐怖分子混入其中

可怕!拜登政府从阿富汗接来的“难民”,40%审查错误,多名恐怖分子混入其中

大洛杉矶LA
2026-09-30 04:34:07
罗德里、佩德里都不首发还能4-1:西班牙最恐怖的已经不是首发11人

罗德里、佩德里都不首发还能4-1:西班牙最恐怖的已经不是首发11人

西哇体育
2026-09-30 11:51:33
热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

蝴蝶花雨话教育
2026-08-18 09:57:05
徐耀任中央社会工作部副部长

徐耀任中央社会工作部副部长

澎湃新闻
2026-09-30 17:14:27
哈工程处分事件发酵!网传一女生保研刚好卡在线下,就差那一个名额,于是把那些人翻墙的痕迹都整理出来举报

哈工程处分事件发酵!网传一女生保研刚好卡在线下,就差那一个名额,于是把那些人翻墙的痕迹都整理出来举报

火山詩话
2026-09-29 14:25:00
测量319位中国女性外阴,他们发表全球首例研究

测量319位中国女性外阴,他们发表全球首例研究

医学界妇产科频道
2026-06-27 19:51:42
燃油车险胜!1-8月轿车销量:第1名不可撼动,朗逸、轩逸均破10万

燃油车险胜!1-8月轿车销量:第1名不可撼动,朗逸、轩逸均破10万

刘哥谈体育
2026-09-30 06:32:56
2026-09-30 22:55:00

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

伊朗总统乘老旧专机"闯进敌营" 强硬回应特朗普的威胁

头条要闻

伊朗总统乘老旧专机"闯进敌营" 强硬回应特朗普的威胁

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

胡歌现身游本昌遗体告别仪式

财经要闻

“杭州六小龙”迎来价值重估

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

家居
健康
旅游
公开课
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

刷酸祛痘,为什么有人翻车?

旅游要闻

白天喝咖啡、入夜赏光影、周末看比赛,2026年“上海之根”金秋消费季来了

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军最后2500人撤离伊拉克

无障碍浏览 进入关怀版
×