网易首页 > 网易科技 > 网易科技 > 正文

DeepSeek这次开源,想让华为芯片更好用

0
分享至

出品 | 网易智能

作者 | 小扣

编辑 | 王凤枝

做大模型的DeepSeek,为什么要给国产芯片写软件?

9月30日,DeepSeek宣布开放面向昇腾的基础设施组件,帮助开发者编写程序、提高计算效率,让多张芯片协同工作。此前面向英伟达平台开放的组件,如今有了对应的昇腾版本。

DeepSeek自己就需要大量算力。芯片买到手,还得让模型在上面高效运行。

把昇腾的软件适配做好,它就更有条件把计算任务交给国产芯片,在英伟达之外多一种选择。

芯片的算力,还得靠软件用起来

模型运行时,要反复计算、读取数据,多张芯片之间还要传递结果。如果这一轮计算已经做完,下一批数据却没送到,芯片就只能等;数据反复搬运,同样会拖慢进度。

软件需要把这些环节安排好,尽量减少等待和重复操作。

这些程序还要针对硬件调整:不同芯片的计算单元、存储和数据传输方式不同,适合英伟达GPU的实现,换到昇腾上也要重新适配。

DeepSeek为这些基础工作提供了现成的计算库:DeepGEMM加速矩阵运算,TileKernels处理常规向量计算和数据读写,FlashMLA则优化稀疏注意力计算,提高模型处理长文本的效率。

FlashMLA项目文档给出了昇腾950上的测试结果:在处理输入内容的“预填充”阶段,稀疏注意力计算性能最高达到硬件理论峰值的95%;在逐步生成内容的“解码”阶段,最高达到83%。


DeepSeek做过的工作,别人可以接着用

DeepSeek自己训练模型时,就要编写大量执行基础计算的程序,也就是“算子”。

公司称,V4系列训练中的大部分算子使用编程工具TileLang实现;训练中用到的每一个TileLang算子,如今都有对应的昇腾实现。

华为团队参与了这批组件的研发支持。双方还在共同推进昇腾950的128卡超节点方案,让这批芯片更高效地协同计算、交换数据。

如果这些代码只留在DeepSeek内部,其他模型团队遇到相似问题,仍得自行适配。

开源后,开发者可以检查、复用已有实现,再按自己的模型调整,减少一部分重复开发。

计算库TileKernels新增昇腾支持后,英伟达GPU和华为NPU上的相应功能,就能通过同一组Python接口调用,由程序自动选择硬件后端。使用这些功能的代码,不必再因为更换芯片而重写一遍。

英伟达难追的,还有芯片之外的积累

英伟达提供的并不只是一张GPU。人们常说的CUDA,背后包括计算库、编译器,以及查找程序错误、分析性能的工具。开发者既要把程序写出来,也要有办法查清楚:为什么跑不动,哪里拖慢了速度。

模型扩展到多张卡、多台服务器上运行,英伟达还有NCCL这样的通信库,负责协调数据交换。这些工具与硬件配合,让开发者有现成的办法处理从单卡计算到多机协作的问题。

团队已经写好的代码、工程师熟悉的调试方法,也会影响下一次采购。

换一种芯片,要算的不只有硬件价格,还有程序要改多少、多久才能投入使用。

对赶着训练和发布模型的公司来说,时间同样是成本。

DeepSeek这次为昇腾开放的计算和通信组件,也需要华为配套的软件环境。以DeepEP昇腾版为例,一些功能仍在开发,部分性能测试依赖尚未公开分发的手动配置。其他团队要复现这些结果,还得配齐相应的硬件、软件和固件。

国产芯片要追上英伟达,还得让更多团队用起来。针对一个模型做好的优化,要能用到其他模型上;从几张卡扩展到几百张卡,程序也要跑得稳。

工具是否齐全、遇到问题能否及时解决,都会影响开发者下一次还愿不愿意选它。

相关推荐
热点推荐
U19国足VS韩国:申花小将坐镇,杨铭锐+杨展彭领衔,留洋新星冲锋

U19国足VS韩国:申花小将坐镇,杨铭锐+杨展彭领衔,留洋新星冲锋

零度眼看球
2026-11-17 08:35:20
“中国要被我们拖垮了!”2024年,韩国上千人拒绝吃从中国进口的中国白菜,本想给我们个“下马威”,结果自己撑不住了

“中国要被我们拖垮了!”2024年,韩国上千人拒绝吃从中国进口的中国白菜,本想给我们个“下马威”,结果自己撑不住了

扶苏聊历史
2026-11-16 17:33:26
以前被西方垄断,现在世道变了!广州番禺让国外奢侈品牌睡不着

以前被西方垄断,现在世道变了!广州番禺让国外奢侈品牌睡不着

去山野间追风
2026-11-17 15:29:50
28岁男子抱着刚出生亲弟弟笑不出来,网友:以后孙子和儿子打架咋整?

28岁男子抱着刚出生亲弟弟笑不出来,网友:以后孙子和儿子打架咋整?

东方豪侠
2026-11-17 04:52:10
姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

舞指飞扬
2026-11-13 07:42:15
4岁登基却喝稀粥度日:溥仪自述被宫女长期不当接触,致终生不育

4岁登基却喝稀粥度日:溥仪自述被宫女长期不当接触,致终生不育

小豫讲故事
2026-09-26 06:00:17
“差评”极多的国家:好色成瘾,骗子遍地?却被评为最佳旅行地

“差评”极多的国家:好色成瘾,骗子遍地?却被评为最佳旅行地

咸鱼金脑袋
2026-11-17 09:09:16
拿1240万年薪 ,场均17+9!能攻又能防,热火捡到宝了

拿1240万年薪 ,场均17+9!能攻又能防,热火捡到宝了

弄月公子
2026-11-17 16:13:45
11月起开始严厉打击,这八类灰色行为将入刑!

11月起开始严厉打击,这八类灰色行为将入刑!

逍遥论经
2026-11-16 09:00:39
中美俄调动10万兵力需要多久?俄罗斯3天,美国1天,中国呢?

中美俄调动10万兵力需要多久?俄罗斯3天,美国1天,中国呢?

铭记历史呀
2026-11-15 01:40:29
水均益爆刘欢葬礼细节!刘欢弟弟代家人致辞,卢璐强装镇定忍悲痛

水均益爆刘欢葬礼细节!刘欢弟弟代家人致辞,卢璐强装镇定忍悲痛

一娱三分地
2026-11-16 18:50:09
张学良至死不知:他最小的妹妹张怀敏,才是张家真正的传奇!

张学良至死不知:他最小的妹妹张怀敏,才是张家真正的传奇!

赵枹是个热血青年
2026-11-16 11:05:26
邝球供词太炸裂:做生意赚3000万全部交给蔡天凤,每月还给对方家用

邝球供词太炸裂:做生意赚3000万全部交给蔡天凤,每月还给对方家用

八卦宝宝
2026-11-17 15:23:29
美智库宣布兵推结果,日本如果出兵台海,解放军首批打击目标浮现

美智库宣布兵推结果,日本如果出兵台海,解放军首批打击目标浮现

国际风云录
2026-11-15 18:11:20
逆天!3少年轮奸女学生并笑着拍下了全程,结果法官:不用坐牢,他们还小

逆天!3少年轮奸女学生并笑着拍下了全程,结果法官:不用坐牢,他们还小

北美省钱快报
2026-06-02 04:45:28
Lisa男伴舞在协助脱衣环节中失手,直接把短裤往下扯,险些造成走光

Lisa男伴舞在协助脱衣环节中失手,直接把短裤往下扯,险些造成走光

韩小娱
2026-11-16 12:15:37
虞书欣翻车了!晒露背围裙照,引未成年粉丝争相模仿!

虞书欣翻车了!晒露背围裙照,引未成年粉丝争相模仿!

城市乡村
2026-11-16 16:34:10
终于明白为啥外国人觉得中国人很装了!看完网友剖析我笑喷,太精辟

终于明白为啥外国人觉得中国人很装了!看完网友剖析我笑喷,太精辟

夜深爱杂谈
2026-11-16 21:51:05
“央视主持人天团亮相深圳”2026年11月17日下午上了热搜榜

“央视主持人天团亮相深圳”2026年11月17日下午上了热搜榜

晓今娱
2026-11-17 15:08:35
35页PPT疯传:洛阳女子1女谈3男,每天卡时间,都已谈婚论嫁

35页PPT疯传:洛阳女子1女谈3男,每天卡时间,都已谈婚论嫁

烈史
2026-05-30 13:23:41
2026-11-17 17:27:00

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

媒体:东风-61列装引发岛内巨震 对手想拦截比登天还难

头条要闻

媒体:东风-61列装引发岛内巨震 对手想拦截比登天还难

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

后会友期大瓜:3位女演员被迫换车厢

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

手机
亲子
艺术
健康
公开课

手机要闻

向华为学习!安卓阔直板明年集体爆发:屏厂已送测

亲子要闻

不用报团交钱!深圳娃的秋假,被这套工业游学新玩法打开

艺术要闻

寸境宏光——2026中国小幅油画展 作品选四

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×