网易首页 > 网易号 > 正文 申请入驻

DeepSeek 开源第三枪:加速推理只需300行代码

0
分享至

DeepSeek开源周迎来第三弹——高性能矩阵计算库DeepGEMM 正式开源!

这个被称为“AI数学加速器”的工具,专为提升大模型训练与推理速度而生,在Hopper架构GPU上实现FP8精度下1350+ TFLOPS的恐怖算力 ,代码极简却性能炸裂,堪称算力领域的“暴力美学”。

FP8精度,算力天花板再突破,采用8位浮点数(FP8)格式,相比传统32位浮点运算,如同用“小杯装水”替代“大桶储水”,牺牲微小精度换取 3倍以上速度提升 ,完美适配AI场景对误差的容忍性。

在Hopper GPU上实测1350+ TFLOPS (每秒1.35千万亿次浮点运算),远超市面主流显卡(如RTX 4090的400-500 TFLOPS)。

300行代码,性能碾压手工优化核心逻辑仅需300行代码 ,却通过全流程JIT编译优化 ,实现比手工调优算子更高效能,真正诠释“少即是多”。无额外依赖项,开箱即用,开发者可快速集成至现有框架。

双模式支持,适配全场景计算同时支持稠密矩阵布局 (全量数据统一计算,如全班做同一张试卷)和混合MoE布局 (分任务处理,如数学题给专家A、语文题给专家B),灵活应对不同模型需求。

FP8的“省电模式” :低精度计算大幅降低显存占用和功耗,让万亿参数大模型在24G显存单卡上也能跑出28倍推理加速 (参考KTransformers项目)。

MoE杀手级优化 :通过连续/掩码双布局 ,解决专家模型计算中的通信瓶颈,让万亿参数MoE推理“快如闪电”。极简代码哲学 :摒弃冗余设计,专注底层优化,重新定义高性能计算边界。

随着DeepGEMM的开源,DeepSeek R2模型(预计5月发布)的算力瓶颈将进一步突破。未来,从训练到推理,从单卡到分布式,DeepSeek正构建一套全栈开源Infra体系 ,让AI创新不再受制于算力成本。

根据知情人士消息,DeepSeek 正在加速推出 1 月发布的 R1 模型升级版 — DeepSeek R2。其中两位知情人士表示,DeepSeek 原计划在 5 月初发布 R2,具体时间尚未透露。

同时DeepSeek 今天也重新开放了 API 充值入口,此前因资源紧张,其曾一度关闭充值入口。目前 deepseek-chat 模型优惠期结束,调用价格已变更为每百万输入 tokens 2 元,每百万输出 tokens 8 元。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大批粉丝冲入商场,玻璃突然爆了!张凌赫线下活动,临时取消

大批粉丝冲入商场,玻璃突然爆了!张凌赫线下活动,临时取消

南方都市报
2026-05-31 16:45:36
广东一位母亲哭诉:读书害人不浅,女儿毕业2年不工作天天打游戏

广东一位母亲哭诉:读书害人不浅,女儿毕业2年不工作天天打游戏

灯锦年
2026-05-31 20:10:42
局势再度失控!美伊深夜交火,多架美机被打爆 !

局势再度失控!美伊深夜交火,多架美机被打爆 !

大嘴说天下
2026-05-31 18:37:38
姚明为ES9做代言!网友:李斌真是下血本了,姚明一般不接广告的

姚明为ES9做代言!网友:李斌真是下血本了,姚明一般不接广告的

火山詩话
2026-05-30 05:44:57
“一吨石油都别想进出伊朗港口” 对革命卫队意味着什么?

“一吨石油都别想进出伊朗港口” 对革命卫队意味着什么?

高博新视野
2026-05-30 18:47:42
缅甸掸邦北部南坎镇发生爆炸,云南瑞丽:未对我群众生产生活造成影响

缅甸掸邦北部南坎镇发生爆炸,云南瑞丽:未对我群众生产生活造成影响

极目新闻
2026-05-31 18:25:10
性生活是不是人的刚需?

性生活是不是人的刚需?

宇宙时空
2026-05-31 12:30:18
内分泌科主任:糖尿病最危险信号,不是口渴,是频繁出现6异常

内分泌科主任:糖尿病最危险信号,不是口渴,是频繁出现6异常

观星赏月
2026-05-31 07:44:43
文班称赞尚帕涅:他经历过低谷但从未放弃 你会愿意为他付出一切

文班称赞尚帕涅:他经历过低谷但从未放弃 你会愿意为他付出一切

北青网-北京青年报
2026-05-31 19:26:40
又一国产主帅下课?深圳新鹏城考虑换帅,41岁前国脚即将离任

又一国产主帅下课?深圳新鹏城考虑换帅,41岁前国脚即将离任

里芃芃体育
2026-05-31 08:20:35
0-1!大连英博第9分钟丢球,防高空球一言难尽,马莱莱险些造红牌

0-1!大连英博第9分钟丢球,防高空球一言难尽,马莱莱险些造红牌

汪星人哟
2026-05-31 19:51:42
任何一艘美航母上,都要带足大量女兵?她们在航母上有什么作用?

任何一艘美航母上,都要带足大量女兵?她们在航母上有什么作用?

探源历史
2026-04-06 04:10:07
大连七旬男子点燃杨絮,导致20辆新能源汽车被烧毁!

大连七旬男子点燃杨絮,导致20辆新能源汽车被烧毁!

极目新闻
2026-05-31 18:02:48
五千万啃光!马蓉从阔太沦落澳洲超市夜班,出门捂脸不敢见人

五千万啃光!马蓉从阔太沦落澳洲超市夜班,出门捂脸不敢见人

皮蛋儿电影
2026-05-14 09:59:14
认出3件算我输!第一个没几个人认得,最后一个更没人叫得出名!

认出3件算我输!第一个没几个人认得,最后一个更没人叫得出名!

三农老历
2026-05-31 12:16:00
《狂飙》高启强原型:从长沙菜场鱼贩到百亿黑老大,结局如何?

《狂飙》高启强原型:从长沙菜场鱼贩到百亿黑老大,结局如何?

南冥那只猫
2026-05-18 09:59:21
小米粥再次被关注!提醒:糖尿病患者喝小米粥时,务必重视这6点

小米粥再次被关注!提醒:糖尿病患者喝小米粥时,务必重视这6点

芹姐说生活
2026-05-25 22:56:54
辽宁养老金调整或将开始,历年调整方案,3500元能涨上120元吗?

辽宁养老金调整或将开始,历年调整方案,3500元能涨上120元吗?

叹为观止易
2026-05-31 18:20:04
央视官宣,第35艘052D“铜川”舰公开,中日“177舰”谁更强?

央视官宣,第35艘052D“铜川”舰公开,中日“177舰”谁更强?

蓝星杂谈
2026-05-31 20:01:01
三四个同事死死拽住,才没让他冲出去!药房医生当众扯下白大褂,只因一句……

三四个同事死死拽住,才没让他冲出去!药房医生当众扯下白大褂,只因一句……

医客
2026-05-30 12:14:19
2026-05-31 21:00:49
PConline太平洋科技 incentive-icons
PConline太平洋科技
深度剖析未来趋势,实用解答科技疑惑,趣味呈现科技魅力!
39623文章数 865034关注度
往期回顾 全部

科技要闻

戴尔诺基亚又回来了!AI重估老牌科技公司

头条要闻

媒体:印度多个领域面临严重问题 莫迪发出罕见的号召

头条要闻

媒体:印度多个领域面临严重问题 莫迪发出罕见的号召

体育要闻

阿森纳用最悲壮的方式,成就了巴黎王朝

娱乐要闻

朱军退休,正义虽迟但到,女方受惩

财经要闻

医学首席转岗搞科技,A股科技股遭遇巨震

汽车要闻

900V+3.2秒破百 领克10+&领克10上市16.99万元起

态度原创

艺术
时尚
游戏
房产
军事航空

艺术要闻

16位欧美画家笔下的儿童肖像

梓渝:慢下来,也很好

《识质存在》上世代动作游戏的风格是其成功关键

房产要闻

红动五月!全国抢入核心资产,广州盯紧凯旋新世界!

军事要闻

解放军代表质问日防卫大臣:日本何时道歉

无障碍浏览 进入关怀版