网易首页 > 网易号 > 正文 申请入驻

R1一周年,DeepSeek Model 1悄然现身

0
分享至

编辑|Panda

2025 年 1 月 20 日,DeepSeek(深度求索)正式发布了 DeepSeek-R1 模型,并由此开启了新的开源 LLM 时代。在 Hugging Face 刚刚发布的《「DeepSeek 时刻」一周年记》博客中,DeepSeek-R1 也是该平台上获赞最多的模型。

https://huggingface.co/blog/huggingface/one-year-since-the-deepseek-moment

如今,刚过一年时间,DeepSeek 的新模型又在 GitHub 悄然现身。

这些天,DeepSeek 给其 FlashMLA 代码库推送了不少更新,而在这些更新中,一个名为Model1的模型引起了广大网友的注意。

如下截图所示,这个目前还很神秘的 Model1 不仅出现在了代码与注释中,甚至还有与 DeepSeek-V3.2 并驾齐驱的文件。

这也不禁让网友们开始猜测,这个 Model1 很可能就是传闻中 DeepSeek 即将在春节前后发布的新模型的代号。

我们也让 Gemini 帮忙分析了 DeepSeek 的这些 Commit,让其提取了其中的技术细节,结果如下:

根据 DeepSeek 在 2026 年 1 月提交的 flashmla 库代码变更,可以推断出Model1 是 DeepSeek 下一代旗舰模型 DeepSeek-V4 的内部开发代号或首个工程版本。以下是根据代码 diff 提取的技术细节分析:

1. 核心架构:回归 512 维标准

在 csrc/api/common.h 的 DISPATCH_HEAD_DIM 宏中,可以看到 head_dim 的分支处理:

  • V32 (DeepSeek-V3.2):继续沿用 d_qk = 576 的配置。这是 DeepSeek-V3 引入的非对称 MLA 设计(128 维 RoPE + 448 维 Latent)。
  • Model1:切换到了 512 维。这表明 DeepSeek-V4 在 MLA 架构上进行了「标准化」回归,可能是为了更好地匹配 Blackwell (SM100) 架构的算力对齐,或者优化了 Latent 压缩比例。

2. 全面支持 Blackwell (SM100) 架构

代码库中出现了大量针对 NVIDIA 下一代 Blackwell GPU 的专门优化:

  • SM100 接口:api.cpp 中新增了 FMHACutlassSM100FwdRun。这直接指向了 Blackwell 架构的核心指令集优化。
  • CUDA 版本要求:README 提到在 B200 上运行需要 CUDA 12.9。
  • 性能表现:在 B200 上,目前尚未完全优化的 Sparse MLA 算子已能达到 350 TFlops。而在 H800 (SM90a) 上,Dense MLA 的计算吞吐量高达 660 TFlops。

3. 引入「Token-level Sparse MLA」

这是 Model1 相比 V3 系列最显著的算子演进:

  • Sparse & Dense 并行:测试脚本中出现了 test_flash_mla_sparse_decoding.py 和 test_flash_mla_dense_decoding.py。
  • FP8 KV Cache 混合精度:Sparse 算子使用 FP8 存储 KV Cache,但在计算矩阵乘法时使用 bfloat16 以保证精度。这说明Model1 在极长上下文场景下,会通过「稀疏化推理」来降低显存压力和提升速度

4. 新机制:Value Vector Position Awareness (VVPA) 与 Engram

虽然 diff 主要是算子层面的,但结合 DISPATCH_MODEL_TYPE 的逻辑和社区披露,Model1 引入了以下新特性:

  • VVPA(数值向量位置感知):这可能解决了传统 MLA 在长文本下位置信息衰减的问题。
  • Engram 机制:这被认为是 DeepSeek 在分布式存储或 KV 压缩上的新突破,用于配合 Model1 的高吞吐需求

而 Gemini 之所以判断 Model1 是 DeepSeek 下一代旗舰模型 DeepSeek-V4 的内部开发代号或首个工程版本,是因为它认为在下面所示的代码中,MODEL1 的定位是一个与 V32 并列且独立的分支,「说明它不是 V3 系列的补丁,而是一个采用了不同架构参数的全新模型。按照 DeepSeek 的命名惯例,在 V3.2 之后的旗舰级架构跨越,逻辑上即为 V4。」

对此,你怎么看,你觉得 Model1 就是传说中的 DeepSeek V4 吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
从富裕到贫穷,南非只用了一个伟人曼德拉,这个伟人他做了什么?

从富裕到贫穷,南非只用了一个伟人曼德拉,这个伟人他做了什么?

猪小艳吖
2026-06-25 22:17:25
5年3.6亿!NBA历史最大合同,二轮41顺位+7亿身价,历史独一份啊

5年3.6亿!NBA历史最大合同,二轮41顺位+7亿身价,历史独一份啊

球童无忌
2026-08-05 10:19:20
3-0,3-1,WTT瑞典大满贯:王曼昱造惨案 向鹏逆转世界冠军

3-0,3-1,WTT瑞典大满贯:王曼昱造惨案 向鹏逆转世界冠军

林雁飞
2026-08-12 17:20:03
分手十几年后,男子想要回送出的30多克金手镯,前女友称“早已转交媒人”,媒人矢口否认;女方:金价也不比当年,媒人不一定会承认

分手十几年后,男子想要回送出的30多克金手镯,前女友称“早已转交媒人”,媒人矢口否认;女方:金价也不比当年,媒人不一定会承认

大风新闻
2026-08-12 16:15:04
最后7席!欧冠资格赛附加赛终极对阵:费内巴切战里昂 奈梅亨vs博德闪耀

最后7席!欧冠资格赛附加赛终极对阵:费内巴切战里昂 奈梅亨vs博德闪耀

新英体育
2026-08-12 11:38:52
百花奖落幕,3人出尽风头,2人镀金失败,杨幂赢麻,1人败光体面

百花奖落幕,3人出尽风头,2人镀金失败,杨幂赢麻,1人败光体面

揽星河的笔记
2026-08-11 13:05:17
高考444分考生被殡葬专业录取遭父母反对,最新回应:父母爱是真切,但认知有局限,4月4日出生是巧合,之前有关注殡葬行业,就业前景不错

高考444分考生被殡葬专业录取遭父母反对,最新回应:父母爱是真切,但认知有局限,4月4日出生是巧合,之前有关注殡葬行业,就业前景不错

大风新闻
2026-08-12 09:47:05
这一战打断八旗脊梁:14位将军集体自尽,主帅却混在溃兵中偷生

这一战打断八旗脊梁:14位将军集体自尽,主帅却混在溃兵中偷生

墨策讲历史
2026-08-11 10:50:19
暴雨橙色预警:河南等地有特大暴雨

暴雨橙色预警:河南等地有特大暴雨

界面新闻
2026-08-12 07:04:01
姜小柔车祸去世:她碰的不是“不干净的东西”,是三条要命的红线

姜小柔车祸去世:她碰的不是“不干净的东西”,是三条要命的红线

迷世书童
2026-08-12 11:15:34
一夜之间,北京楼市突然梭哈了!

一夜之间,北京楼市突然梭哈了!

巢客HOME
2026-08-12 05:30:03
黄金创今年来最大单周涨幅!金饰克价,重回1300元;黄金股“抢跑”:A股黄金产业链已提前启动

黄金创今年来最大单周涨幅!金饰克价,重回1300元;黄金股“抢跑”:A股黄金产业链已提前启动

每日经济新闻
2026-08-08 15:31:17
托卡耶夫很果断,利益受损的哈萨克斯坦,把一批石油改道运往中国

托卡耶夫很果断,利益受损的哈萨克斯坦,把一批石油改道运往中国

悬崖边上的爱情
2026-08-12 15:59:25
闯过这3关,癌症就投降了,你的身体在一步步迈向健康!

闯过这3关,癌症就投降了,你的身体在一步步迈向健康!

肿瘤科王红军
2026-08-12 15:07:59
中方接到消息,东北亚暴雷在即?朝鲜军方已介入,又一场战事逼近

中方接到消息,东北亚暴雷在即?朝鲜军方已介入,又一场战事逼近

最新声音
2026-08-11 21:11:38
最寒心的真实案件:你施舍的善意,可能是别人杀你的理由

最寒心的真实案件:你施舍的善意,可能是别人杀你的理由

老欧讲大案
2026-08-11 20:29:21
曼城30岁中场加盟英冠队!5000万身价仅剩250万,瓜迪奥拉看走眼

曼城30岁中场加盟英冠队!5000万身价仅剩250万,瓜迪奥拉看走眼

球场没跑道
2026-08-11 23:13:31
没让蒋万安失望,国民党点将4人反攻,以牙还牙,赖清德彻底慌了

没让蒋万安失望,国民党点将4人反攻,以牙还牙,赖清德彻底慌了

勇士军武闲谈
2026-08-12 15:10:38
中方向全世界通告,若台海开战,出兵参战一律等同侵略中国领土!

中方向全世界通告,若台海开战,出兵参战一律等同侵略中国领土!

你是我的小甜甜
2026-08-12 14:13:15
故事:“天上人间”经理段丽娟被判死刑,行刑时大喊:是他害了我

故事:“天上人间”经理段丽娟被判死刑,行刑时大喊:是他害了我

飞云如水
2024-12-01 18:36:33
2026-08-12 18:15:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13740文章数 142718关注度
往期回顾 全部

科技要闻

Manus第二季,浪子回头

头条要闻

外卖小哥称"我人生最后一天啦" 女顾客收信息果断报警

头条要闻

外卖小哥称"我人生最后一天啦" 女顾客收信息果断报警

体育要闻

杜兰特,所谓的“联盟小王”

娱乐要闻

老戏骨杨昆两夺金鹰奖,因物业费被告

财经要闻

李嘉诚,再一次大撤退!他嗅到了什么?

汽车要闻

这台大众不一般 上汽大众ID.ERA.5S综合续航约2000公里

态度原创

本地
时尚
教育
房产
军事航空

本地新闻

黄州一夜,苏轼写给普通人的月光

赫本喜欢的维希格,早秋穿正合适

教育要闻

蔡皋:要宝贝孩子的天性,让他的天真任天真,让他的梦想有梦想

房产要闻

价格登顶,断层领跑!澄迈这家楼盘,凭什么?

军事要闻

通过“毕业大考” 湖北舰“持证上岗”

无障碍浏览 进入关怀版