网易首页 > 网易号 > 正文 申请入驻

R1一周年,DeepSeek Model 1悄然现身

0
分享至

编辑|Panda

2025 年 1 月 20 日,DeepSeek(深度求索)正式发布了 DeepSeek-R1 模型,并由此开启了新的开源 LLM 时代。在 Hugging Face 刚刚发布的《「DeepSeek 时刻」一周年记》博客中,DeepSeek-R1 也是该平台上获赞最多的模型。

https://huggingface.co/blog/huggingface/one-year-since-the-deepseek-moment

如今,刚过一年时间,DeepSeek 的新模型又在 GitHub 悄然现身。

这些天,DeepSeek 给其 FlashMLA 代码库推送了不少更新,而在这些更新中,一个名为Model1的模型引起了广大网友的注意。

如下截图所示,这个目前还很神秘的 Model1 不仅出现在了代码与注释中,甚至还有与 DeepSeek-V3.2 并驾齐驱的文件。

这也不禁让网友们开始猜测,这个 Model1 很可能就是传闻中 DeepSeek 即将在春节前后发布的新模型的代号。

我们也让 Gemini 帮忙分析了 DeepSeek 的这些 Commit,让其提取了其中的技术细节,结果如下:

根据 DeepSeek 在 2026 年 1 月提交的 flashmla 库代码变更,可以推断出Model1 是 DeepSeek 下一代旗舰模型 DeepSeek-V4 的内部开发代号或首个工程版本。以下是根据代码 diff 提取的技术细节分析:

1. 核心架构:回归 512 维标准

在 csrc/api/common.h 的 DISPATCH_HEAD_DIM 宏中,可以看到 head_dim 的分支处理:

  • V32 (DeepSeek-V3.2):继续沿用 d_qk = 576 的配置。这是 DeepSeek-V3 引入的非对称 MLA 设计(128 维 RoPE + 448 维 Latent)。
  • Model1:切换到了 512 维。这表明 DeepSeek-V4 在 MLA 架构上进行了「标准化」回归,可能是为了更好地匹配 Blackwell (SM100) 架构的算力对齐,或者优化了 Latent 压缩比例。

2. 全面支持 Blackwell (SM100) 架构

代码库中出现了大量针对 NVIDIA 下一代 Blackwell GPU 的专门优化:

  • SM100 接口:api.cpp 中新增了 FMHACutlassSM100FwdRun。这直接指向了 Blackwell 架构的核心指令集优化。
  • CUDA 版本要求:README 提到在 B200 上运行需要 CUDA 12.9。
  • 性能表现:在 B200 上,目前尚未完全优化的 Sparse MLA 算子已能达到 350 TFlops。而在 H800 (SM90a) 上,Dense MLA 的计算吞吐量高达 660 TFlops。

3. 引入「Token-level Sparse MLA」

这是 Model1 相比 V3 系列最显著的算子演进:

  • Sparse & Dense 并行:测试脚本中出现了 test_flash_mla_sparse_decoding.py 和 test_flash_mla_dense_decoding.py。
  • FP8 KV Cache 混合精度:Sparse 算子使用 FP8 存储 KV Cache,但在计算矩阵乘法时使用 bfloat16 以保证精度。这说明Model1 在极长上下文场景下,会通过「稀疏化推理」来降低显存压力和提升速度

4. 新机制:Value Vector Position Awareness (VVPA) 与 Engram

虽然 diff 主要是算子层面的,但结合 DISPATCH_MODEL_TYPE 的逻辑和社区披露,Model1 引入了以下新特性:

  • VVPA(数值向量位置感知):这可能解决了传统 MLA 在长文本下位置信息衰减的问题。
  • Engram 机制:这被认为是 DeepSeek 在分布式存储或 KV 压缩上的新突破,用于配合 Model1 的高吞吐需求

而 Gemini 之所以判断 Model1 是 DeepSeek 下一代旗舰模型 DeepSeek-V4 的内部开发代号或首个工程版本,是因为它认为在下面所示的代码中,MODEL1 的定位是一个与 V32 并列且独立的分支,「说明它不是 V3 系列的补丁,而是一个采用了不同架构参数的全新模型。按照 DeepSeek 的命名惯例,在 V3.2 之后的旗舰级架构跨越,逻辑上即为 V4。」

对此,你怎么看,你觉得 Model1 就是传说中的 DeepSeek V4 吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
社保开始大数据倒查!违规挂靠、补缴等旧账终身追溯!

社保开始大数据倒查!违规挂靠、补缴等旧账终身追溯!

职场资深秘书
2026-10-21 16:16:34
谁也没想到,1998年纽约这张合影,竟埋下命运伏笔:52岁的特朗普,身旁是28岁的梅拉尼娅

谁也没想到,1998年纽约这张合影,竟埋下命运伏笔:52岁的特朗普,身旁是28岁的梅拉尼娅

扶苏聊历史
2026-09-30 16:46:18
牛奶被关注!医生发现:喝得越多,肌少症老年人肌肉流失或越慢?

牛奶被关注!医生发现:喝得越多,肌少症老年人肌肉流失或越慢?

路医生健康科普
2026-10-21 19:20:04
11月大福报!4星座情财双丰收,苦尽甘来

11月大福报!4星座情财双丰收,苦尽甘来

别人都叫我阿螫
2026-10-21 12:32:42
放弃阔腿裤吧!今年的“喇叭裤”又火了,这样穿时髦高级,太美了

放弃阔腿裤吧!今年的“喇叭裤”又火了,这样穿时髦高级,太美了

时尚穿搭生活馆
2026-10-21 21:48:06
一辆十年车龄的奔驰迈巴赫S400拍卖,20万元被人拿下

一辆十年车龄的奔驰迈巴赫S400拍卖,20万元被人拿下

沙雕小琳琳
2026-10-19 18:08:32
电池比车贵是骗局?第一批比亚迪换电池,真实费用惊呆车主

电池比车贵是骗局?第一批比亚迪换电池,真实费用惊呆车主

音乐时光的娱乐
2026-10-20 09:37:34
发现中国一个奇怪的现象:只要有公婆帮扶的家庭,儿媳都忙着回公婆家;而公婆不帮的家庭,儿媳早已断联!

发现中国一个奇怪的现象:只要有公婆帮扶的家庭,儿媳都忙着回公婆家;而公婆不帮的家庭,儿媳早已断联!

心理观察局
2026-08-01 07:10:30
住建部明确:楼龄满25年的老房子,一律这样处理!老小区有福了

住建部明确:楼龄满25年的老房子,一律这样处理!老小区有福了

细说职场
2026-10-21 14:07:02
亚锦赛国乒女单全线晋级,蒯曼死里逃生陈熠丢局敲警钟

亚锦赛国乒女单全线晋级,蒯曼死里逃生陈熠丢局敲警钟

罗纳尔说个球
2026-10-21 21:32:04
电锯惊魂!巴黎球迷巨型横幅侮辱巴萨 巴萨2-4输球后向欧足联投诉

电锯惊魂!巴黎球迷巨型横幅侮辱巴萨 巴萨2-4输球后向欧足联投诉

念洲
2026-10-21 06:48:31
真相曝光!同曦小外援吃里扒外,脚踩两只船,南京被迫解约,面临CBA封杀!

真相曝光!同曦小外援吃里扒外,脚踩两只船,南京被迫解约,面临CBA封杀!

体坛卡卡说
2026-10-21 20:35:48
以色列被曝本月曾准备大规模打击伊朗

以色列被曝本月曾准备大规模打击伊朗

界面新闻
2026-10-21 21:08:37
不输就夺冠!曝成都蓉城对大连球迷限票 辽宁人都被限 被批格局太小

不输就夺冠!曝成都蓉城对大连球迷限票 辽宁人都被限 被批格局太小

念洲
2026-10-21 11:24:54
泽连斯基:希望美方不要干涉乌克兰选举问题

泽连斯基:希望美方不要干涉乌克兰选举问题

界面新闻
2026-10-20 19:30:33
被处分、被解约,她辞职跑马拉松!35岁张水华今年收入曝光,彻底颠覆我对马拉松跑者创收的认知!估计和你想的不一样

被处分、被解约,她辞职跑马拉松!35岁张水华今年收入曝光,彻底颠覆我对马拉松跑者创收的认知!估计和你想的不一样

锐评利物浦
2026-10-18 13:14:55
8000元入手回收仅3500元!iPhone Air被吐槽不保值

8000元入手回收仅3500元!iPhone Air被吐槽不保值

快科技
2026-10-21 18:24:04
李小冉离婚,果然是因为钱

李小冉离婚,果然是因为钱

清唱
2026-10-20 19:33:51
市场会失灵,政策也会失灵

市场会失灵,政策也会失灵

小筑财经
2026-10-20 10:13:55
穆里尼奥仍不信任28岁皇马球星,中场试验也没成功

穆里尼奥仍不信任28岁皇马球星,中场试验也没成功

甜份超标的我
2026-10-20 15:51:26
2026-10-21 22:55:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14260文章数 142749关注度
往期回顾 全部

科技要闻

SpaceX收入暴涨!马斯克:这事"不再不可能"

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天纪录披露

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天纪录披露

体育要闻

“我,对得起天津足球!”

娱乐要闻

张柏芝自曝五点陪伴儿子 谢霆锋尴尬了

财经要闻

昔日彩电一哥缘何在今天被挤下牌桌?

汽车要闻

智驾摩尔定律一年十倍跃升 2028迎来L4拐点

态度原创

本地
教育
健康
游戏
军事航空

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

教育要闻

“复读6年的体育生,还跑得动吗?”陪读母亲执迷不悔,网友恨铁不成钢

痘痘能根治吗?皮肤科医生说实话

《雷电1、2》登陆PS5等主机!爷青回 售价约50元

军事要闻

美原油储备降至44年来最低 美以伊战事或重燃

无障碍浏览 进入关怀版