网易首页 > 网易号 > 正文 申请入驻

独家丨腾讯混元3幕后:重构架构,姚顺雨一场非典型的「逆袭」

0
分享至

“抛弃「花里胡哨」,姚顺雨要带着混元回到最「基本」的路上。”

作者丨董子博

编辑丨林觉民

早在三月,提起马上要上线的混元 3.0,在腾讯混元工作的同学左飞就对雷峰网说过:“这次混元的新版本,其实团队预期不算太高。”

一个月后,4 月 23 日晚,Hy3 的 Preview 版本正式发布,同步开源,向世界展示自己最真实的样子。雷峰网独家获悉,Hy3 规模更大、功能更全面的闭源旗舰版本将在五六月份发布,给人留下不少想象空间。

(腾讯混元的新进展,雷峰网正在持续关注,欢迎添加作者微信:william_dong,交流信息,探讨认知。)

说起来,腾讯 Hy3 Preview 的发布也有点“生不逢时”——前有 GPT 5.5 举世围观,后有 DeepSeek V4 重磅回归,被夹在中间的混元,还是在“9.7 减去 9.11”的小学数学题上犯了难,在社交平台上引起了一阵围观。

“其实 GPT 和 DeepSeek 的发布日期在我们内部也不是什么秘密,但为什么选择在这个时候和他们一起发布,我也不太清楚。”左飞对雷峰网如是说

Hy3 之于 4 个月前的上一个版本究竟有哪些变化?在混元内部的同学邰萝对雷峰网分享道:“Hy3 基本上把之前的架构重构了一遍,但简单来来说,是回到了‘基本’。”

一直以来,业界的“基本”,是使用 Transformer 架构和 Full Attention 等一系列被验证了的技术方案,如 OpenAI 实践的一样,少有花里胡哨的操作,核心是把 DATA 做到极致;

而 Hy2 的时期,腾讯却尝试了不少架构上的创新——比如 Multi-Token Prediction、Mamba 等方案,反而把数据和 Infra 的“基础题”放下了。

到了 Hy3,姚顺雨则主导模型回到“基本”,重新使用经过验证的共识架构。而过去没绕过,今天也不可能绕过的数据和 Infra 问题,则成了必须下足的“苦功夫”。

腾讯同学雷瓯对雷峰网说,在过去,不少 SFT 数据没有经过去重,重复、冗余的数据甚至能达到上千万条,尤其是工期紧张的时候,数据的优先级就被排在了很后面。

姚顺雨来到腾讯,拉起了一个 20 余人的预训练数据团队,专门做数据审核“最脏最累”的工作,几个月内把冗余的 SFT 数据控制在了一万多条的规模下。

而在 Infra 的角度,姚顺雨也拎起了一个团队,重构过去腾讯 RL 的管线,让万卡集群能够跑得稳定、安全,有应对突发情况的能力。

之前,在腾讯 TEG,内部使用的基础设施是一个名叫“太极”的机器学习平台。近期,太极平台的 Feature 也在以一到两周一次的速度进行更新,做了不少迭代工作。

于是,在腾讯内部的 Benchmark 上,混元的性能可以达到 Kimi 2.5 的水平,超越了 MiniMax,仅次于 Gemini 和 Seed 2.0。

在混元体系的改造中,姚顺雨扮演的角色不仅是一个技术领袖:除了数据和 Infra 进行了大量重构,混元的组织和人员也完成了不小的调整。

组织上,混元被分为了预训练、后训练、Baseline Infra、模型评估和 Frontier 五大板块,除 Frontier 更偏技术探索和预研以外,四个板块十几个组,以十分扁平的结构,几乎全部投入 Hy3 的研发当中,而姚顺雨也被评价为十分亲历亲为的领导角色,对技术细节相当关注,和下面同学一起开会时候不少;

人员上,姚顺雨入主之后,也在推动团队的重构,从字节、阿里、DeepSeek、Kimi 等部招揽大量核心人才,姚顺雨尤其喜欢信仰 AGI、技术扎实的年轻人,不少校招生、实习生也加入团队,给团队注入了不少新鲜血液。

如今的姚顺雨,面临的并非与行业巨头旗鼓相当的正面交锋,而是一场从底层补短板、填漏洞的追赶之战——腾讯的逆袭绝非一蹴而就,唯有沉下心打磨基本功,方能积蓄力量迎头赶上,重回竞逐的第一梯队。

(腾讯等大厂在 AI 赛道上的竞逐,背后内幕不少,雷峰网正持续深度调查,欢迎添加作者微信:william_dong了解更多消息。)

*本文左飞、邰萝、雷瓯均为化名。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
红四方面军原总政委陈昌浩,1955年授衔时未获任何军衔,1967年吞药自尽;他的三个儿子,一个搞核潜艇,一个造汽车

红四方面军原总政委陈昌浩,1955年授衔时未获任何军衔,1967年吞药自尽;他的三个儿子,一个搞核潜艇,一个造汽车

人生录
2026-10-24 00:05:16
12岁的乔治王子现身帅到认不出!身高1米75快要超过妈妈凯特王妃

12岁的乔治王子现身帅到认不出!身高1米75快要超过妈妈凯特王妃

温读史
2025-11-09 09:25:54
这两公婆是要打擂台啊

这两公婆是要打擂台啊

上官晚安
2026-11-19 21:55:14
中俄通婚在不断增加,若不了解俄罗斯女性生理缺陷,婚后可能会很痛苦。

中俄通婚在不断增加,若不了解俄罗斯女性生理缺陷,婚后可能会很痛苦。

回京历史梦
2026-09-30 18:24:01
七名民主党进步派新人议员抱团倒戈,反对杰弗里斯议长提名,却算盘落空,反而暴露进步派力量虚弱

七名民主党进步派新人议员抱团倒戈,反对杰弗里斯议长提名,却算盘落空,反而暴露进步派力量虚弱

14号观星辰
2026-11-19 17:54:57
中国这次真的要变天了!因为60后退休潮最大的影响,不是岗位空缺,也不是养老金吃紧,是彻底改写了经济模式和生活方式

中国这次真的要变天了!因为60后退休潮最大的影响,不是岗位空缺,也不是养老金吃紧,是彻底改写了经济模式和生活方式

扶苏聊历史
2026-10-30 14:34:51
《后会友期》:不会点评就别来了,把机会留给伊能静、张泉灵会点评的人

《后会友期》:不会点评就别来了,把机会留给伊能静、张泉灵会点评的人

八卦南风
2026-11-19 17:15:52
小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

西府赵王爷
2025-03-22 15:47:18
APEC不能破例!外宾安保想搞特殊?中国可一票否决,美国也要服从

APEC不能破例!外宾安保想搞特殊?中国可一票否决,美国也要服从

铁锤侃侃而谈
2026-11-18 14:42:04
飞机上大妈霸占座位,空姐劝阻遭辱骂,机长一句话让她面红耳赤

飞机上大妈霸占座位,空姐劝阻遭辱骂,机长一句话让她面红耳赤

今天说故事
2025-08-07 16:14:09
《多喜一家人》结局:四个母亲五个孩子,赛多喜没等到团圆就走了

《多喜一家人》结局:四个母亲五个孩子,赛多喜没等到团圆就走了

天玑影视说
2026-11-18 12:32:07
“一堆人去吃预制菜,也配叫研学吗?”一张700人研学的合照,气到了家长 ,怒道

“一堆人去吃预制菜,也配叫研学吗?”一张700人研学的合照,气到了家长 ,怒道

蝴蝶花雨话教育
2026-11-19 01:25:04
乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

乌克兰:悔到肠子青,当年卖给中国3架"废铁",如今成大国重器?

唠叨说历史
2026-11-18 15:06:45
中国造不出高端发动机?日企拆开红旗车,发现中国已走在时代前面

中国造不出高端发动机?日企拆开红旗车,发现中国已走在时代前面

云居历史
2026-11-17 03:24:00
离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

扶苏聊历史
2026-10-05 16:42:03
内讧炸锅!巴萨彻底撕破脸!弗里克直接硬刚

内讧炸锅!巴萨彻底撕破脸!弗里克直接硬刚

澜归序
2026-11-19 09:31:59
中国让李在明如愿,他从深圳带走的东西,足够给韩国人一个交代了

中国让李在明如愿,他从深圳带走的东西,足够给韩国人一个交代了

影孖看世界
2026-11-19 17:52:49
大瓜!曝30岁郭麒麟与25岁知名女星已经结婚,女方凌晨回四个字

大瓜!曝30岁郭麒麟与25岁知名女星已经结婚,女方凌晨回四个字

別甾虛僞
2026-11-19 11:05:48
浙江男子152万的保时捷,花7万多加装辅助驾驶系统却一直报错,女儿叫它“傻子车”,车主:我们是第一批小白鼠

浙江男子152万的保时捷,花7万多加装辅助驾驶系统却一直报错,女儿叫它“傻子车”,车主:我们是第一批小白鼠

台州交通广播
2026-11-19 02:34:26
泰山教练组调整!唐田出任中方教练兼领队,卢基奇金镇圭成绯闻外援,功勋张弛追随李霄鹏执掌清华附中足球队

泰山教练组调整!唐田出任中方教练兼领队,卢基奇金镇圭成绯闻外援,功勋张弛追随李霄鹏执掌清华附中足球队

老周观体育
2026-11-19 00:18:48
2026-11-19 23:04:49
雷峰网 incentive-icons
雷峰网
关注智能与未来!
71725文章数 656269关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

游戏
教育
健康
数码
亲子

PC Gamer试玩GTA6百小时:双主角出色但任务重复

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

医生眼里"很伤腰"的椅子,很多人天天坐

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

亲子要闻

宝宝气人但是聪明的4个行为

无障碍浏览 进入关怀版