网易首页 > 网易号 > 正文 申请入驻

张一鸣三次否决蒸馏提议 Seed 押注本源智能走长期路线

0
分享至

之前字节Seed全员会的消息流出来,全网都在脑补,张一鸣不肯碰模型蒸馏,全是为了规避TikTok的地缘风险。挖了一圈靠谱的内部信息才发现,这事和TikTok半毛钱关系都没有。真正拍板的动因,是字节磨了三年的大模型研发底层路线之争,从一开始就选了最难的那条路。



大多数人不知道,字节对蒸馏的警惕,远在蒸馏变成敏感词之前就定好了规矩。2023年4月,字节刚落地GPT API调用规范检查,模型团队直接出了硬要求,绝对不许把GPT生成的数据加到自家模型的训练集里。后续还做多轮抽样检测,专门比对内部模型输出和GPT内容的相似度,就怕标注员私下用GPT攒数据混进去。这套规则和后来的地缘风险、海外压力一点关系都没有,纯纯是团队主动选的长期研发路径。

那时候国内大模型刚进入百模大战,绝大多数团队都在拿外部API生成数据快速填训练集,字节是少有的主动给自己上枷锁的头部玩家。放着现成的效率捷径不走,偏要啃全自研这块硬骨头,放在当时看真的有点反常识。



2025年开始,外部环境大变,三年前定的规矩接连遭遇三次强力挑战。每一次都有同行突破带来的实实在在的冲击,每一次都有足够的理由,让蒸馏变成性价比最高的选项。

第一次争论是DeepSeek-R1发布之后,这款模型用有限训练成本拿出了震动硅谷的推理能力。Seed内部不少研究员都纳闷,我们人才密度算力投入都不比同行差,怎么自家模型的推理表现没追上人家。当时业内有猜测,不少头部模型快速迭代都用了海外SOTA模型的生成数据。有人提折中方案:保留原来的全自研预训练体系,只拿海外强模型的输出补一补推理能力短板,相当于给模型开个速效补药。这个提议刚提上来,就被管理层直接否决了。

第二次争论的导火索,是英伟达Blackwell系列GPU在美国头部实验室大规模商用。受出口管制影响,国内实验室能拿到的H20芯片,训练综合性能只有B200的五十分之一,中美顶尖AI团队的算力鸿沟一下被拉大。这次支持蒸馏的研究员拿出了更务实的说法:既然短期补不上算力差距,不如先用高质量外部数据换能力提升,把稀缺的算力集中到已经跑通的模型赛道。这个说法当时获得了不少支持,差点就成了内部共识。



真正把讨论推到沸点的,是规模算力都远小于Seed的团队推出Kimi K3,直接把开放权重模型的能力拉到了和美国头部闭源模型同一水平。这次冲击比前两次都直接,投入更多资源的Seed语言模型,还没拿出同级别的成果。

这次甚至有人提出了风险更低的折中方案:不碰闭源模型,只蒸馏授权更宽松的开放权重模型,自己本地部署生成数据,完全绕开了注册和地域限制,几乎没什么法律风险。也就是这次,张一鸣一锤定音,明确表态:闭源模型不能蒸馏,开放权重模型也不能蒸馏。

很多人都觉得字节这个选择没法理解,蒸馏本来就是行业通用的成熟技术,自蒸馏用自身模型生成数据反哺训练,本来就是所有头部实验室的常规操作。其实字节禁止的从来不是自蒸馏,是把外部SOTA模型当“教师爷”,沿着别人走通的路抄近道。

一款模型可以靠蒸馏冲进前沿,一家实验室却不能靠蒸馏成为真正的前沿引领者。这条路诱惑真的太大了,只要批量拿到强模型的推理轨迹、代码输出、复杂任务处理过程,短短几个月就能补齐榜单上的能力差距,让产品快速挤进第一阵营。可这条捷径背后藏着看不见的致命陷阱:你永远搞不懂这些能力到底是怎么产生的。

习惯了跟着别人的脚印走,就会彻底丢掉独立探索未知边界的能力。等现在的SOTA模型摸到了智能天花板,你根本不知道下一步该往哪走,只能永远跟在别人屁股后面,永远没机会摸到真正的行业天花板。

张一鸣要的从来不是短期内榜单上好看的数字,而是能独立摸到全球大模型智能边界的底层能力。他在Seed全员会上说“愿意牺牲一些短期利益”,本质上就是要保住团队最珍贵的独立探索文化,不让走捷径的习惯消解掉底层研究的原生动力。

现在的Seed,确实要为这个选择付出更高的成本。要投更多算力,要容忍更长的试错周期,要接受短期内部分榜单的暂时落后。但这些短期付出,换回来的是一套完全属于自己的、从底层逻辑出发的大模型研发体系。

这套体系里没有任何外来的路径依赖,所有能力的生成逻辑都完全可控。等行业走到下一个技术范式转换的临界点,那些靠蒸馏快速堆出成绩的团队会直接找不到方向,反而长期扎根底层探索的团队,最有可能率先摸到下一个智能跃迁的入口。

这不是什么道德洁癖的选择,是一次关于长期主义的硬核下注。字节用整整三年时间,三次顶住了近在眼前的捷径诱惑,本质上是在给中国大模型行业保留一份纯粹的底层研究火种。



未来回头看你会发现,真正能定义下一代大模型智能边界的团队,从来都不是那些靠抄近路快速登顶的玩家。是那些在无人区摸黑走了很久,踩过无数坑,完全靠自己搞懂每一步底层逻辑的人。现在所有的暂时落后,都是在给未来的真正领跑攒下最扎实的底气。

参考资料:新华网 我国生成式人工智能高质量发展观察

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
8月11日,人社部财政部公布26年调整养老金通知了吗?还能涨吗?

8月11日,人社部财政部公布26年调整养老金通知了吗?还能涨吗?

云景侃记
2026-08-12 09:40:14
中企刚被逼走,印尼矿工怒烧大楼,局势失控,西方媒体失声了?

中企刚被逼走,印尼矿工怒烧大楼,局势失控,西方媒体失声了?

史之韵
2026-08-11 20:15:53
女儿凌晨3点剖腹产,我激动给她转了20万,月嫂收拾产房拉住我:大姐,你女儿其实生了双胞胎,女孩被抱去了隔壁

女儿凌晨3点剖腹产,我激动给她转了20万,月嫂收拾产房拉住我:大姐,你女儿其实生了双胞胎,女孩被抱去了隔壁

一面故事
2026-08-11 21:40:10
上海254名抽烟到83岁的烟民,几人得肺癌?答案让众人沉默

上海254名抽烟到83岁的烟民,几人得肺癌?答案让众人沉默

宝哥精彩赛事
2026-08-12 00:44:04
回顾:江西男子中2.2亿大奖,3天后兑奖被要求出示文件,当场懵住

回顾:江西男子中2.2亿大奖,3天后兑奖被要求出示文件,当场懵住

今天说故事
2025-05-29 14:06:36
终于来了!养老金调整主基调定了,让人心心念念,算算你能涨多少

终于来了!养老金调整主基调定了,让人心心念念,算算你能涨多少

流史岁月
2026-08-12 10:00:21
女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

看世界的人
2026-08-07 09:22:50
王骁:我这辈子最正确的决定,就是27岁辞掉白领工作回国从尸体演起

王骁:我这辈子最正确的决定,就是27岁辞掉白领工作回国从尸体演起

飘飘然的娱乐汇
2026-08-10 23:39:57
谢贤“阴宅”曝光!和张国荣、肥姐为邻,灵位很多香港富豪买不到

谢贤“阴宅”曝光!和张国荣、肥姐为邻,灵位很多香港富豪买不到

老吴教育课堂
2026-08-11 11:57:52
“浙大的还是人,清华的已经成神了!”家长晒学霸孩子,面相过于权威

“浙大的还是人,清华的已经成神了!”家长晒学霸孩子,面相过于权威

妍妍教育日记
2026-08-12 10:00:12
郭富城带全家游新加坡!小2岁岳父给他撑伞惹争议,2女儿嘴凸明显

郭富城带全家游新加坡!小2岁岳父给他撑伞惹争议,2女儿嘴凸明显

刘森森
2026-08-11 14:06:28
74师2万俘虏堆满山沟,陈毅却说不许放,2年后他们成我军最锋利尖刀

74师2万俘虏堆满山沟,陈毅却说不许放,2年后他们成我军最锋利尖刀

历史人文2
2026-08-11 18:30:03
年纪大了,行房要坚持“3不要”,尤其是最后1个,可能伤身!

年纪大了,行房要坚持“3不要”,尤其是最后1个,可能伤身!

小胡军事爱好
2026-08-12 08:58:13
广东揭西县通报人员跳桥事件

广东揭西县通报人员跳桥事件

界面新闻
2026-08-12 07:13:28
30岁已婚少妇和200斤网友车震,只为还2700元欠款,网友只要钱,竟将她掐死抛尸

30岁已婚少妇和200斤网友车震,只为还2700元欠款,网友只要钱,竟将她掐死抛尸

胖胖侃咖
2026-08-12 08:00:11
凌晨大满贯爆大冷!卫冕冠军造一轮游,2大不可思议瞬间震动赛场

凌晨大满贯爆大冷!卫冕冠军造一轮游,2大不可思议瞬间震动赛场

锐评利物浦
2026-08-12 10:00:01
中国第一2米36巨人鲍喜顺,坚持生娃不听劝,如今儿子长多高?

中国第一2米36巨人鲍喜顺,坚持生娃不听劝,如今儿子长多高?

至死不渝的爱情
2026-07-26 15:54:15
张兰信托被击穿,5537万美元损失,国内富豪资产庇护彻底失效

张兰信托被击穿,5537万美元损失,国内富豪资产庇护彻底失效

聚焦真实瞬间
2026-08-11 21:09:24
第一次感受到了风油精的“洪荒之力”,几块钱一瓶,能解决这么多事

第一次感受到了风油精的“洪荒之力”,几块钱一瓶,能解决这么多事

抠搜侠
2026-08-07 13:59:21
非必要不做CT?医生强调:只要做过CT,患者一定多加关注这4点!

非必要不做CT?医生强调:只要做过CT,患者一定多加关注这4点!

叙说医疗健康
2026-06-16 08:00:21
2026-08-12 11:32:49
荐史
荐史
读史使人明智,品史使人明理。
6883文章数 231关注度
往期回顾 全部

科技要闻

Claude又出骚操作 改个错字也要留AI水印?

头条要闻

Manus:即将恢复以独立公司的形式运营

头条要闻

Manus:即将恢复以独立公司的形式运营

体育要闻

NBA老顽童,抽着大麻喝着小酒告别了

娱乐要闻

陈思诚恋情疑云再起

财经要闻

李嘉诚,再一次大撤退!他嗅到了什么?

汽车要闻

闪充/天神之眼B/云辇-C 2027款海豹06售9.99万元起

态度原创

数码
家居
本地
手机
艺术

数码要闻

谷粒推ES MAX蓝牙手柄:搭载角度TMR摇杆,支持高速蓝牙连接

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

黄州一夜,苏轼写给普通人的月光

手机要闻

REDMI K100 Pro系列图赏:BOSE标够抢眼,配色更时尚

艺术要闻

色彩的盛宴,视觉的狂欢:西班牙水彩大师福斯蒂诺·马丁·冈萨雷斯的艺术世界

无障碍浏览 进入关怀版