反蒸馏：张一鸣到底是沽名钓誉，还是正本清源？

8月6日，两件看起来毫不相关的事撞在了同一天。谷歌DeepMind创始人哈萨比斯卸任CEO，转任董事长，外界普遍解读为这是Gemini持续掉队的代价。几乎同时，The Information报道了字节Seed团队全员会上的一条消息：张一鸣亲自拍板，字节的大模型绝不蒸馏。

一个因为模型掉队被挪了位置，一个主动放弃了追赶的捷径。在大模型赛道上，旗舰模型的前沿能力每隔几个月就刷新一轮，时间是最重要的判断依据，窗口期内不做动作，就可能落伍。这让是否蒸馏这个决策变得更难、更重，也更富争议。

关于张一鸣这次表态，行业观点非常分裂。有人认为这是沽名钓誉，想展现自己在AI竞争中的独特地位和价值观，营销味和立人设的意味很浓。也有人说这是正本清源：只有不蒸馏的模型才能摸清底层机理，才能实现真正的跨越式赶超。两种说法都有依据，但真把它们展开，读者恐怕会吵起来，因为它不是非黑即白的问题。

开始之前，先厘清一个概念。

蒸馏分两种。一种是自家蒸自家，用自己的大模型训练自己的小模型，这是所有头部实验室的日常操作，没有争议，不在今天讨论范围内。另一种是蒸别人，用其他公司模型的输出训练自己的模型。今天所有争论都围绕后者展开。

但字节的态度可能比"不蒸别人"走得更远。有公开的产品证据表明，它对蒸自己同样保持警惕。

2025年8月，Seed开源了Seed-OSS-36B系列，同时发布两个基座模型：一个含合成指令数据的Base版，一个不含的woSyn版。给出的理由很平淡：预训练中加入合成指令数据可能影响后续研究，所以为社区同时提供两种选择。

合成指令数据，就是由模型生成的数据。换句话说，字节至少在一年前就公开承认过一件事：被模型输出污染过的基座，会影响后续研究的有效性。这不能直接证明字节自己不用合成数据，所有头部实验室都在用。但至少说明，字节对合成数据的副作用有清醒认识，并且愿意在产品层面为这种认识付出额外成本。

一家在根子上就对蒸馏保持警惕的公司，做出不蒸馏的决定，也许不该让人那么意外。但它还是让人意外了，因为这个决定的代价太大了。

——导语

01

张一鸣放话不蒸馏的消息出来后，行业的第一反应几乎统一：因为TikTok。

字节是被讨论的这些中国AI公司里，唯一拥有TikTok这种量级海外业务的。过去的事实已经证明，这个业务很能拿住字节的软肋：重要性极高，周旋余地不多。

过去半年，在蒸馏这件事上，中国AI公司被密集点名，而且点名的级别一轮比一轮高。

2月中旬，OpenAI向众议院美中战略竞争特别委员会提交备忘录，指控DeepSeek绕过安全防护对GPT系列实施蒸馏。2月23日，Anthropic发布博客《Detecting and preventing distillation attacks》，点名DeepSeek、月之暗面和MiniMax，指控它们通过约2.4万个虚假账户与Claude进行了超过1600万次交互。6月，Anthropic又向参议院银行委员会递交信函，指控阿里千问团队在一个44天的窗口里，用约2.5万个账号完成了2880万次交互。

7月22日，点名第一次升级成政府行为。白宫科技政策办公室主任克拉齐奥斯在X上公开指控：月之暗面用"大规模、隐蔽的产业化蒸馏"，把Anthropic的Fable 5蒸进了Kimi K3。这是美国高级官员第一次把一家中国实验室和一款具体模型钉在一起。几小时后，财政部长贝森特跟进，制裁和实体清单都被摆上了桌面。

这个时间线本身就不太对。Fable 5在7月1日才公开可用，K3在7月16日发布。两周蒸出一个K3？AI2的Lambert和Laude Institute的Hancock都公开表示技术上说不通，甚至有白宫内部人士对媒体承认，这个指控"在核心上说不通"。

被点名的企业里，阿里在6月下旬通过媒体明确表态：不使用专有AI模型的输出训练自家模型，遵守知识产权法规。DeepSeek唯一一次公开否认，是在《自然》杂志的审稿交流中，否认R1是复制OpenAI模型的推理示例学来的。其余各家，截至发稿没有官方回应。

截至发稿，这份名单上有DeepSeek，有月之暗面，有MiniMax，有千问，白宫甚至亲自下场点了月之暗面的名。独独没有字节。这成了支持"TikTok是问题关键"那一派媒体的有力证据。

所以外界的直觉很自然：字节不蒸馏，是怕美国人拿这个做文章，再给TikTok加一轮压力。The Information的报道也做了类似分析。

这个解释看起来合理，但唯独有一点说不通。

据硅星人Pro的报道，张一鸣在7月下旬的全员会上否决的不只是蒸馏美国闭源模型，连国内的开放权重模型也不能蒸馏。

Kimi K3是典型的开放权重模型。蒸馏它不违反任何服务条款，不需要虚假账户，不需要代理网络，直接部署在自己的服务器上就行，没有人会在大洋彼岸统计你的调用次数。蒸馏K3不会让字节出现在任何一份名单上，不会给TikTok带来任何风险。

但禁令仍然包括了它。

一条为监管风险准备的规矩，为什么延伸到一个零风险的动作上？字节对此其实有公开的正面回应。

8月6日，字节CEO梁汝波在年中全员会上直接回应了这个问题："昨天看到有外部报道说，我们是因为外部压力才坚持自研的，这是瞎猜的。真实原因是，我们希望团队延迟满足感，打好技术基础，这对长期实现AGI很关键。"

两条信号指向同一个判断：TikTok也许是原因之一，但不是主因。一条来自禁令本身的逻辑边界，一条来自官方口径。后者的证明力有多少，读者可以自行打折。

那条禁令的边界为什么划得这么宽？答案得从三年前找。

02

字节和蒸馏的关系，比大多数人以为的更长，也更纠结。

有个少有人提的细节：早在2023年4月，字节就引入了GPT API调用规范，禁止把GPT生成的数据加进训练集。这个内部规定，比整个行业的蒸馏争议早了将近三年。

但规定没能挡住后来发生的事。2023年12月，The Verge报道字节秘密使用OpenAI的技术开发自己的大语言模型，项目代号Project Seed。字节员工在内部Lark群里讨论过"数据脱敏"，知道这违反了OpenAI的使用政策。

报道引述了一位对字节内部情况有第一手了解的匿名知情人士，原话是："他们说想确保一切合法，但实际上只是不想被抓住把柄。"

报道发出当天，OpenAI发言人Niko Felix确认字节的开发者账户已被暂停。但他的措辞和报道之间有一个矛盾：The Verge说API的使用频繁到经常触及上限，OpenAI则说"字节跳动对我们API的使用很少"。微软在声明中重述了Azure OpenAI服务的政策，未对事实做任何评论。

字节的海外发言人随后回应称，GPT生成的数据在Project Seed开发的早期的确被用于模型注释，但2023年年中左右已从训练数据中删除。

这件事的后续，不是调查或处罚，而是沉默。OpenAI没有公布调查结论，字节没有进一步解释，行业把它消化成了一个"字节也曾蒸馏过海外模型"的注脚。

从被曝光疑似蒸馏，到两年半后在同一个名字的团队的全员会上宣布绝不蒸馏，中间发生了什么？

据公开报道，Seed内部围绕蒸馏至少发生过三次正式争论。需要说明的是，三次争论的说法来自单一媒体，无法从外部交叉验证，但它给出的细节和时间节点与已知事实不矛盾。而张一鸣在全员会上的表态有多个独立信源：The Information引用了两名与会员工，澎湃新闻引用了字节内部人士。

第一次争论在2025年1月。

当时DeepSeek-R1刚发布，用受限的训练成本展现出的推理能力让硅谷震动，也让国内每一家头部实验室重新掂量自己的位置。Seed团队一批研究员的感受比同行更复杂：他们清楚自己的人才密度、算力投入和研究能力都不弱于DeepSeek，可模型在推理上就是差着一截。

当时业内流传一种猜测，DeepSeek的训练过程中用过美国前沿模型的生成数据。必须强调，这个说法从未被证实。但在当时的Seed会议室里，它变成了一个非常具体的讨论点：如果同行这么做了，效果这么好，我们为什么把自己绑住？

有人提出引入美国头部闭源模型的生成结果，补齐Seed语言模型的推理短板。这个提案的设计是审慎的：不替换自研预训练体系，只在产品层面填那几个已经暴露的明显弱项。

不得而知的是，提议为何没有获得最高层支持。公开报道没有点明是谁否决的，但考虑到张一鸣此前已在旁听Seed的核心技术评审，而这个问题的战略层级显然不会停留在中高层，合理的推断指向他本人。

第二次是2025年底。

彼时，英伟达Blackwell系列GPU开始在美国头部实验室大规模部署，受出口管制约束，中国实验室拿不到这一代最先进的卡。据报道，奠定字节视频模型全球地位的Seedance 2.0，是在大量H20堆出来的算力环境里训练的。H20是专供中国市场的合规版本，用于训练的综合性能远不如Blackwell。

从GPT-5.5到Claude 4.8，美国顶级模型在推理、编程和科学问题上出现了明显跃迁，这个跃迁与Blackwell的大规模部署高度同步。Seed内部一些研究员注意到这件事，感受到的不是焦虑，是恐惧：算力差距正在被新一代硬件拉成代际差距。

于是"用数据换算力"的提法第二次出现，理由比第一次更充分：短期消不掉算力落差，就用另一种形式的能力来顶。别人已经跑完的推理过程，本身就是被消耗掉的算力凝结成的产物。用数据替代买不到的卡，把本已不足的训练资源集中到被证明有效的方向上。

这一次的支持者比第一次多得多，据报道，它在Seed内部逐渐有了成为共识的趋势。但同样没有获得最高层的支持。

第三次是2026年7月。

7月16日，Kimi K3发布，2.8万亿参数，直接进入与美国头部闭源模型同一个竞争区间。对Seed来说，K3的冲击力来自一个简单的对比：那家公司的人、钱、算力都比Seed少，做出来的大语言模型比Seed的强得多。

这一次有人提出了折中方案：蒸馏闭源模型有风险，那就只蒸开放权重模型。授权宽松，可以自建部署，法律和地缘风险接近于零，同样的数据质量，同样的见效速度。

这个方案绕开了所有已知雷区，在Seed内部得到不少支持，看起来只剩下一个纯粹的工程选择。

然后是7月下旬那场全员会。

据The Information援引两名与会员工的说法，张一鸣此前很少在Seed的会议上发言。其他负责人先解释了公司为什么不用蒸馏抢占先机，然后他开口了。澎湃新闻获得的表述是：做模型要坚持长期主义、延迟满足感，而不是用别人的输出换一时的榜单排名。The Information的报道里还有另一句值得注意的话：他没有说明这些长远目标具体是什么。

会后，Seed出台新政策，明确禁止蒸馏K3等开放权重模型，并通过API检测追溯排查内部疑似蒸馏的行为。

与禁令同时存在的，是一个不太好看的现实。梁汝波在8月6日的年中全员会上公开承认："大语言模型与海外领先模型的差距有所拉大。"他给出的方向是继续自研、补足基本功，接受短期落后。

CEO公开承认落后，内部三次合理方案都被最高层压下，创始人亲自禁止零风险的折中路线。这说明字节认真考虑过蒸馏这条路，甚至强烈羡慕过走这条路的同行。但它选择了不走。为什么？

03

讨论字节为什么不走之前，先把蒸馏放到更大的坐标里看一眼。

2023年，斯坦福用OpenAI text-davinci-003生成的5.2万条指令数据微调LLaMA，做出了Alpaca。伯克利用ShareGPT上收集的7万条ChatGPT对话训练出Vicuna。微软走得更远，Orca直接用GPT-4的完整推理链，训练一个130亿参数的模型。

这三个项目在发布时都是开源社区的里程碑。Alpaca被庆祝为"几百美元做出GPT-3.5水平的模型"。没有人管斯坦福叫攻击者，没有人说伯克利在窃取知识产权，也没有人要求微软解释，为什么用自己投资的公司的模型输出来训练另一个模型。

它们做的事，和2025、2026年被指控的那些公司做的事，在技术层面是同一件事：用更强模型的输出训练更弱的模型。区别在于规模和手段，也在于谁在做。

2026年5月，一件小事让蒸馏变得更加说不清了。

Anthropic发布Claude Opus 4.8之后，有开发者用中文通过API问它"你是什么模型"，它回答自己是通义千问。随后又有人测出它自称DeepSeek。多个独立测试在清空系统提示词的API环境下复现了这一行为。

这不能直接证明Anthropic蒸馏了千问。技术界的主流判断是，这更像过度使用中文互联网数据导致的身份认知污染：互联网上的中文内容有相当一部分已经是AI生成的，任何从网上爬取中文语料的实验室都会把这些东西吃进去。

连DeepSeek自己都在《自然》的审稿回应里承认过类似的事：他们否认有意使用OpenAI的输出，但承认从互联网抓取的数据里可能含有GPT-4生成的内容。不是想用，是躲不开。

但它证明了一件事：在全球实验室疯狂吞入海量数据的过程中，训练语料里到底混入了多少蒸馏的产物，已经没人说得清。千问是被点名指责的蒸馏者，同时也成了全世界很多开源蒸馏模型的"老师"。Anthropic则尤其尴尬：一家指控别人蒸馏自己的公司，旗舰模型张嘴说"我是千问"。老师和学生的分界线，在数据层面已经划不出来了。

在这样的背景下，我们甚至无法证明任何一家公司完全没有间接使用过蒸馏的结果。更准确地说，每一个从互联网爬过训练数据的模型，都或多或少沾着别人的影子。

这才是张一鸣那个决定的真实背景。蒸馏不是一个灰色地带的技巧，它已经渗进了整个行业的地基。他反对的不是一种边缘做法，而是几乎所有人都在做的事。

但这里也有一丝反讽——他要反对的那个蒸馏，在战略上、执行上做得到，但真正落到数据层，没人能保证这件事不在某个角落里事实性地发生。

04

张一鸣的表态引发这么大争论，原因恰恰是他在反常识。

蒸馏在今天的AI行业，根本不是一个值得争论的话题，它是默认选项。

Anthropic自己在2月那篇博客里，开篇就承认蒸馏是"广泛使用且合法的训练方法"。这句话没有限定自蒸馏还是蒸别人，指的是这个技术类别本身。

Anthropic划的线不在技术，而在手段：虚假账户、代理网络、绕过地域和访问限制。连克拉齐奥斯在7月22日那篇措辞最严厉的指控里也专门区分了两种情形：正当的AI蒸馏是开放创新生态的关键一环，不可接受的是"以窃取美国专有技术为目的的大规模、隐蔽的工业级蒸馏"。

清华大学LeapLab团队的对照研究显示，蒸馏模型的pass@k曲线始终显著高于基础模型。蒸馏通过学习更强教师模型的推理模式，把基础模型原有的推理边界推开了。

DeepSeek把R1蒸馏进千问架构的7B小模型，在AIME24数学基准上拿到55.5，超过了o1-preview，而教师样本不过是R1生成的80万条数据，算力开销极低。

也有人试图找到科学依据，来证明蒸馏会封死模型上限。最常被引用的是牛津大学Shumailov等人2024年发表在《自然》的"模型坍缩"研究：模型在自身生成的数据上反复训练，会出现尾部信息不可逆的丢失和性能退化。

但只引用这个例子，其实是一种刻意制造信息不对称的人工剪裁。Allen Institute for AI的高级研究员Nathan Lambert，目前英文世界对RLHF和大模型训练方法论写得最系统的研究者之一，在他的RLHF专著里给出的图景要复杂得多：坍缩主要发生在未经过滤的、重复的、单一模型自我训练的极端场景；在使用多元教师、混合真实数据、做好质量过滤的前沿管线里，合成数据可以也应该大规模使用。

有趣的是，反对蒸馏一方最有代表性的论证也来自Lambert。他把两件事分开：蒸馏是模仿，学的是强模型输出的形状；强化学习是探索，模型必须自己推理、自己生成、在错误里反复迭代。真正强大的能力来自模型自己趟出来的路径，那条路径不会出现在别人API返回的结果里。

这个论证很难反驳。但Lambert本人对蒸馏指控的态度相当克制：白宫点名月之暗面之后，他反而是公开质疑其技术可行性的研究者之一。

真正在起变化的是另一件事：蒸馏能不能被检测到。

Anthropic那份报告本身就叫《Detecting and preventing distillation attacks》，它声称能通过IP地址、请求元数据和访问模式，把蒸馏行为归因到具体公司。

白宫的指控更是直接建立在"我们能看见"的前提上：克拉齐奥斯说月之暗面搭建了内部平台规避检测，贝森特声称已在多款中国模型里发现了美国大模型的"水印"。这些说法里有多少夸大成分，可以争论，但方向是明确的：蒸馏正在从"很难检测"变成"可以检测"，甚至开始变成制裁的依据。

所以这场争论的真实层面落在哪里？

关于蒸馏是否有效，没有争议，它有效。关于是否合法，控方自己承认技术本身合法。关于会不会封死上限、让你看不清底层机理，这是合理的担忧，但到今天为止既没有共识，也没有被严格证明。

唯一在变的，是可检测性，以及随可检测性而来的政治风险。

在行业几乎全体默认蒸馏、没有证据说蒸馏有害、但蒸馏痕迹正变得可追溯的时刻，张一鸣做了一个逆所有人而行的决定。

他在反的是常识。那他在坚持什么？

05

把排除掉的东西先列一遍。不是法律问题，蒸开放权重模型完全合规。不主要是地缘政治，禁令涵盖了零风险的部分，CEO也亲口说外部压力是"瞎猜的"。甚至不是因为蒸馏被证明有害，实证上支持蒸馏的证据反而更多。

排除项之外，剩下的可能指向三个方向。

第一个方向，字节或者说张一鸣本人极度看重技术上可诊断的清洁度，也就是标题里说的正本清源。

蒸馏进来的数据会让模型在榜单上好看起来，同时让"我的预训练配方、数据管线、RL体系到底哪一环出了问题"这个追问，变得没有准确答案。差距从仪表盘上消失了，产生差距的原因还在模型深处，无人能探知。这条逻辑和woSyn版本那件事接得上：一年前字节在纯技术场合做的那个选择，就是让研究者能用一个干净的基座做对照。

但要说明的是，这个理由目前没有被学界验证。它是一个合理的工程直觉，不是一条被证明的定律。

第二个方向，TikTok。

开放权重禁令削弱了它的解释力，梁汝波也直接否认了。但TikTok仍然是字节和其他巨头之间唯一的结构性差异。阿里的资本开支不比字节少，百度和腾讯同样是巨头，算力和人才投入不弱于字节，但它们没有TikTok。

TikTok不是充分解释，但这个差异无法被任何技术论证消除。它也许不是张一鸣拍板时脑子里的第一个念头，但它是字节决策环境里无法抹除的底色。

第三个方向，这是张一鸣个人的技术判断。

据多家媒体报道，张一鸣2021年卸任CEO后逐步淡出日常管理，但过去两年在AI领域投入极深。外媒报道他一直在旁听Seed团队的核心技术评审，熬夜读OpenAI的论文。新加坡国立大学原教授、字节研究员冯佳时曾在采访中说，他从2023年起就经常给张一鸣"补课"，字节甚至在新加坡专门设了研究团队，帮助张一鸣理解前沿技术、讨论研究规划。

三个方向都摆在桌上，我押第三个。

不是因为它证据最充分。正相反，旁听、熬夜读论文和新加坡的补课，都是背景音，不是硬证据。但只有它能解释禁令里最反常的那一条：连K3这样的国内开源模型都不许蒸。规避TikTok风险解释不了这一条，工程洁癖只能解释一半，剩下的部分，只能是一个人自己的判断。

一个在移动互联网时代建立了全球最大内容分发平台的创始人，花三年时间密集地给自己做AI知识重建。不蒸馏，可以看作他补完课回到前台后的第一个重大技术判断。

无论最终对不对，这种独立性本身是稀缺的。当然，赌注押在个人判断上，代价也要由字节接下来几年的模型排名来付。

张一鸣的故事讲到这里，行业的还没讲完。

06

蒸馏争论最热的这几个月，恰恰是中国AI公司在底层技术上集中爆发的几个月。

就在张一鸣宣布不蒸馏的同一个8月，智谱发布了GLM-5.3。没有更换基座，没有增加参数，能力提升全部来自后训练：大规模强化学习、更复杂的任务环境、更长的训练链路。配合这组能力提升的，是几组公开的方法论工作，长上下文架构IndexShare、面向长程任务的RL算法SAO、异步训练框架Slime，都有论文和可复现的代码。GLM-5.3的官方博客写了一句意味深长的话：这个基座的智能上界，可能远没被开发完。

在后训练这条路上，一个没有堆参数、没有蒸馏别人的模型，照样把能力往上推了一截。

DeepSeek走的是更纯粹的路线。从R1开始，它用强化学习里的自我对弈和试错演化推理能力，不依赖外部模型的输出。OpenAI首席研究官Mark Chen曾公开承认，DeepSeek独立发现了他们在通往o1的路上发现的一些核心理念。这不是模仿，是殊途同归。而《自然》审稿交流里那句"没有有意使用"，反过来也说明DeepSeek有底气把自己的训练链路打开给别人看。

千问用另一种方式证明了自己。它同时扮演着整个开源生态里最重要的教师角色，全世界大量蒸馏出来的小模型，底座就是千问。一个被指控为学生的实验室，同时是半个行业的老师。这个位置本身就说明，千问的基础能力不是靠蒸馏别人堆出来的。

把蒸馏等同于中国AI公司的全部能力来源，是对事实的严重误读。

蒸馏是这些公司工具箱里的一件工具，不是唯一的那件，甚至不是最重要的那件。后训练方法论、架构创新、工程优化、自研的RL体系，真正让中国模型进入全球前沿竞争区间的，是这些东西。从这个角度看，围绕蒸馏的争论，更多是对中国AI产业的一种污名化叙事。蒸馏最多影响了中国大模型公司的前进节奏，从来没有定义过它们的技术天花板。

张一鸣选择不蒸馏，这是他的判断，值得尊重，但不必推广成行业准则。被指控蒸馏过的公司仍在前沿做出独立创新，这也是事实。

字节的情况是字节自己的：2023年Project Seed的旧账、TikTok带来的额外审视、一个愿意亲自介入技术决策的创始人。如果有人把一家公司的风险偏好包装成行业道德，那才是真正的沽名钓誉。做这件事的不是张一鸣，更容易戴上这顶帽子的其实是Anthropic。不过那是另一个故事了。

据晚点LatePost报道，字节内部正在讨论训练一款总参数超5万亿的语言模型，由Seed Foundation负责人项亮牵头。《金融时报》的说法更激进：最高10万亿参数，且已处在预训练早期。不管哪个数字更接近事实，它能不能走到发布，还没有结论。

蒸馏这个词在过去两年里被拽进了太多不属于它的战场。它是一个训练技术，不是一道立场测试题。斯坦福用它的时候叫创新，中国公司用它的时候叫攻击，张一鸣拒绝它的时候又变成了高瞻远瞩或者遮羞布。

相反，这说明了，即使大家都在冲击AGI，但中国不同特点、不同禀赋的公司的路径可以完全不同。这种多样性恰恰是中国AI生态需要的。只不过，张一鸣选了其中最贵的一条，也是最难走的一条。单从路径多样性的角度，其实应该给他加分。

预设中的那款超大模型，如果在不蒸馏这个前提下做出来了，张一鸣和字节在整个全球AI领域的声量和说话的分量将从此不同，甚至会改变中国AI的发展史。但如果他们输了，并且以如此昂贵的方式输了，这个行业会记住他输的方式和代价。