给AI翻译一道填空题：先想好写几个字，再开始写

来源：市场资讯

（来源：科技行者）

你有没有想过，写一段话之前，你的脑子里其实已经大致知道这段话会有多长？

不是精确到字数，而是一种感觉。比如你要写一条微信消息说"我到了"，绝不会写成一篇论文；你要写一份辞职信，也不会只发三个字。这种对长度的预判，几乎是我们说话写字时的本能，快到你根本意识不到它的存在。

但对于一类叫做掩码扩散模型的AI来说，这件本能的事,恰恰是它最大的软肋。

掩码扩散语言模型：一种和ChatGPT那种"一个字一个字往后写"的自回归模型不同的AI架构，它的生成方式更像是先摆好一整块画布，上面全是空白格子（术语叫"掩码"），然后通过多轮迭代，逐步把这些空白格子填成正确的文字。

这篇来自北京大学的论文，题目叫《面向掩码扩散机器翻译的长度自适应解码》，作者是Yan Zhan、Mengkai Hou、Wanting Zhang和Zhijun Gao，戳中了这类AI模型一个此前很少被认真研究的痛点：翻译之前，你到底该给它准备一块多大的画布？

画布太小会丢词，画布太大会注水

先说说这个问题到底有多要命。

想象你是一个装修师傅,接到一个任务："把这句话翻译成中文"。但客户在动工前先递给你一张已经量好尺寸的画布,上面写着"只能填6个格子",不能多也不能少。你打开原文一看,是"Tap Reset Now."（意思是"现在点击重置"）。如果客户给你的画布只有5个格子，你要怎么把"点击"和"重置"这两个动作都塞进去还要保证通顺?现实中最可能发生的是,你保住了"现在"这个词,却把整个动作给丢了。

这不是我瞎编的场景。论文里真实的实验案例显示，用一种基于训练语料统计出来的"平均翻译长度比例"（论文里叫Ratio，也就是不管什么句子，都按照英文和中文历史上大致的字数比例分配画布)来决定画布大小时,这句"Tap Reset Now."被翻译成了"现在。",COMET质量分只有0.47。而当画布多给一个格子,变成6格,翻译输出就变成了"点击重置。",分数飙升到0.91。

多一个格子,分数几乎翻倍,这就是画布尺寸的分量。

COMET-22：一种业界公认的机器翻译质量自动评分工具，分数越高说明翻译越准确流畅，满分是1。

这不是孤立的例子。论文还举了第二个案例，源句里带着一个叫#PRS_ORG#的占位符（在实际的商业和技术文本里，这种占位符经常代表一个具体的组织名或产品名，翻译时必须原样保留)，画布给短了,这个占位符直接被丢没了,分数从0.87掉到0.43。

问题的核心在这里：固定画布的扩散模型和自回归模型有一个根本区别。自回归模型（像常见的GPT系列）是一个字接一个字往后写,写到某个位置觉得该收尾了,就吐出一个"结束符"，翻译就自然停止,天然会根据内容长短调整输出长度。但掩码扩散模型不是这样,它训练的时候是先给定一整块画布,结束符被放在画布的某个固定位置上,所以在推理阶段,如果你给的画布本身长度不对，模型基本上只能"尽力填满你给的空间"，它没有一个中途喊停或者主动加长的机制。

这就好比让一个人在一张固定尺寸的纸上写作文，纸给小了，内容被硬生生截断；纸给大了，为了填满空白，人会不由自主地开始重复、啰嗦，甚至编造一些没影的内容来凑字数。如果不给这张纸设定合理尺寸，写出来的东西就会不是缺胳膊少腿，就是注水严重。这正是论文反复强调的一句话：内容太短会丢失信息，太长模型就有了"编造、重复、稀释"的空间。

那问题来了，业界现在怎么解决这件事的？论文里提到的现状挺让人意外：大部分研究掩码扩散解码的工作，都在研究"该按什么顺序把空白格子填上"（这个问题论文里叫"揭示顺序"，reveal order），却几乎没有人认真研究过"这块画布到底该多大"这件更前置、更基础的事。

而现有能用的长度决定方法基本只有两种，一种是拿标准答案的长度直接告诉模型（这在正式评测里叫作弊，只能当作理论上限参考，不能算真正的推理方法），另一种就是刚才说的固定比例，全篇文章不管什么句子都套用同一个语料统计出来的比例。这两种方法一个不现实，一个太粗糙。这就是这篇论文要出手解决的空当。

Entropy-Valley：让AI自己说"我准备好了吗"

研究者想出的办法，名字取得挺有画面感，叫Entropy-Valley（熵谷，论文里简称EV）。

它的核心思路其实特别朴素：既然模型自己知道自己"有没有把握"，那就干脆让它在真正开始翻译之前，先"试探"几种不同长度的画布，看看哪种长度它填起来最有把握，选那个。

这里要理解一个关键概念。

预测熵：熵在这里可以理解成"不确定性"的量化指标。如果模型对某个空白格子该填什么字非常确定，熵就低；如果它拿不准，好几个候选字的概率都差不多，熵就高。

具体怎么操作？论文设计了一套四步流程。

第一步，先准备一小批候选画布长度，不是随便定的，而是根据训练语料里源语言和目标语言的历史长度比例，划出一个小范围。比如英译中场景下，历史中位比例是0.8，也就是通常中文字数大概是英文单词数的0.8倍，那么候选比例就设在0.70到0.90之间，取五个刻度：0.70、0.75、0.80、0.85、0.90。每个比例乘以源句长度，就得到一个候选画布长度。

第二步，对每一个候选长度，都把画布填满纯空白（也就是全部格子都标记为"待填"状态），让模型做一次前向计算，记录下模型对每个格子给出的预测分布，算出这块画布整体的平均熵。

第三步，比较这几块候选画布的平均熵，选熵最低的那个,也就是模型看起来最有把握、最"轻松"能填好的那个长度。这个被选中的最低点，就是"熵谷"这个名字的由来。

第四步，只在这个被选中的画布上，正式跑完整的去噪解码流程，把翻译真正生成出来。

这个设计给我的第一反应是,这不就是"让模型先自己摸个底"吗？确实是。而且关键在于，这个摸底过程不需要额外训练任何东西，不需要标准答案，也不需要一个专门训练出来的"长度预测器"，用的完全是模型自己已经具备的能力,只是换了个角度去问它一个问题。

这里可以打一个比方。假设你去五家不同的裁缝店，把同一块布料和同一个身材数据交给他们，让每家先估算一下"如果我照这个尺寸裁，会不会有把握做得合身"，而不是直接让他们动手裁剪。你不需要每家都真正做出一件成品来比较（那样成本太高），只需要看哪家裁缝说"这个尺寸我有信心"的语气最坚定,然后把活儿真正交给那一家去完成。如果没有这个"先问一句有没有把握"的环节，你可能得五件衣服都做出来才知道哪件合身，浪费布料不说，还费时费力。EV做的正是这件事，用一次轻量级的"探测"代替了昂贵的"全部试错"。

值得强调的是，EV选出来的这个长度，目标压根不是去猜中标准答案的真实长度。论文原话说得很直接："目标不是恢复真实长度，EV选择的是当前骨干模型看起来最有准备去填好的那个候选长度。"这句话背后藏着一个挺深的道理：翻译质量好不好，不完全取决于长度是否精确匹配参考译文，而取决于给出的这块画布，模型是不是真的有能力把它填满、填对。

论文用一张图很直观地展示了这一点。把每个句子的"长度误差"（也就是选出的长度和参考译文长度差了多少个词）和它的翻译质量分数画在一张散点图上，你会发现EV选出的长度平均误差是2.51个词，比固定比例方法的3.11个词要小一些，但离参考长度的误差为0（也就是完美匹配长度的理论上限）还差得远。可是即便长度误差没有降到最低，EV依然拿到了固定比例方法的65%左右质量提升。这说明质量好坏和长度是否"精确复刻标准答案"这两件事，压根不是一回事。

三个语言方向的实测：中文和德语命运不同

光有想法不够，得看实测数据能不能站住脚。

研究团队选用的基础模型是LLaDA-8B，一个80亿参数级别的开源掩码扩散语言模型，在其基础上用LoRA做了微调。

LoRA：一种参数高效微调技术，全称是低秩适配。它不去动原模型里几乎所有的参数,只在模型的某些关键层旁边加一个体积很小的"外挂"结构去学习新任务，这样训练成本大幅降低，同时保留了原模型的大部分能力。

微调数据用的是WMT19的20万条训练语句对，覆盖英译中、中译英、英译德三个方向，每个方向独立训练三次取平均，最后在WMT22测试集上（每个方向2037条句子）做评测。

结果分方向来看，差异挺明显。英译中方向，固定比例方法的COMET分是0.8345，EV提升到0.8517，理论上限（用参考答案长度）是0.8610。算一下差距回收比例，EV吃掉了这个差距的64.9%。中译英方向更漂亮，固定比例是0.8266，EV是0.8431，理论上限0.8519，差距回收65.3%。而英译德方向就明显吃力一些，固定比例0.7170，EV只提到0.7240，理论上限0.7382，差距回收只有33.0%。

对应的sacreBLEU分数（另一种更传统的翻译质量打分方式，基于词语重叠程度）也呈现同样的规律，英译中提升1.85分，中译英提升1.63分，英译德只提升0.82分。

为什么英译德这一方向表现明显弱一截？论文给出了一个挺诚实的分析。他们额外训练了一个用同样微调数据训练的LLaMA-3-8B自回归模型作为对照，结果发现在英译德这个方向上，这个自回归对照模型比LLaDA模型（即便是配了理论上限的参考长度）还要高出7.4分左右，比配了EV的LLaDA模型高出接近9分。这说明英译德方向的短板，压根不是"画布尺寸没选对"这件事能解释的，而是这套掩码扩散骨干模型本身在处理英德这种语言对时，能力就是有欠缺的。EV能做的事情有边界，它只能优化"选多大的画布"这一层，选不到画布之外那些和模型本身能力有关的问题。

这里有个统计学上的细节也值得一提。论文用配对自助法（bootstrap）和威尔科克森符号秩检验（Wilcoxon signed-rank test）这两种统计显著性检验方法反复验证结果是不是偶然的。中英方向的结果稳稳地通过了两种检验，说明EV带来的提升不是噪音；而英译德方向只通过了威尔科克森检验，没通过自助法检验，这也印证了前面说的"英译德是一个边界情况"，证据强度确实弱一些。

换个AI模型试试：结论还成立吗

一个研究结论如果只在一个特定模型上成立，说服力总归有限。研究团队于是把同样的实验流程搬到另外两个不同的掩码扩散骨干模型上做验证，一个叫Dream-Base（基于Qwen2.5-7B继续预训练而来），另一个叫DiffuLLaMA（基于Llama-2-7B继续预训练而来）。

结果显示，无论用哪个骨干模型，EV在所有测试方向上都稳定超过了固定比例方法这一点没有变化。但差距回收的具体比例，随着模型不同而有明显波动。Dream-Base在三个方向上的差距回收在54%到69%之间，相对均衡；而DiffuLLaMA在英译德方向反而回收了66.1%，比它在中文相关方向的表现（11.8%和22.3%）要好得多。

研究者对这个现象给出了一个合理猜测：DiffuLLaMA用的是Llama-2的分词器，词表只有3.2万个词，覆盖中文的能力天然弱一些；而Dream-Base用的Qwen2的分词器词表有15.2万个词，对中文的支持要好得多。分词器好不好，直接决定了模型"理解"和"生成"某种语言的天花板。这也再次提醒我们，EV解决的是画布尺寸这个层面的问题，它不能替代一个好的分词器或一个训练充分的骨干模型该做的事。

分词器：把连续文本切分成模型能处理的最小单位（词元）的工具，切分得好不好，直接影响模型处理某种语言时的精细度和效率。

论文特别诚实地指出了一点：换模型的同时，分词器、初始化方式、预训练语料混合比例、模型架构全都一起换了，所以这个跨模型验证只能说明"EV这个思路在不同模型上都有效"，不能精确归因到底是哪一个因素在起决定性作用。这是一种值得学习的科研态度，不夸大自己实验能证明的边界。

不只是数字：三位专业翻译怎么看

自动评分工具再准，终究是机器打的分。这篇论文额外找了三位中英双语的专业翻译人员，做了一次人工评测，来验证COMET分数的提升是不是真的对应着人类感知到的翻译质量提升。

评测方式是这样的：从英译中和中译英各挑100条WMT22测试句子，把EV和固定比例方法生成的译文匿名打乱顺序（每条句子随机决定谁是A谁是B，评审看不出来），让评审分别从"充分性"（内容是否完整准确传达）和"流畅性"（读起来是否自然）两个维度打1到5分，再给出一个整体偏好投票。

充分性：衡量译文有没有把原文的意思完整、准确地表达出来，缺漏、错译都会拉低这个分数。

流畅性：衡量译文读起来顺不顺、像不像人话，跟内容对不对是两件事。

结果呈现出一个挺有意思的方向性差异。中译英方向，EV在充分性上比固定比例方法高出0.50分（满分5分的量表里，这个差距不算小），三位评审的整体偏好投票是45票选EV，25票选固定比例，30票打平。而英译中方向，充分性优势就小得多，只有0.18分，多数句子在偏好投票里被判定为打平（53票打平，28票选EV，19票选固定比例）。

两个方向流畅性的变化都不大，这个细节其实特别关键。它说明EV带来的提升主要体现在"有没有把内容说全"这件事上，而不是"说得好不好听"。这和前面讲的画布尺寸这个机制完全对得上：画布给对了，内容才有地方放，至于放进去的内容语法通不通顺，那是另外一套能力决定的事情，EV这层机制管不到。

是"选长度"重要，还是"选顺序"重要

前面提到过，掩码扩散解码领域一直更关心"该按什么顺序把空白格子填上"这个问题，而不是"画布该多大"。这篇论文专门设计了一个对照实验，直接把这两个问题放在同一个天平上称一称，看到底哪个更重要。

实验设计很巧妙：先把画布长度死死锁定在参考译文的真实长度（排除长度这个变量），然后去测试几种不同的"揭示顺序"策略，看看质量分数能差多少。

具体测试了几种顺序方案，包括标准的最小熵优先揭示（MED，也就是先填模型最有把握的格子，这是论文里默认使用的策略）、反向的"先填源语言依赖性最强的格子"（SIG-first）以及它的反向版本，还有几种混合策略、严格从左到右顺序、纯随机顺序。

结果是，在画布长度固定的前提下，这六种源语言引导的揭示顺序方案之间，最高分和最低分之间只相差0.0081个COMET点。而严格从左到右和纯随机顺序的表现，都明显低于默认的最小熵优先策略。

再对比一下EV带来的提升幅度：固定比例方法是0.8345，EV是0.8517，理论上限是0.8610，差距是0.0265个COMET点。

把这两个数字放在一起看：揭示顺序策略之间最大的差距是0.0081，而EV相对于固定比例的提升是0.0196（0.8517减0.8345），几乎是揭示顺序差距的2.4倍。如果把理论上限也算进去，整个长度选择问题的空间跨度是揭示顺序空间跨度的3.3倍。

这个对照实验得出的结论相当明确，也很有分量：在这套掩码扩散翻译系统里，决定先填哪个格子，远不如决定画布该有多大这件事重要。

这就像盖房子。工人先砌哪个角、按什么顺序摆砖头，对最终房子质量当然有影响，但如果地基面积本身画错了，房子小了住不下人，房子大了浪费材料还容易结构不稳，这种问题不是靠调整砌砖顺序能补救的。论文用这组实验说的正是这个道理：过去大家一直在研究"怎么砌墙"，却没顾上"地基该多大"这件更基础的事，而恰恰是后者，对最终结果的影响权重更大。

覆盖率数据：占位符和数字都被拯救了

除了整体质量分数和人工评测，论文还专门统计了一类更具体、更容易被感知到的错误：源文本里的占位符和数字，有没有被保留下来。

这个指标的意义在于，占位符（比如刚才提到的#PRS_ORG#这种代表组织名的标记）和数字，是翻译里最不能出错的内容，一旦漏掉，轻则理解出错，重则整句话意思全变。

统计结果显示，在英译中方向，固定比例方法只保住了66.9%的占位符，EV则保住了89.1%，提升了22.1个百分点，这个提升区间的置信区间下界都在12.4个百分点以上，说明这不是偶然波动。数字保留率也从77.6%提升到81.3%。

而在中译英方向，固定比例方法本身对占位符和数字的保留率已经比较高（96.6%和80.7%），EV的提升幅度就小很多（2.9和1.9个百分点）。这说明中译英方向翻译质量的提升，主要靠的不是这类"字面内容保留"的机制，还有别的因素在起作用，论文也坦率承认这部分机制目前还没研究清楚。

论文还按照"参考译文长度除以源句长度"这个比例，把句子分成不同压缩程度的组别，观察EV的提升在哪个组别里最明显。结果发现，提升幅度最大的那一组，恰恰是需要的压缩比例落在候选网格范围内、且是最主流的一组（占了整个测试集将近一半的句子），这组的COMET提升达到0.0346分。而对于那些需要极端压缩（目标译文远比源句短）的句子，提升幅度就小很多，只有0.0054分。

边界在哪里：候选网格框住了什么

前面提到的Figure 1里第三个案例特别值得展开讲一讲，因为它恰好揭示了EV这个方法的天花板在哪里。

源句是"Please give me a moment."（请给我一点时间），标准参考译文是"请等我一下"，长度是6个字，对应的真实压缩比例大约是0.6。而EV设定的候选网格范围是0.70到0.90，这意味着无论EV怎么"熵谷探测"，它能选到的最短画布长度也不可能低于源句长度乘以0.70。

结果就是，固定比例方法（凑巧长度设为6，正好等于参考长度）翻译出"请等一下"，COMET分数0.93；而EV因为网格范围限制，最短只能选到7个字符的画布，翻译出"请给我一会儿"，虽然意思也对，但分数反而降到0.77。

这个例子的意义在哪？它说明EV这套机制的能力边界，是由候选网格本身的宽窄决定的。网格设得太窄，遇到需要极端压缩的句子就无能为力；网格设得太宽，又会引入更多噪音、增加计算成本。论文附录里做了网格宽窄的敏感性测试，发现更宽的网格并不总是更好，这也支持了论文选择一个紧凑固定网格的设计思路,而不是无限制地搜索所有可能长度。

论文对这596个EV表现不如固定比例方法的句子做了失败原因归类，发现56.9%的失败属于"网格内选错了"（也就是正确答案其实在候选网格范围内，但EV凭熵值选中的不是最优的那个），21.6%是"超出网格范围过度膨胀"，21.1%是"压缩不足"。这个数据分布说明，EV目前最大的短板不是候选网格设置得不合理，而是熵这个信号本身有时候会误导选择，选中了一个次优的候选长度。这也为后续研究指明了一个方向：如果能设计一种更聪明的候选长度生成机制，根据熵值曲线的形状动态调整搜索范围，而不是死守一个固定网格，或许能进一步压缩这部分选错的比例。

这项研究留下的问题，以及它给出的诚实答案

论文最后专门用一节讲了这个方法的局限，这种坦诚在很多论文里其实不常见,值得单独说一说。

英译德方向是最明显的边界。就像前面提到的，无论是理论上限还是EV，都被同样数据训练出来的自回归对照模型甩开了七八个百分点，说明这个方向的短板根源不在长度选择上，而在于骨干模型本身处理英德这种语言对的能力有欠缺。论文还做了一个"解码步数"的补充实验，发现在解码步数达到64步以上时，固定比例方法反而略微超过了EV,这从另一个角度提示，在计算预算充足的情况下，长度选择带来的红利会被摊薄。

人工评测目前只覆盖了英译中和中译英，英译德和额外测试的德译法方向都没有做人工评测，这部分的结论只能依赖自动指标，说服力打了折扣。

候选比例网格是针对每个语言方向单独设定的，而且是基于WMT22子集的诊断性比较来确定的，如何把这套"设定网格"的流程更系统化、更普适地迁移到新的语言方向，目前还是一个开放问题。论文提出了一个值得尝试的下一步方向：设计一种"压缩感知"的候选生成机制，当熵值曲线提示当前固定网格不够用时，能自动扩展或偏移候选范围，而不是死守一个预先划定好的区间。

写在后面

读完这篇论文，最触动我的其实是那个对照实验的结论，长度选择比揭示顺序重要3倍这个数字。

这多少有点反常识。这个领域这几年几乎所有的注意力都投在了"怎么决定填格子的顺序"上，从MaskGIT到各种学习生成顺序的方法，大家默认这是那个更值得优化的问题。而这篇论文用一个很干净的对照实验说明，在机器翻译这个具体场景里，一个更前置、更基础的决定，画布到底该多大,权重反而更大。这提醒我一件事：有时候一个领域里"大家都在研究的问题"，未必是那个真正卡住效果的问题。真正的瓶颈可能藏在没人多问一句的地方。

另一个让我一直在想的细节是那张长度误差和翻译质量的散点图。EV选出的长度和参考答案的真实长度平均还差着2.51个词，但翻译质量却已经追上了理论上限差距的65%。这说明"猜中标准答案"和"做出好翻译"根本是两件不完全重合的事,一个足够让模型"有把握去填"的长度，未必是那个和参考答案字数分毫不差的长度。这对所有想用长度预测去优化生成任务的人，都是一个值得记住的提醒。

如果给你一块画布，尺寸不一定要精确到和别人画的那张一模一样,重要的是,你确实有能力把它填满、填对。

Q&A

Q1：Entropy-Valley是什么？

A：Entropy-Valley（熵谷，简称EV）是一种给掩码扩散翻译模型选择合适输出长度的免训练方法，它通过让模型对几个候选长度分别做一次全空白探测，比较预测的不确定性（熵），选出熵最低、模型最有把握填好的那个长度作为最终画布。

Q2：为什么掩码扩散翻译模型需要提前决定输出长度？

A：因为这类模型不像GPT那样一个字一个字往后写、写完自然停止，它需要先摆好一整块固定尺寸的空白画布再逐步填字，画布给短了会丢内容，给长了模型会重复或注水，所以选对长度这一步至关重要。

Q3：Entropy-Valley方法效果好不好，有没有实测数据支撑？

A：在英译中和中译英方向，EV分别追回了参考长度理论上限提升幅度的64.9%和65.3%，人工评测也显示中译英方向的内容充分性明显提升；但在英译德方向效果较弱，只追回了33%，这被认为是模型本身能力的局限而非长度选择的问题。