当AI老师"指点江山"时，学生真的听懂了吗？

你有没有遇到过这样的辅导老师：他站在你身后，指着题目说"这里应该填B"，语气笃定，你也就跟着写了B。但你从没搞清楚，他为什么觉得是B。是因为他看穿了题目里那个你没注意到的细节，还是因为他自己也不太确定，只是习惯性地这么说话？

这个问题放在人工智能领域，变成了一个非常具体又棘手的技术难题。

现在的多模态大模型，就是那种既能看图又能说话的AI，经常会栽在一些"小事"上。比如一张图里写着"striped"（条纹）这个单词，模型却认成了"checkered"（格子），后面一整段推理都建立在这个错误认知上，说得头头是道，但地基歪了。

研究者们想到一个办法：找一个更强的"老师"模型，让它看到学生模型看不到的信息，比如把图片里关键区域放大特写，然后拿老师的判断去纠正学生。这个思路叫做**在策略蒸馏**（On-Policy Distillation，简称OPD，意思是让老师针对学生自己生成的答案进行批改，而不是脱离实际地给标准答案），配合"特权视角"（老师看到了学生看不到的放大细节），听起来天衣无缝。

但这篇来自上海交通大学、小红书等机构联合发布的论文《VAD: Attributing Visual Evidence for Target Reconstruction in Multimodal On-Policy Distillation》指出，这套流程里藏着一个被长期忽视的漏洞：**老师的每一次纠正，到底是因为看清了图，还是因为别的原因？**

老师的批改里，到底有多少是"真材实料"

我们先把这个问题讲得更具体一点。

研究者设计了一个诊断实验。他们让一个4B参数规模和一个9B参数规模的模型（这里的B指十亿，4B就是40亿参数）各自生成回答，然后在每一个生成的字词位置，都去问那个"特权老师"：你觉得这里该改成什么？同时也去问：如果把关键的视觉证据挡住，你还会这么改吗？

结果发现，在老师给出的、修改幅度最大的那批纠正意见里，只有23.2%（4B模型）和22.8%（9B模型）真的和"看没看到证据"这件事强相关。

也就是说，将近八成的"强烈纠正"，跟视觉证据本身的关系并不大。它们可能来自老师这个模型本身的语言习惯，也可能来自训练数据留下的某种偏好，但唯独不完全是"我看清楚了图，所以我改"。

这就是论文提出的核心概念：**信号源混杂**（source-mixed，指老师的纠正信号里混合了视觉证据、语言先验和老师模型自身特性，三者叠在一起分不清楚）。

如果不把这三种成分拆开，直接把老师的完整判断塞给学生模仿，会发生什么？

打个比方。你请了一位口音很重、习惯用某些口头禅的家教来批改作文。他划掉你的一句话，写上"这里应该这样写"。这个修改里，可能确实是因为你的表达有逻辑漏洞，但也可能夹杂着他个人的写作癖好，甚至是他自己也没意识到的口头禅式替换。如果你把他的每一次修改都原封不动照抄，你学到的不只是"逻辑更严谨"，还有一堆和逻辑无关的、纯粹是他个人风格的东西。长期这样训练下去，你的作文会越来越像他，但不一定越来越对。

如果不做这个区分，直接全盘照搬老师的修改，模型学到的就是这样一锅大杂烩，有用的信号和无关的噪声混在一起，训练效率自然大打折扣。

已有的补救方案：为什么"打分"不够用

在VAD这篇论文之前，已经有研究者注意到这个问题，并且提出了改进方案，但论文认为这些方案都只解决了"怎么改""改多少"，没有解决"改的内容对不对"。

第一种思路叫**Vision-OPD**，做法是让老师看放大后的关键区域照片，然后直接把老师的完整判断当作训练目标去让学生模仿。这就是前面说的那种"全盘照抄"策略，问题已经分析过了。

第二种思路更聪明一点，叫**VA-OPD**（Visual-Advantage OPD，视觉优势加权蒸馏）。它的做法是，给每个字词打一个"视觉优势分"：让老师分别看清晰版和模糊版的图，如果看清晰版时某个词的概率明显更高，说明这个词"很依赖视觉证据"，值得重点学习。

这个思路听起来很合理，但论文里举了一个具体的例子，揭示了它的一个死角。

假设题目问的是"帽子的图案是什么"，正确答案是B选项"条纹"，学生却选了D选项"格子"。当老师看模糊图时，"格子"这个答案的概率是94.6%，几乎是老师蒙对的置信度。而当老师看清晰图后，"条纹"的概率跃升到95.0%，"格子"的概率骤降到2.0%。

按照VA-OPD的打分规则，视觉优势分只统计"证据出现后概率提升了多少"，是一个只算正向增益、不算负向惩罚的**校正后的对数概率变化**（简单说就是看清楚证据之后，某个答案变得更可能还是更不可能）。学生选错的那个"格子"答案，它的概率是从94.6%掉到2.0%，是被证据狠狠打脸的，但因为VA-OPD的打分只往正方向看，这种"被证据推翻"的信息反而被忽略了，"格子"这个词根本没被标记为"高视觉相关性"。

这就好比你考试蒙对了一道选择题，蒙的时候心里其实很虚，后来看到正确解析才发现自己蒙错了，本来该选另一个。如果一个评分系统只关心"哪些答案因为看了解析而变得更有把握"，却完全不关心"哪些答案被解析证明是错的"，那这套系统就漏掉了一半最重要的信息，就是那些证据明确否定错误答案的时刻。

如果VA-OPD不去处理这种"负向证据"，会有什么后果？学生的错误认知得不到明确的反向修正信号，只是在正确答案的可能性上被略微加权，纠错力度会打折扣。

VAD的解法：把老师的话拆开，重新组装一份"看得懂"的教材

搞清楚问题出在哪之后，研究者提出了这篇论文的核心方法：**VAD**（Visual Attribution Distillation，视觉归因蒸馏）。

VAD的基本思路可以概括成一句话：不是直接把老师的判断塞给学生，而是先搞清楚老师这次判断里，有多少是真的因为"看见了"，然后只把这部分"看见了才改"的内容，重新组装成一份新的学习目标。

具体怎么做？

第一步，构造对照实验。VAD在训练时，让同一个老师模型（就是学生模型自己的一个初始冻结副本，充当固定不变的裁判）分别去看两张图：一张是把关键区域清晰放大的"证据呈现图"，一张是把这个区域故意模糊化的"证据移除图"。老师在这两种情况下，对下一个词该是什么，会给出两份不同的概率分布。

这里出现了一个关键概念，叫**ut**（论文里用这个符号表示"证据方向代理"，可以理解成一个信号，衡量"揭示证据"这件事到底是支持还是反对某个候选答案，以及支持或反对的力度有多大）。

ut是怎么算出来的？就是拿"证据呈现"时老师给出的概率，减去"证据移除"时老师给出的概率，两者的差值。如果某个词在证据呈现后概率明显升高，ut就是正的，说明证据在支持这个词；如果概率明显降低，ut就是负的，说明证据在反对这个词。

这一步解决了VA-OPD的那个漏洞：因为ut本身是有正负号的，既能捕捉"证据支持了什么"，也能捕捉"证据推翻了什么"，不会漏掉负面信息。

回到之前那个"条纹还是格子"的例子。用VAD的方式计算，"格子"这个词对应的ut会是一个很大的负数，因为证据出现后它的概率被压得很低。这个负数不会被忽略，而是会被明确记录下来，用来在后续训练里主动压低学生对"格子"这个错误答案的信心。

第二步，把老师的完整纠正意见，往ut这个方向上做投影。

论文里把老师完整的纠正信号叫做**rt**（老师给出的、相对于学生当前判断的完整修改量），把ut叫做"视觉证据的方向标"。VAD做的事情，是计算rt和ut有多"对得上"，只保留对得上的那部分，叫做**r_vis**（视觉可归因部分，即老师的修改里真正能用视觉证据解释的那一块），剩下的部分叫**r_res**（残差，指老师修改里无法用这次视觉对照解释的那一部分，可能是语言习惯，也可能是别的什么，论文没有把它简单归为"纯语言噪声"，而是谨慎地称为"未被证据解释的部分"）。

这个投影过程用了一个数学公式，其中有一个系数叫**βt**，它的计算方式保证了：如果老师的修改方向和视觉证据的方向完全对不上（也就是两者内积小于零），这个系数就直接归零，也就是说这次不施加任何视觉修正。只有当两者方向一致时，才会按比例提取出对应的修正强度。

这个设计其实很像医院里的"双盲对照实验"。医生想知道一种药到底有没有效果，光看病人吃药后症状变化是不够的，因为可能是心理作用，也可能是自愈。真正靠谱的做法是设置对照组，一组吃药一组吃安慰剂，比较两组的差异，这个差异才是药物本身的真实效果。VAD做的正是这件事：老师看清晰图和看模糊图之间的判断差异，才是"视觉证据"这个变量真正起作用的部分，而不是老师这次判断的全部内容。

如果VAD不做这个投影，直接把rt整个当作目标，那就退化回了Vision-OPD的老问题，老师纠正意见里那七八成的"混杂信号"照样会被学进去。

支持和反驳，要分开算账

搞定了"哪部分该学"之后，VAD还做了一层更精细的处理：把ut拆成"支持"和"反驳"两条分支，分别控制力度。

为什么要这么拆？

因为在实际场景里，证据对不同候选答案的影响强度是不对称的。有时候证据非常明确地否定了一个错误答案（就像前面"格子"从94.6%暴跌到2.0%），但对正确答案的支持力度可能没有那么夸张。如果不加区分地用同一个系数去处理正负两个方向，可能出现某一方向被过度放大或压缩的问题。

论文的具体做法是，把ut拆成正向部分u?（证据支持的候选词）和负向部分u?（证据反对的候选词），分别计算这两部分和原始纠正意见rt的一致程度，得到两个"认同分数"，再按比例分配一个总的修正预算。这里有个细节：对正向支持这一侧，论文额外设置了一个上限**τ+**（正向分支的封顶值，4B模型设为0.8，9B模型设为0.7），目的是防止某些不太确定的正向证据信号权重过大，喧宾夺主。而反向反驳这一侧，没有设上限，因为"证据明确说这是错的"这种信号，通常更值得完全信任，不需要打折扣。

这就像家长在批改孩子作业时的分寸感。如果孩子写错了一个字，家长确定无疑地指出这是错的，这种否定应该是干脆利落的，不需要留有余地。但如果家长觉得某种写法"或许更好"，这种建议式的肯定就应该温和一些，留出孩子自己判断的空间，不能一股脑地强加。VAD对支持和反驳设置不同的处理方式，本质上是在模拟这种"否定要坚决，肯定要留有余地"的分寸感。

拿到这两部分修正量之后，VAD把它们叠加，重新构造出一个新的学习目标，论文管这个叫**q_VAD**（重新构造出来的、以学生当前判断为基础、只叠加视觉可解释修正的目标分布）。这个目标不是直接照抄老师，而是"学生原本的判断 加上 经过筛选的视觉修正量"，相当于在学生已有的认知基础上，做一次有依据的局部调整，而不是整个推倒重来。

光靠视觉信号还不够，还得留一根安全绳

VAD团队在实验中发现了一个有意思的副作用。

如果只用这套视觉归因的目标去训练模型，也就是完全抛弃老师原始判断中那些"未被证据解释"的部分，模型的语言表现会开始跑偏：回答变得又长又啰嗦，容易重复车轱辘话，该给出答案的时候拖泥带水，甚至连什么时候该停下来结束回答（论文里提到的"EOS行为"，也就是模型判断该结束生成的机制）都变得不稳定。

这个现象其实很好理解。视觉归因这套机制，聚焦的是"这个词该不该改，因为证据支持或反对它"，但它压根没有专门去管"这句话说得顺不顺""该用什么格式回答""该在哪里收尾"这些和语言表达能力相关的事情。就像一个只专注纠正你逻辑漏洞的老师，从不管你的病句和标点符号，你听他的话改完逻辑，文章的行文流畅度可能反而变差了，因为没人在管这块。

所以VAD在正式训练里，额外保留了一个**弱正则项**（论文里叫Lreg，一个权重较小的辅助损失，作用是让模型别完全脱离老师原始判断中那些和语言表达、格式规范相关的内容）。这个正则项的具体做法是，先算出这次视觉归因修正占老师完整纠正意见的比例，如果这个比例越小（说明老师这次的修改大部分是"未被证据解释"的内容），就给这个原始老师判断分配更大的权重，用来兜底那些视觉归因机制没管到的语言层面的东西。

最终整个训练损失，是视觉归因目标的主损失，加上这个弱正则项，按一个较小的系数λ（论文里设为0.1）加权组合。这个安排的分寸感很清楚：视觉归因是主角，负责精准纠错；原始老师判断是配角，负责兜底防止语言表达失控。

六个测试场景，两个模型规模，全面对比

方法讲完了，接下来看实际效果。

研究者在六个专门考察"细粒度视觉能力"的测试集上做了对比，包括V*、ZoomBench、HR-Bench（分4K和8K两个难度）、MME-RealWorld（分英文和中文版本）。这些测试的共同特点是，题目往往依赖图片里某个很小、很容易被忽略的细节，比如一小段文字、一个不起眼的物体属性。

实验用了Qwen3.5系列模型的4B和9B两个规模版本，训练数据完全一致（6241条来自Vision-OPD公开的合成视觉问答数据），保证公平对比。

| 模型规模 | 方法 | V* | Zoom | HR-4K | HR-8K | MME-EN | MME-CN | 六项平均 |

| 4B | Qwen3.5基座 | 82.20 | 48.28 | 85.75 | 81.38 | 63.89 | 63.58 | 70.85 |

| 4B | GRPO（强化学习基线） | 81.68 | 56.57 | 76.75 | 75.62 | 71.10 | 68.58 | 71.72 |

| 4B | Vision-OPD | 89.53 | 59.41 | 81.75 | 80.12 | 74.51 | 70.17 | 75.92 |

| 4B | VA-OPD | 90.05 | 58.11 | 81.88 | 78.75 | 73.29 | 67.42 | 74.92 |

| 4B | **VAD（本论文）** | **92.15** | **60.59** | 85.38 | 83.38 | **76.97** | **71.47** | **78.32** |

| 9B | Qwen3.5基座 | 86.39 | 52.31 | 85.12 | 80.88 | 71.13 | 67.31 | 73.86 |

| 9B | Vision-OPD | 92.72 | 59.26 | 85.13 | 83.75 | 71.76 | 68.65 | 76.88 |

| 9B | VA-OPD | 86.91 | 62.84 | 86.12 | 82.75 | 71.17 | 70.20 | 76.67 |

| 9B | **VAD（本论文）** | **94.76** | 62.49 | **87.88** | **85.75** | **76.56** | **72.13** | **79.93** |

从这张表能看出几件事。

VAD在4B规模下，六项测试的平均分是78.32，比同规模最强的对照方法Vision-OPD高出2.4分。在9B规模下，平均分达到79.93，比Vision-OPD高2.88分。差距虽然不算特别夸张，但考虑到这是在完全相同的训练数据、相同的更新步数下取得的，说明多出来的分数，确实来自"怎么构造学习目标"这个环节的改进，而不是靠堆数据堆算力。

更有意思的是，VAD的4B版本（只有40亿参数）平均分78.32，居然超过了参数量大得多的闭源模型Gemini 3 Flash（77.32分）和Gemini 3.1 Pro（78.04分），也超过了397B参数的开源大模型Qwen3.5-397B（76.49分）。

这里要泼一点冷水，这种跨体系的对比只能作为参考，因为不同模型的架构、训练数据、算力投入完全不同，没法做严格的控制变量比较。但至少说明，把学习目标构造得更精准，能在小模型上撬动出不小的能力提升，这本身是有价值的。

拆开老师的话之后，到底装的是什么

VAD声称它能把"视觉可解释的修正"和"其余部分"分开，但这个说法是不是真的成立，光看最终测试分数还不够有说服力。研究者又做了一层语义层面的分析，去看这两部分内容到底装了些什么词。

他们把老师的完整纠正意见rt、拆分出来的视觉归因部分r_vis、以及剩余的残差部分r_res，各自拿出高权重词汇，做了分类统计，分成五类：视觉属性词（比如颜色、材质）、物体和内容词、选择题的选项符号（A/B/C/D）、语言和格式相关词、以及和图片裁剪、模糊等技术操作相关的杂项词。

统计结果显示，在r_vis这部分里，视觉属性、物体内容、选项判断这三类加起来占了42.0%的比重，而在完整的rt里这个比例只有26.7%，在残差r_res里更是只有17.7%。反过来，语言格式和杂项词汇，在r_vis里占58.0%，在rt里占73.3%，在r_res里高达82.3%。

具体到单个词，A、B、C、D这几个选项符号，以及"竖直的""金属的"这类具体的属性词，在r_vis里的权重明显更高。而"to""inside"这类介词、连接词，以及和裁剪、模糊化操作相关的词，反而更多地留在了r_res里。

这个结果说明，VAD的投影操作不是简单地把老师的话按比例缩小，而是真的把内容按语义做了重新分配。视觉归因部分承载的是"这里该填什么答案""这个物体是什么颜色什么材质"这类和视觉证据直接相关的判断，残差部分则更多是语言表达层面的东西。

这就像把一份混录的音频文件，用降噪软件分离出人声和背景噪声两条音轨。分离得好不好，不能只听整体音量大小是不是降低了，得听分离出来的人声轨道里，是不是真的没有背景杂音，而背景音轨里，是不是没有把人说话的关键词也带进去。VAD这里做的语义分析，就是在验证这种"音轨分离"的质量，而不是简单地做音量缩放。

拆开各个组件，看看到底谁在起作用

研究者还做了一系列消融实验，就是把VAD拆开，一个模块一个模块地去看它到底贡献了多少。

他们对比了六种不同的学习目标构造方式：直接用老师的完整判断（最原始的Vision-OPD做法）；对老师判断做简单的等比例缩放（但方向不变，还是混杂的）；只做投影但不加区分支持反驳、也不加安全绳正则项的版本；投影加安全绳但不区分支持反驳；完整的支持反驳分离版本但不加安全绳；以及最终的完整VAD。

结果显示，从"直接照抄老师"到"简单缩放"，六项测试平均分只提升了0.27分，几乎没什么用。但从"简单缩放"跳到"不加安全绳的投影版本"，分数从76.19跳到77.06，提升了将近1分。再从这个"单侧投影"升级到"支持反驳分离"版本，分数又从77.06涨到78.06，多了整整1分。加上安全绳正则项之后，最终版本达到78.32。

这组数字说明了一件事：真正带来大幅提升的，是"把混杂的纠正信号拆开，只保留视觉可解释部分"这个核心操作，而单纯的数值缩放几乎没用。这也从侧面印证了论文一开始的判断，VA-OPD这类"给整体判断加权重"的方法，之所以效果有限，是因为它没有触及问题的根本，就是学习目标本身是混杂的，权重加得再巧妙，混杂的内容还是混杂的。

走出考试范围，模型会不会"水土不服"

一个模型如果专门针对某几类题目做了强化训练，很容易出现"过拟合"的问题：在训练涉及的场景里表现很好，一旦换个完全没见过的任务类型，反而不如没训练过的原始模型。

为了检验VAD训练出来的模型有没有这个问题，研究者专门找了四个和训练数据完全无关的测试集，包括MMVP、CV-Bench、MMStar、POPE，考察模型在这些"陌生考场"里的表现。

结果显示，在4B和9B两个规模下，VAD都是唯一一个相比原始基座模型有正向提升的方法。4B规模下提升0.24分，9B规模下提升0.23分。而其他对照方法，比如GRPO在4B规模下反而倒退了4.2分，VA-OPD倒退2.72分，就连思路上和VAD比较接近的Decomposed OPD，在9B规模下也倒退了1.36分。

这个结果挺有意思。它说明VAD这套"只学有证据支撑的部分"的思路，客观上起到了一种"防止跑偏"的作用。因为它没有强迫模型去模仿老师全部的判断习惯，而是只学习那些真正和视觉证据相关的调整，模型在专精能力提升的同时，没有丢掉原本更广泛的通用能力。

写在后面

读完这篇论文，最触动我的一点其实不是VAD这套方法本身有多精巧，而是那个23.2%的诊断数字。

一个团队愿意先花大力气去证明"我们现在用的训练方式其实有问题"，而不是急着去堆一个更复杂的模型，这个态度本身值得说一说。很多论文上来就是"我们提出了更强的方法"，但很少有论文愿意先老老实实地量化一下现有方法到底"混杂"到什么程度，用具体数字把问题钉死，再去谈解决方案。

另一个让我停下来想了一会儿的地方，是VA-OPD那个"漏掉负向证据"的案例。这种错误不是那种一眼就能看出来的bug，而是设计逻辑里一个很隐蔽的死角：只往一个方向看优势，天然就会漏掉另一个方向的信息。这种问题在很多打分系统里可能都存在，只统计"变好了多少"，却没人问"变差了多少"这个问题有没有被认真对待。

还有一点没在正文里细说，但值得单独提一句：VAD承认自己的局限，就是每次干预只用一组对照视图去估计视觉证据的方向，这个估计本身可能存在偏差，多角度、多视图或许能给出更靠谱的方向标。论文没有回避这一点，反而把它明确写进了限制部分。

一个AI模型能不能分清"我这次改对，是因为真看懂了，还是因为习惯性地这么说"，这个问题放大来看，其实和人类学习一件事时能不能分清"我懂了，还是我只是记住了"，是同一个问题的两种版本。

Q&A

Q1：VAD是什么？

A：VAD全称Visual Attribution Distillation（视觉归因蒸馏），是一种多模态AI训练方法。它的核心做法是，通过对比"证据呈现"和"证据移除"两种情况下老师模型判断的差异，只提取出真正由视觉证据支撑的那部分修正内容，重新构造一份更精准的学习目标去训练学生模型，而不是让学生直接照抄老师的全部判断。

Q2：VAD和之前的Vision-OPD、VA-OPD相比，主要区别是什么？

A：Vision-OPD直接让学生模仿老师看清晰图后的完整判断，问题是这个判断里只有约23%真正和视觉证据强相关。VA-OPD给纠正意见按视觉相关度打分加权，但只统计正向增益，会漏掉证据明确否定错误答案的负向信号。VAD则通过投影计算，把老师判断拆成"视觉可解释部分"和"残差部分"，只用前者重新构造学习目标，同时正负两个方向都能兼顾。

Q3：VAD训练出来的模型效果具体好在哪里？

A：在六个细粒度视觉测试上，VAD在4B和9B两个模型规模下都取得了对照方法中最高的平均分，分别是78.32分和79.93分，比同规模最强对照方法高出2.4到2.88分。同时VAD训练出的模型在完全没见过的陌生测试集上也保持了正向提升，没有出现专精能力提升但通用能力下降的问题。