对比视觉在线策略蒸馏如何修复 VLM 视觉捷径？

蒸馏后的 VLM 不看证据也能答对

论文从一个异常现象出发，而不是从某个基准差距出发。经过在线策略蒸馏后，视觉语言模型在答案所需的视觉区域被遮挡或被替换为噪声时，仍能准确回答问题。如果去掉证据后答案依然成立，就不能说明模型真的在读这份证据。

作者把这一现象视为蒸馏设置方式造成的捷径。在线策略蒸馏中，学生模型自己生成轨迹，并被训练去匹配教师在这些轨迹上的输出分布。当教师获得特权信息（例如以答案为中心裁剪出的图像区域）时，这块裁剪就是提示。学生看到的是完整图像和问题，但它接收的监督信号由它无法观察、也无法区分的额外信息塑造。

论文的诊断比较很直接：在答案相关区域施加黑色遮挡和高斯噪声两种条件下测量准确率，并对以裁剪为条件的 Vision-OPD 设置可视化注意力。论文报告的观察是，证据被破坏后正确答案依然存在，作者将其解读为学生未能真正寻找并依赖视觉内容。

匹配教师为何不约束视觉使用

理论论证关注的是优化目标究竟约束了什么。学生分布以视觉内容、问题和已生成的前缀答案为条件。正教师的分布则以一个提示为条件，而该提示与图像之间的映射对学生既不可微也不可观察。

由于学生被推向教师的 token 后验，梯度会抬高与提示相关的目标 token 的 logit。论文指出，这个梯度对学生应当针对图像优化什么没有施加任何约束。于是优化退回到完整图像和固定文本上下文，模型学会拟合现有条件，而不是识别正区域。

这是论文自己的解释，不是独立测得的因果分解。它之所以重要，是因为它预示了修复应当作用在哪里：不是增加更多教师信号，而是让学生输出取决于教师看到的是哪块视觉区域。

负教师让裁剪差异变得有信息量

CV-OPD 保留与答案相关的正裁剪，同时增加第二个教师分支，让它看到从同一张图像中采样出的负区域。负区域的高和宽与正区域一致，且它与正区域的重叠受 IoU 阈值约束。两个教师分支共享参数，并以相同的学生前缀为条件，因此它们之间唯一有意的差异就是特权裁剪。

随后用对比散度损失训练学生。在每个 token 位置，方法计算学生与两个教师之间全词表的 Jensen-Shannon 散度，再施加基于间隔的合页项，把学生拉向正教师、推离负教师。一旦负散度超过正散度达到该间隔，该项就降为零，因此负分支不会被无限推远。

论文推导出，所得梯度与正、负教师分布之差成正比。按作者的解释，这使损失能够放大两个视觉输入之间的采样差异，从而帮助模型定位正区域。

门控把对比集中到视觉相关 token

若在所有位置都施加对比项，它会被采样噪声和风格变化稀释。差异感知门控用学生与正教师之间的全词表散度作为 token 级证据分数，只在正散度超过批次平均的位置激活对比项。

第二个门控作用于样本级。由于教师以学生前缀为条件，一条错误的 rollout 会让教师从偏离轨道的 safety 前缀上做纠正。方法只保留至少有一条 rollout 给出正确最终答案的样本；若所有 rollout 都错误，该样本的全部监督都被关闭。

消融实验在六基准平均上分离了这两个机制。去掉对比损失使平均分从 78.22% 降到 76.81%，去掉门控降到 76.88%；两者都去掉则为 75.92%。论文把门控的贡献解读为：选择有信息的 token 比同等对待所有位置能提供更有效的监督。

负裁剪必须无关，而非仅仅邻近

负区域的选择并非无关紧要。论文比较了全黑图像、与目标区域相邻的裁剪，以及随机采样的裁剪。相邻裁剪的平均分为 76.40%，低于完全不加对比损失的 76.81% 变体。作者解释，目标附近区域可能仍含有与答案相关的信息，因此把学生推离这些区域会提供相互冲突的监督。

全黑图像达到 76.76%，随机裁剪达到 77.20%，而完整的 CV-OPD 配置达到 78.22%。随机裁剪与 CV-OPD 之间的差距被归因于采样一致性：CV-OPD 在每个样本的全部八条 rollout 中共享同一块负裁剪，作者认为这减少了对比梯度的波动。

门控阈值呈现类似规律。使用每条 rollout 的平均散度得到 77.08%，仅略高于 76.88% 的无门控变体，因为短回答使 rollout 级平均对少数 token 位置敏感。使用批次级平均则把平均分提升到 78.22%。

六基准平均说明了什么、没说明什么

核心比较是六个细粒度视觉基准上的平均：V* Zoom、HR-Bench 4K、HR-Bench 8K、MME-RW 英文、MME-RW 中文，以及另一个计入六基准平均的基准。完整配置在这六项上分别得分 91.62、62.01、84.38、83.38、76.99 和 70.93，平均为 78.22%。

基础 4B 模型在同一平均上得 71.12%，全黑负样本变体得 76.76%。这些是所列基准上的聚合分数，并非对每个任务或每种模型规模的断言；消融表报告的是 4B 模型。论文自己的表述是，CV-OPD 大幅缓解了捷径，并在所测基准上持续提升视觉推理能力。

诊断证据与基准提升回答的是不同问题。遮挡和噪声测试问的是证据被移除后模型是否仍能作答；基准准确率问的是它在细粒度视觉任务上表现多好。后者的提升本身不能证明捷径已消失，这也是论文把两者并列的原因。

对比信号在哪里真正发挥作用

论文中最具决策价值的比较不是 CV-OPD 与基础模型，而是 CV-OPD 与它自己的较弱变体。负裁剪离目标太近时，表现比完全不加对比损失还差；rollout 级门控阈值相比无门控也几乎没有提升。方法收益依赖消融实验明确给出的两个条件：负区域必须与答案真正无关，门控阈值必须足够稳定以选出有信息的 token。

这重新界定了实际问题。如果一条蒸馏流程已经向教师提供以答案为中心的裁剪，首先要检查的是：这些区域被遮挡后学生是否仍能作答。如果仍能，论文的证据指向使用共享的、无关的负裁剪加批次级门控的对比监督，也就是产生 78.22% 平均分的配置，而不是邻近裁剪或逐 rollout 阈值。

本文引用的文献