停止梯度是前提条件而非细节
论文的第一项发现是保护性的,而不是增益性的。可供性头通过停止梯度读取主干隐藏状态,因此可供性损失只更新头的参数,从不更新主干。作者把这称为非对称保护:主干的语言基础能力是系统中最稀缺的资源,由互联网规模预训练换来;而头很廉价,可以适应主干,而不是反过来。
跳过这一步的代价是被测量过的。让可供性梯度抵达主干,会把策略压到无头基线之下,LIBERO 平均成功率 85.5% 对 93.1%。在作者的初步实验中,崩塌更剧烈,目标条件成功率从 94% 跌到 32% 以下。因此停止梯度是头带来任何收益的前提,而不是若干设计选择之一。
初始化比注入拓扑更关键
在主干受到保护之后,研究做了同预算的 2x2 消融,交叉注入拓扑(拼接与残差)和桥接初始化(零初始化与随机初始化)。四组运行共享数据、预算和随机种子,只有头的接法不同。论文报告初始化是主导杠杆。
四种接法及其 LIBERO 平均成功率为:CAT-LAZY 93.8%、RES-LAZY 93.6%、CAT-ACTIVE 95.8%、RES-ACTIVE 96.2%,无头基线为 93.1%。两种主动初始化的接法都超过基线,CAT-ACTIVE 平均高 2.7 个百分点,RES-ACTIVE 高 3.1 个百分点,增益集中在指令消歧和长时程精度上。残差拓扑在此之上还有自己的余量,主要体现在 Long 套件上,因为它的恒等路径把预训练视觉特征原样交给专家,而拼接会重新混合并轻微削弱这些特征。
零初始化桥接在推理时不起作用
零初始化桥接是适配器设计中的保守选择,因为策略恰好从基座模型出发。论文认为这种正统做法在辅助头场景中可能悄悄失效。桥接必须靠动作损失的梯度来生长,而这个梯度在构造上就是匮乏的:头提供的信息,动作专家费点力也能从视觉 token 中提取出来。因此桥接在零初始化时的边际价值接近于零,优化器永远不会离开这个吸引子。
经验上,惰性初始化的桥接收敛到恒等路径幅度的百分之几。推理时置零探针证实它们在运行时不起作用:把它们置零不改变任何结果,所以惰性桥接只充当训练期正则项。主动初始化则直接消除了先有鸡还是先有蛋的问题。特征从第一步起就以完整幅度存在,专家的表征围绕它形成,这条通路真正承担负载,代价是开局剧烈:动作损失一开始高出一个数量级,在几百步内恢复。
头带来的是格式而非新信息
论文在信息论上限这一点上表述明确。可供性目标是观测和指令的确定性函数,而头读取的正是动作专家已经看到的同一批主干特征。因此注入的特征无法给策略提供新信息,只能提供更显式的格式。任何收益都必须来自头存在所引发的优化动态,或者来自显式格式在运行时减轻了动作专家的负担。
两种初始化恰好在这两种机制之间做出选择。惰性桥接只留下正则化效应;主动桥接让通路承担负载。第二个探针支持格式这一解读:把真值可供性作为输入喂进去反而有害,这与价值在于头如何重塑专家表征、而不在于提供更好的图相一致。
标签来自模拟器接触状态,无需人工标注
可供性目标每帧回答一个问题:夹爪下一次会在哪里发生与任务相关的接触?作者从已有的 LIBERO 演示中提取它,无需人工标注,方法是在 MuJoCo 中通过 robosuite 逐步回放每条演示。在每个时间步,引擎的接触求解器会给出处于接触状态的精确几何对;从第 t 帧向前扫描,夹爪接触到的第一个物体就定义了该帧的交互目标。它的三维接触位置通过每个相机标定好的内参和外参投影到像素坐标,标签是以该点为中心、固定尺度的各向同性高斯,每个相机视图一张图。
有两点性质对理解结果很重要。标签是前瞻信号:在一个任务阶段内它保持不变,在阶段边界处离散跳变,因此头被监督去预测即时的动作未来,而不是当前状态。并且由于高斯模板固定,每帧标签质量恒定,预测任务永远不会退化成预测标签强度;只有位置携带信息。
头同时读取多个深度的特征
头在一小组均匀间隔的层上抽取主干隐藏状态,理由是可供性预测同时需要网络语义谱的两端。在干扰物中选出正确物体是后层的、受指令条件控制的决策,而把峰值以像素精度放在杯子的把手上则是前层的、由外观驱动的决策。只抽取一层会迫使二者二选一。
由于视觉 Transformer 是柱状的,每一层都以相同的粗粒度 token 分辨率表示图像,因此稠密预测面临识别与定位之间的经典张力。头用带横向连接的自顶向下金字塔来解决:每个被抽取的层被重排到各自的网格上,较早的层放到更细的网格以保留高频内容,较晚的层放到更粗的网格以匹配其语义粒度,然后自顶向下融合并解码为每个视图的接触热力图,用二元交叉熵训练。指令条件通过第二条路径进入,因为在因果注意力下图像 token 位于指令之前;池化后的指令嵌入作为 FiLM 调制施加到读出和每个融合阶段上。因此注入的特征携带的是经指令解析的空间决策,而不是纯粹的视觉显著性图。
一个头加一个桥接比肩三专家设计
最佳接法 RES-ACTIVE 在额外参数不到 1% 的情况下达到 96.2% 的 LIBERO 平均成功率。论文将其与 AffordanceVLA 比较,后者是论文引用的最强已发表系统,引入了专门构建的三专家 Transformer 混合架构,配有专用的可供性生成专家和两阶段课程,论文报告其成绩为 95.8%。作者自己的解读是:架构不是关键要素,接法才是。
这个比较是论文最锋利的论断,值得精确表述。它不是说可供性监督不必要,也不是说复杂架构没有价值。它说的是:在这个基准、这个主干和这个数据预算下,大多数论文未加说明的接法细节,即桥接初始化和注入拓扑,对结果的影响超过头本身是否存在。
这些结论在哪里成立,到哪里为止
该研究限于一个模拟基准、一个主干规模,每个格子一个随机种子,部分由初始化效应的双向复现和 Long 套件的逐点一致复测所缓解。可供性标签也来自特权模拟器状态,这正是它们在此免费的原因,而当标签必须以其他方式产生时并不具备这一条件。基座策略是 2B 参数的 Qwen3-VL 主干加逐层流匹配动作专家,它针对的已报告失败模式是指令消歧和长时程放置误差。
在这一范围内,优先级排序是清晰的。先用停止梯度保护主干,因为没有它,头比没有头更糟。然后把设计预算花在初始化而不是拓扑上,因为主动初始化在两种拓扑上都是主要杠杆,而残差形式在此之上增加一个较小、主要作用于长时程的余量。论文给出的实用阈值是:零初始化桥接收敛到恒等路径的百分之几,就是这条通路从未承担负载的信号;而推理时置零探针正是区分正则项与承担负载通路的检查。
本文引用的文献
Wiring Matters: Injection Topology and Initialization of Affordance Heads in Vision-Language-Action Policies
通过主动初始化的残差桥接重新注入的停止梯度可供性头,达到 96.2% 的 LIBERO 平均成功率,无头基线为 93.1%;而让可供性梯度抵达主干会把策略降到 85.5%。
