世界动作模型需要什么样的视觉表征来做操作?

一项受控研究发现,通用视觉特征与通道级联合预测能为世界动作模型带来最大的操作性能提升。

直接答案

先选一个强通用视觉表征,用通道级联合预测把它接入模型,只有当额外来源能提供现有特征所缺的信息时才继续添加。在这项受控研究中,这套做法把 LIBERO-Plus 成功率从仅用 VAE 基线的 74.7% 提升到使用 DINOv3 的 84.0%,由此得到的 R2-WAM 在 RoboCasa GR1 Tabletop 上达到 84.7%,在 RoboTwin 2.0 上达到 92.8%。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

继承的 VAE 特征为重建而优化

世界动作模型(WAM)把预训练视频生成模型改造成机器人控制器,让它同时预测未来视频潜变量和动作块。这种继承带来了强大的视觉先验,但也带来了视频模型变分自编码器(VAE)的潜空间;该潜空间是为重建图像而优化的,并不以保留操作所需的信息(例如物体语义和空间关系)为目标。

论文的起点测量显示了这种错配的代价。LIBERO-Plus 是一个在七类扰动下改变观测的基准,仅用 VAE 的 WAM 在该基准上平均成功率为 74.7%。它的弱项是视角变化(51.2%)、背景变化(62.0%)和图像噪声(66.6%),而语言扰动(91.1%)和光照变化(94.3%)本来就已经很高。因此问题不是外部视觉特征是否有用,而是哪些表征、哪种接入机制值得投入。

此前的工作常把选定的表征与特定的接入设计绑定在一起,因此无法区分表征本身的效果和机制的效果。这项研究固定 WAM 主干、训练数据、观测输入、动作时域、优化器和学习率调度,每次只改变一个因素:十三个冻结的视觉编码器、五种接入机制,以及多个来源的组合。

通用特征优于面向单一能力的编码器

十三个编码器全部冻结,并通过通道级拼接加入仅用 VAE 的基线;每个编码器都在 LIBERO-Plus 的七类扰动上、用三个评估种子打分。论文按预训练侧重把它们分组:面向广泛迁移的通用来源,以及为分割、几何或交互等单一能力训练的专用来源。

通用表征平均成功率为 82.2%,专用表征为 80.0%。自蒸馏编码器 DINOv3 总体达到 84.0%,并改善了基线最弱的几类,包括相机(64.2%)、背景(83.9%)和噪声(86.0%)。V-JEPA 2.1 以 82.4% 紧随其后,C-RADIOv4 为 83.5%。专用编码器没有补上同样的缺口:SAM 3 和 VGGT-Ω 各为 80.6%,面向交互的 HRP 为 79.8%,相对 74.7% 的基线只是小幅提升。

作者的理解是:为修补某个假定缺失能力而挑选的专用编码器,并不能在与该能力相关的扰动下稳定提供这项能力;通用表征则带来更广的鲁棒性提升。实际结论是一个默认做法:从强通用来源起步,而不是从诊断出的弱点反推该选哪个编码器。

通道级联合预测带来最大平均增益

五种机制的区别在于外部特征如何进入模型。REPA 用余弦损失把 WAM 的中间隐藏状态对齐到外部特征。门控交叉注意力让动作隐藏状态通过可学习门控去查询投影后的当前观测特征。通道级拼接把特征在空间上对齐到 VAE 潜变量网格,再沿通道维拼接,并扩展视频专家的投影层,使其同时预测 VAE 和特征的流速度。逐 token 拼接把特征保留为独立 token 序列,与视频专家共享 Transformer 层。特征专家则让特征拥有自己的 Transformer 参数。

在十三个表征上取平均,通道级拼接达到 81.5%,比 74.7% 的仅用 VAE 基线高 6.8 个百分点。REPA(76.2%)和特征专家(76.4%)只有小幅提升,门控交叉注意力维持在 74.7%,逐 token 拼接则降到 72.7%。

两项后续分析支持作者对通道级拼接为何有效的解释。在该机制内部,只预测当前特征得到 76.5%,只预测未来特征得到 81.9%,两者都预测得到 84.0%,说明收益主要来自未来特征预测。对最终归一化动作关于当前 DINOv3 特征的敏感性分析也表明,动作专家在该机制下更有效地使用了新增视觉信息。这些是作者对实测消融结果的机制解释,并非另行证明的因果结论。

额外来源只有在补充新信息时才有用

加入第二个表征并不必然带来更高成功率。DINOv3 单独就把 LIBERO-Plus 比仅用 VAE 基线提高了 9.3 个百分点,而评估过的最佳组合最多再增加 3.7 个百分点。论文的解释是重叠:在相似目标上训练、或共享教师模型的来源,提供的是冗余信息。

最清楚的例子是 C-RADIOv4,它蒸馏了 DINOv3、SigLIP 2 和 SAM 3;把它与 DINOv3 组合后,LIBERO-Plus 成功率降到 78.6%。SigLIP 2 让 DINOv3 提升 1.8 个百分点,但在已有 UniTok 时反而降低 0.4 个百分点,在同时加入 V-JEPA 2.1 时只增加 0.2 个百分点。VGGT-Ω 和 SAM 3 加到 DINOv3 上变化很小,尽管它们能改善某些更大的组合。相反,把 V-JEPA 2.1 加到 DINOv3 和 UniTok 上有帮助,这与它基于视频的预测式预训练提供互补线索相符。

由此得到的规则关乎信息而非数量:选择额外来源时,要看它在现有表征之外贡献了哪些与任务相关的信息;组合应视为精修手段,而不是主要杠杆。论文直接这样表述,数字也说明了原因:第一次加入通用表征带来的收益,大于任何评估过的组合步骤。

这套做法可迁移到 RoboCasa 与 RoboTwin

作者把这些发现落实为 R2-WAM:一个强通用表征、通道级联合预测,以及有选择保留的额外来源。随后他们在受控的 LIBERO-Plus 比较之外进行测试,那里的仅用 VAE 基线为 74.7%。

在 RoboCasa GR1 Tabletop 上,R2-WAM 在 24 个任务、每任务 50 次试验中达到 84.7% 成功率,比仅用 VAE 基线高 5.9 个百分点。在 RoboTwin 2.0 上,它在 50 个任务、每个干净和随机化设置各每任务 100 次试验中达到 92.8%,比对应基线高 2.2 个百分点。论文还报告了在 LIBERO-Plus 上跨不同 WAM 形式的验证,以及四个真实机器人任务、每个模型每任务 20 次试验的结果。

这些是不同基准,任务数、试验数和基线都不同,因此不应把百分点增益当作衡量同一难度的结果来比较。它们共同支持的结论更窄也更有用:当主干形式和评估环境改变时,这套做法相对仅用 VAE 模型的优势依然存在。

第一次表征选择最关键

研究自身的比较给出了优先级。从仅用 VAE 基线换到强通用表征,带来 9.3 个百分点的 LIBERO-Plus 增益;而评估过的最佳组合最多再增加 3.7 个百分点。接入机制也有影响,但只有通道级拼接带来大幅平均增益;其余四种机制从下降 2.0 个百分点到提升 1.7 个百分点不等。

因此作者把未来工作指向更强的通用视觉表征,以及把它们更有效地接入 WAM 的机制,特征组合只是补充路径。这个排序是论文最具决策价值的输出:如果一个 WAM 仍依赖继承的 VAE 潜变量,最大的可用改进在表征和接入方式的选择上,而不在堆叠更多特征来源。

范围受限于实际测试的内容。受控比较使用冻结编码器、以 Wan 2.2 初始化的视频专家和独立的动作专家,并以 LIBERO-Plus 作为主要鲁棒性基准;迁移结果覆盖 RoboCasa GR1 Tabletop、RoboTwin 2.0 和四个真实机器人任务。组合方面的结论尤其来自已评估的组合,因此基于重叠的推理是选择来源的指导,而不是对未测试组合的保证。

本文引用的文献

1

What Visual Representations Do World Action Models Need?

在共享训练协议下,通用视觉表征优于专用表征,通道级联合预测带来最大平均增益,由此得到的 R2-WAM 在 RoboCasa GR1 Tabletop 上达到 84.7%,在 RoboTwin 2.0 上达到 92.8%。