预测运动而非预测外观
视觉-语言-动作(VLA)模型把观测和语言指令映射为机器人动作。论文指出,仅靠动作监督并不会明确要求策略的内部表示去预判场景将如何变化,而抓取、放置和打开这些动作都依赖机器人与周围环境之间的协同变化。
最直接的做法是预测未来图像,但未来 RGB 帧会把与任务相关的运动和背景纹理、几乎不动的物体混在一起。光流是另一种目标:它描述帧与帧之间的图像空间位移,并抑制静态纹理。因此 Evo-World 训练一个紧凑分支,从当前观测和指令出发,预测渲染光流的学习嵌入,而不是重建像素或光流本身。
论文图 1 把这一点作为定性动机:光流目标被期望比未来帧目标与动作的相关性更强。这一相关性说法在现有证据中只是动机说明,并非实测结果。
两阶段训练保住运动信号
Evo-World 在 Meta-World 上分两阶段训练。第一阶段冻结视觉-语言主干,训练运动表示模块、FiLM 条件层和动作专家,共 10,000 步。第二阶段从该模型重新初始化,解冻主干,用新的优化器和学习率调度再训练 100,000 步。两个运动编码器、它们的投影层以及运动预测器始终可训练。
两项设计在动作优化过程中保护预测信号。Sketched Isotropic Gaussian Regularization(SIGReg)作用于学习到的表示,防止其坍缩;同时在运动分支与策略的接口处阻断梯度,使动作损失不会改写运动目标。随后 FiLM 把当前表示与预测表示结合起来,为动作生成提供条件。
论文报告,去掉 SIGReg 后,当前表示和预测表示在 PCA 投影中都聚集在各自均值附近,论文将其解读为坍缩。这正是正则化要防止的机制,而且它是以表示层面的诊断呈现,而非任务成功率测量。
光流比未来帧高 6.8 个百分点
核心比较固定了训练和评估协议,只改变预测目标。不做预测时,Meta-World MT50 的分层平均成功率为 80.6%。未来 RGB 变体达到 84.3%,比该基线高 3.7 个百分点。光流模型达到 91.1%,比未来帧变体高 6.8 个百分点,比无预测基线高 10.5 个百分点。
提升并不只出现在简单任务上。光流在 Easy 上得 93.2%、Medium 89.1%、Hard 88.3%、Very Hard 94.0%,分层平均对这四个难度桶等权。未来帧变体最弱的桶是 Hard,为 78.3%,因此最大的单项差距出现在操作最难的地方。
由于各变体共享相同的训练预算和评估设置,论文把这一排序归因于预测目标。这是从本研究内部受控比较得出的推断,而不是关于光流监督的普遍规律。
当前与预测上下文都不可少
在光流监督下,论文考察哪些表示应当为策略提供条件。只用当前表示时,分层平均成功率为 83.7%;只用预测表示为 85.5%;噪声条件为 81.0%。把当前表示和预测表示拼接起来达到 91.1%,分别比这三者高 7.4、5.6 和 10.1 个百分点,并且在四个难度桶中都是最高分。
两种单一条件的排序并不一致。只用预测表示平均比只用当前表示高 1.8 个百分点,在 Easy 和 Hard 上更高;而只用当前表示在 Medium 和 Very Hard 上更好。论文的解读是,联合条件同时提供了当前场景上下文和预判的运动,因此它在每个桶里都胜出,而不是在各桶之间此消彼长。
如何融合与融合什么同样重要。FiLM 达到 91.1%,交叉注意力为 86.4%,而把拼接作为融合机制只有 53.2%——与拼接相差 37.9 个百分点。拼接的结果说明,在这一配置下,简单地把运动特征附加到策略特征上可能严重失败。
正则化与梯度分离作用显著
去掉 SIGReg 使分层平均成功率下降 5.3 个百分点,从 91.1% 降到 85.8%,每个难度桶都下降;降幅最大的是 Very Hard,为 16.0 个百分点。去掉梯度阻断则整体损失 8.9 个百分点,其中 Hard 桶下降 20.0 个百分点。两项消融都保持相同的两阶段调度、光流缓存和评估设置,因此各自只隔离一个组件。
这两个组件回应的是一个具体风险:预测分支训练好之后,一旦动作损失开始流经共享表示,它可能被悄悄削弱。消融幅度表明,在这一配置下,保持运动目标独立、保持表示多样并非可有可无的细节。
更小的模型在真实 AgileX 任务上胜出
在 AgileX 双臂机器人上,每个模型在每个任务上评估 20 次试验,使用同一块 NVIDIA H20 GPU 和 BF16 精度,平均成功率对三个任务等权。Evo-World 的平均成功率为 63.3%,π0 为 51.7%,OpenVLA-OFT 为 23.3%。分任务看,它在插花上得 55.0%,挂杯子 70.0%,微波炉放置 65.0%。
效率指标也朝同一方向变化。Evo-World 使用 0.87B 参数,π0 为 3.50B,OpenVLA-OFT 为 7.73B;GPU 显存占用 2.54 GB,对比 6.69 GB 和 15.56 GB;推理频率 6.16 Hz,对比 5.42 Hz 和 2.41 Hz。论文还报告,它在单臂和双臂操作任务上都优于所评估的基线。
这些结果针对的是论文选择评估的基线,覆盖三个具名任务、每个 20 次试验。它们确立了在这一比较中的优势,而不是对所有 VLA 系统的排名。
光流目标不编码的内容
运动目标是从演示视频计算出的二维图像平面位移,不含显式三维几何。论文把几何感知监督列为未来工作,这标出了当前预测信号能表示的范围边界。
另一项解码分析则提醒人们应如何理解预测器。光流监督在末端执行器位移上比未来帧监督有更高的测试 R² 和更低的中位角误差——当前表示为 0.661 和 20.9 度,预测表示为 0.508 和 29.4 度,而未来帧下分别为 0.497/29.6 和 0.421/35.2。但在两种目标下,当前表示的解码效果都好于预测表示,论文也指出这一比较并不能证明预测器在当前表示之外增加了可线性解码的运动信息。
因此,预测分支的依据在于条件消融:联合条件比只用当前表示高 7.4 个百分点,而不是线性解码结果。
光流优势成立的范围
论文的重点是目标选择,而不是更大的模型:在所评估的配置中,用光流监督未来运动在 Meta-World MT50 上同时优于无预测和未来 RGB 预测,而当前加预测的 FiLM 联合条件正是实现这一结果的配置。比未来帧高出的 6.8 个百分点,是把这一方法与更常见的未来图像路线区分开的数字。
这一重点有明确范围。仿真证据是 Meta-World MT50,难度分层等权;真实机器人证据是一个 AgileX 双臂平台上的三个任务,每个 20 次试验;运动目标是二维光流,不含几何。读者在权衡这一方法时,应在论文实际测试的维度上比较——固定训练预算下的预测目标与融合选择——而不是把 91.1% 当作可移植到其他机器人或任务的成功率。
本文引用的文献
Evo-World: A Lightweight Vision-Language-Action Model with Future Motion Prediction via Optical-Flow Supervision
在 0.87B 的 VLA 上加入光流监督的未来运动预测,使 Meta-World MT50 分层平均成功率升至 91.1%,比未来帧变体高 6.8 个百分点,比无预测基线相对提升 13.0%,并在真实 AgileX 任务上以更低 GPU 显存胜过更大的基线。
