预测损失会掩盖被丢弃的不稳定模态
论文要回答的是:按常规方式训练的 JEPA 世界模型,是否保留了反馈控制器必须看到的物理方向。作者指出,对于开环不稳定系统,作用在潜在状态上的控制器能稳定系统,当且仅当编码器保留了每一个不稳定模态:控制器看不到某个模态,就无法纠正它。他们的第一个结果是否定的。以 SIGReg 作为防坍缩正则化时,下一步预测加正则化的标准目标可以在编码器丢弃全部不稳定模态的情况下被压到最小值。
这一区分之所以重要,是因为它把读者常混为一谈的两件事分开。完全表示坍缩指编码器把几乎所有观测映射到同一个常数,SIGReg 通过让整体潜在分布保持分散、近似各向同性来避免这种退化。论文指出的问题更窄,也更严重:表示可以在训练分布上保持分散,却仍然丢掉反馈必须观测的特定方向。因此,预测损失低并不能证明潜在空间可用于稳定控制。
用两个端点重建动作序列
作者提出的修法是端点逆动力学损失。每一步,编码器把观测映射为潜在状态,预测器以动作为条件把潜在状态向前推演;单步或多步预测让预测的潜在状态对齐编码后的真实潜在状态。EP-IDM 增加第二项要求:给定窗口起点的潜在状态和 H 步之后的潜在状态,模型必须估计中间的动作序列。如果两个不同状态被映射到同一潜在状态,从它们出发的动作通常会不同,因此重建任务会惩罚这种合并。
作者针对线性系统证明,精确的动作重建使编码器在有限时域可达子空间上成为单射。通俗地说,编码器不能丢掉任何可由某个动作序列在 H 步内到达的状态方向。他们还证明,随着 H 增大,有限时域可控性 Gram 矩阵的主特征空间收敛到可控不稳定子空间,这解释了为什么在该目标下不稳定方向最容易辨识。这些结论建立在线性系统上;非线性实验只是说明结论可以延伸的证据,不是证明。
CartPole 稳定任务区分了两种目标
最清晰的比较来自非线性 CartPole:一个用 LQR 控制的连续动作倒立摆平衡任务。论文报告,EP-IDM 把潜在 LQR 成功率从 0% 提升到 100%。同一节还描述了行为上的对比:用 EP-IDM 训练的模型,无论从零训练还是基于冻结的 iBOT 编码器,都能在一条抽样轨迹中让杆保持直立;而预测加 SIGReg 的模型、没有 EP-IDM 的冻结 iBOT,以及 DINO-WM 都无法稳定系统。
诊断结果说明了成功率在衡量什么。EP-IDM 模型恢复了直立平衡点附近的局部向量场,在该平衡点附近预测误差低,并产生较宽的吸引域,Lyapunov 证书也按预期下降。对比模型即使把终端潜在代价在目标附近压到最小,其局部动力学仍不够准确。这正是论文核心警告的具体形态:在潜在代价上到达目标,不等于学到了可以据此设计稳定控制器的动力学。
Walker2D 与 PointMaze 检验不同主张
Walker2D 和 PointMaze 检验的是单个不稳定平衡点之外的情形,它们的数字不应被读成一个合并结果。在 Walker2D 这个用 iCEM 规划的双足运动任务上,论文报告 EP-IDM 保留了极限环,并在 500 个时间步内以平均 9.15 米的前向位移支持成功规划。在 PointMaze 这个二维质点导航任务上,作者指出所有从零训练的动作重建变体都达到至少 90% 的 CEM 成功率和至少 70% 的 LQR 成功率。
PointMaze 也用来检验没有不稳定模态的系统。报告表格显示,真实系统为 100% CEM、80% LQR、90% GBP 成功率;从零训练的变体中,1SP+IDM 为 100% CEM 和 70% LQR,MSP+EP-IDM 为 90% CEM 和 80% LQR,MSP+SIG 为 90% CEM 和 60% LQR。作者的解读是,动作重建在这里依然有效,并非只在不稳定模态存在时才有用。由于这些是不同规划器下的成功率,它们比较的是各规划器的结果,而不是一个统一的分数。
理论保证的适用边界
理论结论针对线性系统,并依赖充分动作激励下的精确动作重建。可控性 Gram 矩阵的收敛结果排除了单位圆上的特征值,因此它在线性化 CartPole 例子上的实例化只涉及左图所示的严格不稳定模态。非线性任务是经验演示,不是证明的延伸。
第二个边界是规划代价。论文指出,潜在规划中使用的到达目标代价是刻意简化的,对更复杂的控制任务可能不够,这些任务可能需要任务特定的阶段代价、学到的潜在奖励模型,或通过状态解码器定义的代价,Walker2D 就采用了后者。CartPole 的证据还来自特定控制器,即潜在 LQR,因此 0% 到 100% 的变化描述的是该控制器和该任务,而不是该表示的所有下游用途。
用潜在控制器能否工作来评判世界模型
论文的实践优先级是改变评估方式。预测损失低、潜在分布未坍缩,并不足以证明 JEPA 世界模型已可用于不稳定系统的反馈控制。真正重要的检查是:基于学到的潜在动力学设计的控制器能否实际稳定被控对象。CartPole 的对比显示,这两种评估可能完全背离:预测加 SIGReg 的潜在 LQR 成功率为 0%,而加入 EP-IDM 后为 100%。
情景划分来自证据本身。当系统存在反馈必须纠正的不稳定模态时,论文的论证和 CartPole 结果使动作重建成为相关的训练补充,线性理论解释了可达方向为何能保留下来。当系统没有不稳定模态时,如 PointMaze,报告中的从零训练动作重建变体仍达到至少 90% CEM 和至少 70% LQR 成功率,因此该目标在那里并未被呈现为有害。决定性问题不是潜在表示预测得好不好,而是控制所依赖的方向是否仍然存在。
本文引用的文献
Preserving Unstable Modes Through Inverse Dynamics in JEPA World Models
下一步预测加防坍缩正则化可以在编码器丢弃全部不稳定模态的同时被压到最小值;加入端点逆动力学损失可保留有限时域可达方向,并把非线性 CartPole 上的潜在 LQR 成功率从 0% 提升到 100%。
