[ICLR 2025] AR-VLA：打破“反应式”魔咒，构建拥有长效记忆的具身动作专家

TL;DR

传统的视觉-语言-动作模型（VLA）大多像是在玩“一二三木头人”：每拍一张照片，大脑才动一下，动作之间缺乏内在的连贯性。AR-VLA 改变了这一范式，它通过引入一个真正的自回归动作专家 (Autoregressive Action Expert)，让机器人拥有了类似 LLM 的“语感”——不过这次是“动感”。它能一边维持高频的流畅操作，一边异步吸收低频的视觉语义，在保证轨迹极度平滑的同时，轻松应对需要历史记忆的长程任务。

核心定位

在学术坐标系中，AR-VLA 填补了**反应式控制 (Reactive Control)与流式控制 (Streaming Control)**之间的鸿沟。它不仅是 SOTA 刷榜者，更是对 VLA 架构逻辑的一次重构：将动作生成从“图片到动作的映射”提升为“基于历史的因果序列建模”。

痛点深挖：为何现在的机器人总像在“抽搐”？

目前大多数 VLA 模型（如 OpenVLA 或基于 Diffusion Policy 的方法）存在两个核心缺陷：

1. 马尔可夫健忘症 (Markovian Amnesia)：它们通常将当前的图像快照作为输入，预测一段动作块（Action Chunking）。一旦进入下一个循环，之前的状态就被抛弃。这种“断层”导致了动作之间的不连贯和轨迹抖动。
2. 频率错配 (Frequency Mismatch)：视觉推理（大脑）往往很慢（约 10Hz），而电机控制（小脑）需要极快（>50Hz）。强行同步两者会导致控制频率受限于视觉延迟。

核心方法论：AR-VLA 的“双线程”智慧

1. 架构解耦：大脑与小脑的异步共舞

AR-VLA 采用了一个统一的 Transformer Decoder，但创新性地设计了 Hybrid Key-Value (HKV) Cache。

• 动作流 (Action Stream)：一个 FIFO 的滚动缓存，存储长达 20-40 步的历史动作和状态，捕捉运动的“惯性”。
• 感知流 (VL Stream)：一个可刷新的单槽缓存，存储最新的视觉-语言语义特征。

图 1：AR-VLA 整体框架。通过 DTR 机制将异步的视觉特征注入到持续滚动的动作序列中。

2. 动态时间重锚定 (DTR)：数学化解决“过期”视觉

这是本文最精彩的数学直觉。当图像经过复杂的 VLM 处理完传给动作专家时，机器人可能已经多走了 3 步。如何让模型知道这个视觉信息是“过去的”？ 作者利用 RoPE (旋转位置编码) 的相对位置特性，给视觉 Token 分配它被捕获时的时间索引 $n$，给当前动作 Query 分配 $m$。 通过这种方式，Attention Score 变成了时间差 $\Delta t=m-n$ 的函数。这意味着模型在训练时就学会了处理不同程度的“数据过期（Staleness）”，确保了推理时的鲁棒性。

实验战绩：丝滑且强大

1. 轨迹平滑度与效率

实验表明，AR-VLA 的 Jerk（加速度的变化率，衡量抖动的关键指标）远低于传统的 Chunking 方法。由于动作专家是轻量级的且支持流式生成，它能在保持 29ms 极低延迟的同时，持续输出动作。

表 1：AR-VLA 在保持高成功率的同时，拥有最低的 Jerk 和 Total Latency。

2. 历史感知：解决“看不见”的问题

在 Stack3（三层叠放） 任务中，一旦杯子盖住了电池，电池在视觉上就消失了。反应式模型此时会陷入困惑，但 AR-VLA 凭借其“长效 KV 缓存”，能从历史轨迹中推断出电池的位置，成功完成后续叠放动作。

深度洞察：迈向“系统 2”思考的基石

AR-VLA 的成功不仅在于它用了自回归，更在于它通过两阶段训练策略（先学运动语法，再学视觉对齐）解耦了知识的获取。这为未来构建通用机器人大模型提供了一个可扩展的范式：我们可以先在海量的纯动作数据集上预训练一个精通“运动学语法”的专家，再将其接入不同的视觉大脑。

局限性分析

作者也坦诚指出，自回归模型由于依赖自身历史，存在复合误差 (Compounding Errors) 的风险。如果一步走错且未能在历史缓存中纠正，可能会导致后续轨迹彻底偏离（Causal Confusion）。这也是为什么训练中使用了高达 60% 的历史遮蔽（History Masking）来增强模型的鲁棒性。

总结

AR-VLA 证明了具身智能不需要时刻刷新“视觉意识”，一个具备良好惯性和历史感知的“小脑”能够极大地弥补底层感知的延迟。这为未来高性能、高频率的工业级机器人控制提供了极具吸引力的参考方案。