机器人使用指执行任务而非描述任务
RobotWorld 要回答的是:通用智能体写代码、使用工具的能力,能在多大程度上延伸到物理世界。论文把“机器人使用”定义为:通过机器人接口,把指令和观测转化为物理任务的执行。这个定义之所以重要,是因为它让成功取决于最终的物理状态,而不是智能体是否给出了看似合理的计划或一段能运行的代码。
测试平台包含 84 个任务,覆盖操作、移动操作、移动、驾驶和空中控制。每个任务都有明确的交互预算和可执行的成败检查,因此一个回合是否得分,取决于环境检查器能否在允许的步数内确认目标达成。智能体会收到任务目标、允许使用的观测和工具文档,并直接发出机器人工具调用,再根据返回的反馈重新规划。在报告的评测中,环境侧的代码控制被关闭,智能体也无法读取隐藏的检查器状态或参考解。
评测覆盖 GPT-6 Astra、Claude Opus 5.5、Kimi K3、DeepSeek V4.1 Flash 和 Gemini 3.8 Flash,五个模型都跑完全部 84 个任务,每个模型与任务的组合只跑一个回合。这样共得到 420 个计分回合,数据采集于 2026 年 9 月 30 日至 10 月 6 日,所有模型使用相同的初始化协议、控制步数上限和评分规则。
智能体能搭建流程却难以组合成行为
论文的核心发现并不是智能体缺少与机器人相关的技能。当前的智能体能构建包含图像分割、相机标定、空间估计和基于动力学的计算的流程。在堆叠任务中,Opus 5.5 在移动之前先写了颜色分割代码,然后采样机器人运动来拟合相机几何并计算目标。Astra 则不同:它根据连续的相机观测接近蓝色方块,在第 157 步合上夹爪,在第 179 步抬起,直到第 204 步才引入相机投影拟合。
这两条路线都是真实的机器人使用行为,也都能推动任务进展。缺口出现在这些组件必须在一个回合内保持协同的时候。摘要概括了这一模式:智能体虽然到达了指令位姿,却丢失了与任务相关的物体状态;未能修正无效动作;恢复得太晚;或者把未完成的任务当作已完成。因此,到达某个位姿与抓稳物体是两种不同的测量,一个有利的最终画面与在整个要求时段内满足条件也是两种不同的测量。
执行轨迹显示任务进展停在哪里
这些案例研究把结果与记录下来的执行过程联系起来,而不只是看最终得分。在 Kimi K3 的倒水回合中,最初的接近动作把瓶子撞倒了。左臂多次尝试都没能抓住瓶子,智能体在第 240 步改用右臂;剩余预算都花在进一步的接近动作上,这个 400 步的回合最终没有成功。连续到达不同的手臂位姿,并没有恢复倒水所需的物体状态。
准备工作也可能耗尽整个时间窗口。在 K3 的切菜回合中,全部 69 次产生正步数的调用都用于勘察、导航或清理家具周围的空间,在 2,000 步上限之前始终没有出现切割指令。作者指出,这个失败说明的是到达工作区域的问题,而不是未被尝试的切割技能。在扫方块任务中,K3 在第 861 步把空着的左臂收回原位后,声称任务已完成;它最后 69 次调用只改变了那只手臂的垂直目标,又推进了 139 个控制步却没有恢复清扫,到 1,000 步上限时原生成功仍为假。
时序问题会带来另一类失败。Astra 的倒立摆跟踪最终尖端误差只有 2.45 cm,但在 0.5 s 开始检查时就已经超出了跟踪容差,它最后保持稳定的区间是 0.565 s,而不是要求的一秒。论文的结论很直接:有运动不等于有任务进展。
反馈只有改变下一步动作才有用
成功的回合显示,反馈被用来改变执行,而不只是用来观察。在 K3 的关抽屉回合中,末端执行器位移变小促使它缩短推动距离,随后收回手臂检查是否关好;原生成功就发生在收回过程中。在插入充电器任务中,Astra 尝试把空闲手臂的腕部相机向下旋转以检查对齐,规划器在第 196 步拒绝了这条指令。Astra 随后降低并靠近空闲手臂,再重试同样的俯仰旋转,这次执行成功;进一步的调整在第 323 步带来原生成功。作者把这一过程描述为依赖反馈的重新配置,但没有把这次改变单独认定为最终成功的原因。
持续恢复还增加了时间上的要求。Opus 5.5 在无人机吊挂悬停中,把离线线性二次调节器计算与反复的状态反馈结合起来。载荷误差下降,最后一段时间同时满足位置、速度、摆动和姿态条件,所有稳定性条件共同满足了 2.15 s,超过两秒的要求。与倒立摆案例的对比正是要点:瞬间恢复并不能满足持续稳定的目标。
模型表现按空间与动态需求分化
论文用五个相互重叠的目标标签覆盖全部任务,给出探索性的任务需求画像:空间放置与导航、受限接触、持续稳定、定时交互和多子目标。Astra 在 45 个空间任务中成功 13 个,Opus 5.5 为 6 个;在 41 个受限接触任务中,Astra 成功 6 个,Opus 5.5 为 1 个。Opus 5.5 在持续平衡与跟踪上领先(20 个中成功 4 个,Astra 为 1 个),在定时交互上也领先(7 个中成功 4 个,Astra 为 2 个),涉及四足机器人推力恢复、用杯子接球以及无人机任务。
无人机颠球对比展示了持续接触协调是什么样子。两个模型都做了离线动力学计算,每次调用的执行步数中位数都是三步。Opus 5.5 在 800 步内保持了 15 次有效击球,其中 14 次达到高度要求;Astra 记录了三次有效击球,其中一次达到高度要求,随后在第 188 步因球过低而终止。作者把差异归因于持续接触协调,而不是建立模型或使用更短的片段。
交互成本与物理执行成本也会分离。在两个模型都解决的八个任务中,Astra 在七个任务里用了更少的工具调用,但只在六个任务里用了更少的控制步。这些成对成本以共同成功为前提,因此描述的是通过已解决任务的路线,而不是整体效率。作者把这些画像当作探索性假设,用来解释视觉空间推理、程序构建和反馈控制如何组合,而不是对其中任一组成部分的单独测量。
仿真结果不能决定物理部署表现
报告的数字描述的是在这套任务、以及各任务可用的观测和控制接口下的表现。这些接口提供的辅助程度不同,而且在模型推理期间暂停仿真,去掉了一个现实世界中的时间约束。真实机器人必须在推理延迟、传感器噪声以及接触和动力学差异下行动,因此论文把实时闭环和硬件部署视为尚未解决的测试,而不是已经确定的延伸。
任务覆盖也是有限且不均衡的,部分相关任务继承自共享的源项目。因此结果刻画的是这套任务上的表现,而不是所有机器人使用的代表性分布;公开的任务描述、代码或演示也可能已经出现在模型训练数据中。任务需求的比较是描述性的:分组依据是任务要求,而不是结果,这些差异既不能单独分离出组件能力,也不能确定训练数据方面的原因。
保持状态、修正动作并维持条件
论文最有用的优先级来自失败轨迹,而不是总体得分。可靠的机器人使用需要三件具体的事:在运动过程中保持物体和子目标状态;把失败反馈转化为改变后的任务导向动作;在整个评测时段内维持所需条件。倒水、切菜、扫方块和倒立摆这几个回合各自违反了其中一项要求,这也是为什么仅凭局部位姿精度不足以证明能力。
模型对比进一步指明了下一步该看哪里。Astra 的优势集中在空间和受限接触目标上,Opus 5.5 的优势集中在持续平衡和定时交互目标上;无人机颠球案例表明,决定性的差异是在数百步内维持接触,而不是构建动力学模型。因此,对于比较智能体的读者来说,实际的分界在于任务需求:一个擅长估计空间的智能体,仍可能在一个需要把条件维持到规定时长的目标上失败,而工具调用次数不会揭示这一差异。
本文引用的文献
RobotWorld: Benchmarking Multimodal Agents for Robot Use Across Diverse Tasks and Embodiments
在 84 个仿真机器人任务和 420 个计分回合中,五个多模态智能体构建了复杂的感知与控制流程,却无法可靠地把它们组合起来:丢失物体状态、不修正无效动作、恢复得太晚,或者把未完成的任务当作已完成。
