人形机器人如何从运动数据与视频学会反应式网球?

ATHLETE 用运动数据与视频学习人形网球,30 次测试中正手命中率 90%、反手 86.67%。

直接答案

ATHLETE 表明,人形机器人无需专门采集网球动作捕捉示范,也能学会反应式网球。它用轨迹引导动作匹配,把通用 LAFAN1 运动数据与视频提取的击球动作组合起来,再把生成的参考动作蒸馏成单一反应式策略;在真实机器人上,30 次正手抛球命中 27 次,30 次反手抛球命中 26 次。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

ATHLETE 绕开的数据覆盖难题

人形机器人打网球之所以困难,部分原因在于数据覆盖。可用的策略必须应对多种接近状态、击球位置和到球时机,而论文指出,为所有这些组合采集任务专用的动作捕捉示范成本很高。LATENT 和 AdaPT 等早期网球系统已经表明,人体运动数据能提供很强的先验,但要重建同时覆盖移动、击球位置和时机的网球动作仍然困难。

ATHLETE 的做法是不再把网球视为单一动作来源。它把移动和击球当作互补的两部分:公开的 LAFAN1 序列提供可复用的全身移动,普通网球视频提供稀疏的击球动作。因此研究问题是:能否通过组合这两类来源,而不是采集完整的网球示范,来学习动态网球技能。

动作匹配生成任务条件参考动作

第一阶段是轨迹引导动作匹配(TGMM)。动作匹配利用姿态和轨迹特征从数据库中检索并混合动作;在这里,它把 LAFAN1 移动与视频提取的击球动作结合起来,同时施加接近、击球和过渡约束。输出是一组随任务条件变化、彼此不同的全身接近与击球参考动作,而不是一个平均化的挥拍动作。

这一阶段之所以重要,是因为它制造了后续策略必须学会的差异。论文报告,与源网球参考动作相比,生成的参考动作在击球高度和局部坐标系中击球点的 XY 分布上都更宽。换言之,TGMM 不只是回放视频动作,而是把它们放进能够到达不同击球情境的移动轨迹中。

师生蒸馏去掉参考动作输入

组合出的参考动作并不会直接部署。ATHLETE 采用基于物理的师生学习,配合在线 DAgger 蒸馏,然后针对网球任务做 PPO 微调。教师可以访问参考动作和击球时机,学生则学习根据机器人和球的观测行动。截止时间自适应设计把击球时机监督传递给学生,使最终控制器在部署时不再需要参考动作、在线动作匹配或显式运动规划。

得到的策略直接响应机器人状态、球的观测和任务目标。这是论文相对 AdaPT 强调的架构差异:AdaPT 在部署时仍保留显式运动规划、未来球预测和参考跟踪,而 ATHLETE 把这些功能压缩进单一反应式策略。

微调决定能否真正击中球

论文的仿真对比显示了最后 PPO 阶段贡献多大。没有 PPO 微调时,正手侧和反手侧的命中率分别为 1.26% 和 5.67%,且没有球过网;检测到的接触点平均偏离球拍甜点约 14 厘米。完整方法把命中率提高到 94.97% 和 95.04%,把回球率提高到 91.19% 和 92.20%,同时把平均甜点距离降到 5.61 厘米和 6.54 厘米。

这些是仿真数字,不应被读作真实机器人的成功率。它们的价值在于诊断:仅靠蒸馏得到的策略很少能干净触球,而微调把同一流程变成能在甜点附近击球并回球的策略。接触精度,而不只是够到球,才是这套训练方案真正发挥作用的地方。

真机命中率不等于过网率

在真实人形机器人上,手动抛球实验每侧进行 30 次,共 60 次,并改变抛球方向和位置。机器人击中 27/30 个正手球(90.00%)和 26/30 个反手球(86.67%)。这些是命中率:球拍碰到了球。过网率更低,正手为 14/30(46.67%),反手为 16/30(53.33%)。

对任何跨论文比较数字的人来说,这一区分都很重要。表中还列出 LATENT 的正手 90.90、反手 77.78,以及 AdaPT 的 52.00 和 50.67,但论文说明每种方法都按其原始评估协议和指标定义报告。LATENT 的“回球”指回球落在场内,而对 AdaPT 和 ATHLETE 指过网;动作捕捉覆盖面积也不同(AdaPT 约 20 米 × 8 米,ATHLETE 为 10.5 米 × 5.5 米,LATENT 为全场)。论文自身的结论更窄:在使用视频提取动作的方法中,ATHLETE 在各自协议下报告的命中率和过网率高于 AdaPT。

连续对打体现协同而非比赛能力

第二个真实世界实验测试了与不同网球经验的人类伙伴连续对打。观察到的最长对打为与新手 5 个回合、与职业选手 8 个回合。论文将此视为证据,说明感知、移动和击球能在持续的人机交互中协同,而不只是在孤立挥拍中协同。

实验设置限定了这一解读。外部动作捕捉系统提供球的三维位置和机器人根部位姿,球速由连续位置观测估计;覆盖面积约 10.5 米 × 5.5 米。策略在配备 RTX 5070 Ti Laptop GPU 的笔记本电脑上以 50 Hz 运行,通过 Unitree DDS 接口经有线以太网与机器人交换控制命令和状态信息,球拍用 3D 打印连接件固定在右手上。对比中的三项真机评估都使用外部动作捕捉进行状态估计。

复用数据换来什么、付出什么

论文的定性比较勾勒出取舍。ATHLETE 复用现有公开数据,避免额外采集网球动作捕捉,部署时使用动作捕捉,不需要动作参考,不需要未来球预测,采用单层策略,并在单块 RTX 4090 上训练。LATENT 使用五小时新采集的业余球员动作基元、八块训练 GPU,报告了较强的场内回球表现,但需要动作参考和未来球预测。AdaPT 使用视频提取的动作,但在部署时保留显式规划和参考跟踪。

因此实际优先级并不只是最高命中率。ATHLETE 的立足点在于实现反应式正手和反手回球以及多回合对打,同时从部署栈中去掉专用网球采集和在线规划。代价在同一张表中可见:系统仍依赖外部动作捕捉获取球的状态,作者把机载球感知和保持动作风格多样性列为未来工作。权衡这一方法的读者,应比较它消除了哪些部署组件,而不只看在不同协议下测得的头条百分比。

本文引用的文献

1

ATHLETE: Learning Reactive Humanoid Tennis via Trajectory-Guided Motion Matching

通过轨迹引导动作匹配把 LAFAN1 移动与视频提取的击球动作组合起来,并蒸馏成单一反应式策略,在真实人形机器人上每侧 30 次试验取得 90.00% 正手和 86.67% 反手命中率,还能与职业选手对打最多 8 个回合。