部件感知潜在扩散如何生成语言条件人形运动?

PartiGen 用部件感知潜在扩散生成 G1 人形运动,段级 FID 比 TextOp 低 16.8%,并能预测运动时长。

直接答案

PartiGen 面向 Unitree G1 生成语言条件的全身参考轨迹:它先用固定解剖掩码筛选关节特征,做部件专属注意力,再把结果融合进一个共享的 128 维运动潜在向量,最后在帧级别预测每段运动的结束点。在重定向到 G1 的 HumanML3D 上,它的段级 FID 为 3.165,比 TextOp 低 16.8%;在使用 16 帧运动基元时,端点预测把平均绝对时长误差从 12.471 帧降到 3.080 帧。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

生成参考轨迹,而非控制器

这篇论文要回答的是:一条语言指令如何变成人形机器人真正能跟踪的全身参考轨迹。PartiGen 的答案是两段式系统:一个生成器把文本和运动历史变成参考轨迹,并决定这条轨迹该有多长;另一个是预训练且冻结的 GRIT 控制器,它利用机器人状态反馈跟踪这条参考轨迹。生成器训练时从不经过控制器梯度,因此论文中的生成指标和执行指标衡量的是不同的事情。

每一帧是一个 57 维向量,包含根节点朝向、左右脚接触状态、根节点局部位移、根节点高度、23 个关节角以及 23 个帧间关节角增量。这些增量是位移特征,不是按时间归一化的速度。这个布局很关键,因为后文提到的解剖掩码作用在该向量的特定通道上:关节角占第 11–33 通道,其增量占第 34–56 通道。

解剖掩码塑造特征,潜在向量仍共享

PartiGen 的核心设计是在注意力之前注入身体结构,而不是之后。固定掩码从原始帧特征中为每个注意力头挑选关节角通道,而根节点、接触特征和全部关节角增量在各头之间保持共享。每个头做自己的 Q/K/V 投影和时间注意力,输出再融合回共享的 Transformer 流。论文给出的目标是既保留局部肢体信息,又保留全身上下文。

融合点是一个运动基元对应一个 128 维潜在向量。128 个坐标全部由全身共享;论文明确指出,这并不提供可独立操控单个肢体的潜在控制量。因此部件感知体现在特征如何被处理,而不在潜在空间被切分。读者若把它与按部件划分潜在空间的模型比较,需要留意这一区别。

前向运动学把关节误差变成空间误差

关节角误差会沿机器人运动链累积,产生特征空间损失无法直接看到的空间偏差。因此 PartiGen 用 G1 前向运动学监督训练运动自编码器:一项 Huber 损失比较前向运动学计算出的关节位置、旋转和状态变量与目标值,另一项二阶时间差分项惩罚抖动剧烈的关节轨迹。自编码器的完整目标由重建项、KL 项和这一运动学项组成。

扩散阶段随后在这个潜在空间中学习。它直接预测干净潜在向量,条件包括带噪潜在向量、CLIP 文本嵌入、运动历史和扩散时间步;其目标混合了干净潜在重建、解码后的未来运动重建和几何项。无分类器引导的尺度取 5.0。这正是论文所说“在生成过程中鼓励运动学一致性、而非只在事后检查”的机制。

端点预测优于固定长度截断

指令要求的行为不一定在运动基元边界结束,因此 PartiGen 增加了一个序列结束头,为每一帧打分。推理时模型先生成 320 帧候选,与数据集最大长度一致,然后保留到第一帧 EOS 概率超过 0.9 的帧(含该帧);若没有帧越过阈值,则保留全部 320 帧。选择发生在生成之后,因此它不会提前终止生成,也不节省扩散计算。

时长研究单独检验了这一选择。在使用 16 帧运动基元时,与固定长度截断相比,端点预测把平均绝对时长误差从 12.471 帧降到 3.080 帧。这是论文最清楚的证据:改变输出的不只是更好的运动质量,还有帧级端点选择。保留的长度不必是基元长度的整数倍,这正是按帧分辨率选择的意义。

参考质量相对 TextOp 提升

在重定向到 Unitree G1 的 HumanML3D 上,PartiGen 报告段级 FID 为 3.165,比 TextOp 降低 16.8%,R@1 提升 1.4 个百分点。这些是重定向数据集上的参考质量指标,不是机器人执行指标。论文还把多部件指令当作诊断性压力测试,而非既定的零样本基准,因此组合结果不应被读成标准化的能力分数。

论文自己的消融实验提醒了部件分组的收益有多大。在执行对比中,随机掩码变体在 500 次请求中有 401 次通过姿态筛查(80.2%),完整模型为 409 次(81.8%);论文指出这些总体结果既不能确立一致的执行优势,也不构成统计显著差异。因此对解剖分组的支持来自受测的生成配置,而不是全面的执行优势。

执行结果取决于冻结的跟踪器

执行评估在 MuJoCo 中用预训练且冻结的 GRIT 控制器完成。500 条生成参考轨迹中有 409 条(81.8%)通过基于姿态的稳定性筛查;4 条记为错误的记录被排除在 MPJPE 聚合之外,既不计为通过,也不自动归为物理失败。作为参照,真值参考轨迹在同一分母下 500 次请求通过 427 次(85.4%),DART+GMR 基线通过 395 次(79.0%)。

硬件环节规模更小且经过筛选。在仿真筛查和人工挑选之后,作者判定在真实 G1 上尝试的 27 个动作中有 26 个成功。这是经过挑选的子集,不是生成参考轨迹的随机样本,因此应读作“经筛查的参考轨迹可以迁移”的证据,而不是生成器的硬件成功率。论文还报告,去掉前向运动学监督后姿态筛查通过率更高(500 次请求中 464 次,92.8%),说明该筛查并不是运动学监督价值的直接代理。

手工部件分组限制了结论范围

特征处理中使用的身体部件分组是手工指定的。论文指出,这一设计不保证能准确建模高强度全身动作,例如体操或跑酷,包括其整体动量和质心动态;替代分组方案也尚未研究。由于所有身体区域共享同一个 128 维潜在向量,模型也缺少可独立操控单个肢体的控制量。

执行结论绑定在所采用的冻结 GRIT 控制器上,也绑定在送入控制器的映射上:从 30 Hz 的 23 自由度映射到 50 Hz 的 29 自由度,并在两组参考中把六个腕关节置零。换用不同的跟踪器或重定向流程,可能改变执行表现而不改变生成指标。论文自身的定位是:运动学监督是生成器训练中的正则项,执行评估是在该控制器下的一次测量。

时长精度是最明确的收益

这篇论文中最值得据此判断的结果是时长对比,而不是 FID 数字。在使用 16 帧运动基元时,端点预测把平均绝对时长误差从 12.471 帧降到 3.080 帧,变化约 9.4 帧;而相对 TextOp 的参考质量提升是 FID 降低 16.8%、R@1 提升 1.4 个百分点。如果问题是“生成的人形参考轨迹是否在指令要求处结束”,起作用的部件是端点头。

执行数字为这一判断划出边界。81.8% 的姿态筛查通过率位于同一 500 次请求分母下真值的 85.4% 与 DART+GMR 的 79.0% 之间,而 26/27 的硬件结果来自仿真筛查和人工挑选之后。因此 PartiGen 的立足点是:生成带运动学监督、具有帧级端点的参考轨迹,并让冻结的跟踪器能够跟随;解剖分组在受测的生成配置中得到支持,但并未被证明为一致的执行优势。

本文引用的文献

1

PartiGen: Part-Aware Representations for Language-Conditioned Humanoid Motion Generation

在重定向到 Unitree G1 的 HumanML3D 上,PartiGen 的段级 FID 为 3.165,比 TextOp 低 16.8%;在使用 16 帧运动基元时,端点预测把平均绝对时长误差从 12.471 帧降到 3.080 帧;在冻结 GRIT 跟踪器下,500 条生成参考轨迹中有 409 条(81.8%)通过 MuJoCo 中基于姿态的稳定性筛查。