监管机构应如何评估物理AI闭环控制系统的相关声明？

变化何在：从开环到闭环的声明

此前，具身AI系统大多是开环的：它们在执行过程中遵循固定技能，仅在一轮任务结束后才进行反思。这意味着任务中的失败无法得到实时纠正。近期研究已转向闭环框架，能够在任务进行中诊断并修复失败。例如，Zetta采用三个时间尺度分离的循环，以高频控制动作，在轨迹层面提出批评-恢复计划，并仅在验证后更新技能[2]。这是一项根本性变革，因为它意味着系统能在任务中途适应调整，而不仅仅是在事后。

另一个关键转变是引入了明确的失败诊断与修复机制。Onto-EV-WM增加了一个基于本体的层，用于精确记录哪个任务谓词未得到满足、有哪些可用的修正路径，以及修正是否被接受[1]。类似地，Thea引入了“评估即退出代码”机制，以检测动作何时应终止、判断成功与否，并诊断失败原因[3]。监管机构应关注这类明确且可审计的失败处理组件，而不仅仅是整体成功率。

监管者应要求何种证据？

首先，他们应当要求采用标准化、可复现的基准测试。相关论文表明，性能随任务套件的不同而差异显著：Onto-EV-WM在包含10,030个任务的注册表上总体准确率达到85%，但在LIBERO-10子集上仅为65.98%[1]。若不明确具体任务、模拟器和评估协议，声称“94%的成功率”便毫无意义。监管机构应强制要求，任何性能声明必须与定义明确的基准测试及其清晰的成功标准挂钩。

第二，他们应要求提供失败诊断与修复的证据，而不仅仅是最终的成功。这些论文强调，闭环框架必须能够识别任务失败的原因并应用修正。例如，Onto-EV-WM会保留缺失的谓词及其参数，从而实现有针对性的修复[1]。监管机构应要求提供日志或追踪记录，以显示系统检测到失败、选择了修正路径并验证了修正效果——而不仅仅是任务最终成功的结果。

第三，他们应要求具备可审计、可追溯的测量手段。MMRHP提供了一套与预期功能安全（SOTIF）标准相衔接的结构化三阶段测试流程，并以统一的时空测量核心来确保物理运动与系统时序的一致且可追溯的量化[4]。监管机构应寻求类似的严谨性：明确界定何为成功、如何测量时序，以及如何追踪物理运动。若缺乏这些，相关主张便无法在科学上实现可复现。

有哪些局限性和注意事项？

证据主要来自仿真，而非真实机器人。Onto-EV-WM明确表示未评估真实机器人的恢复能力[1]。Zetta报告的结果基于LIBERO-Pro和RoboCasa，这些均为仿真基准[2]。监管机构应将仿真结果视为有前景但不足以支撑实际部署，尤其是在自动驾驶等安全关键领域——MMRHP发现，在注入40毫秒延迟时会出现“性能悬崖”[4]。

另一个需要注意的问题是，由于任务套件和评估协议不同，部分报告的成功率在不同论文之间并不直接可比。例如，Zetta在LIBERO-Pro上报告了90.8%的成功率[2]，而Onto-EV-WM在LIBERO-Goal上报告了91.39%[1]——但这两者属于不同的基准测试，因此无法据此判断哪个系统更优。监管机构在做出决策前，应要求各方在相同基准上进行直接对比。

最后，这些论文并未提供关于长期可靠性、安全性或伦理影响的证据。城市自动化框架[5]提出了关于机构问责制和民主合法性的担忧，而这些在技术论文中并未得到解决。监管机构应考虑这些更广泛的影响，尤其是对于将在公共空间运行的系统。

关于这些来源

本回答基于5项同行评审研究——发表于2025年至2026年，其中5项为2024年或之后发表——这些研究是从5项通过质量筛选的研究中选出的最具相关性的成果，而这些研究又源自从超过5亿篇论文的数据库中检索到的72篇文献。

本文引用的文献

相关研究问题