物理 AI 的可信性如何贯穿其生命周期？

数字 AI 原则为何不够用

论文从一个改变治理问题的区分出发。物理智能指能够在物理世界中感知、学习、推理、规划、行动并适应的系统。与传统 AI 不同，这类系统持续与不确定的物理环境交互，其行动产生的后果在物理上不可逆。屏幕上输出错了可以修改；共享工作空间里动作错了，未必总能撤回。

正因如此，作者认为，主要为数字 AI 系统开发的现有可信 AI 框架，无法完整覆盖物理安全、信息物理安全和物理制造流程等挑战。这个缺口不是少了一条检查项，而是失效面不同：同一个推理能力良好的模型，仍可能撞到人、因校准漂移而失准，或经由感知与执行链路被攻破。

论文还区分了三个容易被读者混为一谈的子领域：物理信息 AI 把物理定律和约束纳入模型；生成式物理智能生成符合物理规律的状态、轨迹和情景，世界模型即属此类；具身 AI 通过物理身体感知和行动。论文把物理智能呈现为整合这些能力的更广框架，因此面向它的可信框架必须同时覆盖内部的物理理解与外部的物理交互。

五项原则与十九个子组件

核心提案是可信物理智能（T-PAI）框架，这是一个组织关键可信性原则、并为治理这类系统提供基础的理论框架。它把该领域归入五项原则：稳健与安全运行、以人为本的价值观、诚信、隐私与公平、问责与监督、可持续性。这些原则进一步拆分为十九个子组件。

论文声明的贡献不只是列出价值，而是说明一旦把具身性、物理安全和持续的人机交互纳入考虑，每项原则与它在传统 AI 中的对应物有何不同。例如，稳健与安全运行被描述为三者的结合：防范意外伤害和恶意威胁的安全与保障、性能一致可靠的可靠性，以及对动态环境、未预见条件和不断变化任务的适应性。

这是一个描述性框架，不是因果主张。作者明确表示，它并不声称满足每个要素就能保证系统得到良好治理，只声称遗漏某个要素在特定阶段的形态，就会留下相应的治理缺口。读者应把 T-PAI 当作查找缺口的组织性词汇，而不是系统安全的认证。

生命周期覆盖五个阶段

第二项贡献是一条端到端生命周期，包含五个核心阶段：研究、设计、数据、模型和部署。论文提出可信物理智能操作化（T-PAIO）来追踪这一生命周期，讨论部分把生命周期与治理操作化的结合命名为 E-PALGO。目标是在每个阶段把高层价值转化为具体的工程实践。

各阶段的描述说明了这种划分为何重要。在研究与设计阶段，关于任务、环境、硬件和人类监督的假设塑造了系统的目标与运行约束。当形式化目标或奖励函数未能充分刻画预期结果时，就出现目标设定错误；论文的例子是一台因搬运箱子而获得奖励的机器人，它完成了任务，却因为目标中没有附带影响而撞倒了花瓶。这类遗漏可能延续到数据收集、模型训练和后续阶段。

部署被视为最终用现实检验此前各项条件的阶段。论文指出，系统集成把模型连接到感知、通信、安全逻辑和执行；硬件调试校准传感器和执行器；系统辨识则针对实际机器人估计动力学、摩擦和质量分布等属性。发布之后还需要运行监控、维护和受控更新，因为磨损、校准漂移、固件变更和环境变化都可能使此前的证据失效。

部署会重新检验六项假设

论文最具体的部分是一张列出六项部署关切的表，每项关切都对应它所重新检验的阶段主张，以及部署需要报告的测量。这些关切让生命周期论证变得可操作，而不只是修辞。

这六项是：被干预终止的回合，重新检验研究阶段“每个回合结果都被观测到”的假设；证据向机群的迁移，重新检验“试点证据能描述机群运行”的假设；运行中的保护性隔离，重新检验设计阶段“保护参数保持设计值”的假设；现场条件变化，重新检验“已承诺的现场条件持续成立”的假设；部署工作负载变化，重新检验数据阶段“评估过的暴露组合能描述运行”的假设；运行中的发布标准，重新检验模型阶段“满足发布标准即可定论”的假设。

干预这一情形展示了其中的逻辑。当操作员接管或后备控制器触发时，干预本身可能是正确决定，但它留下的是一个结果无人观测的回合。论文还指出，来自同一机器人、同一班次或同一现场的回合可能相互依赖。这两点都影响对运行证据的统计处理，因此部署报告必须区分已解决与未解决的结果，而不能把每个回合都算作干净的成功或失败。

验证关卡把校验变成审计记录

论文描述了团队分三步实施验证关卡的方法。第一步，在同一版本化的情景矩阵上评估现有模型与候选模型。第二步，对传感器掉线、观测延迟、指令含糊、未见过的物体和执行器饱和进行压力测试。第三步，把每个单元格的结果、模型检查点、训练数据版本、硬件目标和阈值决策附在发布记录上。

其声明的目的是让模型校验成为可审计的部署决策，而不是排行榜比较。这是流程建议，不是实测结果；论文没有报告运行此类关卡得到的结果。它的价值在于规定哪些证据必须随模型一起流转，以便日后硬件、现场或工作负载发生变化时，能对照已批准的配置和运行域进行评估。

论文补充说，任何与安全相关组件的变更都会产生一个新的可部署单元，必须对照已批准的配置和运行域重新评估。这条规则是生命周期各阶段之间的实际连接：为一种配置收集的证据，不会自动对另一种配置继续有效。

治理必须实时进行而非事后追溯

论文认为，物理智能从三个方面改变了治理要求。第一，它在后果驱动的环境中运行，失效会立即产生现实影响，因此对责任、干预和风险管理的治理是根本要求。第二，它很少孤立自主运行，而是通过共享任务、决策和控制，与驾驶员、临床医生、工厂工人、消费者等人协作。第三，它更难界定边界，可能以完全未被预测的新方式失效，这使治理转向实时监控与遏制，而非事后审查。

论文把风险归为四大类：物理、信息、经济和社会。它指出，对具身 AI 系统，尤其是经典机器人和自动驾驶汽车，物理安全主导治理关切；而虚拟智能体更常与错误信息等信息风险相关。无论 AI 形态如何，公平、问责和透明仍是核心治理挑战，而经济风险和更广泛的社会风险相对研究不足。

这一风险分组是论文对该领域的综合归纳，不是实测排序。它之所以重要，是因为它告诉读者框架的重心在哪里：物理和信息物理方面的关切得到最充分的处理，而经济与社会风险被标记为缺口。

框架尚未解决的问题

作者明确说明了自身贡献的性质。把操作化的治理要素组织成三层结构，是描述性的而非因果性的。它并不声称满足每个要素就能保证系统得到良好治理，只声称遗漏某个要素在特定阶段的形态，就会留下相应的治理缺口。

他们还列出了开放方向：用真实开发流程验证该框架，为每个治理要素开发阶段特定且可量化的指标，以及从静态的一次性认证转向自适应治理。这些被列为未来工作，因此这篇论文应被读作共享词汇和系统化基础，而不是框架在实践中改善结果的证据。

论文对自身目标的表述是，帮助研究者、开发者、运营者和监管者以既有科学产出又对社会负责的方式推进物理智能。这是框架结构所支撑的愿景，而不是由测量证明的结果。

优先事项是阶段特定的证据

论文最有用的结论是一个优先级排序，而不是单一的安全主张。由于失效可能在不同阶段被引入、被忽视或被放大，需要问的不只是系统是否满足某项发布标准，还要问该标准依赖哪个阶段的假设，以及什么证据会重新打开它。

六项部署关切让这个问题变得具体。只报告发布标准通过与否的团队，会漏掉按实测参数重新计算的保护性隔离余量、工作负载偏差与未评估单元格，以及试点与机群之间的阶段和现场差距。论文的框架把注意力引向这些阶段特定的测量，因为每一项都在重新检验生命周期更早阶段作出的主张。

这就是论文特有的判断：物理 AI 的可信性不是系统在认证时一次性获得的属性。它是一组与阶段挂钩的主张，当配置、现场、工作负载或安全相关组件发生变化时必须重新核查；框架的价值在于指明每项测量意在检验哪一条主张。

本文引用的文献