个体世界潜变量能否在无重建条件下被可证明地恢复？

预测得好的模型仍可能藏起每个变量

联合嵌入预测架构（JEPA）通过在表示空间中做预测来学习世界模型，而不是重建观测。这一选择去掉了其他可辨识性研究依赖的锚点：没有解码器、观测似然或辅助信号把某个学到的坐标与世界中的某个变量绑定起来。论文指出，避免坍缩并不等于恢复潜变量，因为一个未坍缩的表示仍可能把真实因子编码成可逆的混合。

论文给出的动机场景是一个家用机器人：它要把杯子向左推，同时让旁边的刀保持不动。如果某个学到的潜变量把杯子位置和刀的位置混在一起，改变这个潜变量就不再是只针对杯子的移动。因此论文把单个预测分数混在一起的两个问题分开：潜状态是否存在于表示中，以及它是否已被拆解为个体变量？

稠密读出与潜变量 MCC 衡量的是不同问题

论文把两类指标严格区分。稠密读出 R²(h→z) 是从整个估计向量到全部真实潜变量的最佳线性映射的决定系数。对估计潜变量做任何可逆变换都不会改变它，所以数值高只说明信息存在，并不说明坐标是否被分开。

潜变量 MCC 用 Pearson 相关给估计坐标与真实坐标的最佳一一匹配打分，并在所有置换上取最大值。只有当表示按论文的定义恢复了各个体世界潜变量时，它才达到 1。因此论文把 MCC 作为主要的个体潜变量恢复分数，也正因如此，一个方法可以在保持稠密 R² 的同时提升 MCC——两者不能互相替代。

结构多样性问的是一个因子触及哪些特征

结构多样性是论文的关键条件：不同潜变量在观测上留下不同的依赖足迹，摘要中用“没有两片雪花相同”来描述。DSReg 全称依赖稀疏正则化，它把这一条件转化为依赖雅可比上的目标——观测变量如何响应施加在表示上的旋转。旋转被选得使这一足迹稀疏。

论文认为这一条件在特定意义上是温和的：作为对依赖足迹的条件，结构多样性严格弱于此前所有可辨识潜变量模型的结构条件。论文也点明了该条件无法跨越的边界——依赖足迹完全相同的因子，在没有额外信息时无法区分。

修法是一次旋转，而非重训编码器

DSReg 事后作用于任何已线性辨识的表示，复用已训练的检查点，论文报告相对联合训练没有损失。由于旋转不丢失信息，稠密性能不受影响，而坐标被重新排列成个体潜变量。论文报告该方法既可以与预测学习联合拟合，也可以在其之后拟合。

理论分两步。在 LeJEPA 前提与结构多样性下，DSReg 把个体世界潜变量恢复到符号置换的程度。第二个结果定理 3 处理雅可比估计误差：当阈值 τ 与误差界 ε 满足 τ+ε 低于某个裕度 σρ*(δ) 时，阈值化总体准则的每个极小点都落在某个符号置换的 δ 邻域内。论文指出，有噪声时精确恢复不可能，因为任何 τ>0 的阈值化都会让接近符号置换的旋转在计数上打平，所以 δ 接近才是恰当的概念。

在作者未生成的图像上增益依然成立

在 Gaussian 3DShapes 上——一个含六个因子的外部 DeepMind 渲染器——论文报告 DSReg 的潜变量 MCC 为 0.921±0.005，LeJEPA 为 0.640±0.041，β-VAE 为 0.272±0.025，β-TCVAE 为 0.277±0.043。LeJEPA 与 DSReg 共享稠密 R²，分别为 0.868±0.003 和 0.861±0.002，这是论文用来证明旋转保持张成的证据。β-VAE 与 β-TCVAE 两行是使用匹配主干的外部参照，在 i.i.d. 图像上以未调优的 β=4 训练；论文指出它们偏低的稠密 R² 只反映线性读出，非线性信息量仍然很高，因此差距衡量的是轴对齐而非信息丢失。

按因子拆分的对比是更具决策相关性的结果。三个色调因子占据大片像素区域，每种方法都能在一定程度上捕捉到；而尺度、形状和朝向只移动少量像素，VAE 基线在这些因子上直接失效。论文的解释是：重建驱动的目标按因子解释的像素多少来加权，而依赖准则只问一个因子触及哪些特征，因此像素少和像素多的因子受到同等对待。

第二个渲染器是四分之一朝向的 dSprites，论文把它作为线性阶段不完美时的压力测试：精灵的对称性会破坏线性前提，除非限制因子网格。在二十次运行中，DSReg 优于 LeJEPA，并超过两个 VAE 基线，对 β-VAE 的单侧 Mann–Whitney p=8×10⁻⁵，对 β-TCVAE 为 p=4×10⁻⁵。论文据此认为，一旦前提达成，瓶颈在于前提本身而非旋转步骤。

只用潜变量的基线无法打破对称性

论文给更简单的基线两次机会。在精确解析轨道上，潜变量是各向同性高斯，因此 PCA、Varimax 和 FastICA 面对的正是促使 DSReg 出现的那个对称性，它们与 LeJEPA 和随机轨道一样停留在未旋转水平，而使用精确雅可比的 DSReg 接近 oracle。残余差距被归因于 ℓ1 松弛而非估计误差：在一部分随机世界上，松弛的全局极小点是一个略微混合的旋转，尽管支撑准则仍能识别出置换。

在学到的非各向同性表示上，基线有真正的机会，但论文报告潜变量仍然混合，而 DSReg 几乎追平监督式 Procrustes oracle。论文还测试了一个更强的基线：它消耗同样的依赖信号——在相同的估计锚点雅可比上优化 Ng 等人的尺度不变列支撑稀疏 ICA 准则。论文的结论是，起作用的是观测侧的依赖信号，而不只是张成。

稀疏访问改善而稠密读出不变

论文的第三个问题是：一个只能使用少数坐标的下游模块能否完成自己的任务。它的探针包括视觉编辑、稀疏模型预测控制、五步 rollout 预测，以及检测物理上不合理的下一状态。一个反复出现的少样本单潜变量读出会选出与某个因子相关性最高的单个估计坐标，并只用该坐标拟合一个标量仿射映射，禁止任何混合；在坐标即个体因子的表示上，少量标签就够用，而在混合表示上，任何标签预算下标量映射都不奏效。

论文报告，稠密读出与检索在每个任务上都保持不变（精确到两位小数），因此 DSReg 相对基线获得的全部收益都在稀疏访问上，而不在那些读出所衡量的内容上。论文还报告，恢复对稀疏替代项和锚点预算不敏感，长尾与相关训练分布也不会破坏恢复增益，稠密 R² 保持在 0.80 到 0.93 之间。

先模拟世界，再谈物理机器人

论文直接说明了最明显的限制：基准都是模拟或渲染的，DSReg 尚未在物理机器人上测试。高斯潜世界前提被描述为立足点而非上限，线性可辨识性向更丰富世界的每一次扩展都会拓宽这一保证。依赖足迹相同仍是仅靠支撑无法跨越的唯一边界，论文在此指向时间结构或廉价干预作为候选信号。

由此得出的实际优先级很窄也很具体。如果一个表示已经通过稠密检验——潜状态存在——那么值得追问的是它的坐标能否被逐个操作，而潜变量 MCC 加上少样本单潜变量读出正好回答稠密 R² 无法回答的这个问题。如果两个因子确实共享同一依赖足迹，这一准则下的任何旋转都无法把它们分开，论文自己的框架也说明此时需要额外信息。

本文引用的文献