生成模型何时能像模拟器一样通过潜状态被编辑？

可编辑性问的是写入能否改变下一步预测

模拟器持有一个显式状态，按规则推进它，并将其渲染为观测。在这些观测上训练的生成模型拥有内部激活，却没有内置方法来设定世界的状态。论文把这一缺失的性质称为可编辑性：改变模型的潜表示，能否产生与编辑模拟器状态后相同的下一步输出。

这项测试被刻意限定得很窄。模型只在观测上训练并被冻结。模拟器状态被编辑到一个目标，编辑器提出一个匹配的潜状态，模型的解码器再把该潜状态转成预测的下一步观测。这个预测会与从编辑后的模拟器状态推进一步所渲染出的观测相比较。因此，可编辑性是关于可访问的类模拟器功能的论断，而不是关于模型内部是否像传统模拟器那样表示或推进状态。

论文比较了两种编辑器。表示操控先训练一个探针，从潜状态解码出模拟器状态，再通过求逆或沿其梯度移动潜状态。逆映射则直接学习从模拟器状态到潜状态的映射。两种编辑器都没有在其编辑应当产生的观测上训练，这避免了比较被目标输出上的监督直接解决。

方向正确与整体准确被分开计分

论文区分了一次编辑可以做到的两件事。Edit Index 衡量预测是否朝正确方向移动，并且只在编辑应当改变的那部分输出上计算：在 Rayworld 中是两个世界取值不同的那些射线，在奥赛罗中是翻转会改变合法性的那些格子。它的取值从 −1（与未编辑观测一致）到 +1（与编辑后观测一致）。

Edit Fidelity 衡量整个输出相对于未编辑预测是否仍然准确。0 表示不比不做编辑更好，负值表示更差，1 表示完全复现编辑后的观测。编辑器可能实现了目标改变却损害了输出的其余部分，也可能改善了输出却没有实现该改变，所以这两个数字回答的是不同问题。

可解码性则用 Probe Skill 单独衡量，这是一个相对于基线的分数，把探针的留出损失与一个忽略模型的预测器相比较。对连续目标，它退化为样本外 R²；对分类目标，它用相对于最常见类别的错误率。论文还把同样的探针拟合到随机初始化的模型和原始观测序列上，从而把训练带来的贡献与探针无论如何都能提取到的内容分开。

奥赛罗的可编辑性随规则简化平滑下降

奥赛罗在 8×8 棋盘上进行，论文沿用一种设置：每一步都从合法着法中均匀抽取，因此最优的下一步预测就是合法着法上的均匀分布。模拟器状态是每步之后的棋盘，每个格子为空、我方或对方（相对于即将落子的一方）。一次编辑在真实的 20 步开局之后翻转一个棋子的颜色。

所有编辑器都能编辑标准奥赛罗，把预测的着法分布大部分推向翻转后的棋盘。每一种规则改动都会打破这一点。论文引入了三个变体：adjacent-flip 允许在己方颜色相邻（含对角）的任意位置落子，翻转仍然生效；adjacent-noflip 使用同样的落子规则但关闭翻转；standard-noflip 保留标准落子规则但不翻转，于是每局都以不同顺序填满同一张棋盘。

关闭翻转后，没有任何编辑器能在两个无翻转变体上成功，即使在合法着法仍依赖棋子颜色的 adjacent-noflip 上也是如此。adjacent-flip 是编辑器出现分化的地方：逆映射仍然成功，而探针求逆和梯度操控在低保真度下最多只达到 +0.35。作者将此描述为对模型状态的访问逐渐收窄，而不是一下子消失。

可解码性无法解释这一模式。模拟器状态在每个变体中都可解码，MLP 探针的 Probe Skill 至少达到 0.88。在奥赛罗中，只有当翻转开启时，训练才给模型带来基线所缺乏的东西；一旦去掉翻转，棋盘可以直接从着法序列读出，standard-noflip 上的每个探针都得到完美的 1.000，即使在随机初始化的模型上也是如此。

Rayworld 中探针失效而逆映射仍能成功

Rayworld 是论文自建的连续世界：两个圆盘在梯形视锥内以恒定速度运动 40 帧，每一帧通过投射 128 条射线渲染成一维观测。一条射线返回它击中的最近圆盘的反射率，若两者都未击中则返回 0。深度从不被直接观测；它只通过圆盘覆盖多少条射线以及遮挡关系进入观测。模拟器状态包含两个圆盘的位置和速度。

在连续位置上，基于探针的编辑器在每一个 Rayworld 变体上都失效，而逆映射处处成功，包括附录中报告的另外三个变体。探针求逆的写入在探针空间中达到了目标：当步长为 1 时，线性探针能精确读出编辑后的状态，但预测的帧却没有移动。因此，一个能渲染出被传送圆盘的潜状态确实存在、也可以被写入，只是不在探针提供的任何方向上。

把目标离散化会改变这一点。它提升了 128 射线模型上的梯度操控，而随着射线变粗，两种基于探针的编辑器都稳步上升，在 5 条射线时达到 +0.51 和 +0.60。由于分箱数量随射线数下降，论文指出这一趋势无法把粗糙度与目标大小分开。在 8 条射线时，忽略观测的均匀分箱也比连续位置有所改善，但在外观空间中定义的分箱改善最多。

作者将此解释为模型从未形成关于圆盘位置的单一抽象表示的证据。相比之下，逆映射在几乎每个残差点上都能设定连续位置，并且当圆盘作为刚性对一起运动、而编辑破坏了它们的固定间距时，仍能部分成功。

潜状态拟合弱仍可支撑成功的编辑

在 Rayworld 中，逆映射的拟合与它的编辑效果出现了分离。它对潜方差的解释力低得多，R² 在 0.32 到 0.58 之间，却处处成功。由于拟合很弱而编辑仍然成功，论文认为潜方差中的很大一部分似乎与预测关系不大。编辑后的预测明显比模型自身的预测更平滑，这与逆映射产生了一个省略了部分方差的简化潜状态相一致。

奥赛罗的结果指向另一个方向。在那里，逆映射只在残差点 4 和 5 上成功，作者将其解读为模型把历史汇聚到一个类似棋盘的瓶颈中，而 Rayworld 模型从未形成这样的瓶颈。模型是否必须形成这样的瓶颈，取决于环境对预测提出了什么要求，而奥赛罗的各个变体恰好改变了这一要求。

这就是论文的核心比较：可解码性在每个变体中都存在，但哪种编辑器成功强烈取决于环境。模型可以被一个它可能从未学过的模拟器驱动，但通往这种控制的路径在离散棋盘状态和连续渲染场景之间并不相同。

该结论只覆盖单步和单一架构

这里的可编辑性只是关于单步的论断。模拟器还会在一致的规则下把状态向前推进，而论文只测试一次写入是否按预期改变下一步预测。通过重写历史让编辑在 rollout 中持续存在，论文在附录中做了演示，并把把指标扩展到 rollout 列为自然的下一步。

每个模型都是单一深度上的单个 transformer，因此部分发现可能是该架构或该深度的性质，而不是环境的性质；循环模型或扩散模型可能表现不同。这些环境在难度上的差异也有论文无法完全控制的部分，一个更难的环境可能因为与其状态表示方式无关的原因而更难编辑。

论文对每个变体报告一次训练运行，另外两个种子给出的种子标准差为：每个训练探针的 Probe Skill 至多 0.004，每个成功编辑器的 Edit Index 低于 0.04。离散度超过 0.1 的格子会被标记，除 adjacent-flip 上逆映射的保真度外，其余都是失败编辑器，其选定设置在保真度截断处随种子翻转。

按环境选择编辑器，而非按可解码性

实际优先级来自论文记录的这一分化。当环境是离散棋盘、且规则让颜色与预测相关时，基于探针的操控是合理的第一条路径，标准奥赛罗能被所有测试过的编辑器编辑。当规则被简化到关闭翻转时，没有任何编辑器能设定棋盘，即使状态仍然可解码。

当状态是连续的、并通过部分渲染揭示时，不应仅凭可解码性就信任探针路径：探针求逆可以在探针空间中命中目标，而预测的帧却不移动。逆映射是在连续位置上成功的编辑器，其较低的 R² 本身并不构成拒绝它的理由，因为它的编辑仍然成功。

因此，论文支持的判断阈值关乎环境和状态描述，而不是探针解码得有多好。在 Rayworld 中，让基于探针的操控重新生效的是把目标离散化，而且随着射线变粗改善增大，在 5 条射线时达到 +0.51 和 +0.60。最有价值的解读是：即使探针无法操控模型，模型仍可被模拟器的状态驱动；这条路径应当按环境逐一测试，而不是从可解码性推断。

本文引用的文献