多模态语言模型内部是否存在空间工作区？

承载物体坐标的三轴子空间

S-Space 针对特定模型和特定层定义，是物体名称 token 隐藏表征中的一个三维线性子空间。它的三个方向分别对应水平轴、垂直轴和距离轴。由于该子空间是线性的，只要把物体的 token 表征投影到这三个方向上，就能恢复其位置，得到一组三维坐标，而不是一个语言标签。

作者在中间层寻找这一子空间。他们给出的理由是：较早的层相对更贴近输入表征，较晚的层则越来越对齐于生成下一个语言 token。该子空间特定于某个模型和某一层，但在该层内对所有 token 位置共享。

有两个设定会影响对后续所有结果的理解。坐标以观察者为中心；水平和垂直轴使用图像平面坐标而非世界坐标，也没有显式分离依赖深度的透视效应。作者表示，对于他们考察的大多数空间问题，这些投影坐标已经足够。

通过微分答案分数找到三个轴

这三个方向并非人工设计。对每个轴，作者构造比较查询物体与参照物体的相对空间问题，例如询问苹果在杯子的左边还是右边。他们把答案对比定义为一个 logit 差值：水平轴用右减左，垂直轴用上减下，距离轴用近减远。

随后，他们对该对比关于物体 token 激活求梯度。这个梯度指向的方向，是扰动表征最能提高相应答案对比的方向。为了分离出空间信号，他们对查询物体和参照物体的梯度做角色反对称差分，并在提示模板、原始与交换物体顺序以及样本上取平均。平均并归一化后的向量张成 S-Space。

作者给出的直觉是：相对判断对两个物体的处理方向相反——对查询物体有利的向右变化，对参照物体应有利于向左，因此两个梯度相减会强化共同的空间信号。跨模板和顺序取平均，则是为了抵消物体身份、措辞、token 角色或场景上下文带来的影响。

一旦轴固定，读出坐标只需一次前向传播。对于相对问题，模型沿被查询的轴比较查询物体和参照物体的坐标；该差值的符号为正时选择右、上或近，为负时选择左、下或远。这一读出不需要模型用语言表达答案。

离开空间任务后子空间仍可读出

一个自然的质疑是：这些轴是用空间问题找到的，可能只反映这些提示。作者对此的回应是：S-Space 是内在的，并非由特定数据或提示诱导产生，并且在非空间问题下仍可读出。他们称，同样的固定方向也适用于其他提示和任务所引发的物体 token 表征，而不只是用于识别它的空间问答提示。

论文还报告，识别出的方向能跨数据集、任务和提示泛化。识别使用的是基于 COCO 构造的相对空间问题，读出则在 CV-Bench、EmbSpatial 和 SpatialTunnel 上评估，覆盖三个模型：Molmo2-ER、Qwen3.5-4B 和 Qwen3.6-27B。

正是这一主张把探针变成了机制假设：如果模型为无关问题构建的表征中也能读出同样的三个方向，那么这个子空间更像一种持续存在的内部结构，而不是某一种任务格式的产物。

编码、变换与选择性使用位置

论文为 S-Space 赋予三种功能角色，并分别用不同类型的证据支持。感知把物体位置编码进该子空间，形成可直接读出以支持准确空间判断的表征。内部推理在视角变化时变换该子空间。语言回答则有选择地访问它。

选择性访问的证据来自因果干预：改变 S-Space 会改变空间判断，而基本保留非空间回答。正是这一模式，把模型为空间答案所参考的工作区，与仅仅与空间答案相关的表征区分开来。

案例研究从两个方向扩展了这一图景。S-Space 会为未见过的实体和观察者本身分配位置，并把物理方向与抽象语言含义联系起来。作者将此解读为大规模语言训练所继承的能力与局限并存的证据。

空间推理真正失效的位置

在这篇论文中，S-Space 最有价值的用途是诊断。读出方向词会揭示基本方位与图像相对参照系之间存在系统性耦合。在报告的失败案例中，图像相对关系被错误地当作基本方位使用；作者假设，这种耦合可能部分反映了网络规模预训练数据中的偏差——在这些数据里，基本方位常出现在与水平和垂直轴对齐的地图式参照系中。这一假设只是解释，并非已证明的原因。

更明确的结论来自把表现分解为感知和计算两部分。作者报告，模型能够形成有能力的空间表征，却在跨视角变化可靠推理所需的空间变换上表现不足。换言之，瓶颈并不总是把位置读入工作区，而是在观察者视角移动时对它们进行操作。

视角实验让这一点更具体。在 SpinBench 上，作者比较了直接回答、思维链推理，以及把所要求的视角旋转施加到读出坐标上的条件。在 146 个无空间前提的问题和 144 个有空间前提的问题上，旋转条件在五个模型中达到 91.10 至 99.31，而直接回答保持在 56.25 至 72.92 之间。思维链介于两者之间，视模型和前提条件不同，从 62.33 到 91.67。

这些数字应被理解为同一基准上不同条件之间的比较，而不是模型会自发执行此类旋转的证据。旋转是由实验者施加到读出结果上的，这恰恰是差距具有信息量的原因：表征内容是可用的，但模型自身的计算并不能可靠地提供这一变换。

诊断比探针本身更重要

论文自己的结论是：这类机制分析能显示哪些能力随规模扩展而出现、哪些没有出现，并对仍不可靠的能力指出缺失的成分。在这里，缺失的成分被具体点名：视角变换，而不是空间编码。

这改变了对空间错误的解读方式。关于旋转场景的错误回答，不一定说明模型未能感知或存储物体位置。按这一解释，表征中可能已经包含所需坐标，失败出在施加于这些坐标的操作上。

作者还提出了架构层面的含义：未来系统不必依赖单一模型在内部完成所有空间操作。他们建议采用智能体式空间推理，连接专门用于变换、模拟和记忆的工具，把有能力的感知转化为可靠的推理与行动。这是基于诊断提出的设想，并非论文中已测试的系统。

证据覆盖了什么，没有覆盖什么

实证基础是三个模型：在 COCO 衍生的相对空间问题上识别，在三个空间基准上评估，另加 SpinBench 上的五模型比较。该子空间特定于模型和层，因此识别出的轴并不是跨架构共享的通用坐标系。

坐标框架也有边界。水平和垂直轴是图像平面坐标，依赖深度的透视效应没有被显式分离。作者表示，对于他们考察的大多数问题这已经足够，但读出结果在多大程度上能迁移到真正需要世界坐标的任务，仍未确定。

机制主张依赖线性假设：分析假定空间坐标以线性方式编码在物体 token 表征中，这沿用了语言模型中概念以线性方式表征的更广泛假设。如果空间信息部分以非线性方式编码，线性投影只能捕捉其中一部分。

最后，因果证据说明的是改变空间判断而基本保留非空间判断。这确立了选择性访问，但本身并未指明执行模型所缺视角变换的具体回路。

先把空间错误读作变换失败

这篇论文最有用的优先级是一种诊断顺序。当多模态模型答错空间问题时，这里的证据提示应先检查所需操作是否为视角变换，而不是假定位置从未被表征。感知—计算分解，以及 SpinBench 上直接回答与外部施加旋转之间的差距，都指向变换是约束瓶颈。

第二个优先级是把参照系耦合视为独立的失败模式。在方向词读出中，基本方位与图像相对参照系存在系统性耦合，这意味着即使底层坐标正确，错误也可能来自参照系混淆。区分变换失败和参照系混淆这两个来源，是这篇论文在其探针之外提供的实际贡献。

本文引用的文献