主动心智化是先规划视角再想象画面
论文把目标能力称为主动空间心智化(Active Spatial Mentalization,ASM):当给定图像无法回答某个空间问题时,模型先判断哪个视角能提供缺失的证据,再想象该视角下的场景,然后基于想象出的观察进行推理。作者认为这是视觉智能的内在组成部分,而当前 LVLM 普遍缺乏这种能力,它也不是模型可以调用的外部工具。
这一区分之所以重要,是因为论文把 ASM 与两种既有做法对立起来。此前的数据驱动方法大多只提供答案监督,模型学到最终标签,却没学会如何获取缺失证据。基于工具的方法则在推理时调用外部世界模型,这会增加中间观察和额外推理时间。SpatialASM 走第三条路:规划—想象—推理的序列由 LVLM 自己产生,这一能力在后期训练阶段习得。
训练时模拟模型未曾见过的视角
该框架从已有的空间问答对出发,为它们补充合成的 ASM 轨迹。一个在场景数据上训练过的非自我中心新视角生成器,会渲染出从假设视角看场景的样子。这里的“非自我中心”有实际含义:目标视角通过在锚点图像上标记一个像素位置并给出观察方向来指定,而不是用“向前移动固定距离”这类自我中心相机运动来描述。
随后,在这些渲染视图之上构建了两类监督。显式 ASM 轨迹教模型在推理链中何时、如何调用视角规划与想象。自动构建的视角采择任务则从两个互补方向强化以视角为条件的场景想象:生成视图定位要求模型还原产生某张观察的非自我中心视角;姿态条件视图选择要求模型从候选中挑出与所描述位置和方向相符的图像。两类答案都自动导出,无需人工标注。
渲染视图按几何一致性筛选
只有当想象出的视图在几何上合理时,合成轨迹才有用。论文使用几何一致性指标 GeoP 衡量生成图像与输入场景的吻合程度,并丢弃候选视图超过阈值的样本。在视角采择任务中,只有真实候选与输入在几何上一致,奖励才有意义,因此候选按 GeoP 筛选,找不到可接受候选的样本会被丢弃。
有一处筛选阈值被有意放宽:由于监督微调阶段还会筛选推理正确性,作者在筛查候选视图时把 GeoP 阈值设为 2.5。论文的消融实验比较了使用与不使用这些筛选步骤的训练,说明筛选被视为需要检验的设计选择,而非默认必需。
准确率在七项基准和四个骨干上提升
评估覆盖七项基准,从偏感知的空间理解,到需要多图、跨视角和视角变换推理的更难任务。在这七项基准上,SpatialASM 提升了基于四个不同骨干构建的 LVLM 的平均准确率。摘要和讨论都把这一提升描述为在这些骨干上保持一致,而通用能力的代价很小:三项通用视觉问答基准的平均性能与原模型相差不超过 0.6 分。
这一组合是论文的核心实证主张。如果一项空间训练干预提升了空间分数,却严重损害普通视觉问答,那就是糟糕的取舍;这里作者同时报告了空间收益与通用能力的保持。基准以平均值聚合,因此这个头条数字描述的是整体空间准确率,而不是某一类任务上的表现。
模型学到的是习惯而非固定模板
一个自然的担忧是:在 ASM 轨迹上训练,只是教模型每次都输出同一套规划—想象—推理脚本。论文的定性比较反驳了这一点。多数情况下,训练后的模型并不会显式遵循 ASM 模式,但整体空间准确率仍显著提升;作者据此认为,训练内化的是可泛化的空间推理能力,而不是强加一个固定模板。
同一组比较还显示,模型会按任务类型和难度调整行为:在一些视角问题上,它不产生显式 ASM 链也能答对;在更难的多图任务上,它会生成主动空间规划与想象步骤,从而得到正确答案。这是论文对定性示例的解读,并非单独量化的指标,因此应与基准平均值一起看,而不能当作独立结果。
想象视图可能比小幅相机移动更有信息量
论文还把它的新视角生成器与其他渲染方案比较,包括 GPT-Image-2、SpatialEdit 和 SVC,并使用 GeoP 中位数而非平均值,因为少数质量很差、数值高于 10 的图像会主导平均值。在一个案例中,两个生成器指向大致相同的视角,SpatialASM-NVG 取得更低的 GeoP,为 0.0599 对 0.2407,因为其输出中的物体与输入图像中的对应物体更相似。
第二个案例让“GeoP 即质量”的简单解读变得复杂。SVC 的输出与输入在几何上更一致,GeoP 为 0.1266 对 0.1284,但其自我中心表述只带来很小的相机运动,输出与锚点图像高度相似,对下游推理几乎没有增加信息。非自我中心表述则带来更大的视角变化。论文想说明的是:仅凭几何一致性,无法判断一张想象视图是否有助于回答问题。
证据覆盖后期训练而非开放世界场景
训练数据由已有空间问答来源合成,论文报告用于监督微调的 66k 训练子集不含任何由 Mindcube 训练集合成的样本,以避免与最终评估发生分布重叠。轨迹合成依赖预训练 LVLM 生成规划与推理轨迹及描述,并依赖新视角生成器提供想象观察,因此监督质量受这些组件限制。
作者本人也说明了范围:把 ASM 扩展到动态真实场景、具身交互和更长时程的 3D 推理被列为未来工作。已展示的结果是:一个后期训练框架能把视角规划与想象内化进多个 LVLM 骨干,在七项基准上提升平均空间准确率,同时不明显损害通用视觉问答。当场景运动、模型需要物理行动,或推理跨越更长时程时,同样的内化是否成立,本文并未确立。
监督设计比增加渲染器更关键
论文中最具决策相关性的比较,不是模型规模之间,而是提供空间监督的方式之间。仅答案数据给模型一个标签,却没教它如何获取缺失证据;调用外部世界模型能提供证据,但代价是额外的中间观察和推理时间;SpatialASM 则合成规划—想象—推理轨迹,让能力在后期训练中习得,并在测试时由模型自身产生。报告的结果——四个骨干在七项空间基准上的平均提升,且通用视觉问答性能相差不超过 0.6 分——就是这一选择的证据。
在这一框架下,论文给出的实际阈值关乎“监督什么”,而非“渲染多少”。轨迹合成不需要鸟瞰图或边界框等额外元数据,这正是它能扩展到已有空间数据集的原因;GeoP 筛选与放宽到 2.5 的阈值,则显示作者在何处选择用合成严格性换取数据量。因此,考虑空间后期训练的读者应关注监督是否教模型选择视角并想象,以及想象视图是否有信息量而不只是几何一致,因为 SVC 的比较表明这两种属性可能分离。
本文引用的文献
SpatialASM: Internalizing Active Mentalization for Spatial Reasoning
SpatialASM 通过训练时模拟,利用合成的规划—想象—推理轨迹和自动构建的视角采择任务,把主动空间心智化内化进 LVLM,在四个 LVLM 骨干的七项空间基准上提升平均准确率,同时通用视觉问答性能相差不超过 0.6 分。
