同一脑状态的两个视图被对齐
Swap-VAE 是一个建立在变分自编码器之上的生成模型。变分自编码器先把一个神经状态压缩成少量潜变量,再根据这些潜变量重建输入。论文的增量在于一项实例级对齐损失:同一个脑状态经过两种增强后得到两个视图,模型推动这两个视图在潜空间的一部分中形成相似的表示。增强分两类:空间增强以 0.6 的概率从输入中丢弃神经元;时间增强在目标样本前后 5 个样本的窗口内随机选取一个邻近时间点,作为正例。
论文给出的直觉是:如果一个表示能在神经元被丢弃和小幅时间偏移后仍然保持,它就应该既不依赖具体哪些神经元编码该状态,又保留时间上的一致性。潜空间共 128 维,被切成两个 64 维的块,分别称为内容空间和风格空间。解码器同时用这两个块重建神经活动,因此风格块不能随意塌缩,它仍必须有助于解释数据。
BlockSwap 强化内容空间的对齐
只靠对齐损失,模型可以让两个视图在风格块上不同,从而满足对齐要求。为阻止这种情况,论文引入 BlockSwap:在解码之前,交换两个增强视图的内容变量。这样解码器必须用另一个视图的内容加上自己的风格来重建每个视图,从而把共享的、与行为相关的结构推入内容块,把视图特有的变化留在风格中。
Chewie-1 数据集上的消融支持这一设计。去掉 BlockSwap 后,伸手方向准确率从 72.81% 降到 63.17%;保留交换但去掉对齐项,准确率为 68.36%。同一任务上,普通 VAE 达到 63.79%,beta-VAE 达到 64.34%。论文报告,保留 BlockSwap 而去掉对齐损失时,性能变化很小,说明交换操作本身贡献了大部分收益。
伸手方向与时序落入不同空间
解耦的核心证据是两个潜变量块之间的双重分离。在 Chewie-1 数据集上,内容空间能较好地解码伸手方向,而风格空间对伸手方向的预测能力很弱。时间解码则相反:内容空间表现较弱,风格空间把数据组织到一条轴上,在这条轴上伸手方向已经塌缩,但时间顺序清晰。论文报告了 Chewie-1 上的这一比较,并指出其余数据集呈现相似趋势。
t-SNE 可视化以另一种形式讲述了同样的故事。在内容空间中,各目标呈圆形排列,与八个伸手方向对应,而损失函数并未显式鼓励这种结构。在风格空间中,伸手方向塌缩,时间则被组织起来。论文将此视为证据:无需标签就能分离语义结构,同时保留整体行为结构。
伸手解码的提升真实但不均衡
在四个伸手数据集上,Swap-VAE 的完整空间在伸手方向分类上的准确率分别为 Chewie-1 的 72.81%、Chewie-2 的 68.97%、Mihi-1 的 64.26% 和 Mihi-2 的 66.12%。论文用作第二项指标的对应 delta-acc 分别为 85.04%、83.66%、82.18% 和 82.74%。比较对象包括一个有监督伸手解码器、一个有监督 pi-VAE、一个 beta-VAE,以及两种自监督方法 BYOL 和 MYOW。
这一比较并非全面胜出。Swap-VAE 在伸手解码上与所有基准持平或更好,但在 Mihi-1 上,MYOW 达到 70.48%,Swap-VAE 为 64.26%;该数据集上 MYOW 的 delta-acc 为 83.24%,Swap-VAE 为 82.18%。在 Chewie-1 上,MYOW 的普通准确率为 70.41%,Swap-VAE 为 72.81%。论文自己的解读是:两种自监督方法都能在伸手分类上超过有监督解码器,原因在于其对齐损失带来的正则化。
时间解码结果最能体现双空间设计的价值。论文报告,Swap-VAE 在时间解码上与 beta-VAE 和有监督时间解码器相当,而其他自监督模型无法捕捉它们此前建立不变性时所针对的时间结构。作者将此归因于额外的风格变量:单一对齐表示会丢弃这些信息,而风格变量将其保留下来。
生成样本带来有限的监督增益
由于 Swap-VAE 是生成模型,论文还测试了它的样本是否有用。模型生成新的神经活动,并按原始数据的 50%、100% 和 200% 混入一个有监督分类器的训练集。在每只动物各一个数据集(Chewie-1 和 Mihi-2)上,准确率相对有监督基线分别提升约 5% 和 3.5%。论文指出,这些加入生成样本的有监督模型仍未超过 Swap-VAE 本身。
这是一个有边界的结果:它覆盖两个数据集、三种混合比例和一种分类器设置。它说明生成器能产出对下游解码器有用的东西,并不说明生成数据可以替代真实记录。
等待期可能让拆分更清晰
两只动物的训练方式不同。Chewie 在目标出现后立即伸手,而 Mihi 在听到听觉 go 提示后还要等待 500 至 1500 毫秒才移动。论文发现,Mihi 的解耦程度比 Chewie 更明显,这既体现在内容空间和风格空间的解码准确率上,也体现在用于量化伸手方向与运动动态之间分离程度的多任务协方差分数上。
作者给出两种解读,并未在两者之间作出选择。一种是方法本身的弱点,或许可以通过调整超参数、扩大网络或采用新的增强来改善。另一种是准备过程本身会让神经活动更解耦,那么该分数就成为观察准备在运动中作用的一个视角。论文明确表示这需要在更多个体上研究,因此这一观察是假设,而不是关于准备过程的发现。
结论取决于所选的增强方式
论文直接指出,与其他自监督方法一样,性能依赖于增强方式的选择,而增强方式可能取决于所关注的下游任务。这里只用了神经元丢弃和局部时间偏移;作者提出,非局部视图挖掘或序列编码器可能建立更强的不变性。数据集来自两只恒河猴初级运动皮层的 spike 排序记录,按 100 毫秒分箱,每个数据集约有一百个神经元和约 1.3k 个数据点,按 80% 训练、20% 测试划分。
由此得出的实际优先级与这一设计紧密相关。如果目标是得到一个同时支持伸手方向和时间读取的单一表示,那么值得保留的是带 BlockSwap 的双块拆分,因为消融显示交换操作的贡献大于单独的对齐项。如果目标只是伸手解码,那么相对 MYOW 的优势在不同动物间并不一致,两者之间的选择应按数据集分别作出,而不能从总体比较中直接假定。
本文引用的文献
Drop, Swap, and Generate: A Self-Supervised Approach for Generating Neural Activity
Swap-VAE 在无监督条件下把神经活动拆成一个承载伸手方向的内容空间和一个承载运动时序的风格空间;在四个猕猴数据集上,其伸手解码与基准持平或更好。
