感受野约束如何优化早期视觉皮层的刺激?

两种受pRF约束的框架为单个体素生成MEI,其预测的早期视觉皮层反应高于最强的自然图像。

直接答案

这篇论文的做法是:在体素级编码模型中加入群体感受野(pRF)约束,再为V1至hV4的单个体素生成最兴奋输入(MEI)。两个新框架RF-DiVE和RF-GO生成的图像在每个体素的pRF内部都呈现一致的结构;在所有方法和所有视觉区中,这些MEI引发的模型预测反应都高于最激活的自然图像,包括更严格的LAION-fMRI对照集。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

小感受野让区域级MEI生成失效

刺激优化让大脑编码模型回答一个问题:哪张图像能最强地驱动目标神经群体?模型返回的这张图像就是最兴奋输入(MEI)。这一方法此前已用fMRI数据应用于人类高级视觉皮层,但早期和中间视网膜拓扑区是另一类问题:这些区域的反应强烈受视网膜拓扑组织和较小群体感受野的塑造,而现有的fMRI刺激优化方法并未建模这些约束。

群体感受野(pRF)指刺激某个体素时起作用的那片视觉空间区域。早期视觉区的pRF很小,因此能兴奋一个体素的刺激,在图像其他位置可能几乎任意;而把一个区域内的体素平均起来,又会抹平相邻亚群体之间差异很大的选择性。论文因此以单个体素而非整个区域为目标,并把空间约束直接写进编码模型。

高斯pRF把CNN特征转成体素预测

两个框架共用同一个骨干:一个受试者特异的、体素级特征加权感受野(fwRF)编码模型。它从预训练的深度卷积网络中取中间层特征,按估计出的体素特异高斯pRF对这些特征做空间池化,再用池化后的特征预测该体素的fMRI反应。高斯的位置和大小通过在x、y和sigma上做网格搜索拟合,因此模型同时包含体素偏好什么特征、以及它在视野中看哪里。

两个框架随后在如何用这些预测生成图像上分道。RF-GO(感受野梯度优化)直接在图像上做正则化梯度上升,把预测反应往上推。RF-DiVE(用于视觉探索的感受野扩散)用反应梯度引导一个预训练的潜空间扩散模型,因此自然图像先验会塑造结果。这一比较之所以重要,是因为先验属于设计选择而非细节:早期视觉皮层对语义的选择性不强,所以此前并不清楚生成可解释的MEI是否真的需要扩散先验。

MEI把结构集中在pRF内部

以一个V1体素为例,两个框架给出的前几张MEI都在pRF内部(标为高斯的3σ范围)呈现一致的特征模式,而在pRF之外基本随机。这种空间特异性就是pRF约束的可见标志:优化器可以在别处放任何东西,而它确实这么做了。

在pRF内部,MEI呈现的是连贯结构而非噪声。论文举出的例子包括高对比度的黄黑直线与角状轮廓、构成抽象图案的多色弯线与曲线、暖色背景上的深色点簇,以及密集的粉色或绿色斑点图案。同一体素的最激活自然图像中也出现类似特征,例如明亮的黄色栏杆或带绿茎的粉色花朵;但只看这些自然图像,并不总能看出一组连贯的共同特征。作者据此认为,当自然图像无法揭示时,MEI合成可以暴露驱动一个神经群体的特征。

预测反应优势在独立编码器上仍然成立

核心的定量检验是计算机模拟(in-silico):用架构、预训练数据集和NSD训练划分都不同的独立测试编码器,比较模型对MEI的预测反应与对自然图像的预测反应。比较对象是每个视觉区按R²排名前20的体素,更严格的自然图像对照是LAION-fMRI,而不是模型训练所用的NSD图像。

在所有方法和所有视觉区中,MEI引发的模型预测反应都高于最激活的自然图像。这一优势在用生成编码器评估时最大,在排名编码器和测试编码器上减弱;但即便在最困难的泛化到测试模型的情形下,四名NSD受试者的预测差异分数仍为正。在每个视觉区和每种生成方法中,多数受试者的优势都显著大于零(单样本t检验,p<0.01,FDR校正)。这是模型预测的结果,不是实测的神经反应;论文指出,仍需与人类受试者进行闭环实验来进一步验证。

生成方法与骨干网络改变权衡关系

RF-GO与RF-DiVE的差别不是单一排名。用生成编码器评估时,RF-GO在两种骨干下都取得比RF-DiVE更大的差异分数。这一优势在排名编码器或独立测试编码器下并未稳定保留;作者将其解释为RF-DiVE的自然图像先验使生成模型的激活较弱,但跨骨干的泛化更好。

骨干效应取决于框架。对RF-DiVE,DINO骨干在生成和排名编码器下得分高于ADV,且在多数独立测试比较中,DINO在所有区域对多数受试者都保持更高的差异分数。对RF-GO,DINO在生成编码器上同样更高,但在排名和测试模型上模式部分反转,DINO在所有区域与ADV相近或更差。作者推测,DINO与RF-GO搭配时容易产生损害跨模型泛化的模型特异偏差,而ADV给出的RF-GO MEI泛化更稳健。

图像统计也把两种方法区分开来。在两种骨干下,RF-DiVE的MEI都比RF-GO的MEI和自然图像更鲜艳,受试者平均a*和b*值更高,说明更偏向暖色中的红与黄。相对于自然图像,两种方法在最低测量空间频率上的贡献都更小,在中间频率上的贡献更大;而在每个框架内部,DINO生成的MEI比ADV生成的MEI进一步偏向中高频。

行为实验在多个区域上支持RF-DiVE

为检验MEI差异是否具有知觉意义,作者做了强制选择的人类行为实验,两个实验各32名受试者。受试者判断hV4的MEI还是V1的MEI呈现更强的三维形态;选择这一维度,是因为从V1到hV4对形状和形态的敏感性预期会增强。

在两种编码骨干和两种观看条件(pRF放大图与完整图像)下,受试者都更常认为hV4的RF-DiVE MEI比V1的MEI具有更强的三维形态。对LAION的自然图像,则没有出现可靠的hV4优于V1的偏好。RF-GO的结果在不同骨干和观看条件下不太一致,不过在完整图像条件下ADV骨干显示出hV4偏好。作者将此作为初步刻画,并呼吁开展更大规模的行为研究;论文也指出,其定量图像分析集中在Gabor特征、颜色、边缘和曲率等相对低层的属性上,对纹理、轮廓和表面结构的直接测量较少。

把两种方法当作稳健性检验

论文最有用的实际区分不是哪个框架整体胜出,而是各自换来什么。RF-GO更激进地最大化生成编码器的预测反应;RF-DiVE则牺牲一部分这种激活,换取对独立编码器更好的泛化,以及在行为实验中更具可解释性的区域差异。骨干选择同样不是中性的:DINO对RF-DiVE有帮助,但相对ADV可能损害RF-GO的跨模型泛化。

正因如此,作者提出把多种生成方法结合起来,作为区分稳健、可泛化的调谐属性与单一方法特有属性的策略。对于要探测V1-hV4中单个体素的读者,论文的证据支持把MEI看作由目标体素、编码骨干和优化框架共同塑造,并把在这些选择下都保留下来的特征——例如两个框架图像中都可见的曲线和纹理——视为该体素选择性更可信的候选。

本文引用的文献

1

Receptive-field-constrained stimulus optimization for human early and intermediate visual cortex

两个受pRF约束的MEI框架RF-DiVE和RF-GO为V1-hV4生成单个体素刺激,其引发的模型预测反应高于最激活的自然图像(包括更严格的LAION-fMRI对照);方法与骨干的选择在生成编码器激活与跨模型泛化之间形成权衡。