同一流程上的两个不同杠杆
视听整合是大脑将看到的景象和听到的声音合并为一个感知事件的习惯。有两种截然不同的因素会左右这种合并。一个是时间:视觉和听觉到达的时间相差多远。另一个是意义:声音是否与画面相符,比如狗叫伴随狗的画面,而不是猫叫。操纵意义的研究和操纵时间的研究往往测量的是不同的东西,这是它们不可互换的第一个线索 [1][3][4]。
计时研究最清楚的是它改变了什么。当人们接受声音诱导闪光错觉训练时——这是一种经典把戏,一次闪光配上两声哔声会被看成两次闪光——他们对同时性的判断会变得更敏锐:他们感觉视觉与听觉重合的时间点会更接近真正的零点,可接受延迟的窗口也会收窄[4]。这个窗口常被称为时间绑定窗口,是大脑仍将两个信号视为同一事件的时间差范围。训练会收紧它,而这正是低层计时机制本身的改变[4][5]。
意义会改变在分心之中留存下来的东西
语义关联似乎作用于另一个不同的环节。在一项研究中,参与者一边观看动物图片,一边听到与图片一致、不一致或无关的声音,同时处于无、低或高注意力负荷之下,并且需要忽略这些声音。较高的负荷并没有破坏一致图片-声音配对之间的整合,但确实抑制了不一致或无关声音额外的警觉吸引力[1]。换句话说,当注意力被拉伸时,是意义决定了哪些配对能够维持,而不是改变了基本的时间窗口。
这与时间研究形成了一个有用的对比。时间训练改变的是两个信号必须多接近才能融合[4][5];语义一致性改变的则是一对配对是否被足够稳固地整合,从而能经受住繁忙的注意状态[1]。这两种效应可以共存,因为它们在做不同的工作:一个设定允许的延迟,另一个则衡量某个特定配对有多重要。
意义可以影响对时机的判断,但不会取代这些判断
不过,意义与时机并非完全分开。当研究者改变非语音视听刺激的语义一致性和情绪效价时,一致性既影响人们反应的速度,也影响他们辨别视觉和声音客观顺序的能力,而效价也有其自身的影响[3]。这意味着配对的高层次属性可以改变计时任务的表现,而这正是使这两个因素难以完全分离的那种重叠。
最直接的尝试是同时考察两者,在一个改良的oddball任务中使用脑反应,比较有语义意义的视听语境,并追踪早期时间窗口内整合的时间动态[2]。由于该工作仅以摘要形式报告,最好将其理解为与意义和时机两者都有贡献相一致,而不是将其视为解决了两者如何分工的问题。
那么,你应该把哪一个视为主要的呢?
就现有证据来看,两者都不是。时间设定边界条件:信号相隔太远就不会被绑定,而训练可以移动这一边界[4][5]。意义则在任何发生的绑定之上起作用,影响一对配对被整合的强度以及它被评判的方式,尤其是在注意力被分散时[1][3]。一个合理的工作图景是:一个时间门决定融合是否可能,再加上一个基于意义的加权,决定融合后的事件有多重要以及如何被评价。
有一项提醒与这些语义发现并列存在,而不是要削弱它们:该负荷研究在选择性注意下测试了动物图片与一致、不一致或无关声音的配对,因此其关于意义保护整合的结论仅限于这类配对和任务 [1]。时间方面的发现主要来自错觉训练和同时性判断,这些捕捉的是绑定窗口而非语义评估 [4][5]。这两类文献测量的是整合的不同侧面,这就是为什么它们可以同时成立,而不需要其中一个来解释掉另一个。
本文引用的文献
注意负荷是否影响视听整合,取决于语义关联
在模态特异性选择性注意下,较高的注意负荷并未破坏对语义一致视听刺激的整合,但抑制了不一致或不相关声音的警觉效应,表明语义关联调节了负荷对整合的影响。
探究多感官整合中的跨模态时间动态与语义不一致性
该研究在改良的oddball范式中使用ERP差异波,考察了语义有意义情境下视听整合的时间动态,同时涉及语义一致性和时间因素。
评估语义一致性和效价对多感官整合的影响
非言语视听刺激的语义一致性和效价影响了反应时间以及对客观时间顺序的辨别能力。
视听错觉训练改善多感官时间整合
五天的声音诱发闪光错觉训练使主观同时性判断点向零偏移,并缩窄了时间绑定窗口,从而提高了视听时间整合的精确度。
知觉训练缩小了年轻人和老年人在视听整合中的时间绑定窗口
视听时间辨别训练缩小了年轻人和老年人的时间绑定窗口,尽管在年轻人中观察到的跨模态相互作用的更广泛减少并未出现在老年人中。
