扩展现实如何推进人脑与行为研究?

一篇研讨综述指出,XR 可在运动中研究注意、记忆与语言,但时序、追踪和真实感限制仍在。

直接答案

扩展现实(XR)让认知神经科学家在保持实验控制的同时,让参与者在三维任务中移动、观看和行动,而不是坐在平面显示器前保持不动。这篇论文是研讨综述,不是新实验:它借助注意、记忆和语言方面的 VR 与 AR 研究(部分结合 EEG),梳理 XR 新带来的可能,以及硬件、时序、追踪和真实感方面仍存在的障碍。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

平面屏幕范式以真实感换取控制

论文从一套主导实验心理学和神经科学的方法配方出发:在平面电脑屏幕上呈现静态刺激,让本科生参与者保持眼球不动,用按键把复杂反应压缩成简单输出,有时还用 EEG 或 fMRI 记录固定不动的头部的大脑活动。作者把这种精简视为有意的设计选择,而非错误,因为剥离自然环境中的杂乱混淆因素,才能分离并精确测量认知机制。

因此,他们担心的不是用这种方法建立的理论是否有效,而是这些受限条件下得到的结果能在多大程度上推广到自然世界。他们指出,真实的知觉发生在人行走、转头、伸手拿东西、用眼睛采样杂乱三维世界的时候,而标准方法几乎不包含这些特征中的任何一项。XR 被提出来,是为了在保留可控、可重复实验的同时,恢复一部分运动和三维结构。

移动式 AR 在运动中测试注意

XR 的一个关键优势是可以在参与者运动时呈现刺激,从而研究人们如何穿越大空间、如何在移动中搜索目标相关物品。作者描述了用 HoloLens 2 在户外和室内进行大范围搜索的工作。他们说,这项工作让他们了解到,当人必须同时关注物理世界和数字世界时注意如何运作,以及这如何影响情境意识,并对 AR 硬件设计和供移动中使用的应用有直接意义。

同样的逻辑也延伸到生理状态。作者报告,在他们自己的工作中,体力消耗可测量地改变注意和工作记忆过程,而移动 AR 让这些效应能在参与者穿行环境时被测量。这些被描述为研究方向,而不是单一受控比较,因此其主张是关于该设置使什么变得可测量,而不是关于量化的效应大小。

控制器与注视数据取代按键

认知心理学长期把知觉和动作视为可分离的阶段,把丰富的知觉决策压缩成一次按键,并把运动反应当作一个在动作开始前就已完成的过程的读出。论文支持另一类研究:注意和动作紧密耦合,我们选择什么,受正在准备的动作塑造,并与这些动作同时展开。

XR 提供了实用的补救,因为平台会持续记录控制器或手的位置、头部姿态和注视。这能在行为展开时给出客观的行为测量,让研究者研究认知如何引导动作,而不是从一次按键去推断。论文把这视为测量数据流带来的机会,而不是 XR 优于按键设计的已证明结论。

动态三维目标揭示空间注意

视觉空间注意和工作记忆研究仍以静态二维显示为主,尽管日常知觉不断涉及在三维中运动的物体。多目标追踪是一个例外,但同时存在多个目标时,很难分离大脑对任一单个物体的反应。

作者自己的例子把 VR 游戏 Beat Saber 改造成实验范式:参与者拦截朝自己逼近的单个目标,同时记录 EEG,多变量分析则在每个目标移动时重建空间注意的焦点。他们称这个平台已经过验证,对今后研究动态注意及其与动作的耦合很有前景。他们还提出,沉浸会改变空间工作记忆,因为当物品在三维中环绕观察者时,工作记忆可以同时利用多个空间参照系,而不是一个平面屏幕参照系。

沉浸改变神经信号而非仅改变投入

论文最具体的比较来自一项高度暴露研究。参与者被升到消防车云梯篮中的 33 m 高处,或在 VR 中观看与之匹配的上升过程 3D-360° 视频,或在实验室屏幕上观看 2D 版本。警觉和唤醒的 EEG 标记以及心率变异性,在真实暴露和虚拟暴露之间几乎无法区分,但两者都与平面屏幕条件明显不同。

相关工作指向同一方向。在 VR 而非显示器上呈现物体,会把物体加工信号推向真实世界模式,并降低认知负荷。N170 面孔选择性效应(对脸的反应强于其他物体)是基于显示器研究的标志性结果,在真实感较强的 VR 观看下被削弱,由更晚的成分承载面孔与物体的区分。作者由此认为,沉浸本身就是一个可操纵的变量,并警告:在 2D 屏幕上验证过的范式,在沉浸环境中未必表现相同,承载效应的信号可能转移到另一个成分、改变幅度或发生时间偏移。

时序与追踪制约 EEG 研究

精确的刺激时序和事件锁定对认知神经科学至关重要,但 XR 设备很少为此设计。在作者结合 AR 与 EEG 的语义加工研究中,Magic Leap 头显没有提供可与 EEG 对齐的触发输出。他们的变通办法是在每个关键事件发出一个音调,把它转换成电脉冲并与 EEG 一起记录,之后离线恢复标记;这可行,但繁琐且需要额外硬件。Lab Streaming Layer 为跨数据流同步提供共同时钟,但它与自包含 AR 头显的整合仍不确定。

追踪是第二个制约。由内向外追踪在特征稀少、光线不足或高度重复的环境中会退化,在大范围或户外空间中的追踪仍是主要难题。在作者的大范围户外 AR 研究中,短暂的追踪丢失会使虚拟世界偏移,让参与者迷失方向并打断任务。Azure Spatial Anchors 曾把虚拟内容固定在环境中的固定点上,但每次应用重启都必须手动重新对齐锚点,给实验场次增加不少开销。在户外,强烈阳光常使 HoloLens 2 等头显失去大范围追踪,因此可靠运行只能在阴影中进行,太阳位置会限制实验安排。

真实感并不保证自然行为

无论 XR 变得多么沉浸,它仍然是模拟。在感觉层面,渲染出的深度不是真实深度:辐辏与调节线索冲突,尺度可能失真,动作的感觉后果也只是近似。作者认为更微妙的问题在行为层面。人们容易假设越沉浸、越真实的环境会产生越自然的行为,但他们跟随 Yartsev 的观点,认为自然行为由生物做什么来定义,即任务是否调动它进化出来要执行的动作、环境是否提供这些动作,而不是由行为发生在哪里来定义。

头显可以渲染出逼真的世界,而它施加的任务却与日常行为关系不大,制造出生态相关性的错觉,或诱发完全不自然的行为。这是论文的核心方法学权衡:支持外部效度的特征,如大范围户外测试、自由移动和丰富三维场景,也正是可能通过引入时序、同步和追踪问题作为未受控变异而侵蚀内部效度的特征。作者警告,由于沉浸式 VR 可以在心理生理层面接近真实体验,其生态效度很容易被高估,而 XR 结果能在多大程度上推广到不受约束的世界,仍是一个开放的经验问题。

启动 XR 研究前该核查什么

论文最后给出一组从上述挑战中提炼的核查项,这是它最直接可用的产出。搭建必须可行,因为构建一个范式所需的专业知识和投入,尤其是在大型或复杂环境中,很容易被低估;作者指出,Unity 中 0.1 的尺度误差会变成地面上 10 厘米的误差,他们自己的大范围例子覆盖 1,456 m²。凡是事件要与 EEG 等生理信号锁定的地方,时序必须精确。头显必须适合任务:需要移动时就无线,需要时具备良好眼动追踪。户外工作会带来从强烈阳光到大范围追踪不可靠等额外障碍。知情同意应覆盖传感器允许的推断,而不仅是打算分析的数据。

由此得出的优先次序是情景划分,而不是一概背书。当科学问题依赖运动、三维布局或连续动作,且团队能承担工程和同步成本时,XR 最站得住脚;当它被当作已验证平面屏幕范式的直接替代品时最弱,因为神经信号可能转移、缩小或时间偏移。作者还强调时机:随着头戴式 AR 接近人们可能愿意在公共场合佩戴的形态,在技术被广泛采用之前理解 AR 如何塑造注意、记忆和情境意识,已变得紧迫。在他们看来,XR 是对世界强大、可控的近似,而不是世界本身。

本文引用的文献

1

Moving Beyond the Flat Screen: Opportunities and Challenges of Extended Reality for Studying Human Brain and Behavior

这篇研讨综述认为,XR 支持让参与者移动、行动的受控实验,并可能把神经信号推向真实世界模式,但硬件时序、追踪丢失、传感器隐私以及真实感与自然行为之间的差距,仍限制 XR 研究能主张什么。