眼动与瞳孔测量能预测唇读能力的个体差异吗?

四分支模型以高于随机的准确率区分强弱唇读者,瞳孔相关信号携带的信息最多。

直接答案

能,但只是部分能,而且不是通过多数人预期的线索。研究把18名成年人分为较强和较弱唇读者,一个使用同步眼动与瞳孔记录的四分支神经网络以高于随机的准确率区分了两组(五个参与者互斥折上的准确率为0.680 ± 0.040)。信息量最大的分支把瞳孔汇总指标与注视点到嘴唇的距离描述符结合在一起;而两组人注视嘴部的时间占比几乎没有差别。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

预测的是观看者,而非句子

多数唇读研究问的是说话者说了什么。这项研究问的是另一个问题:仅凭一个人在无声言语中的观看行为,模型能否判断此人是较强还是较弱的唇读者?作者把这称为唇读评估的行为学表述,并将其与机器唇读区分开来——后者是从视频中解码言语内容。

任务是四选一强制选择。24名成年人(年龄32 ± 10岁)观看20段短无声视频,视频中一位说话者朗读哈佛句子,每段之后从四个单词替换选项中选一个。这些试次上的总体准确率,即答对的比例,是论文对唇读能力的操作性定义。观察到的准确率范围为0.25至0.80,随机水平为0.25。

随后,极端分组方案只保留该分布两端的人:8名较强唇读者和10名较弱唇读者,共18人。这为初步检验放大了对比,但丢弃了中间水平的参与者,因此分类任务是比较两组,而不是对能力做分级预测。

每个试次的四种对齐视图

每个参与者-试次用四种方式表示。第一种是唇部区域图像序列,即说话者嘴部的裁剪帧。第二种是帧级注视,即眼睛逐时刻的位置。第三种是瞳孔汇总指标,即由瞳孔大小导出的生理描述符。第四种是空间观看比例,用一个粗略的5 × 5网格记录注视落在各区域的比例。

一个带跨模态注意力的四分支神经网络把这些视图组合起来,输出二分类标签。评估使用参与者互斥划分,即同一参与者不会同时出现在训练和测试数据中,并采用五折交叉验证。这一点很重要,因为360个参与者-片段来自仅18人;报告指标估计的是基于18名有效标注参与者的参与者层面区分度,而不是360个独立观测。

论文还引入了唇读感知研究(LiPS)数据集,以及一条预处理流程,把SR Research EyeLink的眼动和瞳孔记录与刺激视频按帧对齐。眼动以250 Hz双眼记录,校准反复进行,直到平均验证误差低于0.5°视角。

瞳孔分支携带大部分信息

完整模型的准确率为0.680 ± 0.040,F1为0.547 ± 0.022,AUC为0.700 ± 0.068。学习式注意力融合在准确率上优于朴素替代方案:拼接为0.581,早期融合为0.600,平均池化为0.658。但在AUC上,各融合变体相当(0.675至0.709),拼接略高于完整模型,因此融合优势只体现在准确率上,而且拼接的折间方差大得多(± 0.132)。

消融结果定位了信息所在。移除瞳孔与观看汇总分支造成的下降最大,准确率降至0.618,AUC降至0.623。该分支单独就达到0.675准确率,是最强的单视图模型,且在各折间相当稳定(SD 0.024)。

这一结果附带一个限制:该分支并非纯瞳孔指标。其19个描述符中有4个汇总注视点到嘴唇中心的距离,1个是嘴唇聚焦比例,因此消融检验的是这个复合分支,而不是单独检验瞳孔大小。注视序列单独达到0.643准确率,并在组合中增加准确率(0.680,而无该分支为0.656),不过去掉它时F1和AUC略高。区域比例是最弱的分支,准确率0.581,边际贡献很小。

唇部图像编码难度,而非观看者

唇部图像流给出了一个有启发性的阴性结果。移除它后准确率基本不变(0.674对0.680),F1(0.562)和AUC(0.711)略有提高。作者的解释是结构性的:对同一刺激,唇部裁剪图在所有参与者间完全相同,因此它们编码的是题目有多难,却无法区分不同观看者。

这是论文对读者容易混淆的两件事最清晰的分割。刺激难度和参与者特异行为是不同来源的方差,只有后者支持行为表型刻画。说话者的脸仍通过模型的运动门控提供时间信息,但不提供观看者身份层面的区分。

注视嘴部的时间占比无法区分两组

最反直觉的发现与人们看向哪里有关。较强和较弱唇读者注视下半张脸的时间占比几乎相同:73.17%对73.21%,Cohen's d = 0.002。广泛的嘴唇朝向注视在两组中都很常见,不足以区分他们。

差异体现在瞳孔与汇总分支所捕捉的信号中。归因分析把朝向较强唇读者类别的最大正向贡献分配给平均瞳孔直径(左眼、右眼和合并)。注视点到嘴唇的距离描述符以及瞳孔不对称性的标准差带有负向归因,指向较弱类别。作者把这些模式解读为可能反映认知投入或加工负荷的差异,并把瞳孔特征视为受控亮度下与努力相关的指标,而非纯粹的认知指标。

空间归因集中在少数网格单元,核心发音区域单元贡献为正,面部中央单元贡献为负。作者明确不据此得出较强唇读者使用更精确注视策略的结论,并给出两个理由:空间分支在消融中最弱,且各分支间的归因模式并不完全一致。

努力比瞄准嘴部更重要

论文的解读是:唇读能力更多体现在努力和时间协调上,而不是注视落在哪里。帧级注视优于聚合的区域比例,作者认为这证明存在注视时长之外的信息,同时指出在其分析中无法把时间顺序与特征内容分离开来。

按作者的描述,这把文献中一个已知的不一致重新解释了:注视嘴部比例在某些人群中与言语阅读相关,在另一些人群中则不相关,而注视比例可能只是动态、费力过程的粗略代理。当前数据与这一解读一致,因为两组间注视比例几乎相同,而瞳孔相关和帧级信号并非如此。

该设计支持预测,而非因果。作者直接指出,要证明注视感知反馈的益处需要干预研究,因此关于训练反馈或辅助技术的建议仍是假设,而不是已证明的结果。

结论的适用边界

标注集规模小且来自单一站点,因此作者把结果定位为可行性验证,而非人群层面的推广。极端分组标注可能夸大表观可分性,使分级回归成为重要的下一步。听力状况未正式评估,所有刺激均为纯视觉;作者勾勒的临床解读针对计划中的听障人群,而不是本研究所用样本。

流程的两个特点也限定了结论。瞳孔和区域向量按会话计算,因此这些分支无法捕捉同一参与者试次间的变化。帧级对齐依赖人工估计的偏移量,未来工作旨在将其自动化。跨设备泛化尚未评估。

瞳孔相关努力优先于注视嘴部时间

对于任何权衡视觉言语感知行为指标的人,论文给出的优先级排序就是实用要点。瞳孔相关和帧级注视信号是有信息量的;注视嘴部的总时间则不是,而说话者的嘴唇外观完全无法区分观看者,因为它在所有观看者间共享。

指导解读的比较是瞳孔/汇总分支单独(0.675准确率)与完整四分支模型(0.680)之间:增加的分支带来的准确率提升很小,最强的单一视图几乎同样好。这一差距,加上该分支的复合构成和极小组样本,意味着可辩护的结论是:同步眼动和瞳孔测量可能作为视觉言语感知的客观标志物,而不是它们已在临床多样化人群中做到了这一点。

本文引用的文献

1

Predicting Individual Differences in Lipreading From Eye-Tracking and Pupillometry During Silent Visual Speech

一个四分支注意力模型在五个参与者互斥折上以0.680 ± 0.040的准确率区分较强与较弱唇读者;瞳孔与观看汇总分支信息量最大(单独0.675,移除后下降最大),而唇部图像贡献很小,下半脸注视时间在两组间几乎相同(73.17%对73.21%)。