纯视频分期回答的是另一个问题
近年多数基于视频的睡眠分期系统把摄像头当作通往其他表示的入口:重建呼吸或心电波形,提取光流运动特征,或让视频对齐脑电引导的跨模态表示。这些设计回答的是视频能在多大程度上恢复或模仿某种生理信号。
这篇论文问的是另一个问题:在没有任何代理重建、也没有辅助生理监督的情况下,视频本身是否包含足够证据,能在 PSG 定义的标签下判定睡眠分期。这一区分很重要,因为被子遮挡、体位变化和人脸匿名化会让呼吸或 rPPG 提取变得不可靠,而一维代理也可能丢掉区域性运动模式和短暂动作。
这一设定并不取代 PSG。参考分期由认证技师依据 AASM 指南从脑电、眼电和肌电中评出;模型只是尝试从视频复现这些标签。
静态画面掩盖微弱局部运动
标准视频模型面向动作、物体和场景变化,判别线索通常是大动作或语义交互。而在整夜近红外睡眠视频里,画面基本静止,有用证据表现为微弱的局部微动。
论文展示了基线 3D CNN 直接处理原始视频时的表现。帧差图和空间注意力图高亮的是静态高对比区域,而不是时间上连贯的胸腹运动;对六名受试者的 epoch 嵌入做 t-SNE 投影后,聚类主要按受试者划分,同一受试者内部各睡眠期则分散开来。
因此,体型、床品、相机几何关系和基线呼吸相关运动等受试者特有因素可能主导表示。运动的含义还取决于发生位置:微弱的胸腹周期性运动、快速的肢体运动和大范围体位变化,提供的分期证据各不相同。
在空间压缩之前编码微动
ViNUSS 全称 Video-Native Unmediated Sleep Staging(视频原生、无中介的睡眠分期),由三个组件构成。第一个是空间锚定的空间前微动编码:在空间处理压缩信号之前,先把局部时间变化连同其空间上下文一起保留下来。
消融实验单独考察了它的贡献。以原始 MoViNet-A2 骨干为起点,准确率 0.60、宏 F1 0.50;只加入这一编码后升至 0.62 准确率和 0.55 宏 F1。提升幅度不大,但与“微弱局部时间线索在空间压缩前编码能保留得更好”这一说法一致。
骨干网络的选择另行测试。Video Swin-Tiny 达到 0.51 准确率和 0.46 宏 F1,MoViNet-A5 为 0.60 和 0.53,MoViNet-A2 为 0.60 和 0.56,参数量约 4.0M。更大的 MoViNet-A5 参数量是 A2 的四倍多,却没有提高准确率,宏 F1 反而更低,因此最终选用 A2。
以每夜自身基线衡量分期线索
第二个组件是受试者内分期对比,它学习的是相对于每位受试者当夜自身基线的分期线索,而不是相对于人群平均。这针对的正是基线嵌入中按受试者主导的聚类现象。
单独看效果很小:在微动编码版本上加入它后,准确率从 0.62 变为 0.60,宏 F1 从 0.55 升到 0.56。作者将其解读为在受试者差异下改善了各睡眠期的可分性,而不是整体准确率的提升。
它更清晰的作用体现在时间连贯性上。论文用相邻 epoch 嵌入之间的余弦相似度衡量连贯性,报告称受试者内分期对比在各睡眠期上提高了这一连贯性,产生更平滑的特征轨迹,供整夜模型使用。
整夜动态带来最大单项增益
第三个组件是双尺度睡眠动态建模,它捕捉 epoch 内的运动演变,并把 epoch 级证据组织成整夜轨迹。短程路径汇总每个 30 秒 epoch 内的运动,长程路径对堆叠后的 epoch 令牌建模,覆盖整夜。
把这一动态模块加到原始骨干上,带来了消融中最大的单项跃升:宏 F1 从 0.50 升到 0.67,准确率从 0.60 升到 0.75。但收益取决于表示质量。使用同一动态模块时,加入微动编码把宏 F1 提到 0.72,再加入受试者相对对比后达到 0.78。
序列模型对比支持双尺度设计。在只用 epoch 间上下文的模型中,长程 Mamba 路径达到 0.78 准确率和 0.74 宏 F1,领先于 BiLSTM、PatchTST、ModernTCN 和原始 Transformer。完整双尺度设计在每一类上都优于仅长程版本,Deep 的 F1 从 0.59 升到 0.67。
用正确的基准解读 0.80 准确率
在留出测试集上,ViNUSS 的四类分期达到 0.80 准确率、0.68 Cohen's kappa 和 0.78 宏 F1,其中 N1 与 N2 合并为 Light,N3 视为 Deep。同一个训练好的模型在全部五个 AASM 标签下评估时,得分为 0.71 准确率和 0.72 宏 F1,因此这两个数字来自同一模型的不同标签映射,而不是两套系统。
类别分布会影响对这些数字的理解。在四类混淆矩阵中,Deep 的每类精确率最低,为 0.67,召回率为 0.68;Light 的 F1 达到 0.83,REM 为 0.82。论文强调宏 F1,是因为各睡眠期样本不均衡,而 Deep 和 REM 等少数类别在临床上很重要。
与代理优先方法的比较需要谨慎。在该数据集上复现完全基于视频的 SleepVST 流程并不可行,因为其视频转波形模块未公开,且人脸匿名化和被子遮挡使 rPPG 与呼吸重建不可靠。作者改为评估该架构的 oracle 输入变体:一个使用接触式传感器的心电波形,另一个同时使用接触式呼吸和心电波形。与全 oracle 变体相比,ViNUSS 把宏 F1 从 0.73 提高到 0.78。这些只是某一代表性架构的 oracle 输入版本,并不是生理信号睡眠分期的通用上限。
显著性指向呼吸与身体运动
Sleep Video EigenCAM 用于检查模型使用了哪些时空区域。它先分别计算时间通道权重和空间通道权重,再合并两者,避免运动相关结构与外观相关结构混在一起。
在一段稳定的 Deep 睡眠 epoch 中,显著性集中在胸腹区域,时间显著性曲线跟随呼吸相关的周期性运动。在一段包含短暂觉醒和体位变化的 epoch 中,显著性在较大动作发生时高亮该动作,在安静时段又回到胸腹区域。
作者将其解读为模型使用了具有生理意义的视觉运动,而没有显式重建呼吸波形。这是关于注意力模式的可解释性观察,并不证明模型在测量呼吸。
结果成立的范围与止步之处
评估覆盖韩国视频睡眠研究(KVSS)的 475 晚近红外记录,总计约 3,250 小时,由壁挂式近红外相机以 5 fps 采集,处于常规睡眠研究条件,包括远场视角、被子遮挡、微弱运动和面部匿名化。受试者按性别、年龄和 OSA 严重程度分层,划分为 335 条训练、70 条验证和 70 条测试记录。
分层分析报告了每位受试者在被子遮挡、相机角度、人员再次进入、光照强度、性别、年龄组、BMI 类别和 AHI 分组下的准确率,在所观察的各亚组之间没有明显的系统性下降。这支持了结果在该队列和这些采集条件下的稳定性。
作者指出,仍需在更多临床站点和家庭环境中做更广泛的验证。实际优先级来自论文内部的比较:纯视频分期最有价值的地方,是代理提取容易失效的场景,例如被遮挡或匿名化的记录;读者应权衡的具体差距,是它在全 oracle 代理优先变体面前 0.78 对 0.73 的宏 F1,而不是把它当作临床替代。
本文引用的文献
Subject-Relative Micro-Motion and Sleep Dynamics for Near-Infrared Video Sleep Staging
ViNUSS 仅凭近红外视频完成睡眠分期,不重建生理代理,在 475 晚对照 PSG 评分的记录上,四类分期达到 0.80 准确率和 0.78 宏 F1。
