小型脑电队列带来的三重瓶颈
多数基于脑电的阿尔茨海默病研究依赖约 20 至 100 名受试者的队列,因为从 AD 患者身上采集脑电成本高、耗时长。论文由此归纳出三个后果:数据太少,学不出稳健的表征;对未见受试者的泛化能力弱;当记录时长、电极布局或采样率在不同数据集间变化时,模型容易失效。第二个问题在临床上最具决定性。当训练和测试共享受试者时,模型可能表现很好,但换到受试者独立评估就会明显下降,因为受试者间的差异和受试者特有的捷径可能被误当成诊断标签。
LEAD 的应对是先建立规模,再做适配。作者整理出一个包含 2,238 名受试者的脑电-AD 语料库,称其为该用途下迄今最大的语料库,并用它预训练一个统一骨干网络,再在五个独立的 AD 数据集上微调和测试。因此其新颖性有两层:这个语料库,以及首个面向端到端受试者级脑电 AD 检测的基础模型。
沿时间与电极两个维度的门控注意力
LEAD 不把所有记录重采样到同一个固定采样率,而是把高于 200 Hz 的信号降采样到 200、100 和 50 Hz,再以 50% 重叠切成固定长度的样本。每个样本都带一个采样率标签,模型在时间位置嵌入和由电极坐标构建的三维通道嵌入之外,再加入采样率嵌入。这样一个模型就能接收长度、通道配置和采样率各不相同的记录,无需针对每个数据集单独预处理。
在门控时空 Transformer 内部,自注意力沿时间维度和通道维度并行运行。随后一个可学习的门控把两条分支融合,使模型能针对每个输入权衡时间上下文与空间上下文,而不是固定采用某一种混合比例。每个通道的最后一个 token 成为传给下游任务的表征。消融实验支持这一空间设计:把三维通道嵌入换成固定嵌入或可学习嵌入后,ADFTD 上的受试者级 F1 从 93.95 分别降到 84.64 和 88.01;不过固定嵌入在其他少数指标上略好,说明这一收益依赖具体数据集。
以受试者而非单个样本为优化目标
以往多数脑电工作分类的是单个样本,但临床决策是按人做出的。因此 LEAD 用多数投票汇总样本级预测,为每名受试者给出一个标签,并在样本级和受试者级同时计算交叉熵损失。两项工程选择让这个受试者级目标可行。多尺度分段成倍增加每名受试者的样本数,既服务训练,也服务后续投票。索引分组打乱在每个 epoch 按受试者重新组织样本索引,使一个 mini-batch 里很可能包含同一个人的多个样本;没有它,受试者级对比学习会退化为样本级学习。
预训练采用医学对比学习,覆盖 13 个数据集:4 个 AD 数据集和 9 个非 AD 神经系统疾病数据集。同一受试者的样本构成正对,不同受试者的样本构成负对,作者认为这比掩码自编码更适合学习受试者级表征。预训练语料有意纳入非 AD 疾病,使编码器不只针对阿尔茨海默病的对比进行调优。
20 项评估中的最佳平均排名
比较覆盖 5 个下游数据集和 16 个基线,在样本级和受试者级分别用 F1 和 AUROC 评分,共 20 项评估。LEAD 的平均排名最佳,作者报告它远超第二名 LaBraM,同时使用的预训练资源明显更少。任务越难,领先幅度越大。在 ADFTD 上,这是一个包含 88 名受试者、167,083 个样本的健康/AD/额颞叶痴呆三分类任务,LEAD 的受试者级 F1 为 93.95、AUROC 为 99.17,而 LaBraM 为 91.81 和 99.44,BIOT 为 88.10 和 97.10。在 ADSZ 上,受试者级 F1 为 100.00,CBraMod 为 82.21。
有几个数据集在受试者级已接近饱和:ADFSU、ADSZ 和 APAVA 上 LEAD 的 F1 都达到 100.00,许多基线在 ADFSU 上也达到 100.00。作者自己提醒,这些接近满分的数字反映的是受控的实验室条件:记录由专家挑选,严重伪迹被人工剔除,每名受试者的样本数也相对均衡,从而稳定了多数投票。常规临床记录中这些条件更难满足,因此这些饱和的数值不应被读作普遍临床准确率的证据。
微调效果最好,预训练在小队列上最关键
对比从零训练、冻结编码器的线性探测和完整微调,可以分离出预训练的贡献。多数情况下微调最好。更有信息量的模式是线性探测在何处胜过全监督训练:在只有 23 名受试者的 APAVA 上,线性探测的受试者级 F1 为 73.33、AUROC 为 95.00,而从零训练为 36.67 和 75.00。在规模更大的 ADFTD 和 CNBPM 上,线性探测并未稳定胜过全监督,有时还更差。实际含义是,当下游 AD 数据有限时,预训练编码器最有价值,作者指出这正是该领域的常见情况。
静息态与闪光刺激记录互为补充
ADFTD 的受试者在两种范式下接受记录:闭眼静息态和睁眼闪光刺激,两者记录时长不同。单独评估时,两种范式都无法支撑稳健的三分类:静息态在 19.40 小时内样本级 F1 为 47.54,闪光刺激在 7.25 小时内为 55.60。合并 26.64 小时后,样本级 F1 升至 81.01,AUROC 升至 94.03,受试者级 F1 为 93.95。这一提升远大于单纯增加记录时长所能解释的幅度,因此选择哪种范式、以及能否同时获得两种范式,是决定该模型表现的一阶因素,而非次要的采集细节。
MCI 仍是未解决的边界
最明显的局限是疾病分期分类。在 CNBPM 上区分健康对照、MCI 和 AD 时,LEAD 的受试者级 F1 为 65.67、AUROC 为 80.37,混淆矩阵显示 MCI 是弱项:MCI 的受试者级召回率为 54.29,其中 40.00% 的 MCI 受试者被判为 AD,5.71% 被判为健康。作者把这一点解释为标签本身的模糊性,而不只是模型能力不足。部分 MCI 患者已带有 AD 相关特征,但没有纵向随访就看不出来;另一些则保持稳定甚至恢复正常,使他们难以靠近 AD 或健康对照任何一端。作者提出的未来工作重点是采集纵向脑电以追踪病程进展。
第二个适用范围条件写在问题设定里:每名受试者被假定只有一个标签,采集期间不发生诊断转变,也不存在共病,例如 AD 合并血管性痴呆。真实患者可能同时违反这两条假设,而论文是把它们简化掉,并未加以检验。
先匹配任务与数据,再谈模型
论文自身的结果按情景而非单一准确率数字来划分其价值。LEAD 最强的地方是:问题为 AD 对健康对照或 AD 对额颞叶痴呆,采用受试者独立评估,且同时具备静息态和闪光刺激记录;两种范式合并后样本级 F1 从约 47.54 升到 81.01,最清楚地说明采集设计可能比架构选择更重要。它最弱的地方是:问题要求把 MCI 与 AD、健康对照区分开,受试者级 F1 约 66%;以及下游队列小到连在预训练特征上做线性探测都胜过从零训练。因此最具决策意义的比较不是 LEAD 与下一个基线在饱和数据集上的对比,而是小 AD 队列上预训练与从零训练的对比,以及同一批受试者上双范式与单范式记录的对比。
本文引用的文献
LEAD: An EEG Foundation Model for Alzheimer's Disease Detection
LEAD 用医学对比学习在 13 个脑电数据集上预训练,在 5 个下游 AD 数据集上的全部 20 项评估中取得最佳平均排名,胜过包括当前最优脑电基础模型在内的 16 个基线;而健康/MCI/AD 三分类分期的受试者级 F1 仍只有约 66%。
