轻量 EEG 基础模型能否凭离散神经编码比肩大模型?

BrainCodes 仅 1.9M 参数,在 14 项基准与稀疏可穿戴电极上追平或超越更大模型。

直接答案

在本文测试的基准范围内,可以。在线性探测和全量微调两种设置下,BrainCodes 在 14 项下游任务中取得所比较模型的最高平均表现,而其骨干只有 1.9M 个可训练参数,比同类架构最多少 97%;把电极缩减到 4 个时,它仍保留约 91% 的全导联性能。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

波形重建为何会漏掉窄带节律

多数 EEG 基础模型通过重建被掩码的信号片段或其频谱来学习,这一目标继承自语言和视觉领域。论文认为该目标与 EEG 并不匹配。EEG 功率谱大致按 f^-alpha 衰减,因此频域上的平方误差损失会被高功率的宽带成分主导,模型只要拟合好非周期背景就能降低重建误差,却几乎不保留节律结构。

空间重建存在类似问题。头皮电位是底层源信号的线性混合,相邻电极携带冗余的混合成分,因此被掩码的通道可以由邻居近似恢复——即使球面样条插值也能高保真地补出缺失信号。模型因此可以靠插值完成掩码通道重建,而不必编码有生理意义的空间动态。作者把这一点视为仅靠下游准确率只能部分回答的经验问题,这也促成了他们的训练目标和表征探针。

预测离散编码而非波形

BrainCodes 的预训练目标是预测向量量化分词器产生的一组有限离散潜在编码,而不是回归波形数值。分词器按率失真权衡分配容量,把表征能力集中在样本之间的差异上;由于预测目标属于类别型,其权重不直接由信号绝对功率决定。在发布的设置中,模型读取一个冻结的 BioCodec 分词器的编码,该分词器包含六个残差量化阶段、每阶段 256 个码字、帧率 20.8 帧/秒,其 3.15M 参数全程冻结,因此单独保存的编码器只有 7.19 MiB。

两项设计针对重建容易丢失的性质。通道位置编码使用电极间的相对距离,使通道注意力的位置部分只依赖电极间位移——这是与头皮容积传导关系最直接的几何量。一个辅助目标在训练中注入局部窄带扰动,以增强模型对振荡的敏感性。骨干网络很紧凑:宽度 128、8 个注意力头、三个由两层时间注意力和一层通道注意力组成的模块;训练片段长度在 2 至 30 秒间抽取,并随机保留 16 至 64 个通道,使短窗口和稀疏导联在预训练阶段就出现。

在 14 项基准上追平更大模型

核心比较是一个参数效率结果。在 14 项下游基准上,BrainCodes 以 1.9M 骨干参数在线性探测和全量微调两种设置下都取得所比较模型的最高平均表现。在报告表格中,BrainCodes 达到 0.7720 平衡准确率、0.7697 Cohen's kappa 和 0.8857 加权 F1,高于 69M 参数的 REVE-Base(0.7660、0.7470、0.8450),也明显高于 4.0M 的 CBraMod(0.7256、0.6267、0.7905)。摘要把这一差距概括为比同类架构最多少 97% 的可训练参数。

低资源睡眠分期表格显示出更大的差距。在 EESM23 六分类睡眠分期上,BrainCodes 达到 0.5254 平衡准确率、0.4847 kappa 和 0.5908 加权 F1,而 REVE-Base 为 0.4176、0.3698、0.4905,1.9M 参数的 TFM-Tokenizer 为 0.4148、0.3883、0.5174。这些是经过整理的回顾性数据集上的基准数字,作者明确表示它们不能作为适合临床部署的证据。

迁移到四电极消费级设备

论文称其在消费级硬件上的评估是 EEG 基础模型在该场景下的首次系统性测试,使用了三个数据集,涵盖耳内 EEG 和 Muse 头带。BrainCodes 在这些设置下明显优于已发表的基线。在 Muse 任务上,三分类运动想象达到 0.5885 平衡准确率,三分类心理任务达到 0.8160,kappa 分别为 0.3650 和 0.7097。

一项受控的稀疏导联模拟分离出性能对电极数量的依赖程度:仅用 4 个电极时,BrainCodes 平均保留其全导联性能的 91%。该数字来自对更密集导联的模拟缩减,而非消费设备本身,因此它界定的是稀疏化的预期代价,而不是直接测量头带的准确率。预训练方案与这一目标一致:每个训练片段都随机保留 16 至 64 个通道。

探针显示空间与频谱结构得以保留

由于下游准确率无法说明表征保留了哪些信号性质,作者增加了受控探针。空间探针测量影响如何随电极欧氏距离衰减,用对数影响对距离做最小二乘拟合取斜率,坐标以最大电极范数为 1 进行缩放。频谱探针向空间上连续的 20–40% 通道注入带限噪声——0.5 至 4 Hz 的 delta 爆发、11 至 16 Hz 的纺锤波爆发,以及连续的 mu(8 至 13 Hz,仅中央电极)和 beta(13 至 30 Hz)活动——白噪声和粉噪声在功率上匹配,信噪比为 35 至 15 dB,然后在留一被试验证下对注入窗口与干净窗口之间通道平均特征的变化拟合标准化逻辑回归。

与所比较的模型相比,BrainCodes 表现出更强且与几何一致的空间局部性,对振荡成分的敏感性也高于对频谱非周期斜率的敏感性。作者据此认为,其表征保留了超出下游分数所能反映的可测量空间与频谱性质。这是关于表征几何的探针层面结果,并不声称模型恢复了底层神经源。

优势在哪些任务上收窄

优势并不均匀。在 NeuroRVQ 基准套件上,BrainCodes 取得最高的平均机会归一化准确率 0.579,高于 NeuroRVQ 的 0.559 和 NeuroGPT 的 0.484,并在执行运动(0.735 对 NeuroRVQ 的 0.700)、工作记忆(0.606 对 NeuroGPT 的 0.597)和静息态上领先——但在 ERP 任务上排名第二。作者把这一差距归因于该任务只有 1 秒窗口,在 BioCodec 中仅产生 21 个潜在帧,因此量化表征可能只能粗略地分辨诱发响应。

该套件与已发表数值也不能直接排名比较:作者使用 5 折被试不交叉交叉验证并保留独立验证折,每个模型约在 60% 被试上训练,而原始基准使用 10 折交叉验证、在 90% 被试上训练。这一比较内部自洽,但不是对已发表排行榜的同条件复现。

参数规模没有说明的部分

效率主张需要仔细阅读。1.9M 只计算骨干;冻结的 BioCodec 分词器另加 3.15M 参数,加上分类头后,微调模型在各数据集上的可训练参数在 1.9 至 2.5 百万之间,从 EESM23 的 1,917,510 到 TUAB 的 2,520,744。报告结果的表格只提到编码器规模。因此比较对象是可训练的编码器参数,而分词器是共享的冻结前端,并非免费组件。

适用范围也受数据和人群限制。预训练使用了来自 1,000 多名被试的 800 多小时记录,取自 Healthy Brain Network 数据集,该数据集由儿童和青少年组成;作者明确不对该人群或任何其他人群作出临床或诊断有效性声明。论文是审稿中的预印本,其看似临床的任务都是在经过整理的回顾性数据集上的基准评估。

因此证据支持的实践优先级是具体的:当约束是可训练编码器规模、部署目标是稀疏消费级导联时,在这些比较中 BrainCodes 是更强的选择;ERP 类短窗口情形和冻结分词器的成本是需要首先核对的两种条件。

本文引用的文献

1

BrainCodes:基于离散神经编码的轻量 EEG 基础模型

BrainCodes 是一个在离散分词器编码上预训练、仅 1.9M 参数的 EEG 基础模型,在 14 项基准上追平或超越更大模型,并且仅用 4 个电极就保留约 91% 的全导联性能。