训练中生长神经元能提升卷积脑电解码器吗？

三种骨干网络从窄宽度开始生长

卷积脑电解码器通常以固定宽度训练，宽度指每层滤波器的数量，而这个宽度往往由作者在一个数据集上选定后沿用到其他数据集。这项研究问的是一个更窄的问题：如果解码器从窄宽度起步、在训练中增加神经元，它在同一批受试者上能否优于已发表的参考宽度？

作者在 MOABB 的十二个运动想象数据集上让三种卷积骨干网络生长，覆盖三种协议：会话内（在一个会话内做 5 折交叉验证）、跨会话（留一会话）和跨受试者（留一受试者）。每种骨干网络贡献两个模型，一个是按已发表宽度训练的参考模型，一个是从窄宽度起步的生长版本，合计 34,596 次拟合。所有模型共用 200 轮训练预算、AdamW 优化器、6.25×10⁻⁴ 的学习率、64 的批大小，不做早停，每个折跑三个随机种子。

评分沿用 MOABB 惯例：六个二分类数据集用 ROC-AUC，另外六个用准确率，都以百分比计，因此模型差异以分表示。数据集包含二到四个类别，受试者从 4 人到 109 人不等。

生长从残差谱中挑选神经元

可生长层由两个相邻卷积组成，中间最多隔一个归一化层，因此可以在第一个卷积的输出和第二个卷积的输入上添加卷积核，而不改动其他层。每五个 epoch，该层获得一次生长机会，流程依次决定在哪里生长、添加哪些神经元、如何初始化以及保留多少。

目标是让该层输出发生最能在第一阶降低损失的变化。它投影到切空间上的部分是最佳可达更新，剩下的残差就是论文所说的表达能力瓶颈。用新神经元拟合这个残差是一个低秩近似问题，奇异值分解按第一阶贡献从大到小给出候选神经元。

针对脑电的关键改动是选择阈值。原方法使用绝对阈值，而在脑电上这个阈值要么高于某个骨干网络的整个谱，要么低于整个谱。这里只有当候选神经元的奇异值至少为最大奇异值的 10% 时才保留，从而让同一相对标准适用于不同骨干网络。宽度上限会把每层停在目标宽度，因此生长式骨干网络最终不会比参考模型更宽。

随后在缩放因子 {0, 0.1, 0.5, 1.0} 上做线搜索，决定所选模块以多强的幅度加入，评分使用该 epoch 训练批次最后五分之一的数据。如果搜索返回零，这次更新被删除、网络保持不变，论文称之为一次被跳过的神经元添加。

ShallowFBCSPNet 以更少参数高出 2.9 分

生长式 ShallowFBCSPNet 是最明确的正向结果。会话内它比参考模型高 2.9 分，受试者层面的 95% bootstrap 区间为 [+2.3, +3.5]，并且在全部十二个数据集上都领先。跨会话增益为 2.8 分 [+1.9, +3.7]，跨受试者缩小到 0.9 分 [+0.4, +1.3]。

这一增益并非来自额外容量。生长式 Shallow 用约 6×10⁴ 个参数达到 +2.8 分，而参考模型用 1.05×10⁵ 个参数得到 −0.1 分，前者参数只有后者的 0.57 倍。网络之所以更小，是因为生长在达到目标宽度前就停止了：只有 29% 的 Shallow 折达到宽度 40，中位折的评分宽度为 26。

生长到多宽与训练数据量有关。达到宽度 40 的 Shallow 拟合比例，从 Shin2017A 的零（每折 16 个训练试次）上升到 BNCI2014-001 的 94%（230 个试次），十二个数据集上的 Spearman ρ = 0.77。跨受试者时训练集汇集了其他所有受试者，该比例达到 78%。代价是训练时间：在同样的 200 轮预算下，生长式 Shallow 每折 22 秒，参考模型 14 秒。

SCCNet 几乎不变，深度替代模型落后

SCCNet 的对比小得多。其生长版本最多变化 1.2 分：会话内 +0.4，跨受试者 −0.2，两者的区间都跨过零，也都低于 80% 功效下的最小可检测效应，因此作者不对这两个格子下结论。只有跨会话结果 +1.2 分 [+0.4, +2.1] 被视为有信息量。SCCNet 在 78% 的折上达到完整宽度 22，基本复现了参考宽度，对比自然很小。

深度骨干网络是另一种情况，不能当作对生长的干净检验。生长实现不支持 Deep4Net 所选深层模块内部的池化操作，因此作者换成一个两阶段的 VGG 式替代模型，称为 Deep，只在每个阶段末尾池化。这使该比较成为探索性的，且架构并不匹配。

在这一前提下，生长式 Deep 在三种协议下的每个数据集上都落后：会话内 −4.0 分，跨会话 −3.6 分，跨受试者 −7.3 分。由于架构和容量都与 Deep4Net 不同，这一差距不能只归因于生长。

2.9 分增益相对种子波动并不大

论文对效应量说得很明确。跨种子的标准差中位数为 4.4 分，因此最大的 2.9 分增益只有单一配置波动的 0.7 倍。它只有在 324 名受试者上取平均时才显现。作者还指出，九名受试者的数据集无法区分两种架构，而在这类数据上几分的效应很常见。

九个汇总格子中有七个通过 Holm 校正，其中四个支持生长式骨干网络，三个支持参考模型。被排除的两个格子都来自 SCCNet。

论文还报告了一个单独的对齐条件。把欧氏对齐作为第二个完整条件运行，会使全部六个模型在会话内下降 2.4 到 5.1 分，只在跨受试者时提高 1 到 2 分。作者指出，若把对齐当作默认设置，跨受试者时会偏向生长式骨干网络，并掩盖会话内所有模型的损失，因此主结果报告的是未对齐的原始分数。

被跳过的神经元添加区分了三种骨干

区分哪种骨干网络获益、哪种不获益的，是被跳过的神经元添加率，即线搜索返回零的生长机会所占比例。它给出的三种骨干排序与准确率结果一致：生长式 Shallow 跳过 74.9% 的机会，生长式 SCCNet 跳过 3.5%，生长式 Deep 跳过 0.7%。在整个实验的 542,187 次生长机会中，Deep 几乎接受了每一次更新。

同样的排序在更早的选择步骤就已出现。在一次生长机会提出的神经元中，Shallow 保留的中位比例为 15%，SCCNet 为 85%，而 Deep 全部保留。候选谱解释了原因：Shallow 的候选谱跨越 3.1 到 4.0 个数量级，SCCNet 为 0.9 到 3.3，而 Deep 只有 0.3 到 1.4。在如此平坦的谱上，没有阈值能区分候选，于是每个提议都被接受。

作者对机制保持谨慎。单次生长步骤改变很小：对 Shallow，其预测的第一阶增益中位数是一个普通 epoch 增益的 10⁻³·⁶，对 Deep 是 10⁻¹·⁰；三种骨干在生长步骤前后一个 epoch 的留出损失都集中在零附近。因此任何效应都必须通过生长所诱导的训练轨迹产生，而不是通过单次步骤。

论文还检验并否定了一个更简单的解释。如果在大语料上选定的宽度只是对单个会话过大，那么生长式骨干应在训练集最小时获益最多。按训练集大小分箱后，它在最小的箱中没有优势，跨受试者时在每个箱中都落后。

跳过率是来自训练信号的诊断指标

论文自己的解释是：当选择标准能够对候选神经元排序时，生长才有帮助。候选谱跨越多个数量级时，第一阶估计能对神经元排序并拒绝其中大部分，网络因此保持小规模并有所提升。谱平坦时，每次更新都被接受，网络长到上限却毫无收益。

作者由此得出的实际推论是：把被跳过的神经元添加率与最终宽度一起报告，不需要测试数据，就可能指出某个解码器可以从零开始长到多小。这是从单次运行的训练信号算出的诊断指标，而不是准确率的保证。

适用范围受实际运行内容限制：十二个运动想象数据集、三种协议和三种骨干网络，其中一种是架构不匹配的替代模型。Shallow 的结果是唯一作为生长模型与其自身参考宽度在同一批受试者上的比较而成立的结果，它说明的是一个更小的网络得分略高，而不是准确率大幅跃升。

本文引用的文献