临床机器学习中数据过滤为何应被视为科学方法的一部分?

临床机器学习中的过滤选择会重塑数据分布,并人为改变预测任务的难度。

直接答案

在这篇论文中,过滤并非中性的清洗步骤。由于过滤器会依据观测值选择性地丢弃或修改数据,它们会改变数据集的统计结构,并可能使预测任务被人为地变简单或变难。作者因此主张,过滤决策应当作为实验设计的一部分被报告、论证和分析,而不应被当作常规预处理。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

过滤改变的是预测问题本身

临床机器学习研究通常从预处理开始:缺失值、离群值、病历中的长时间缺口、不规律测量以及生理上不合理的观测,都会在训练前被删除或变换。论文的核心主张是,这些步骤并不中性。一个依据观测值选择性地丢弃或修改数据的过滤器,按定义就会改变输出数据集的统计性质。

这一点之所以重要,是因为被改变后的数据集可能已不再代表同一个预测问题。过滤可能移除困难病例、降低方差、拉开类别分布,或以其他方式改变数据,从而在未必提升临床实用性的情况下改善模型的表面表现。作者将此视为有效性与可比性问题:研究者可能在公开数据集上比较算法,却没有充分理解预处理决策如何塑造了这些算法训练和测试所用的数据。

十一种过滤器、两个阶段、一个ICU队列

该研究考察了应用于原始生命体征数据的十一种过滤策略,分为两个阶段。聚合前过滤器作用于每个按小时列表化单元格内的单条测量;聚合后过滤器作用于按小时聚合后生成的矩阵。每个过滤器都独立应用于未过滤数据集,生成各自独立的过滤后数据集,除明确说明外,过滤器不按顺序叠加使用。

该流程兼容三个公开可用的ICU数据库——MIMIC-III、MIMIC-IV和eICU——但研究主要聚焦于MIMIC-III,因为它是作为参考基线的MIMIC-Extract流程所依据的数据集。每个有效入院记录被表示为跨越24个小时区间和7个生命体征通道的多变量时间序列,构成24×7的原始观测矩阵。每次入院定义两个二分类任务:若该次入院内所有ICU时段的总时长超过三天,则“ICU停留延长”标签为正;若患者在住院期间死亡,则“死亡”标签为正,存活至出院则为负。

离群值边界剔除的是伪迹而非临床事件

七个聚合前过滤器在聚合前从每个小时单元格中移除生理上不合理的测量,采用包含端点的有效范围:心率[1, 600] bpm、收缩压[1, 400] mmHg、舒张压[1, 300] mmHg、平均血压[1, 300] mmHg、呼吸频率[1, 70] 次/分、体温[21, 50] °C、血氧饱和度[1, 100] %。它们的并集作为“全部生命体征”复合过滤器进行评估。

作者明确指出,这些边界并非用于移除由真实事件产生的有效数据。在心室颤动期间,成人心率可达每分钟500次,而心率过滤器会保留该值,因为它在生理上可能且具有临床相关性。相比之下,负心率或每分钟数千次的心率不可能出现在人类心脏中,因此被视为传感器错误或伪迹。过滤后列表变为空的小时单元格被设为NaN。

论文报告了这种值级过滤对数据的改变程度。在MIMIC-III心率统计的四个聚合层级中,原始数据集包含1,158,296条记录,最大值为9,999,999 bpm,标准差为9,291.5;应用生理合理性范围后,剩余1,157,789条记录,最大值为459 bpm,标准差为24.4。在心率离群值过滤前对前24小时做均值聚合后,45,985条记录显示最大值为555,652,标准差为2,590.9;过滤后,45,989条记录显示最大值为251.5,标准差为25.5。

记录级过滤损害死亡预测

三个聚合后过滤器移除整条患者记录,而非单条测量。“长缺失片段”在任一生命体征列包含连续10个或以上缺失值或零值时移除该记录。“长缺口”在连续两行或以上小时行为空时移除记录,即全部七个生命体征同时缺失或为零。“高无效数据”在整个24×7矩阵中无效单元格(NaN或零)比例超过10%时移除记录,该阈值会保留168个可能单元格值中最多缺失16个的记录。

作者认为,这些过滤器针对的是监测呈间歇性的记录,而在ICU环境中,这很可能与疾病严重程度、转科事件、扫描或操作相关。移除这类记录会使病情更重的队列向生命体征轨迹更完整、更规律的患者偏移,实际上模糊了类别之间的界限。在均值聚合下的死亡预测结果中,所有记录级过滤器都表现出负面影响:相对于原始未过滤基线,“长缺失片段”在测试准确率上偏差为−0.0123、宏观F1为−0.0069,“长缺口”为−0.0359和−0.0307,“高无效数据”为−0.0305和−0.0171。

作者指出,这些过滤器的标准可以放宽,使其影响更少的记录,但他们认为任何记录级过滤器仍会在数据中造成这一问题。

插补改变不了质心所能看到的东西

“填充缺失数据”过滤器在性质上不同于离群值移除和记录门控。它应用于聚合后,使用k近邻回归(k = 3个邻居)沿时间轴独立地对每个生命体征列中的NaN单元格进行插补,且仅当该列中至少存在两个已知值时才执行。缺失时间索引处的插补值是三个时间上最近观测值的距离加权均值。这反映了ICU记录是间歇性而非连续性的观察,因此短缺口更可能代表记录间隔,而非真正的生理缺失。

论文解释了为何该过滤器不产生可见的质心偏移。用于分布层面比较的每位患者质心,仅通过平均每个24小时生命体征列中未被掩码的单元格来计算。过滤前为NaN的单元格对过滤前质心没有贡献;插补后它们携带接近局部经验均值的值。因此每位患者的质心至多偏移插补噪声,而在数万条记录上聚合后,原始与过滤后的经验累积分布对每个生命体征在视觉上都难以区分。

作者强调,这不是过滤器的缺陷,而是该度量的结构性属性:质心摘要本质上无法感知缺失单元格是保持掩码还是被插补为接近局部均值。插补为下游模型提供的任何信号,只会出现在对记录内离散度或每个生命体征数据覆盖度敏感的其他度量中。

高无效数据过滤器人为拉开类别

论文中最具决策相关性的比较,关注观察到的性能提升究竟反映学习信号的真实增强,还是仅仅是对分类问题的人为简化。作者测量了相对于原始未过滤基线的测试准确率和宏观F1偏差,使用随机森林分类器在四个随机种子上进行五折交叉验证,并辅以McNemar检验,以评估正确与错误预测的模式是否发生显著变化。

对于“高无效数据”过滤器,结果显示准确率略有正向偏移,同时宏观F1有明显提升。作者将此与质心行为联系起来:对于心率、收缩压、舒张压、平均血压和血氧饱和度,死亡阳性类别存在一致的正向偏移,死亡阴性类别存在一致的负向偏移。足够幅度的偏移模式意味着两个类别要么变得更相似,要么其分离度被增大。由于“高无效数据”过滤器显示出分离度增大,作者得出结论:它实际上将质心进一步拉开,尽管底层生命体征发生了物理上不可能的偏移,却人为地使分类问题变简单。

论文还指出,过滤器引起的质心偏移的幅度和方向在不同结局组之间可能不同,这种偏移需要仔细检查,因为它可能表明底层机器学习任务正因数据集的根本性改变而被人为变简单。

按小时展平为何限制了结论

该研究的主要局限在于依赖展平的小时聚合架构。虽然这对基准测试而言是标准做法,但小时展平会抹去亚小时级的生理波动,以及作者描述为对急性患者恶化具有深刻预后意义的信息性缺失(MNAR)模式。作者指出,未来的架构阶段应探索能够直接保留和评估原始生理波动与采样动态的流程设计。

这一局限限定了过滤发现的可迁移范围。十一种过滤器是在源自ICU入院的按小时聚合24×7矩阵上评估的,两个二分类任务定义于MIMIC-III,并以MIMIC-Extract流程作为参考基线。结果刻画的是在该聚合层级上过滤如何重塑数据分布和下游任务难度;它们并未确立在保留亚小时级波动和采样动态时会发生什么。

该报告什么,该警惕什么

论文的实践优先级来自其自身的比较:最明显改变任务难度的并非值级离群值边界——它们移除了生理上不可能的测量,同时保留了具有临床相关性的极端值——而是移除整位患者的记录级过滤器,以及增大类别分离度的“高无效数据”过滤器。作者认为,仅提供代码或截断值表格是不够的;如果结果打算用于实际应用,研究者还需要解释为何每个过滤决策对所研究的临床和生物学问题而言是合适的。

对于评估临床机器学习结果的读者,论文的具体警告是:相对于原始基线的准确率或宏观F1正向偏差,本身并不构成模型更好的证据。相关的检查在于过滤器是否改变了类别结构——例如,是否使死亡阳性与死亡阴性质心在心率、血压、呼吸频率、体温或血氧饱和度上朝相反方向偏移——以及这种偏移对应的是一个真正更简单的问题,还是对同一问题的更好解答。作者更广泛的主张是,过滤选择应作为实验设计不可分割的一部分被明确报告、论证和分析,因为同一条过滤规则可能帮助一个任务而损害另一个任务。

本文引用的文献

1

Beyond the Model: The Critical Role of Data Filtering in Clinical Machine Learning

临床机器学习流程中的过滤决策会改变数据集的统计结构,并可能人为降低或提高预测任务复杂度,因此应被视为科学方法的一部分,而非常规预处理。