数据驱动生物建模中的参数可识别性有多稳定?

保留损失函数的 Hessian 而不只用 Fisher 信息,会改变哪些生物模型参数被判定为可识别。

直接答案

参数可识别性比 Fisher 信息检验所显示的更脆弱。当 Fisher 矩阵退化时,论文表明估计只在 Hölder-1/2 速率下保持稳定;若残差不为零,被丢弃的 Hessian 项会在一个与残差范数成正比的交叉尺度以下恢复 Lipschitz 稳定性。在 JAK–STAT 基准中,考虑 Hessian 的判据仅凭局部导数就复现了全部七个参数的剖面似然分类。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

Fisher 近似为何误判弱约束方向

实际可识别性问的是:数据能否把模型参数限定在有限范围内。常用的金标准是剖面似然:固定一个参数、反复重新优化模型来回答这个问题,但对高维生物系统而言代价高到难以承受。一种更省算力的替代做法,是用模型雅可比矩阵构造的 Fisher 信息矩阵取代损失函数的 Hessian,但这一步丢掉了模型输出的二阶曲率。

论文的论点是:恰恰在可识别性存疑的地方,被丢弃的这一项最关键。沿弱约束的参数方向,Fisher 信息很小,被忽略的 Hessian 贡献可能与它相当甚至更大。于是,一个参数可能被标为不可识别,尽管二阶曲率对它构成约束;其不确定性也可能被误判超过一个数量级。作者保留完整的损失 Hessian K = F + r*⊗H,其中 F 是 Fisher 矩阵,H 是堆叠观测的 Hessian 张量,r* 是拟合参数处的残差。

稳定性阶数取决于残差与扰动大小

论文把可识别性定义为估计参数在数据扰动下的稳定性:每个受扰动的极小点都必须与原始估计保持受控距离。残差为零时,损失 Hessian 退化为 Fisher 矩阵。若该矩阵奇异,位移会分成两部分:一部分位于值域内,由雅可比矩阵以 Lipschitz 速率控制;另一部分位于零空间,Fisher 矩阵对它不施加约束,只有 Hessian 张量在 Fisher 零空间上的强制性为正时,才以 Hölder-1/2 速率控制它。当 Fisher 矩阵满秩时,Lipschitz 速率重新出现。

残差不为零会改变这一图景。r*⊗H 这一项抬高了 Fisher 矩阵的弱特征值,损失 Hessian 变为正定,从而给出 Lipschitz 稳定性。在这两种极限之间,残差范数与扰动大小共同决定阶数:低于与残差范数成正比的交叉尺度时为 Lipschitz,高于它时为 Hölder-1/2。这是论文光滑性假设下的局部行为陈述,并不表示每个生物模型都会达到其中某一速率。

让其余参数自由变化的单坐标检验

对单个参数,论文在最小二乘损失的局部二次近似内工作,并通过广义 Schur 补消去其余参数。由此得到每个坐标的剖面曲率 κ 和 Lipschitz 系数 L,该坐标可识别当且仅当 κ 为正。这一构造容许雅可比矩阵奇异,也容许冗余的 Hessian 分块,因此不要求整个参数向量性质良好。

与基于子集的筛选方法的区别是关键所在。Quaiser 和 Yao 方法评估的是:在固定或排除其余参数的前提下,某个参数子集是否可估计;因此保留一个参数,并不能证明它在全部参数自由时也可识别。新判据在其余参数全部自由的情况下评估每个坐标,作者据此认为它无需反复优化就能复现剖面似然的分类。

JAK–STAT 显示 Fisher 高估敏感度

JAK–STAT 信号通路基准用两个可观测量的时间序列拟合七个未知量:四个动力学参数、两个缩放因子和一个初始条件。剖面似然判定 p1、p3 和 p4 为实际可识别,其剖面在两侧都越过置信阈值;而 p2、s1、s2 和 x1(0) 的剖面是平坦的。所提判据仅凭局部雅可比和 Hessian 就给出相同划分:三个可识别坐标的 Lipschitz 系数有限,其余四个曲率为零、系数无界。

对可识别的坐标,考虑 Hessian 的系数小于对应的 Fisher 系数,p3 处最明显,说明 Fisher 近似高估了这些估计对数据扰动的敏感度。子集方法则出现分歧:Quaiser 方法剔除 p2 和 x1(0),保留 s1 和 s2;阈值取 0.04 的 Yao 方法只排除 s2。两者都保留了在完整剖面下表现平坦的参数。

二阶分析区分了四个不可识别坐标背后的两种机制。沿一个特征方向,一阶曲率、强制性和残差诱导曲率都在数值精度内消失;这是一个使两个可观测量都不变的缩放对称性,因此不适用任何稳定性速率。沿另一个弱方向,一阶曲率约为 10^-6,而残差项和强制性项约为 10^-3 量级,因此该方向受 Fisher 信息弱约束,但受 Hessian 约束。噪声水平位于交叉尺度之上,在数据的分辨率下把该方向置于 Hölder 区间。

HIV 患者间校正幅度差异明显

HIV 宿主–病毒模型有六个参数,描述靶细胞更新、感染、病毒产生和清除,用两名峰值后轨迹相反的患者的对数血浆病毒载量进行拟合。对患者 3,校正后与 Fisher Hessian 的四个最大特征值高度一致,但最小特征值在校正后上升近三个数量级。变化集中在约束最弱的方向,而特征向量取向变化很小,最大成对扰动约为 1.1×10^-2。

对患者 8,两个特征值谱几乎重合。作者用一个诊断量概括这一对比,把校正后与 Fisher 的不确定性估计同 MCMC 结果比较:该诊断量低于 1 时 Fisher 近似足够,远高于 1 时它高估了区间宽度。实际启示是:残差曲率必须对照局部信息结构来判断,而不能只看特征向量的变化;校正幅度是患者特异的,并非模型的固定属性。

淀粉样蛋白预测区间在时间上移动

在淀粉样蛋白(Aβ)累积的应用中,论文把二次参数后验传播通过模型,得到预测区间。校正后的 Hessian 谱出现明显谱隙,作者据此把阈值以下的特征子空间视为有效零空间。该子空间正则化贡献的差异,把最窄预测区间的年龄从 84.36 岁移到 80.73 岁,移入 Aβ 快速累积的时期。

这一结果之所以重要,是因为它把参数层面的校正与一个临床上可读的量联系起来:最小预测不确定性出现的时间。它也划出一条边界:论文区分精确零空间与由谱截断定义的子空间,并指出 sloppiness(敏感性的层级结构)本身并不构成实际不可识别的证据。这里的阈值划分之所以站得住,是因为确实存在明显谱隙,而不是因为截断普遍安全。

Hessian 校正何时改变判断

论文的重点是对可识别性作考虑残差的解读。当校正后与未校正的信息结构几乎重合时,Fisher 近似足够,例如患者 8 和 JAK–STAT 中约束良好的坐标。当最小特征值被显著抬高(如患者 3),或某个弱方向由二阶曲率而非一阶敏感度约束时,它会改变判断。在这些情况下,相关的问题不只是参数是否可识别,还包括它在什么稳定性速率下、在什么扰动尺度上可识别。

该框架只需要局部导数计算,这正是它在大模型上可行的原因——在这些模型中剖面似然难以承受。其结论仍是局部的,并依赖损失的二次近似,因此作者指出,在该近似失效之处需要更高阶分析。对建模者最有用的启示是:在信任基于 Fisher 的可识别性标签之前,先比较校正后与 Fisher 的谱以及残差范数,因为决定标签的方向,往往正是 Fisher 矩阵约束最弱的方向。

本文引用的文献

1

Unveiling Scaling Laws of Parameter Identifiability and Uncertainty Quantification in Data-Driven Biological Modeling

保留完整的损失 Hessian,可在 Fisher 信息退化且残差为零时给出 Hölder-1/2 稳定性,并在与残差成正比的交叉尺度以下给出 Lipschitz 稳定性;由此得到的坐标判据在 JAK–STAT 中复现了剖面似然分类,并在 HIV 和淀粉样蛋白模型中校正了基于 Fisher 的不确定性。