仅靠非高斯性为何会耗尽信息
线性结构方程模型把每个观测变量表示为更早变量的加权和再加上一个外部扰动。当扰动为高斯分布时,观测数据主要通过协方差结构携带信息,而协方差结构通常无法唯一确定一个有向图;这类方法一般只能恢复马尔可夫等价类,并需要因果顺序等额外假设。LiNGAM 走的是另一条路:它把扰动视为非高斯,并将线性无环模型作为盲源分离问题求解,其中扰动是相互独立的源,混合矩阵编码了因果系数。
这条路径存在硬性上限。经典 LiNGAM 把扰动建模为在观测间独立采样的随机变量,因此分离算法可用的唯一统计多样性就是高阶统计量,可识别性要求至多一个扰动为高斯。当多个扰动都是高斯时,高阶统计量无从利用,而扰动中的任何时间结构都被直接丢弃。
互信息率把时间纳入可识别性
论文把扰动模型从相互独立的随机变量扩展为相互独立的随机过程,其样本不必在时间上独立,同时保持相同的线性无环因果结构。时间上独立的扰动仍作为特例包含在内。由于扰动现在可以具有样本依赖,其时间结构就成为与高阶统计量并列的另一种统计多样性来源。
为了利用这种多样性,目标函数也随之改变。方法不再最小化源估计之间的瞬时互信息,而是最小化互信息率,它通过每个源估计的熵率来定义,衡量随机过程平均不确定性的逐样本密度。互信息率同时纳入高阶统计量与样本依赖。对于实值、零均值、宽平稳的高斯扰动,当它们的自协方差函数不成比例时,即不存在非零缩放使一个自协方差函数在所有滞后上等于另一个,源就可以通过二阶统计量区分。正是这一条件让高斯扰动过程可被识别,而仅靠非高斯性要求是做不到的。
两种多样性在不同情形下各自失效
合成实验的设计目的是区分这两种信息源,而不是选出单一赢家。实验测试了四种设定:仅高阶统计量、高阶统计量主导、时间主导、仅时间。性能以相对 Frobenius 误差(越低越好)和 AUPRC(越高越好)衡量,样本量 T 从 0.5 到 10 千,采用对数刻度。曲线报告 50 次试验的平均指标值,阴影区域表示 95% 置信区间。
这一模式是互补而非冗余。仅依赖高阶统计量的盲源分离方法在扰动过程为高斯时失败,因为非高斯性不足以实现识别。仅依赖样本依赖的方法在时间多样性有限时表现不佳。同时利用两者在所测试的扰动设定下实现了近乎完美的因果恢复。实际含义是,这两种多样性互相覆盖对方的盲区:任何一方都不是另一方的严格更优替代,方法选择应取决于数据实际提供的是哪种多样性。
fMRI 自助稳定性分数衡量的是什么
在真实功能磁共振成像数据上,真实因果结构未知,因此论文比较的是各方法估计因果关系的稳定性,而非准确性。受试者层面的自助重采样有放回地抽取 K 名受试者,并沿时间轴拼接其表示,形成组表示。稳定性在 B = 500 个自助样本上量化。对每个自助邻接矩阵,用传递闭包确定所选独立成分之间的祖先关系,变量 i 是变量 j 祖先的概率就是该关系在自助样本中出现的比率。
汇总分数 S_anc 是所有变量对上相反祖先频率之差的绝对值的平均。数值越大,表示对某一祖先方向的偏好越可复现。低值可能反映方向模糊,也可能反映频繁的不可比,后者出现的频率被单独记录;在这些数据中不可比总体较少,因此该分数主要反映方向一致性。这一区分很重要,因为高稳定性分数并不等于图正确:它衡量的是方向的可复现性,而不是与未知真相的一致性。
联合利用带来最高的祖先稳定性
同时利用高阶统计量与样本依赖的 ERBM 取得了最高的方向性祖先稳定性,S_anc = 0.7330,其后是 WASOBI 的 0.5721、DirectLiNGAM 的 0.4504 和 FastICA 的 0.4170。ERBM 一致地把 AU 成分置于 SC 的下游,所有 SC 到 AU 的祖先概率都超过 0.90。WASOBI 偏好相同模式,但一致性较低。两种方法在所有估计中也都把 AU1 判为 AU2 的祖先。
更高的自助稳定性并不意味着方法之间一致。ERBM 偏好 SC3 是 SC2 的祖先,概率为 0.79,而 WASOBI 偏好相反方向,概率为 0.86。论文自己的解读是,时间信息提升了方向的可复现性,但未必确立唯一的因果图。这比恢复真实结构是更窄的论断,也是证据所支持的论断。
可识别性论断止于何处
更广的可识别性结果是有条件的。当高斯扰动过程的协方差函数足够不同时,它们才可被识别,这一条件被形式化为自协方差函数不成比例;如果时间结构无法区分各源,样本依赖就毫无贡献。合成证据覆盖的是所测试的扰动设定和样本量,而非所有可能情形。
fMRI 分析有其自身的边界。因果解读仍受限于所假设的共同组水平结构、沿时间轴拼接受试者表示时引入的受试者边界伪影,以及所选 SC 和 AU 成分之外的未观测混杂因素。稳定性分数还取决于自助设计,包括重采样次数和成分选择。这些约束限定的是 fMRI 结果本身;它们并不因此动摇合成实验的可识别性论证,后者建立在互信息率表述之上。
关键在于让多样性与数据相匹配
这篇论文支持的决策不是“总是把两者结合”,而是“检查你的扰动实际提供的是哪种多样性”。如果扰动是高斯的,无论收集多少数据,高阶统计量都无法识别结构,此时相关问题是它们的自协方差函数是否不成比例。如果时间多样性很弱,样本依赖无法挽救可识别性,非高斯性仍是可用的信号。当两者都存在时,联合方法是合适的默认选择,也正是它在所测试设定下产生近乎完美恢复的情形。
对于 fMRI 应用,论文自身的比较给出了优先级:在四种方法中,同时利用高阶统计量与样本依赖的方法给出了最可复现的祖先方向,S_anc = 0.7330,而其余三者分别为 0.5721、0.4504 和 0.4170。读者从这项研究中最应带走的是:方向的可复现性与方向的一致性是两个不同问题,方法选择应跟随扰动情形,而不是对某种统计工具的普遍偏好。
本文引用的文献
Sample Dependence-Aware Blind Source Separation for Linear Causal Discovery
用互信息率取代互信息代价,把 LiNGAM 式的可识别性扩展到具有不成比例协方差函数的高斯扰动过程;同时利用高阶统计量与样本依赖,在合成实验中实现近乎完美的因果恢复,并在 fMRI 数据上取得更高的自助祖先稳定性。
