重尾样本相关矩阵如何产生阶梯式特征值相变?

重尾样本相关矩阵的最大特征值随尾指数与长宽比呈阶梯式相变。

直接答案

对于元素独立同分布、均值为零、方差为单位的 p_n × n 数据矩阵,当元素尾在首次碰撞阶 k*(φ) = ⌊√φ⌋+2 处为次临界,即 t^{α*(φ)} P{|ξ|>t} → 0 且 α*(φ) = 2 + 2/k*(φ) 时,样本相关矩阵 R_n 的最大特征值停留在 Marčenko–Pastur 上边缘 λ+ = (1+√φ)²。当尾在某个阶 k ≥ k*(φ) 处为超临界、而在 k+1 阶为次临界时,λ₁(R_n) 转而收敛到确定性水平 θ_φ(k) = k(1 + φ/(k−1))。由于 k*(φ) 在 φ = 1, 4, 9, … 处跳变,临界指数 α*(φ) 逐级下降,在收敛到 λ+ 与逐级离群值之间形成一条阶梯式边界。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

阶梯边界区分了哪两种行为

论文研究无中心化样本相关矩阵 R_n = D_n^{-1/2} S_n D_n^{-1/2} 的最大特征值 λ₁(R_n),该矩阵由 p_n × n 数据矩阵 X_n 构造,元素为独立同分布的实值、均值为零、方差为单位,处于比例区间 p_n/n → φ ∈ (0, ∞)。R_n 的经验谱分布收敛到上边缘为 λ+ = (1+√φ)² 的 Marčenko–Pastur 律,但仅凭这一点无法确定极端特征值。论文的问题是:元素分布 ξ 满足哪些尾部条件时 λ₁(R_n) 收敛到 λ+,又在哪些条件下分离为高于 λ+ 的离群值。

答案由一个整数——首次碰撞阶 k*(φ) = ⌊√φ⌋+2——以及相应的临界尾指数 α*(φ) = 2 + 2/k*(φ) 组织起来。若 t → ∞ 时 t^{α*(φ)} P{|ξ|>t} → 0,则 λ₁(R_n) 依概率收敛到 λ+ = (1+√φ)²。若尾在某个阶 k ≥ k*(φ) 处为超临界、而在下一阶 k+1 处为次临界,则 λ₁(R_n) 依概率收敛到确定性水平 θ_φ(k) = k(1 + φ/(k−1))。这两种行为之间的边界不是一条单一曲线,而是一条阶梯,因为 k*(φ) 在 φ = 1, 4, 9, … 处增大,α*(φ) 相应逐级下降。

同一列中的碰撞为何驱动相变

机制是同一列中不同行的大元素发生碰撞。论文统计位于同一列 k 个不同行、且绝对值都超过 √n 的 k 个元素的集合。这类 k 行碰撞的期望数目为 n · C(p_n, k) · P{|ξ|>√n}^k,其行为如同 (φ^k/k! + o(1)) · (n^{α_k/2} P{|ξ|>√n})^k,其中 α_k = 2 + 2/k。正是这一恒等式使指数 α_k = 2 + 2/k 成为 k 阶碰撞的自然尺度。

随后,ξ 的尾在 k 阶被称为次临界、超临界或临界,取决于 t → ∞ 时 t^{α_k} P{|ξ|>t} 分别趋于零、无穷或有限正常数。首次碰撞阶 k*(φ) 是超过阈值 1+√φ 的最小整数,这正是 k*(φ) = ⌊√φ⌋+2、以及临界指数 α*(φ) = 2 + 2/k*(φ) 在 φ = 1, 4, 9, … 处发生变化的原因。在这一图景中,碰撞行数 k 扮演了尖峰总体模型中总体尖峰的角色,而离群值映射 θ_φ(x) = x(1 + φ/(x−1))(x ≥ 1+√φ)把该碰撞阶转换为离群值的极限位置。

阶梯最初几级台阶

从最初几个取值最容易读出这条阶梯。当 0 < φ < 1 时,k*(φ) = 2,α*(φ) = 3。当 1 ≤ φ < 4 时,k*(φ) = 3,α*(φ) = 8/3。当 4 ≤ φ < 9 时,k*(φ) = 4,α*(φ) = 5/2。每当 φ 越过一个完全平方数,首次碰撞阶就上升一,临界指数随之下降,因此 (φ, α) 平面中的次临界区域由一条下降的阶梯而非光滑曲线界定。

论文还指出,次临界条件 t^{α*(φ)} P{|ξ|>t} → 0 严格弱于矩条件 E|ξ|^{α*(φ)} < ∞。与 t^{−α*(φ)}/log t 相当的尾满足该条件,尽管 E|ξ|^{α*(φ)} = ∞。这对那些原本会把 α*(φ) 阶矩有限当作相关阈值的读者很重要;论文的判据是一个尾部极限陈述,而非矩存在性陈述。

台阶之间的确定性离群水平

在台阶之间,最大特征值并不停留在 λ+。若尾在阶 k ≥ k*(φ) 处为超临界、在阶 k+1 处为次临界,即 t^{α_k} P{|ξ|>t} → ∞ 且 t^{α_{k+1}} P{|ξ|>t} → 0,则 λ₁(R_n) 依概率收敛到 θ_φ(k) = k(1 + φ/(k−1))。论文给出两个具体推论:当 0 < φ < 1 且 t³ P{|ξ|>t} → ∞、t^{8/3} P{|ξ|>t} → 0 时,λ₁(R_n) → 2(1+φ);当 1 ≤ φ < 4 且 t^{8/3} P{|ξ|>t} → ∞、t^{5/2} P{|ξ|>t} → 0 时,λ₁(R_n) → 3(1+φ/2)。

这些水平是确定性的而非随机的,并且在相应带状区域内部严格高于 λ+。在右侧竖直边界 φ = (k−1)² 上,水平 θ_φ(k) 与 λ+ 重合;由于该边界上 k*(φ) = k+1,次临界定理在 α_{k+1} < α ≤ α_k 时适用。论文明确指出,每条右侧竖直边界都属于次临界区域,包括用空心圆标记的上端点,但不包括用实心圆标记的下端点;位于 α = α_{k+1} 的下端点属于 k+1 阶临界区域。

临界尺度产生泊松离群值

在精确临界尺度上,即对某个固定 k ≥ k*(φ) 有 t^{α_k} P{|ξ|>t} → ω ∈ (0, ∞) 时,行为再次改变。论文定义了谱基线 β_φ(k−1) = (1+√φ) ∨ (k−1) 与 ϑ_φ(k−1) = θ_φ(β_φ(k−1))。在首个临界阶 k = k*(φ) 处,该基线等于 Marčenko–Pastur 上边缘 λ+;在更高阶处它等于 θ_φ(k−1)。R_n 中高于 ϑ_φ(k−1) 的特征值点过程在 (ϑ_φ(k−1), ∞) 上依模糊拓扑收敛到强度为 Λ_{k,φ,ω} 的泊松随机测度,该强度无原子且总质量有限为正。

该强度由归一化元素幅值 a ∈ R_+^k 的 k 行碰撞构造。对每次这样的碰撞,论文构造对角元为 1、最大特征值为 γ_k(a) 的矩阵 M_k(a),只要 γ_k(a) > β_φ(k−1),相应离群值的渐近位置就是 θ_φ(γ_k(a))。该临界区域中 λ₁(R_n) 的极限分布 H_{k,φ,ω} 在低于 ϑ_φ(k−1) 处为 0,在 [ϑ_φ(k−1), θ_φ(k)) 上等于 exp(−Λ_{k,φ,ω}((λ, ∞))),在 θ_φ(k) 及以上等于 1。由于强度总质量有限为正,H_{k,φ,ω} 在基线 ϑ_φ(k−1) 处有一个正原子,这正是连接相邻相的原因。

有限方差为何仍不足够

论文的第三个区域是超超临界区域:若对每个固定 k ≥ k*(φ) 都有 t^{α_k} P{|ξ|>t} → ∞,则 λ₁(R_n) 依概率发散到无穷。论文强调,即使 ξ 具有有限方差,该条件也可能成立。一个中心化分布若满足 P{|ξ|>t} ≍ t^{−2}(log t)^{−2},则具有有限二阶矩并满足超超临界条件,因此仅有限方差并不能使 λ₁(R_n) 保持有界。

这是论文与样本协方差矩阵经典 Bai–Yin 图景最鲜明的对比:在后者中,E|ξ|⁴ < ∞ 给出 λ₁(S_n) 几乎必然收敛到 λ+,而 E|ξ|⁴ = ∞ 给出 lim sup λ₁(S_n) = ∞ 几乎必然成立。对于自归一化的相关矩阵 R_n,相关阈值不是四阶矩,而是由元素尾与长宽比 φ 共同决定的尾指数阶梯 α*(φ), α_{k*(φ)+1}, …。

阶梯结论的适用范围与边界

这些结果是在 Eξ = 0、E|ξ|² = 1 且 p_n/n → φ ∈ (0, ∞) 下针对无中心化相关矩阵 R_n 陈述的,论文将其推广到 Pearson 样本相关矩阵 R°_n,后者在归一化前先按样本均值对每个特征中心化。定理 1.1、1.2、1.5 和 1.6 的 Pearson 版本以相同的临界强度和极限律成立。论文还指出,相关矩阵在单行正比例缩放下不变,因此对于零均值、有限方差的元素,单位方差归一化不失一般性。

论文将其与随机正则图谱偏差中的阶梯现象作了类比:在那里,P{‖A_n‖ ≥ ρ(m)+ε} 的多项式衰减指数随谱阈值上升而按整数步增大。论文谨慎地指出,这两条阶梯描述的是不同现象:本文结果关注最大特征值的一阶行为如何随元素尾与长宽比变化,而随机正则图结果关注稀有事件概率如何随谱阈值变化。类比之处在于产生不同离群水平的局部结构,而非所比较的量本身。

对于想从论文中获取判断依据的读者,起作用的对象是数对 (φ, α)。首次碰撞阶 k*(φ) = ⌊√φ⌋+2 确定了哪个尾指数 α*(φ) = 2 + 2/k*(φ) 区分收敛到 λ+ 与出现离群值,而确定性水平 θ_φ(k) = k(1 + φ/(k−1)) 告诉你当尾在阶 k 处超临界、在 k+1 处次临界时离群值落在哪里。最关键的一项检查是 t^{α*(φ)} P{|ξ|>t} 趋于零、无穷还是有限正常数,因为这一选择决定了次临界、超超临界还是临界区域,从而决定 λ₁(R_n) 是停留在 Marčenko–Pastur 边缘、发散,还是遵循一个在基线处带原子的泊松驱动极限律。

本文引用的文献

1

Staircase phase transitions for the largest eigenvalue of heavy-tailed sample correlation matrices

重尾样本相关矩阵的最大特征值遵循由首次碰撞阶 k*(φ) = ⌊√φ⌋+2 与临界尾指数 α*(φ) = 2 + 2/k*(φ) 支配的阶梯式相变;在阶梯之下它收敛到 Marčenko–Pastur 上边缘,在台阶之间它收敛到确定性水平 θ_φ(k) = k(1 + φ/(k−1)),在临界尺度上它服从一个在基线处带原子的泊松驱动极限律,而若每个固定碰撞阶都超临界,则尽管元素方差有限,它仍依概率发散。