双随机混合把残差流分成两个通道
论文的第一个结果解释了双随机约束究竟带来了什么。任意双随机混合矩阵 H 都可以看作作用在加宽残差流的两个子空间上：由全 1 向量张成的均值方向，以及与之正交的差分子空间。在均值通道上，对任意混合矩阵、任意深度，mHC 都精确等价于单位增益的残差网络（定理 3.1）。混合矩阵的其他所有效应都留在差分通道中。
正是这种拆分让设计保持稳定。无约束混合矩阵会破坏恒等映射性质，因为混合矩阵的乘积可以无界地放大或衰减信号；论文引用了 27B 参数规模运行中复合增益达到 10^3 量级并伴随损失尖峰的结果。双随机矩阵是非扩张的，且对乘积封闭，因此均值路径保持单位增益，放大效应除了差分通道之外无处累积。
额外宽度是时间尺度有限的记忆衰减
在差分通道上，每层按混合矩阵的第二奇异值 σ2(H) 收缩，其上界为 1 − n·min_ij H_ij（定理 3.2）。对这一收缩反复迭代，就得到论文最核心的解释：额外宽度表现为一种记忆衰减，其时间尺度为 1/(1−σ2) 层（推论 3.3）。σ2 接近 1 的混合矩阵能让差异在多层中存活；σ2 很小的混合矩阵则很快将其遗忘。
该上界还确定了哪些混合矩阵根本不会坍缩。在非负混合矩阵中，只有置换矩阵能避免坍缩（命题 3.4）。由于置换矩阵恰好是 Birkhoff 多胞形的极点，无坍缩的非负混合矩阵位于顶点，而任何内部的双随机混合矩阵都会收缩差分通道。论文在 n = 4 下的数值检验证实了 σ2 随深度按几何衰减的预测，并报告即使 logit 尺度 M = 4，差分通道也会在 25 层内损失六个数量级。
Sinkhorn-logit 映射是多胞形的全局坐标图
mHC 并不直接优化混合矩阵，而是优化 logits W，并用固定次数的 Sinkhorn–Knopp 迭代构造 H = SK(exp W)。论文证明该映射是正双随机矩阵的全局坐标图，且其 logit 梯度恰好是 Fisher–Rao 梯度（引理 4.2）。因此，logit 梯度流遵循的是平方 Fisher–Rao 度量，而非欧氏度量。
实际后果被表述为一个等价关系：直通更新——即反向传播时把 Sinkhorn 当作恒等映射——精确等价于熵镜像下降，也精确等价于带 Sinkhorn 回缩的黎曼梯度下降（定理 4.3）。这是关于该更新规则本身是什么的陈述，而不是提出新的优化器。论文还指出，在 mHC 中 logits 为 W = λ·mat(x̃φ) + b，因此对 b 和对 φ 的梯度流诱导出同一流动，只是速度不同；对一个批次而言，更新以 Gram 权重 λ²⟨x̃, x̃′⟩ 对各输入的 logit 梯度取平均。
logit 梯度流只能以 1/t 逼近置换顶点
由于无坍缩的非负混合矩阵就是顶点，而顶点在 logit 坐标图中位于无穷远处，向顶点移动的速度就变得重要。在 logit 梯度流下，每个元素的对数变化率被 4n³‖∇f‖∞·ε(H) 界定，其中 ε(H) 是到最近置换矩阵的距离（定理 5.3）。对该上界积分得到多项式逼近：流要达到接近度 ε，至少需要 (1/ε − 1/ε0)/c 的时间；要让与顶点的距离翻倍，至少需要 1/(2cε0)。
Fisher–Rao 流的表现不同。在 dH/dt = −grad f(H) 下，同一接近度被界定在 ε0·e^(−2nGt) 与 ε0·e^(2nGt) 之间（定理 5.4），因此它以指数速度逼近和离开顶点。论文把这一差距称为顶点黏滞：logit 坐标图让顶点位于无穷远处，欧氏式的梯度步只能缓慢爬向它们。论文将其表述为把单纯形上 softmax 策略梯度与自然策略梯度之间的已知差距提升到 Birkhoff 多胞形，其 n = 4 实验显示 logit 梯度下降沿 1/t 曲线变化，而直通更新移动得快得多。
固定的 Sinkhorn 预算限制单层可达的时间尺度
同一个量 σ2 也控制投影的代价。Sinkhorn–Knopp 的局部收敛因子是每次迭代 σ2²，因此目标混合矩阵时间尺度越长的那一层，Sinkhorn 投影得也越慢。论文把它转化为一个预算陈述：在 t_max 次迭代下，目标精度 γ/L 只能对时间尺度满足 τ ≲ 2·t_max / log(L·r0/γ) 的层达到。
对论文用作参照的 mHC 配置——t_max = 20 次迭代、L = 60 层、观测到的反向增益漂移约 1.6、初始相对误差 r0 ≈ 1——这一启发式标度律给出的上限约为 τ ≲ 8 层。论文强调这是启发式的，因为底层命题是渐近的；它同时给出了截断导致的反向增益漂移上界（命题 6.2）。实际含义是：时间尺度与投影代价并非彼此独立的旋钮，要求长记忆也就要求 Sinkhorn 提供超出预算的迭代次数。
等距混合矩阵消除黏滞但放弃非负性
论文最后一个结构性结果刻画了替代方案。在保均值非扩张混合矩阵中，无坍缩的那些构成一个同构于 O(n−1) 的紧李群，记作 𝒪1(n) = {J/n + UZUᵀ : Z ∈ O(n−1)}（命题 7.1）。其中每个元素都固定全 1 向量，因此均值通道仍被保留，且每个流差异保持其范数，从而得到无限时间尺度。残差路径雅可比矩阵的所有奇异值在任意深度都等于 1。
代价是明确的。𝒪1(n) 没有边界也没有黏滞，置换矩阵是该群中的普通点，Cayley 回缩只需一次线性求解——但混合后的流不再是各条流的凸组合，因此失去了非负性。论文还把它与 SO(n) 中的完全正交混合区分开来：后者不固定全 1 向量，这类混合矩阵会耦合均值与差异，因此均值不再是单位增益的残差网络，整条流改为遵循旋转的恒等映射。
在训练好的模型中应优先检查哪个混合矩阵属性
论文对其实际内容的总结是比较四种移动混合矩阵的方式：精确 logit 梯度下降、直通更新、对 logits 使用 Adam，以及在 𝒪1(n) 上的黎曼梯度下降。它们在诱导动力学、几何结构以及反向传播是否经过 Sinkhorn 上各不相同。logit 梯度下降遵循平方 Fisher–Rao 度量，以 1/t 的速度逼近顶点；直通更新是熵镜像下降，以指数速度移动，且反向传播不经过 Sinkhorn；对 logits 使用 Adam 在顶点附近表现类似符号更新，经验上呈指数速度；等距方案则根本没有顶点可逼近。
在这一菜单下，论文中最具决策价值的量是每一层的 σ2(H_l)，因为它同时决定该层的记忆时间尺度和精确投影所需的 Sinkhorn 预算。第二个廉价诊断量是截断投影最终的列和误差，它界定了反向增益的漂移。论文明确说明其理论未能解决什么：它没有说明长时间尺度是否有助于语言建模，只说明在中等投影预算下 Birkhoff 设计无法拥有长时间尺度，并指出快速收敛到顶点可能为时过早。因此它留给读者的优先事项是一个阈值问题——给定迭代预算实际能提供多少时间尺度——而不是对双随机混合是否正确的裁决。
本文引用的文献
The Birkhoff Geometry of Manifold-Constrained Hyper-Connections: Two Channels, Vertex Viscosity, and Sinkhorn as a Retraction
双随机混合矩阵把加宽的残差流分成均值通道与差分通道：前者精确等价于单位增益的残差网络，后者按 σ2 ≤ 1 − n·min_ij H_ij 收缩，形成时间尺度为 1/(1−σ2) 的记忆衰减；Sinkhorn-logit 映射是全局坐标图，其 logit 梯度就是 Fisher–Rao 梯度，因此直通更新精确等价于熵镜像下降，它以指数速度到达置换顶点，而 logit 梯度流只能以 1/t 的速度到达；固定的 t_max 次 Sinkhorn 迭代预算限制了可达的时间尺度。