ARO 仅凭转录组重建蛋白质组与代谢组
论文的核心主张是:一个观测到的组学层就足以恢复其他层。ARO 从单一输入重建缺失和未配对的模态,具体而言,它能从转录组测量重建蛋白质组和代谢组数据。这一点之所以重要,是因为功能性分子检测成本高昂,而计算生物学中缺失模态和未配对样本十分普遍,阻碍了全面的多组学刻画。
实现这一点的设计选择是使用一个跨模态共享的自编码器,而不是为每个模态单独建模。ARO 不需要在大型外部数据集上预训练,也不引入生物学先验、通路信息或辅助影像数据。它依靠的是细致的预处理、统一的潜在表示和掩码来重建被掩码的数据。
两个配对癌症队列汇成一个 115 × 74,002 矩阵
证据来自两个公开的多组学癌症数据集。胶质母细胞瘤队列包含基因表达(FPKM)、蛋白质组、磷酸化蛋白质组和代谢组。肾细胞癌队列包含 RNA-seq 表达(TPM)、蛋白质丰度和代谢物化合物丰度。两个队列都获取了肿瘤与正常配对样本的多组学图谱。
每个模态表示为一个特征矩阵,这些矩阵沿特征维度拼接成一个规模为 115 × 74,002 的统一数据集,其中每个特征对应一个跨越转录组、蛋白质组和代谢组测量的独立分子实体,每一行对应一位患者。特征标识符通过 g:Profiler 统一为 ENSG 基因 ID,通过 MetaboAnalyst 统一为 KEGG 代谢物 ID,并去除 ENSEMBL 版本后缀。零方差特征被移除,训练-验证-测试划分在患者层面按 70/15/15 的比例进行。
作者指出,归一化是对每个特征独立进行的,让每个基因按其所在数据集内的自身分布进行标准化,而不是把两个队列转换为共同的表达度量。他们把目标描述为方法学而非生物信息学的,并表示已注意防止验证集或测试集分布信息泄漏到训练数据中。
MSE 与 Huber 损失对 ARO 与 PCA 的排序不同
重建结果用两种损失报告,均为 5 次运行的平均值,而这两个指标并不一致。在 MSE 下,ARO 未掩码在训练集为 0.064,验证集为 0.15,测试集为 0.15;ARO 掩码为 0.046、0.14 和 0.14。PCA 基线在训练集为 3.1e-30,但验证集和测试集为 0.14 和 0.14。
在 Huber 损失下,ARO 掩码在训练集为 0.022,验证集为 0.070,测试集为 0.068;ARO 未掩码为 0.032、0.071 和 0.07。PCA 基线在训练集为 1.5e-30,验证集为 0.068,测试集为 0.065。
PCA 接近零的训练值并不能说明它在任何有用意义上重建得更好:PCA 直接拟合数据,其验证和测试误差与 ARO 处于同一水平。掩码与未掩码两个变体在验证集和测试集上的差异也很小,因此 0.15 这个标志性 MSE 应被理解为特指未掩码设置,而不是覆盖两种配置的单一数字。
303.9M 参数自编码器在 MODIS 失败处仍可训练
ARO 是一个全连接前馈自编码器。编码器先施加 p = 0.1 的输入 dropout,然后从 71,094 维线性投影到 2,048 维,接着是三个维度为 2,048 的全连接隐藏层,每层后接 ReLU 激活和 p = 0.0 的 dropout,最终得到 2,048 维的模态隐藏表示。解码器通过最后一个线性层投影回原始特征空间,并接 softplus 激活,以在预处理和对数空间归一化后强制输出非负。被评估的模型约有 303.9M 个可训练参数。
训练使用 AdamW,学习率为 10^-5,无权重衰减;ReduceLROnPlateau 调度器,衰减因子 0.1,耐心值为 10 个 epoch;训练 200 个 epoch,批大小 80,混合 bfloat16 精度并以 fp32 作为回退,在 CUDA 设备上使用 torch.compile。未使用批归一化。优化目标是 Huber 损失,超参数通过 Weights & Biases 的贝叶斯优化在 dropout 配置、隐藏维度、学习率、模态特定掩码、隐藏层数、批归一化使用和权重衰减上进行调整。
作者原本想与 MODIS 比较,他们认为 MODIS 是与 ARO 最接近的方法。但这一比较无法完成:在本数据的维度下,MODIS 会扩展到约 22B 参数,导致内存不足错误,使完整训练不可行。作者认为缩小 MODIS 需要丢弃相当一部分组学集合,会改变问题设定。他们有限的 MODIS 训练在转录组、蛋白质组和代谢组上分别达到 MSE 2.53、0.55 和 0.43。相比之下,ARO 在约 50M 至 700M 参数范围内仍可处理,且模型规模对重建性能影响有限。
潜在嵌入将癌性与非癌性样本分开
从训练模型潜在空间提取的嵌入被用于生成 PCA 和 t-SNE 图。这些图显示出癌性与非癌性样本以及癌症侧别的明显聚类。作者将这种分离解读为:学到的嵌入捕捉到了原始组学数据的底层结构,同时保留了足以区分临床状态的判别信息。
在下游评估中,ARO 未掩码模型隐藏层的嵌入与 MLP 配对,用于二分类(癌症与非癌症)和多标签分类(癌症侧别)。ARO 在测试数据的二分类任务上达到 100% 准确率。在侧别任务上达到 72.4% 准确率,作者称其相对较弱,并与生物学预期一致,因为侧别需要更细微的空间或微环境信号,仅靠组学图谱无法提供。
用于相同下游任务的 PCA 投影在二分类上给出 72.41%,在多标签分类上给出 58.62%。二分类任务上 100% 与 72.41% 之间的差距是论文中最清晰的下游分离,它是 ARO 学到的嵌入与原始 PCA 投影之间的比较,而不是 ARO 与 MODIS 之间的比较。
115 个样本限制了向这两个队列之外的推广
作者明确表示,尽管数据特征维度很高,训练样本数量仍然有限,这可能限制模型对未见数据分布的泛化能力,并凸显了在外部队列(可能还包括其他疾病)上验证的必要性。因此,100% 的二分类准确率和 72.4% 的侧别准确率是这两个队列留出划分上的结果,而不是对新患者群体性能的估计。
作者还表示,学到的关联仍是统计规律,不带有任何生物学合理性的主张,需要进一步分析才能证实潜在的生物学意义。蛋白质组和代谢组层的重建应被理解为从这些已对齐矩阵中学到的统计映射,而不是已被证明的生物学机制。
还有两个明确的适用范围条件。ARO 的低容量架构面向有限样本场景,工作重点是从已对齐的多组学矩阵中稳健学习,而不是影像或空间转录组等异质多模态场景。作者还指出,一个扩展方向是整合变分自编码器等生成式设置,以实现以转录组输入为条件、完整合成蛋白质组和代谢组图谱,这意味着完整生成式合成不在本文展示的范围内。
只有转录组一层时,重建才值得做
本文确立的实际优先级是一种情景划分,而不是 ARO 普遍优于更大模型的论断。当一个队列有转录组测量但缺失或未配对的蛋白质组和代谢组层时,ARO 提供了一种从单一观测输入填补这些层的方法,无需在大型外部数据集上预训练,也无需通路先验。当目标是架构创新或跨影像与序列数据的异质多模态融合时,本文明确不以该场景为目标。
指导读者判断的比较是论文实际完成的那个:ARO 嵌入与 PCA 投影在相同下游任务上的对比,其中二分类从 72.41% 提升到 100%,多标签侧别从 58.62% 提升到 72.4%。论文未能完成的比较是与 MODIS 的对比,后者在本数据上以约 22B 参数耗尽内存。最稳妥的解读是:ARO 让掩码多组学重建在 115 个样本和约 303.9M 参数下变得可行且有用,其价值集中在有限或不完整数据场景,而不在于扩展到更大队列或更丰富的模态类型。
本文引用的文献
ARO: Aligned Representation learning for multi-Omics data
一个在已对齐多组学癌症矩阵上训练的共享自编码器,能从转录组输入重建被掩码的蛋白质组和代谢组层,未掩码设置在验证集和测试集上达到 MSE 0.15,其潜在嵌入支持下游癌症分类。
