预测准确之后留下的空白
基因组深度学习模型如今可以直接从核苷酸序列预测转录因子结合、染色质可及性、组蛋白修饰、剪接等多种模态。论文的前提是,预测性能只是第一步:生物学发现取决于研究者在模型训练完成之后如何使用它,例如估计变异效应、把预测归因到核苷酸、探查全局顺式调控规则,或设计具有目标特性的序列。
这类下游工作在很大程度上与模型架构和训练选择无关,但此前并不存在一个能跨模型类型通用的优化代码库。分析代码往往随单个模型一起发布;Captum 等软件包只实现一个或少数几个相关算法,Selene、kipoi、CREsted、EUGENe 和 gReLU 等则侧重训练、微调和模型库。tangermeme 有意把自己定位为“除了模型之外的一切”:加载和定义模型交给用户,它实现模型周边的操作。
序列编辑可与任意模型操作叠加
该工具包把构建模块分成两类。序列操作负责生成输入,模型操作负责消费输入,包括预测、DeepLIFT/SHAP、计算机饱和突变、PISA 或自定义操作。由于两层相互独立,它们可以叠加使用:计算机模拟边缘化比较把一段短序列替换进模板前后的预测;消融比较改动模型可能响应的区域前后的预测;变异效应估计比较一个或少数几个替换前后的预测。
论文用 ChromBPNet 的 profile 预测在 100 条随机生成的 2,114 bp 序列上做了模拟演示。边缘化时把“ATGATGTCAT”替换到每条序列中间;消融时对 1,030 bp 至 1,075 bp 之间的窗口做二核苷酸打乱;变异效应预测则把位置 1,053 的核苷酸从 G 改为 A。这些是演示 API 可组合性的模拟,不是对生物学功能的测量。
同样的模块化也支持 DNA 设计。筛选法随机生成序列,用用户定义的目标函数打分并返回最优者;贪心替换法反复测试所有单核苷酸变异,每一步保留最优者;基序植入法则插入数据库中的完整基序。构造边缘化方法把边缘化与设计合并,寻找能在许多背景序列上平均改变模型预测的短构造。
速度提升与归因中的静默失败
论文报告了具体的工程结果。tangermeme 对 hg38 chr1 全长做 one-hot 编码用时不到 2 秒,约为所测试的次快实现的 3 倍。内置批处理使 DeepLIFT/SHAP 不再要求所有背景序列同时驻留 GPU 内存;论文称这在不损害精确性的前提下消除了该要求,低精度支持进一步减轻负担。
第二个发现关乎正确性而非速度。DeepLIFT/SHAP 会重写非线性操作的反向传播,并通过内部字典识别这些操作;当遇到字典之外的非线性操作,或激活函数被复用时,实现可能静默失败,而且往往没有文档或警告。用户可能只有在收敛差值(理论上应接近零)明显变大时才会察觉。tangermeme 则在差值过高时发出警告,可以返回差值供监控,并接受自定义非线性函数。在论文的对比中,tangermeme 正确注册了 Captum 难以支持的自定义 profile head。
以统计显著性定义 seqlet
seqlet 是归因值较高的一段连续核苷酸。tangermeme 的新识别器给出更严格的定义:其归因总和相对零分布具有统计显著性,并且其中所有子区段按同一检验也应被识别为 seqlet。默认最小长度为 4,低于该长度的子区段不受此约束,以免归因噪声打断识别,也允许 seqlet 内部包含无信息字符。
算法先用最小—最大缩放对归因值分箱,建立频率直方图,再针对每个候选 seqlet 长度推导零分布,即随机抽取同样数量的值会得到多大的归因总和。这些分布被转换为 1 减累积分布函数,使 P 值计算变成一次索引操作。识别器随后扫描所有起点和长度,解码出通过阈值的最长非重叠区段。论文称这使其成为首个能直接识别可变长度 seqlet 的算法。
参数很少:P 值阈值、seqlet 最小与最大长度、可选侧翼以及分箱数。论文指出 P 值阈值大概是最需要调节的参数,归因噪声大时最小长度也可能重要,而分箱数在较大范围内稳健,主要影响计算时间和内存。
递归识别器与 TF-MoDISco 的对比
对比使用了一个合成任务:100 条长度为 2,114 的序列,核苷酸概率均匀,MYC 基序“CACGTG”插入中心,再用 MYC BPNet 模型生成 DeepLIFT/SHAP 归因。递归算法识别出的 seqlet 比 TF-MoDISco 方法更短,后者使用较长的固定默认长度;即便在非常宽松的 P 值阈值下,TF-MoDISco 也覆盖了每个示例中更多的区域。
把中心 6 bp 当作正标签、把 seqlet 识别结果当作预测,论文扫描了不同 P 值阈值,发现精确率和召回率的走势中 TF-MoDISco 落在附近,说明两种方法存在内在相似性。作者提醒这一比较并不完美:如果 MYC 基序恰好出现在别处并驱动了预测,识别器也会被判为正确;但这种偏差对所有识别器一视同仁,不影响识别总体趋势。
计时结果则不同。序列很少时 TF-MoDISco 更快,但在中等至大量序列时递归算法更快,无论按每秒示例数还是每秒 seqlet 数衡量都是如此。论文解释了设计差异:TF-MoDISco 的宽而多报的 seqlet 适合更大流程后续拆分和质量控制,而递归识别器面向独立使用的用户算法。
从 seqlet 到基序计数与间距
识别出的 seqlet 通过 Tomtom-lite 把核苷酸序列比对到基序数据库完成注释;这些评估中使用的是 JASPAR2024 中来自人类 ChIP-seq 的子集,每个 seqlet 获得 P 值最低的基序。注释随后转化为统计量:序列×基序的计数矩阵、同一序列中基序成对出现的计数,以及间距关系。
成对计数有多种模式,会改变数字的含义。对称计数把基序 A 和 B 同时记入两行,得到对称矩阵;非对称计数按基序从起点到终点的顺序记录,不考虑链方向。论文称后者在顺序重要时有用,例如转录起始,但需要人工确认链方向正确。默认是对称计数。这些是共现的不同测量,不能互相替代。
同一目标下两个模型学到不同逻辑
演示比较了不同模型在 PLD6 启动子处学到的逻辑。归因显示不同模型中驱动预测的基序集合不同,BPNet 和 Beluga 在 MYC 预测上由不同基序驱动。经过自动识别和注释后,BPNet 的预测仅由 MYC 基序驱动,而 Beluga 由许多同时也驱动染色质可及性和转录起始的基序驱动。
在所有 MYC 峰上统计带注释的 seqlet 并检查成对出现,使这一对比在规模上可见:BPNet 几乎只关注 MYC 基序,而 Beluga 学到了更广泛的基序集合及其相互作用,这些也与染色质可及性相关。论文的结论是,尽管两个模型表面上训练来预测同一现象,它们学到的逻辑显著不同。这是关于模型学到了什么的陈述,而不是关于哪个模型在生物学上正确的判断。
工具包的适用范围与边界
论文自身的范围是转录因子结合和染色质可及性模型,但它指出 tangermeme 可用于预测任何模态的模型,包括可变剪接、转录、增强子活性,甚至 RNA 稳定性和结合。操作支持任何内部计算单元,包括卷积、长短期记忆模型、Transformer 和自定义操作,也支持从单个二值到完整 profile 的任何预测类型。序列长度只受运行单条序列所需内存的限制。
有两个边界对解读很重要。seqlet 对比依赖一个只插入单个基序的合成数据集和不完美的标注方案,因此精确率与召回率的走势描述的是识别器在该任务上的行为,而不是在真实基因组中经过验证的基序发现。BPNet 与 Beluga 的对比则是演示该流程能呈现什么,而不是对底层生物学作出裁决。
论文前瞻性的优先事项是为基于大语言模型的编程代理编写文档,使这类系统复用经过测试、可组合的构建模块,而不是从头重建分析,从而减少研究者需要审计的代码。因此论文划出的实际区别在于:训练模型的工具,与把训练之后的工作标准化的工具包;其中最值得对照现有流程检查的具体能力,是 seqlet 识别器按显著性定义的可变长度识别。
本文引用的文献
Tangermeme: a toolkit for understanding cis-regulatory logic using deep learning models
tangermeme 提供模块化序列操作、模型操作和新的可变长度 seqlet 识别器;在 MYC 结合模型上,它显示 BPNet 几乎只依赖 MYC 基序,而 Beluga 使用更广泛的基序集合,这些基序也与染色质可及性相关。
