事后解释为何引发保真度担忧
医学影像中的可解释 AI 大多属于事后解释：在训练好的黑箱网络上再加一个模型或算法，用来解释它的预测。综述把常见做法分为两类，一类是特征归因方法，例如基于梯度的 LRP 和 CAM，或基于扰动的 LIME 和 Kernel SHAP；另一类是概念归因方法，例如 TCAV 和 CAR。这些工具通常与模型无关，因此可以接到许多已经训练好的模型上。
论文提出的担忧是保真度：训练之后生成的解释，未必忠实反映黑箱模型实际得出预测的过程。S-XAI 被作为替代方案提出，因为可解释性被直接纳入训练，解释由模型自身的决策过程产生，而不是在模型之外重建。这是论文的立论和理由，并非对事后解释与自解释方法所做的实测对比。
解释可以内建的三个层级
综述的组织性贡献是一套三层分类。输入可解释性在原始医学图像之外加入可解释的输入。模型可解释性改变架构，让注意力、人工定义的概念或学到的原型承载推理过程。输出可解释性让模型在给出预测的同时生成解释，形式可以是文本，也可以是视觉反事实。
这三个层级回答的是不同问题。输入层的工作问的是模型是否依据医学上有意义的证据进行推理；模型层的工作问的是中间表示是否可被检查；输出层的工作问的是模型能否说出或展示什么会改变它的判断。把它们当作可以互换的概念会误读这篇综述，因为每个层级约束的是流程中不同的部分。
手工特征把预测与临床含义连接起来
输入可解释性把可解释的特征工程或知识图谱与深度视觉特征结合，共同参与预测。特征工程分为三类：通用特征用与领域无关的算法量化基本视觉属性，例如用 HOG 描述形状、用颜色矩和直方图描述颜色、用 GLCM 或 LBP 描述纹理、用 SIFT 或 SURF 检测局部关键点；临床特征量化与病理相关的属性；混合特征则把两者结合起来。
综述的桑基图汇总显示了一种分工：特征工程主要用于分类、分割和检测这类识别导向的任务，知识图谱则更多出现在医学报告生成和视觉问答这类推理密集的任务中。文中引用的一个例子说明了工程特征为何重要：Hu 等人把 1,967 个手工放射组学特征与 VGG16 深度特征结合，用 CT 图像预测 NSCLC 患者对抗 PD-1 治疗的反应，结果九个最重要的预测因子中有七个是手工特征，其中五个属于纹理特征。作者据此认为，肿瘤的复杂性和异质性可能与治疗结果密切相关。
取舍是明确的。通用特征透明，但只能捕捉低层模式，缺乏临床语义；临床特征工程依赖大量领域专业知识，可能带有主观性，泛化能力也有限。这正是论文主张采用混合方法的理由。
注意力、概念与原型让模型可被检查
模型可解释性涵盖三类设计：基于注意力的学习、基于概念的学习和基于原型的学习。对刚接触这一领域的读者来说，基于概念的学习最直观：模型围绕人工定义的概念训练，因此它的推理以临床医生能命名的单元表达，而不是以没有名称的潜在维度表达。基于原型的学习则把输入与学到的参考样例比较，这些样例代表可识别的病例。
综述还讨论了这些设计如何组合。在模型层解释的融合上，论文认为，当融合后的信号直接参与预测，并与临床相关的结构、概念或视图保持一致时，多层或多视图注意力聚合、图像与概念的整合、以及基于原型的相似度聚合，更有利于解释质量。仅仅把潜在特征拼在一起、没有可解释结构的融合，较难产生忠实且语义连贯的解释。这是作者对设计质量的判断，不是基准测试结果。
输出解释以文本或反事实呈现
输出可解释性指模型在给出预测的同时生成解释。文本解释分为三种格式：完全结构化，例如列出各项发现并标注存在或不存在；半结构化，例如按解剖区域组织发现；自由结构，例如流畅的放射科报告式叙述。视觉反事实解释则生成一张改动后的图像，并标出改变后会使诊断翻转的区域，例如一个方框区域，其中特征改变后标签会从肺炎变为健康。
这些格式服务于不同的读者。结构化文本便于逐项核对，自由文本更接近放射科医生的报告，反事实展示的是具有判别力的区域，而不是显著性热图。综述把它们视为输出层各自独立的选项，因此关于一种格式的结论不应套用到另一种格式上。
综述梳理了什么、未解决什么
这里的证据是一篇综述，不是受控实验。论文列出了评估解释质量时应具备的理想特性，并讨论了主要挑战和未来研究方向，但证据包没有提供 S-XAI 方法与事后解释基线的定量比较，也没有给出所综述研究的汇总性能估计。200 多篇这个数字描述的是综述的范围，而不是某一方法的强度。
这套分类是一张地图，而不是一份排名。一个方法被归入输入、模型或输出可解释性，并不因此说明它比归入其他层级的方法更忠实或更有临床价值。读者应把层级标签当作定位一个方法解释承诺的方式，并在下结论前查看单项研究自身的数据、模态和任务。
用解释层级判断一项主张
这篇综述最实际的启示是一条阅读规则：在评判一项解释之前，先确认它来自哪个层级。一个排在最重要预测因子之列的手工放射组学特征，支持的是关于医学上有意义的输入的主张，正如 NSCLC 治疗反应例子中九个最重要预测因子有七个是手工特征。概念层或原型层支持的是关于内部推理可被检查的主张。生成的报告或反事实支持的是关于可传达输出的主张。这些都不能自动证明模型的预测正确，也不能证明临床医生会信任它。
论文自身的优先事项正来自这一区分。它主张未来的输入层工作应超越单纯的性能指标，优先构建医学上有意义的证据；在模型层，它更青睐能保留中间表示与最终决策之间明确联系的融合方式。因此，对评估医学影像中某项 S-XAI 主张的读者来说，第一个问题不是是否存在解释，而是解释的层级是否与所提出的主张相匹配。
本文引用的文献
Self-eXplainable AI for Medical Image Analysis: A Survey and New Outlooks
把 200 多篇医学影像论文归入输入、模型和输出可解释性三个层级，并主张内建于训练过程的解释比事后解释更贴合模型的决策过程。