显著性图为什么被认为能建立信任
一个读取脑电、输出“轻度认知障碍”的深度学习模型是个黑箱：临床医生看到的是一个标签，而不是理由。可解释性方法试图打开这个黑箱。显著性图突出输入中哪些部分——在这里是哪些时间段或电极通道——对模型决策影响最大[2][4]。注意力机制的做法类似，它给模型所依赖的信号部分分配权重[1]。SHAP则为每个输入特征分配一份对输出的责任或功劳[2]。
在临床上使用它们的逻辑很直观：如果一个模型标记了某位患者，而显著性图指向的正是神经科医生会觉得可疑的那些脑区，那么这个标记就让人觉得可以核查，而不是随意给出的。那篇关于深度学习用于痴呆检测的综述，明确把显著性图和SHAP描述为“促进临床信任”的工具[2]；认知衰退预测的研究则把让模型对人类可理解，描述为“促进信任并确保负责任的人工智能实践”的方式[1]。这只是申明的设计目标，并非实测的结果。
脑电研究实际测量的是什么——准确率，而非信任
这些诊断研究在模型层面确实有交代。有一个框架从脑电中检测阿尔茨海默病和克雅氏病，并为每个脑电片段生成时空显著性图，让人能看到是哪些通道和时刻驱动了每次判断[4]。另一项研究使用深度生成模型Diff-EEG来扩充脑电数据，并模拟从轻度认知障碍起的疾病阶段，显著性图突出关键脑区[3]。认知衰退那项工作用注意力来显示哪些脑电频率（包括高频）在早期缺陷中起了作用[1]。
在每种情况下，可解释性输出都是作为模型的一种属性来评估的——它定位得是否合理，是否指向有意义的区域——而不是作为在真人身上测试的干预措施。这些研究都没有报告去问临床医生是否因此更信任模型、是否改变了诊断，或者是否在实践中接受了这个工具[1][3][4]。那篇综述同样涵盖了用于痴呆检测的可解释人工智能技术，却没有报告临床医生接受度的数据[2]。所以诚实的解读是：这个领域已经造好了建立信任的机器，也宣称了它的用途，但在这些脑电研究中，还没有把这个宣称放到临床上去检验。
唯一指向信任的一条证据
最接近直接证据的，来自一个更广泛的临床分析项目，该项目用脑电追踪早期认知衰退。在该项目中，作者报告模型解释“不仅提升了临床医生对人工智能的信任”，还在临床工作流程中发挥了进一步的作用[5]。这是一个关于解释能提升信任的说法，而且是在基于脑电的认知监测这一背景下提出的——而这恰恰是问题所涉及的场景。
值得精确说明这条证据的分量。它来自单一学位论文级别的来源，而且信任这一说法是报告出来的，并非通过让临床医生使用有解释和无解释的模型输出进行对照比较来证明的。它与诊断论文中的设计理由是一致的[1][2]，但一致并不等于证实。合理的总结是：解释有可能有助于临床医生的信任，有一个来源声称它确实如此，而脑电诊断文献尚未对此进行检验。
怎样才能真正回答这个问题
要了解显著性图或图归因是否能提升临床医生的信任，需要一项研究，让临床医生在有解释和无解释的情况下使用模型，并测量差异——在信任评分、与模型判断的一致程度、诊断准确率，或者他们推翻模型判断的频率上。目前的脑电研究还差一步：它生成解释并论证解释应该有帮助[1][2][4]，而一个临床分析来源报告说确实有帮助[5]。
诊断研究中还埋着一个设计上的提醒。有一个框架指出，未来的迭代应专门提供进一步的解释，“以增强信任”[4]——这等于承认目前的解释还被视为不够充分。这表明问题不只是解释是否有帮助，还在于某个解释对临床医生来说是否足够易懂、足够有用。一张突出合理脑区的显著性图可能会让人安心；一张突出噪声的图可能适得其反，而这些研究都没有告诉我们，当临床医生参与其中时，实际会发生哪一种情况。
本文引用的文献
探索可解释深度学习在基于脑电的认知衰退预测中的潜力
提出了一种利用基于注意力的可解释性，从脑电预测认知衰退的深度学习方法，但未涉及临床医生的信任或接受度。
基于脑电信号的痴呆检测深度学习技术综述
综述了基于脑电的痴呆检测中的深度学习，并强调SHAP和显著性图等可解释人工智能方法是促进临床信任的手段，但未报告临床医生信任或接受度的数据。
用于阿尔茨海默病诊断的深度生成模型
使用深度生成模型（Diff-EEG）在阿尔茨海默病诊断中扩充脑电数据，显著性图突出关键脑区，但未讨论临床医生的信任。
EEGDecoder-x：一个用于跨被试基于脑电检测阿尔茨海默病和克雅氏病的可解释深度学习框架
介绍了一个可解释框架，利用时空显著性图从脑电中检测阿尔茨海默病和克雅氏病，并指出未来的迭代应提供进一步解释以增强信任。
面向临床应用的可解释分析
报告在基于脑电追踪早期认知衰退的背景下，模型解释提升了临床医生对人工智能的信任。