七个智能体回答 137 个二分类问题
这篇论文要回答的问题是:多智能体 AI 系统能否承担临床指南制定与更新中的部分工作。作者构建了 MARG(多智能体检索增强生成)系统,并用一个取自 2025 年欧洲肝脏研究学会七部指南的问题库来测试它。这个名为 LiBank 的问题库包含 137 个临床情景。
检索增强生成指模型在回答时调取外部文献,并让输出以这些文献为依据,而不是只依赖训练时学到的内容。MARG 把这一机制扩展到七个彼此独立的智能体:AI4S Pro、ChatGPT GPT-4 Omni、Consensus Pro、Copilot、DeepSeek、Gemini 2.5 Pro 和 MetaSo 0.99。入选条件是:可公开稳定访问、具备启用检索的深度搜索模式、能给出可识别的文献来源,并且输出结构足以标准化提取推荐意见和证据等级。
问题库的范围被刻意收窄。只保留能用二分类判断回答的问题,例如以“Should”“Is/Are”“If”或“Can”开头的问题。开放式问题、地区特定内容以及缺乏明确方向性的推荐被排除。每个问题随后经过四步精炼:拆分多部分问题、中性化措辞以减少回答偏倚、补充临床背景、统一术语。
每个智能体都遵循固定的提示序列:先给出是或否的初步判断;再检索并列表整理最新文献,同时排除指南和共识声明以防止推荐泄漏;然后按 2025 年 EASL 专家组采用的牛津证据等级对证据分级;最后根据综合后的证据重新审视初步答案。
专家共识越高,系统与指南越一致
总体而言,在 137 个情景中,MARG 与已发表指南的一致率为 77.4%。这个单一数字掩盖了论文中最具决策意义的规律:一致率随底层推荐意见的确定程度而变化。在指南专家组本身仅有弱共识的地方,一致率为 45.8%;在完全共识处,一致率达到 87.8%。
表现还随临床问题类型而变化。诊断类问题的一致率为 65.5%,预防类为 75.0%,治疗类为 81.0%。诊断是最弱的领域,论文自己给出的示例也显示,系统在影像学选择上与指南出现分歧。
这决定了应如何解读这个数字。77.4% 的平均值并不是适用于每条推荐意见的统一准确率,而是对难度存在系统性差异的一组情景取平均;当指南本身争议最小时,系统与指南最接近。
论文自己的解释是,这些智能体存在元认知缺陷:它们自述的推理能力与实际表现不符,而检索增强并不能修复这一点。这是作者对该规律的解释,而不是另行测量的机制。
更新的证据不等于更好的答案
评估的另一部分比较了智能体检索到的证据与指南专家组引用的证据。在这一环节,MARG 表现更强。它在证据时效性(6.3% 对 0.9%)、可重复性(25.5% 对 7.5%)和证据质量(24.2% 对 8.0% 为 I 级证据)上优于人工审查。
这些指标与一致率不同,不应混为一谈。一致率问的是系统的“是/否”答案是否与指南相符;时效性、可重复性和质量百分比描述的是所引用证据基础本身的属性。一个系统可以检索到更新、等级更高的研究,却仍然得出与指南专家组不同的结论。
论文给出的示例让这一点更具体。关于超声造影是否应作为肝细胞癌无创诊断的一线检查,指南的回答是“否”,理由是计算机断层扫描或磁共振成像灵敏度更高、且能评估全肝。MARG 回答“是”,引用的是报告超声造影表现相当的研究。关于在无肝外转移、仅有段或叶门静脉侵犯的晚期患者中,选择性内放射治疗能否作为全身治疗的替代方案,指南回答“否”;MARG 回答“是”,引用的是报告其不劣于索拉非尼的试验。
作者把这些称为经专家组验证的指南证据挑战或争议,而不是简单的错误。这一表述来自论文本身,也正是读者最需要谨慎的地方:分歧可能反映指南已经过时,也可能反映系统对文献做了不同的权衡,而本研究设计无法完全区分两者。
结构化辩论化解多数智能体间冲突
这些智能体并非简单投票。它们经历了四轮结构化辩论,论文报告这化解了 95.8% 的推荐冲突,并在 74.5% 的最终输出中达到高于 85% 的强共识。
但智能体之间的一致性只有中等水平:临床推荐上的 Fleiss kappa 为 0.459。人机在证据分级上的一致性更弱,加权 kappa 为 0.192。这里的 kappa 衡量的是超出随机水平的一致性,因此这些数值说明智能体距离成为独立、一致的评分者还有多远。
论文还记录了辩论中出现的失效模式:从众行为,即次级智能体把证据立场调整到与多数意见一致;人为中立,即在争议情景中智能体给出过多“各方都有道理”式回答;以及不遵守协议,即输出过于冗长、无视格式约束。
这些行为限定了冲突化解数字的含义。化解 95.8% 的冲突意味着智能体达成了收敛,而不一定收敛到正确答案。作者把这一现象归因于对话式模型架构与医学决策所需证据标准之间的张力。
人机模拟中的收益集中在资历较浅者
评估中涉及人的部分是一项小规模模拟:由拥有 5 年、15 年和 30 年经验的医生评估 60 个情景。与系统交互后,被纠正的与指南不一致决策的比例分别为 60%、40% 和 50%;被诱导产生的偏离分别为 10%、10% 和 20%,净收益分别为 50%、30% 和 30%。
摘要将其概括为纠正了 40%–60% 与指南不一致的决策,其中 50% 的净收益在职业早期层级最明显。按医生分列的表是更精确的来源:5 年经验医生的净收益最大;30 年经验医生纠正的偏离数量与 15 年经验医生相同,但诱导的偏离是其两倍。
交互之前,各层级与指南的一致性都偏低。中位 kappa 在 5 年、15 年和 30 年经验医生中分别为 0.287、0.288 和 0.219,而指南专家组的对应值为 0.165、0.158 和 0.302。论文还指出,验证过程中观察到潜在的自动化偏倚,即 AI 诱导偏离最佳临床标准的风险。
由于只有 60 个情景、每个经验层级只有一名医生,这只是一个方向性信号,而不是可用于临床实践的效应量。作者也将其称为小规模模拟。
证据止步于何处
评估是回溯性地对照现有指南完成的,而不是在真实临床环境中前瞻性开展。作者指出,没有前瞻性验证,就无法完全确信系统的检索准确性和推理可靠性。
研究没有评估系统对临床医生工作负担、用户接受度或认知投入的影响,而作者认为这些因素对融入实践至关重要。研究也没有评估下游患者结局,包括治疗适当性、安全性或临床有效性。这些纠正或新发现的证据能否转化为患者获益,仍然未知。
研究结果能否推广到肝病以外、或 EASL 指南制定框架以外,尚未检验。问题库也仅限于 2025 年 EASL 指南中的二分类问题,选择这些指南是因为其标准化方法能提供一致的基准。
分层协作模型才是论文的真正主张
论文的结论并不是让系统去撰写指南,而是提出一种分层的人机协作模型:人始终是决策者,AI 充当加速器,专家监督保留给预先设定的情形。
在该模型中,临床负责人和指南方法学家先界定问题范围、获批的证据来源、分级规则和升级触发条件。随后 MARG 执行常规的证据监测、检索、初步综合,并标记智能体之间的分歧。输出按风险分层:高风险输出——低共识发现、推荐方向或强度的重大变化、安全性信号,或与代表性不足人群相关的发现——提交给资深专家或全体委员会;中等风险输出则接受快速审查。
作者提出,在把任何任务委托出去之前,必须先具备四项前提:可全球访问、并保留人群、治疗和场景特征的证据库;一个制定机器可解释分级协议的联盟,协议需与 GRADE 或牛津证据等级等框架对齐;针对指南的专用基准,衡量一致性、对少见但高风险情形的覆盖,以及重大试验发表后的更新延迟;以及独立的伦理治理,披露模型和数据库版本、检索日期、检索到和排除的来源、利益冲突和审计日志。
证据支持的实际优先事项,是按共识水平和风险分层,而不是统一自动化。系统与指南的一致率在专家已达成完全共识处最高(87.8%),在弱共识处最低(45.8%);模拟中最大的净收益出现在经验最少的层级。这些正是论文自身数据支持倚重系统的情形,也是应当升级给人工的情形。
本文引用的文献
多智能体 AI 用于肝病指南的制定与维护:一项概念验证研究
一个由七个智能体组成的检索增强系统在 137 个情景中与 2025 年发布的七部肝病指南达到 77.4% 的一致率,经四轮辩论化解了 95.8% 的推荐冲突,并在 60 个情景的模拟中与纠正 40%–60% 的与指南不一致决策相关联。
