什么是“欺骗性归因”，以及标准RAG为何无法识别？
标准RAG评估会检验模型的主张是否在事实层面有检索文档支撑，但不会检验这些文档是否真正适用于所讨论的实体。2026年的一项研究将这种现象称为"欺骗性依据"：RAG生成的回答可能通过所有自动化检测（零幻觉、完全忠实、真实引用），却将药物Y的临床证据呈现为所查询药物X的证据[1]。在涵盖13个模型的受控基准测试中，对抗条件下欺骗性依据的比例从8%到惊人的87%不等，其中医学和生物医学微调模型的比例高达86.7%——这意味着领域专业化反而放大了这一缺陷，而非修复它[1]。当研究人员在740个药物-疾病配对中测量实际部署的RAG系统时，发现总体欺骗性依据率为7.8%，而针对近期获批药物的比例升至13.6%[1]。标准RAG检测会判定所有这些回答均为正确。关键启示在于：能够验证实体归因（即检验被引用证据是否适用于所查询实体）的引用核查AI，能以97.0%的精确率和98.7%的召回率捕捉到这些错误——但目前尚无现有框架实现这一功能[1]。
引用执行与验证系统相比标准RAG有何优势？
多项研究得出一致结论：明确强制或验证引用，能比标准RAG（检索增强生成）更有效地减少幻觉。在基于MedQA USMLE基准（500道题）对医学RAG流程的系统评估中，一种名为“严格引用”（StrictCitations）的提示策略——要求模型将每个论断都锚定于引用的来源——在六种现代模型架构上实现了最高水平的可验证依据与来源遵循度[2]。该策略优于零样本提示和专家思维链推理，后者因模型优先采用内部诊断逻辑而非检索上下文，反而增加了无依据论断[2]。此外，名为FACTUM的专用引用验证框架通过分析模型如何协调注意力与参数知识，在识别虚假引用时，其AUC（曲线下面积，衡量检测准确率的指标）比最先进基线高出37.5%[4]。在法律领域，一种基于1.008亿条真实法院判决图来验证引用的引用依据指标发现，商业大语言模型和RAG系统中有13%–21%的引用为虚假引用——而采用偏好优化的微调模型在区分正确与错误引用时准确率达98.5%[3]。一项针对1300份法律摘要片段（含注入错误）的基准测试显示，即使是最优的智能验证系统（GPT-5），其召回率也仅为82.8%，F1分数为60.5%，意味着仍会遗漏近五分之一的伪造引用[5]。这些研究的规律清晰可见：引用检查系统始终比标准RAG能捕捉更多幻觉，但效果因领域和错误类型而异。
有哪些局限和注意事项？
引用核查AI并非万能灵药。即便是最先进的系统也难以应对某些微妙的错误类型：在法律引文验证中，所有受测模型（包括GPT-5）都难以识别那些看似合理实则错误的虚构引用[5]。基于代理的验证方式（即AI自主搜索外部数据库）仍属资源密集型操作——GPT-5处理单段摘录平均需16.9个步骤，且商业法律数据库的访问限制进一步削弱了其有效性[5]。在科学引文验证领域，多代理流水线的表现优于标准大语言模型，但仍需精细拆解为元数据提取、记忆检索、网络搜索和判断决策等环节[6]。另一款针对学术数据库验证BibTeX条目的工具，可标记虚假合著者列表、标识符劫持（指向不同论文的有效DOI）等异常模式，但其效果取决于数据库的覆盖范围[7]。最关键的警示来自欺骗性溯源研究：仅验证引用是否存在或与主张匹配的核查系统，会遗漏证据真实但归属错误实体的情况[1]。研究人员发现，从检索文档中移除实体特异性证据后，实体归属错误完全消失——所有错误均转为虚构——这表明两种错误模式共享触发机制但路径不同[1]。这意味着引文核查系统不仅要验证引用是否存在，更需确认其是否适用于所指涉的具体实体。
关于这些来源
该回答基于7项研究（3篇经同行评审，4篇预印本）——发表于2026年，其中7篇来自2024年及以后，1篇发表于Q1–Q2期刊——这些研究是从8项通过质量筛选的研究中选出的最相关成果，而8项研究又源自从超过5亿篇论文的数据库中检索到的44篇文献。
本文引用的文献
欺骗性锚定：临床检索增强生成中的实体归因失败
在一项涵盖13个模型的受控基准测试中，对抗条件下虚假归因（即声称内容真实但归因于错误实体）的比例介于8%至87%之间；某已部署的RAG系统整体虚假归因率为7.8%，其中针对近期获批药物的比例升至13.6%，而实体归因验证技术以97.0%的精确率和98.7%的召回率成功检测出该问题。
通过RAG系统中强制引用提示减少医疗AI的幻觉现象
在一项基于MedQA USMLE基准（500道题）对医学RAG流程的系统评估中，严格引用提示策略在六种模型架构上均实现了最高的可验证依据性和来源遵循度，而专家思维链推理反而增加了无依据的断言。
引用锚定：通过法律引用图检测并减少大语言模型引用幻觉
基于包含1.008亿份乌克兰法院判决的引文图谱，一项引文溯源指标发现，商业大语言模型和RAG系统中的引文有13%至21%存在幻觉；而经过微调的Qwen2.5-7B-Instruct模型在区分正确引文与错误引文方面达到了98.5%的准确率。
FACTUM：长文本RAG中引用幻觉的机制性检测
FACTUM框架通过分析注意力机制与参数化知识路径之间的协调性，在检测长文本RAG中的引用幻觉时，其AUC指标相比现有最优基线提升了高达37.5%。
谁在核查引用？法律幻觉检测基准评估
在一项包含1300份法律摘要片段（其中注入了错误）的基准测试中，GPT-5在代理框架下实现了82.8%的召回率和60.5%的F1分数，但所有模型在细微错误类别上均表现不佳；代理验证平均每段摘要需执行16.9个步骤。
CiteAudit：你引用了，但你真的读过吗？——大语言模型时代科学引用验证基准
CiteAudit多智能体验证流程将引文核查分解为元数据提取、记忆检索、网络搜索和判断四个环节，在大规模人工验证数据集上取得了优于最先进大语言模型及商业基线的验证性能。
bib-verify：检测 BibTeX 文件中由 AI 生成或虚构的引用
bib-verify工具是一款Claude Code插件及独立Python工具，用于验证BibTeX条目与学术数据库（Crossref、arXiv、OpenAlex、PubMed）的一致性，并标记LLM风格的引用模式，包括占位符标识符、虚假合著者列表、条目类型混淆以及标识符劫持。