RAG 大显身手的时刻：最佳案例证据
在最有效的实施中，RAG能够显著提升大语言模型的事实准确性和可靠性，有时甚至能与规模更大、成本更高的模型相媲美。一项名为MIRAGE的大规模医学基准测试评估了41种不同的RAG配置，发现最佳方案使六种不同大语言模型的准确率比标准提示方法提升了高达18%，将GPT-3.5和Mixtral等模型提升至GPT-4的水平[6]。这意味着，一个更小、更快、更便宜的模型，在搭配恰当的检索系统后，足以与顶尖的巨型模型竞争。同样，一项关于减少幻觉的研究表明，简单的“朴素RAG”方法在一个基准测试中将基础模型的准确率从惨淡的10.18%提升至44.56%，实现了超过四倍的改进[1]。
这种能力已延伸至专业性强、风险高的领域。在医学领域，一个名为LiVersa的肝脏疾病专用RAG系统正确回答了全部10个专家级问题，准确率超过医学实习生和通用型ChatGPT-4，尽管其回答的全面性评分较低[7]。在另一项医学应用中，RAG将用药说明的充分性从中位数93分（满分100分）提升至满分100分，清晰度从90分提升至95分，同时几乎消除了剂量错误等关键性失误[8]。这些案例表明，当RAG针对特定领域进行精心设计时，能够提供专家级且经过事实核查的回应。
陷阱所在：RAG为何及在何处失灵
尽管前景广阔，RAG并非解决大语言模型缺陷的万能药，其性能可能因任务而异，甚至产生负面影响。一项针对六种不同大语言模型的系统性基准测试发现，虽然它们表现出一定的“噪声鲁棒性”（能处理无关信息），但在“否定拒绝”（知道何时回答“不知道”）和“信息整合”（综合多文档事实）方面存在显著困难[2]。研究者指出，要实现有效的RAG部署，“仍有相当长的路要走”。事实上，一项直接对比RAG与微调的研究表明，微调后的DistilBERT模型在基准测试中准确率达72.5%，而最佳RAG方法仅达到44.56%[1]。这表明，对于某些任务而言，直接训练模型比为其配备检索工具更为有效。
外部知识库的质量与结构至关重要。同一项发现RAG表现不佳的研究也指出，更复杂的“图RAG”系统（利用知识图谱中的关系）在两个基准测试中仅达到8.85%和15.12%的准确率，远逊于更简单的朴素RAG [1]。这表明，若检索到的信息与查询不完全匹配，RAG可能失效。此外，RAG还引入了新挑战，例如延迟增加（响应时间）和计算成本上升。一个针对复杂查询设计的医疗RAG系统虽将准确率提升了10%，但承认在需要亚秒级响应的紧急情况下，延迟仍是难题 [3]。另一项研究发现，评估RAG系统本身就是一个重大障碍，因为检索文档的标准相关性标签往往与最终答案质量关联不佳 [5]。
结论：RAG是关键组件，而非完整架构
证据表明，未来RAG将成为大语言模型架构中标准且关键的组成部分，但它会与其他技术结合使用，而非孤立应用。该领域已从简单的“朴素RAG”发展为更复杂的“模块化RAG”系统，这些系统与智能体架构相集成，使模型能够进行规划、使用多种工具并迭代优化搜索过程[4]。这种混合方法的一个成功案例是用于验证机动车保险政策的系统，它结合了专门的法律模型（Legal-BERT）进行理解、RAG系统（ChromaDB）检索法规，以及通用大语言模型（LLaMA 3.3）进行推理，准确率达到92%[10]。类似地，一个用于教科书问答的框架利用RAG处理分散在不同课程中的概念，使测试准确率提升了近10%[9]。
最有效的RAG系统都经过精心调校，以适应特定领域和任务。针对RAG“最佳实践”的研究发现，在性能与效率之间取得平衡的最优配置，会因具体用例的不同而存在显著差异[12]。例如，在医学领域，最佳结果来自多个不同医学语料库与检索器的组合，而非单一来源[6]。一个从德语医学文档中提取数据的流程，通过使用本地部署且保障隐私安全的RAG系统，实现了90%的准确率[11]。这进一步印证了RAG并非“一刀切”的解决方案，而是一种强大且灵活的技术——只要设计得当，它就能将大语言模型锚定于可验证的知识，使其在现实应用中更加可靠。
本文引用的文献
探索减少大语言模型幻觉的RAG解决方案
在某个幻觉评测基准上，朴素RAG将基础大语言模型的准确率从约10%提升至约45%，但微调后的模型仍以72.5%的准确率更胜一筹，而图RAG的表现则较差（8.85%-15.12%）。
在检索增强生成中评估大型语言模型的基准测试
一项针对6个大语言模型的基准测试发现，它们在RAG（检索增强生成）中难以处理否定性拒绝与信息整合，这表明有效部署仍面临重大挑战。
采用检索增强生成的双重检索与排序医学大语言模型
一种两步检索与排序的RAG框架在复杂医疗查询上的准确率比单次搜索方法提升了10%，但延迟问题仍然存在。
大型语言模型的检索增强生成（RAG）综述
一项调查揭示了从朴素RAG到进阶RAG再到模块化RAG的清晰演进路径，并指出该技术对基于证据的人工智能至关重要，但仍面临检索器与生成器对齐等挑战。
评估检索增强生成中的检索质量
提出eRAG，一种新的评估方法，其与下游RAG性能的相关性远优于传统相关性标签，同时GPU内存使用量最多可减少50倍。
医学检索增强生成的基准测试
MIRAGE基准测试（包含7,663个问题）表明，最优化的RAG方法使6个大语言模型的准确率提升了最高18%，将GPT-3.5和Mixtral的性能提升至GPT-4的水平。
使用检索增强生成技术开发肝脏疾病专用大语言模型聊天界面
一种肝脏疾病特异性RAG系统（LiVersa）正确回答了全部10个专家问题，其准确性被认为优于ChatGPT-4，但在全面性和安全性方面稍逊一筹。
通过检索增强生成技术，优化基于大语言模型的用药指导。
RAG提升了用药说明的充分性（中位评分从93分升至100分）和清晰度（从90分升至95分），同时显著减少了诸如剂量错误等关键性失误。
利用大语言模型与检索增强生成技术提升文本型教材问答效果
基于RAG的教材问答框架通过处理跨章节分布的概念，在测试准确率上比基线提升了9.84%。
面向机动车保险单自动合规性验证的混合RAG-LLM框架
一种混合RAG-LLM框架在保险合规领域实现了92%的零样本分类准确率，文档处理时间为5-15秒。
优化数据提取：利用RAG与LLM处理德语医疗文档
一个注重隐私保护的RAG流水线在从800份非结构化的德语医疗文档中提取结构化数据时，实现了高达90%的准确率。
探索检索增强生成的最佳实践
一项关于RAG最佳实践的研究发现，最优部署策略因应用场景而异，而多模态检索能显著提升视觉问答的效果。