为何检索质量比推理能力更重要
这些研究的核心发现是，智能体RAG系统失败的主要原因在于检索到不相关或不完整的信息，而非大语言模型缺乏推理能力。在采用向量、图谱和网络数据库并行检索的HM-RAG框架中，仅通过改进检索环节，就在ScienceQA和CrisisMMD基准测试中使答案准确率比基础RAG系统提升了12.95%[3]。这一显著提升源于检索优化，而非推理能力的增强。
类似地，Self-RAG框架（本文引用量最高的论文，达1441次）训练单个大语言模型，使其仅在必要时自适应检索段落，并自我反思所检索段落的相关性。这种以检索为核心的改进，使得一个70亿参数的模型在开放域问答、推理和事实核查任务上超越了ChatGPT和检索增强型Llama2-chat [4]。启示：一个更小的模型配合智能检索，胜过更大的模型采用固定且不加区分的检索方式。
[5]中提出的分层RAG方法结合了三种不同的检索方式——文本实体提取、社区摘要和结构链接导航——以获取更全面的上下文信息。这种检索侧的工程优化正是实现更结构化响应的关键，而非对底层大语言模型推理逻辑的任何改动。
当推理确实成为限制因素时
检索质量并非全部。对于需要整合多篇文档信息的复杂多步问题，推理架构同样至关重要。[2]中的智能体RAG系统采用了五个专门化智能体（规划器、追踪器、重规划器、调度器、执行器），将任务计划表示为有向无环图（DAG）。与强基线相比，这种结构化推理方法在知识密集型问答基准测试中同时提升了准确性和鲁棒性[2]。在此，推理设计——而非仅检索——才是性能提升的关键。
然而，即便在这种情况下，推理能力的提升也与检索紧密耦合：系统在执行过程中会根据中间结果动态调整检索计划。因此，更好的推理确实有帮助，但这种推理是关于下一步该检索什么，而非孤立的推理。
[1]中的比较研究指出，传统RAG固定的单次检索限制了多步推理能力，而智能体RAG通过规划与迭代检索克服了这一局限。这表明推理的局限性本质上源于检索策略的不足——模型本身具备推理能力，但需要在每个步骤中获得正确的信息。
这对构建智能检索增强生成系统意味着什么
如果你正在设计一个系统，请优先投资检索基础设施：多源并行检索、自适应查询重写，以及对检索结果的自我反思。HM-RAG框架表明，使用即插即用模块整合向量、图数据库和网络数据库，可带来12.95%的准确率提升[3]。Self-RAG框架则显示，教会模型决定何时检索并对其检索结果进行自我批判，比单纯扩大模型规模更为有效[4]。
第二，构建能够处理多步骤查询的检索流程。[2]中基于有向无环图的规划方法和[3]中的层次化分解都表明，将复杂查询拆解为子任务并针对每个步骤分别进行检索，能够提升结果质量。[5]中的分层方法则证明，结合多种检索方式（实体提取、社区摘要、链接导航）比单一方法能捕获更多上下文信息。
需要注意的是：这些成果是在特定基准测试（ScienceQA、CrisisMMD、开放域问答）中展现的，未必能同等迁移至所有领域。相关研究并未测试这些系统在高度嘈杂或对抗性检索语料库中的表现，而这可能使瓶颈再次更严重地偏向检索质量。
关于这些来源
该回答基于5篇经同行评审的研究——发表于2023年至2026年间，其中4篇为2024年及以后发表，1篇发表于Q1期刊，累计被引用1449次——这些研究是从5篇通过质量筛选的研究中选出的最具相关性的成果，而该筛选过程则源于从超过5亿篇论文的数据库中检索到的39篇文献。
本文引用的文献
传统RAG与智能体RAG：检索增强系统的对比研究
传统RAG的固定单次检索限制了多步推理能力，而智能体RAG通过自主智能体规划并迭代检索克服了这一局限；该论文系统梳理了各领域的故障模式及其缓解方案。
面向知识密集型问答的智能体RAG架构
一种具有反馈感知能力的智能体RAG架构，包含五个专用智能体并采用基于DAG的规划方式，在两个知识密集型问答基准测试中，相较于强基线方法，显著提升了准确性与鲁棒性。
HM-RAG：分层多智能体多模态检索增强生成
HM-RAG的分层多智能体多模态框架在ScienceQA和CrisisMMD基准测试中，相较于基线RAG，答案准确率提升了12.95%，问题分类准确率提升了3.56%。
Self-RAG：通过自我反思学习检索、生成与批判
Self-RAG（7B和13B参数）通过自适应检索与对段落相关性的自我反思，在开放域问答、推理及事实验证任务上显著优于ChatGPT和检索增强的Llama2-chat。
赋能大语言模型推理：融合分层检索增强生成与知识图谱合成
采用分层RAG方法，融合文本实体提取、社区摘要（Microsoft GraphRAG）与结构链接导航（MetaWiki RAG），能够捕获更全面的上下文信息，从而增强复杂的大语言模型推理能力。