自我纠正何时会失败？
当大语言模型仅依赖自身内部反馈来修正错误时，自我纠正往往难以奏效。一项2024年对该领域的全面调查发现，除了那些特别适合该方法的任务外，此前没有任何研究证明通过提示大语言模型获取反馈能成功实现自我纠正[2]。这意味着，仅仅要求模型“检查你的答案并修正任何错误”通常效果不佳——模型往往会强化原有的错误，或引入新的错误。
一项2024年关于推理任务的研究直接得出结论：“大语言模型尚无法自我修正推理”，并强调模型识别自身错误的能力是主要瓶颈[4]。另一项文本分类实验发现，一种修正性上下文学习方法——即向模型展示其错误预测及正确答案——实际表现甚至不如标准少样本学习，且随着提示中修正内容的增加，性能反而下降[6]。这表明自我修正可能适得其反，非但未能优化模型输出，反而使其更加混乱。
自我纠正究竟在何时有效？
自我修正机制在大型语言模型能够获取可靠的外部反馈时效果显著——例如经过筛选的数据库、独立的事实核查智能体，或能调取已验证信息的检索系统。同一项2024年的调查发现，自我修正机制在可利用此类外部反馈的任务中表现优异[2]。一个具体案例是查尔斯系统，这是一款自我批判型AI药物发现分析工具，在回答关于癌症靶点的问题时准确率高达99%[1]。查尔斯采用多智能体架构：规划智能体负责调度专业智能体，而批判型AI智能体则依据包含1000余份蛋白质摘要的精选数据库对回答进行事实核查，并将不一致之处反馈给规划智能体进行优化[1]。该系统还通过注入诱饵数据进行了测试，结果成功复现了所有诱饵——这意味着它未泄露外部信息[1]。
另一种名为“基于事实性的自我对齐”的方法，利用大语言模型自身的自我评估生成训练信号，再通过微调使模型基于这些信号进行优化。该方法在Llama系列模型的两个知识密集型基准测试（TruthfulQA和BioGEN）中显著提升了事实准确性[7]。然而，这需要微调步骤，而不仅仅是在推理过程中进行一次性修正。类似地，2026年的一项研究提出了一种结合智能体推理与检索增强验证的流程——通过引入外部来源确认答案——并报告称幻觉现象大幅减少[5]。关键在于：自我修正只有在依赖外部可信数据，或模型基于自我生成的反馈进行微调时，才具有可靠性。
在机器人规划等专业领域中，自我纠错是否有效？
在机器人任务规划等专业领域，自我修正虽能提升性能，但结构化外部验证仍能带来助益。2025年的一项研究提出了InversePrompt这一自我修正规划方法，通过生成“逆向动作”来检验原始规划的逻辑连贯性——本质上，该方法验证了撤销这些动作能否使系统恢复至初始状态[3]。在基准任务测试中，该方法相较现有基于大语言模型的规划方法实现了16.3%的成功率提升[3]。与纯粹自我修正的关键区别在于，InversePrompt采用形式化的逻辑校验（即逆向动作测试），而非依赖大语言模型自身的判断。这表明，即使在专业领域，自我修正的最佳效果仍需融入外部验证机制，而非仅凭模型内部推理。
本文引用的文献
摘要31：查尔斯：一款面向癌症领域的自我批判型自主AI药物发现分析系统。
查尔斯是一位自我批判型AI药物发现分析师，通过采用多智能体框架，并借助一个批判性AI代理对超过1000份蛋白质摘要的精选数据库进行事实核查，他在癌症相关问题上的准确率达到了99%[1]。
LLM 何时能真正纠正自身错误？关于大语言模型自我修正的批判性综述
一项关键研究发现，除了特别适合自我纠正的任务外，此前没有任何研究证明通过提示大语言模型（LLM）获取反馈能够成功实现自我纠正；自我纠正仅在获得可靠的外部反馈或进行大规模微调时效果良好[2]。
基于大型语言模型的逆提示自纠正任务规划
InversePrompt 是一种利用逆向动作验证逻辑一致性的自我修正任务规划方法，在基准任务上的成功率比现有基于大语言模型的规划方法高出16.3%[3]。
大型语言模型尚无法自我修正推理过程。
一项2024年的研究指出，大型语言模型目前尚无法自主纠正推理错误，并认为模型识别自身错误的能力是其中的关键瓶颈[4]。
用于事实正确性的自我审查语言模型
一项2026年的研究提出了一种将基于智能体的推理与检索增强验证相结合的流程，报告称该方法显著减少了幻觉现象，并提升了事实准确性[5]。
纠正性上下文学习：评估大型语言模型中的自我修正能力
在文本分类任务中，纠正性上下文学习（即向模型展示其自身的错误预测及修正）的表现始终不及标准的小样本学习，且随着修正次数的增加，性能反而持续下降[6]。
面向事实性的自我对齐：通过自我评估减轻大语言模型中的幻觉现象
自洽性事实对齐方法通过自我评估生成训练信号并对模型进行微调，显著提升了Llama系列模型在TruthfulQA和BioGEN基准测试中的事实准确性[7]。