为什么智能体在长任务中会不断重复犯错？
过去的假设是，大型语言模型只需保持持续对话并记住自己做过什么即可。但在实践中，这一假设行不通：大多数框架依赖线性的提示拼接或浅层记忆缓冲区，导致性能脆弱、频繁产生幻觉，且长程连贯性差[1]。换言之，模型会遗忘或混淆较早的步骤，从而重复同样的错误，或完全丢失上下文线索。
问题的严重程度显而易见：在像汉诺塔这样的标准基准测试中，即便是最新模型也最多只能坚持几百步就会出错[2]。这意味着，对于任何超过几百步操作的任务，你都无法依赖模型的内部记忆来保持其正确推进。
真正有效的方法：结构化记忆与逐步核查
第一个修复方案是给智能体一个外部结构化记忆，而不是依赖模型的上下文窗口。任务记忆引擎（TME）采用层级式任务记忆树，其中每个节点存储某一步骤的输入、输出、状态以及子任务关系[1]。随后，提示词会根据当前活跃节点路径动态生成，从而提升执行的一致性和上下文锚定能力[1]。通俗来说，智能体始终清楚自己处于任务的哪个位置、已经完成了哪些步骤，因此不会重复执行某一步，也不会遗漏依赖关系。
第二个修复方法是验证每一步，而不仅仅是最终答案。2023年的一项研究比较了过程监督（检查每个中间推理步骤）与结果监督（仅检查最终结果），发现过程监督在具有挑战性的MATH数据集上显著优于结果监督[3]。经过过程监督的模型解决了78%的问题，可靠性明显提升。要点在于：及早发现错误，可以防止它们在后面积累成反复的失败。
智能体能否在百万步任务中做到零失误？
是的，但这需要架构上的根本性变革。MAKER系统通过将任务分解为极小的子任务，每个子任务由专门的微代理处理，从而以零错误完成了超过一百万步的大语言模型任务[2]。这种极端分解使每一步都足够简单、便于验证，而高效的多代理投票机制则在每一步纠正错误[2]。结果是：错误修正变得既廉价又有效，因此错误不会累积。
这种方法与试图让单一模型在长任务上表现更好有着本质区别。与其依赖对现有大语言模型的持续改进，大规模分解式智能体流程（MDAPs）或许才是将能力扩展到组织乃至社会层面问题的途径[2]。其代价在于复杂性：你需要协调众多微智能体以及一套投票机制，这会增加额外开销，但最终会在可靠性上得到回报。
关于这些来源
这个答案基于4项研究（均为预印本）——发表于2023年至2025年间，其中2项为2024年或之后发表——这些研究是从4项通过质量筛选的研究中选出的最相关者，而这些研究又源自从超过5亿篇论文的数据库中检索到的33篇文献。
本文引用的文献
任务记忆引擎（TME）：增强多步骤LLM智能体任务中的状态感知能力
任务记忆引擎（TME）利用层级化任务记忆树来跟踪每一步的输入、输出、状态及子任务关系，并从活动节点路径动态合成提示词，从而提升多步骤智能体任务中的执行一致性与上下文关联性。
以零错误解决百万步长的大语言模型任务
MAKER系统通过将任务极端分解为微代理，并采用多代理投票进行错误修正，成功完成了一项包含超过一百万次LLM步骤的任务且零错误，证明了大规模分解的代理流程能够远超当前LLM的极限进行扩展。
让我们一步一步验证
在MATH数据集的对比中，过程监督（对每个中间步骤提供反馈）显著优于结果监督（对最终结果提供反馈），其中过程监督模型解决了78%的问题，而主动学习进一步提升了效果。
在PaaS架构中链接AI代理以实现多步骤工作流自动化
本文探讨了在平台即服务（PaaS）环境中，如何通过架构设计与编排策略将多个AI代理串联起来，以实现多步骤工作流的自动化，并辅以IT事件响应与自动修复领域的案例研究。