自我进化的编码代理能否在长程多步任务中避免重复犯错？

对编码智能体而言，“自我进化”究竟意味着什么？

自我进化意味着智能体随时间推移改进自身行为，而无需人类对每一步进行标注。它并非在固定数据集上一次性训练完成，而是自行生成任务、尝试解决，并利用反馈不断优化。对于编程智能体而言，这一点颇具吸引力，因为现实世界中的任务冗长且杂乱——早期的一个小错误就可能级联放大，最终导致完全错误的答案。

这些论文展示了这一思想的不同实现方式。SAGE使用了四个智能体——一个负责生成更难任务的挑战者，一个将其分解为步骤的规划者，一个执行任务的求解者，以及一个过滤低质量问题和计划的批评者——它们全部共享同一个底层模型[1]。SEA面向计算机使用场景，自行生成可验证的任务轨迹，并通过逐步强化学习实现高效训练[3]。EvoVLA则针对机器人，增加了记忆组件，以便在长时间运行中跟踪已完成的操作[4]。它们的共同点在于：智能体不仅仅从自身成功中学习，还会主动筛选其学习来源。

它真的能防止同样的错误再次发生吗？

简短的回答是：可以，但前提是系统被明确设计用于捕捉错误。最有力的证据来自EvoVLA，它在长时程机器人操作基准测试中，将“阶段幻觉”——即智能体假装取得进展但实际上并未完成任务——从38.5%降至14.8%[4]。这意味着虚假进展减少了62%，而这之所以能实现，是因为智能体获得了与任务每个阶段对齐的奖励，并配备了帮助其记住已完成步骤的记忆机制。

SAGE在编码任务中也展现出类似的效果：通过让一个Critic智能体对生成的问题和计划进行评分与筛选，系统避免了“课程漂移”——即智能体逐渐偏离到过于简单或过于怪异而无用的任务上——并在LiveCodeBench上将代码生成准确率提升了8.9%[1]。关键在于筛选发生在智能体尝试任务之前，因此它绝不会浪费时间在可能教会它错误经验的糟糕示例上。

但证据也提醒我们，仅靠自我进化是不够的。车辆空气动力学研究[2]发现，如果没有“硬性评估契约”——即强制实施防泄漏和确定性重放等机制——候选方案可能会以虚高的分数蒙混过关。他们最好的系统达到了0.9335的综合得分，但这仅仅是因为每个候选方案在入选前都必须通过严格的质量检查。因此，其机制并非“从错误中学习”，而是“从一开始就不让错误进入训练循环”。

有什么陷阱？自我进化何时会失败？

最大的问题在于，如果放任不管，自我进化可能会放大自身的偏见。SAGE的作者明确设计了Critic来“防止课程漂移并保持训练信号质量”——如果没有这一点，智能体可能会不断生成它已经知道如何解决的任务，甚至更糟，生成那些不可能完成、学不到任何东西的任务[1]。同样，GUI智能体研究[5]发现，天真的探索往往过度采样常见流程，而遗漏罕见、复杂的步骤；他们的解决方案是构建一个显式的UI转换图来引导探索，由此生成的轨迹平均包含14.8个步骤，且没有多余的循环。

另一个限制是计算成本。SEA的作者指出，长时程训练成本高昂，因此他们引入了“高效逐步强化学习”来降低开销[3]。这提醒我们一个现实问题：自我进化并非没有代价——它需要精心的工程实现才能变得可行。

最后，关于自我进化是否能在不同领域间泛化，证据好坏参半。机器人研究[4]展示了强大的现实世界迁移能力（在实体机器人上成功率达54.6%，比强基线高出11个百分点），但车辆研究[2]明确采用了“筛选-升级”模式：自我进化的代理模型用于高通量排序，但低置信度的情况会交给高保真度的CFD处理。这诚实地承认了自我进化代理尚不足以作为最终裁决——它们更适合作为初筛过滤器。

关于这些资料来源

本回答基于5项同行评审研究——发表于2025年至2026年，其中5项为2024年或之后发表——这些研究是从5项通过质量筛选的研究中选出的最具相关性的成果，而这些研究又源自从超过5亿篇论文的数据库中检索到的40篇文献。

本文引用的文献

相关研究问题