智能体如何知道什么方法真正奏效？
第一个障碍是反馈的可靠性：智能体只有在能区分好的变化与坏的变化时，才能实现进化。关于自我进化编码智能体的综述[2]指出，可执行反馈——比如运行测试——对编码智能体来说是一种自然的信号，但它并不总是可靠的。测试可能不稳定、不完整，甚至本身就有错误；该综述还明确警告了基准过拟合的风险，即智能体为了通过特定测试集而自我调优，却在面对新的真实世界问题时失败。因此，在智能体能够走出演示环境、真正实现进化之前，它们需要具备能区分真正改进与侥幸通过测试的反馈机制。
SEW框架[4]展示了解决这一问题的一种途径：它自动设计并优化多智能体工作流，在具有挑战性的LiveCodeBench基准测试上，相比单独使用基础大语言模型，性能提升了高达33%。这是一个巨大的飞跃，但也凸显了问题所在——这种提升是在基准测试上衡量的，而基准测试恰恰是那种容易出现过拟合的受控环境。作者自己也指出，该方法需要适应不同的编程问题，这暗示当前的反馈信号仍然过于狭窄，难以实现泛化。
智能体如何做到既记住又不遗忘？
第二个主要问题是记忆：智能体不能无限制地堆积文本经验，因为那最终会耗尽模型的上下文窗口并拖慢检索速度。自我整合论文[1]直接针对这一问题，提出了一种机制，将非参数化的文本经验提炼为紧凑的可学习参数，使智能体能够将历史经验内化到其潜在空间中。这是关键的一步，因为它解决了可扩展性问题——如果没有这种整合，智能体的记忆就会成为瓶颈，而论文指出，单纯积累文本经验会引入噪声并耗尽上下文窗口。
同一篇论文还提出了一种对比反思策略，明确总结易错模式，而不仅仅是从成功中学习。这一点很重要，因为失败的尝试具有教学价值——它们教会智能体该避免什么。综述[2]同样提到，编码轨迹是丰富的经验来源，但挑战在于如何从噪声中提取可复用的洞见，而不被信息淹没。因此，在智能体能够在真实环境中进化之前，它们需要的记忆系统不仅要更大，还要更精简、更具选择性。
代理能否在不破坏现有功能的前提下改变自身目标？
第三个挑战是安全性与稳定性：当智能体自主演化自身目标和代码时，它可能丢失已经有效的既有行为。BDI-LLM架构论文[3]表明，智能体能够从极少的先验知识中自主发现新目标并生成可执行行为，但作者明确指出了在行为继承和稳定性方面的“当前局限”。换言之，智能体可能在演化过程中遗忘或破坏先前习得的技能——这对可靠性至上的实际部署而言，是一个严重问题。
调查[2]也呼应了这一担忧，将“可逆性”和“系统复杂性”列为待解决的挑战。如果智能体做出了糟糕的更改，它能回滚吗？如何确保一个自我修改的系统保持安全和可预测？这些不仅仅是技术细节，而是决定自我进化智能体能否在受控演示之外被信任的根本问题。这些论文共同表明，尽管进化是可行的，但确保其稳定性和可逆性仍未得到解决。
关于这些资料来源
这个回答基于4项研究（1篇同行评审，3篇预印本）——发表于2025年至2026年，其中4篇为2024年或之后——从4项通过质量筛选的研究中选出最相关的，这些研究来自从超过5亿篇论文数据库中检索到的21篇文献。
本文引用的文献
自我巩固：面向自我进化智能体的方法
提出了一种具有对比反思与自我巩固机制的自进化框架，将文本经验提炼为紧凑的可学习参数，从而解决上下文窗口耗尽及经验积累带来的噪声问题。
自进化编码智能体
对自我进化编码智能体的综述，识别出包括反馈可靠性、基准过拟合、可逆性、系统复杂性、安全性、成本和泛化性在内的挑战，同时指出可执行反馈和仓库级上下文使软件工程成为自我进化的天然领域。
自进化软件代理
提出了一种BDI-LLM架构，用于构建能够自主发现新目标并生成可执行行为的自进化软件智能体，但基于在动态多智能体环境中的评估，指出当前在行为继承和稳定性方面仍存在局限。
SEW：用于自动化代码生成的自进化智能体工作流
提出SEW，一个自进化工作流框架，能够自动设计与优化多智能体工作流，在LiveCodeBench上相较于单独使用骨干大语言模型实现了高达33%的性能提升。