能力驱动的自我演化如何改进智能体记忆程序?

能力驱动的自我演化按能力维度引导智能体记忆程序,在百万级 token 历史上分别提升 10.54 和 7.83 个百分点。

直接答案

PrisMem 用能力驱动的自我演化取代整体式记忆自我演化:它依据各能力维度的反馈来引导修订,而不是依赖单一总体分数,再把由此得到的各能力专精程序合并为一个记忆程序。在百万级 token 历史上,它在 BEAM-1M 上比最强基线高出 10.54 个百分点,在 LongMemEval-M 上高出 7.83 个百分点。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

总体分数为何掩盖有用修订

自我演化记忆把智能体的记忆视为一个可执行程序:程序在训练任务上被评估,语言模型再根据任务反馈改写其实现。论文认为,主流的整体式方法从混合了所有记忆能力的反馈中推导修订方向,并主要以总体任务表现判断进展。

这种被压缩成单一标量的引导带来两个作者直接指出的问题。一是优化方向变得模糊,因为混合反馈把需要不同能力的任务失败混在一起,可能对同一个记忆组件给出多个效果不同的修订建议。二是能力增益被隐藏,因为一项修订在某个能力上的提升可能被其他能力的退步抵消,使总体分数保持不变。

论文对 BEAM 上 M* 与 EvolveMem 演化轨迹的动机分析支持这两点。许多修订虽然总体分数更低,却至少提升了一项能力;而在提升某一能力的修订中,另一能力分数下降的情况很常见。作者认为,在整体式演化下,探索被限制在能力空间的有限区域,一些能力方向始终未被充分探索。

让进展可观测的五项能力

能力驱动的演化需要一套词汇,把反复出现的记忆需求区分开,并让每项能力的进展可被观测。论文从对智能体记忆基准和记忆系统的广泛梳理中归纳出五项代表性能力:事实检索、时间追踪、偏好提取、多会话综合和对抗性。

这些标签并非随意设定。作者把基准中的问题类型映射到这些能力上,例如 LoCoMo 的单跳和开放域问题算作事实检索,多跳算作多会话综合,时间推理算作时间追踪,对抗性问题算作对抗性。单个任务可能同时需要多项能力;例如判断用户是否实现了某个项目功能时,需要事实检索找回两种说法,再加上对抗性处理来识别其中的矛盾。

标注在离线进行,且刻意不只看问题本身。用 GPT-5.5 仅依据问题对 700 道 BEAM-1M 题目标注时,预测的主要能力只有 337 道与基准类型映射一致,占 48.14%。在把问题、参考答案和证据一并交给标注者后,GPT-5.5 会指定一个主要能力和至多两个不同的次要能力。能力标签只用于汇总能力层面的反馈并选择下一个要演化的能力,从不传给记忆程序,且只标注训练集和验证集。

从冷启动到整合的三个阶段

PrisMem 分三个阶段运行演化。第一阶段是冷启动,从一个刻意简单的种子程序开始演化,该程序按输入顺序追加抽取出的单元,并返回其拼接结果、截断到上下文预算,不做依赖查询的排序。执行环境在所有演化运行中把这一输出预算固定为 16,000 个字符。

第二阶段是能力精修,用依赖感知的能力选择决定下一步处理哪项能力,优先选择可能带来跨能力收益的目标,并通过历史引导的诊断来精修能力专精程序。候选修订只有在训练数据上提升所选能力、并通过全套评估后才会被保留。

第三阶段是整合,在成对的差异案例上比较已评估的程序。对于专精程序在训练数据上胜过当前统一程序的每项能力,算法会挑出差距最大的案例,并记录两个程序在该案例上的行为。随后,轨迹引导的整合利用这些行为差异,把互补的增益合并进一个统一的记忆程序;只有当整合后的程序总体表现提升、且没有任何能力相对统一基线下降超过阈值时,才会被接受。

10.54 个百分点衡量的是什么

核心结果是与最强基线的比较,而不是与种子程序的比较:PrisMem 在 BEAM-1M 上比最强基线高出 10.54 个百分点,在 LongMemEval-M 上高出 7.83 个百分点。两个基准都涉及百万级 token 历史,这正是论文声称展示其有效性的场景。

这两个数字属于不同基准,不应被平均,也不应被当作同一个效应量。它们还是各基准上相对最强基线的总体差距,而非各能力的提升幅度;论文通过用基准原生类型对测试集分组,单独报告了能力层面的结果。

能力词汇本身只是初步实例,而非固定标准:作者称这五项能力来自对基准和系统的广泛梳理,并指出单个问题可能涉及主要和次要标签之外的更多能力。

降低反复评估的成本

自我演化会反复修订和评估记忆程序,带来可观的推理成本。论文从两方面降低成本。紧凑诊断上下文会从诊断案例中剔除冗余内容,同时标记省略处并保留与问题和答案相关的片段;在 PrisMem 来自 BEAM 和 LongMemEval 的真实轨迹上,平均案例上下文规模从 16,776 个 token 降到 9,428 个 token,减少 43.8%。

修订感知的执行复用利用了局部修订不会改变大部分流程这一事实。由于记忆程序被分解为抽取、索引、规划、检索和回答五个组件,候选程序可以与其父程序比较,并从最早受影响的阶段开始重新执行。仅涉及检索的改动可以复用已抽取的单元和已构建的记忆,而抽取指令的改动则需要新的单元和全部下游计算。

生成的修订还会在消耗任务模型调用之前先被验证。检查从低成本的源码检查逐步推进到有界的合成执行:源码与模块完整性、模式与签名兼容性、针对本地桩后端的函数冒烟测试,以及索引约 2,000 个合成单元、跨 100 个批次、使用 4096 维嵌入的合成复杂度检查。

这些增益不应外推到哪里

报告的差距来自 BEAM-1M 和 LongMemEval-M,论文的表述把它们与百万级 token 历史绑定。证据中没有任何内容能证明在更短历史、其他基准或这一可执行程序接口之外的记忆系统上存在同样的差距。

能力标签也是本研究特有的。它们被设计用来区分反复出现的记忆需求并让进展可观测,作者将其呈现为迈向能力驱动演化的初步一步,而非定论式的分类体系。由于标签只用于汇总反馈和选择下一项能力,从不传给记忆程序,演化后的程序在测试时接收的历史和问题与基线相同。

标注流程本身也有边界:仅依据问题的标注在 700 道 BEAM-1M 题目中只有 48.14% 与基准类型映射一致,这正是标注者需要参考答案和证据的原因。这使标注依赖有标签的训练集和验证集,而论文指出测试集无需标注。

关键在于能力层面的选择

这篇论文推动的决策不是要不要演化记忆,而是以什么粒度引导和评判它。整体式演化优化单一总体分数,可能在各项能力方向仍未被充分探索时陷入停滞;能力驱动的演化保留逐项能力的记录,按潜在跨能力收益选择下一个目标,然后才在没有任何能力退步超过阈值的约束下整合各专精程序。

对权衡这一方法的读者而言,关键比较是单一总体分数与能力向量之间的比较。论文为这一比较提供的证据,是 BEAM 轨迹分析中那些提升至少一项能力却降低总体分数的修订,以及 BEAM-1M 和 LongMemEval-M 上 10.54 和 7.83 个百分点的差距。它引入的实际阈值是整合接受规则:整合后的程序必须在总体上胜过统一基线,同时让每项能力都保持在允许的相对下降范围内。

本文引用的文献

1

Capability-Driven Self-Evolution of Agent Memory

PrisMem 按各能力维度而非单一总体分数引导记忆程序演化,在 BEAM-1M 上比最强基线高出 10.54 个百分点,在 LongMemEval-M 上高出 7.83 个百分点。