EvoBelief 如何用可证伪世界模型让 LLM 智能体自我改进?

EvoBelief 让冻结的 LLM 智能体演化可检验的环境规则而非权重,并跨任务复用。

直接答案

EvoBelief 改进 LLM 智能体的方式,是演化它们对环境运作方式的信念,而不是更新模型参数。它把环境知识存成可证伪的假设,只有当假设在不同回合、不同绑定和独立测试中积累到独立证据后,才授予它指导预测或计划的权限;一旦出现反例,就收回这一权限。整个过程中语言模型保持冻结。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

失败源于信念错误,而非技能不足

EvoBelief 针对的是以流程为中心的自改进方式留下的空白。从过往轨迹、反思、记忆或提炼技能中学习的智能体,会变得更擅长“怎么行动”,但它们仍然依据对环境如何响应的先验信念行动。当这些信念不完整、不正确或过时时,即使程序能力很强的智能体也可能失败。

论文的动机案例是一个合成任务:智能体知道如何加热、提纯和分析样品,但它的先验认为化合物 X 在 120 °C 以内稳定,而 X 实际在 100 °C 就分解。像“用更低温度”这样的任务级补丁能修好一次回合,却没有抓住背后的性质。改为测试 X 的稳定性如何随温度变化,并保留由此得到的约束,就能同时指导合成、运输、储存和分析。

这就是论文把贡献称为“信念演化”的原因:它维护一个持久的环境动态模型,这个模型能支撑多个任务,但其中的错误也会跨任务传播。智能体的策略回答如何朝目标行动;世界模型回答环境如何响应动作。

假设被写成可检验的断言

在模型参数固定的前提下,EvoBelief 维护两个外部化状态。一个是每回合的状态估计,记录观察到的实体、关系、数量和任务进度,在每个回合边界重置。另一个是持久的世界信念,它跨回合重置保留,只在新证据到来时改变。冻结的语言模型提供通用先验;持久存储保存部署期间学到的环境特定知识。

这个存储的基本单位是可证伪假设,写成:当条件 C 成立时,执行动作或流程 A 应产生可观察后果 Y。由于可以确立 C、执行 A 并检查 Y,这一断言可以直接检验。每个假设还带有它被支持的范围、检验它的配方和证据记录。A 可以是单个动作、多步流程或测量干预;Y 可以是状态变化或测量得到的量。

假设可以混合固定实体和抽象对象角色。使用时,角色绑定到当前上下文中的具体对象,更广的范围必须从不同绑定上的证据中赢得,而不能预先假定。例如“加热到约 80 °C 以上会使样品分解”这条规则,最初绑定到化合物 X,只有在获得其他化合物的证据后才覆盖它们。

意外结果与决策相关未知触发假设

假设形成从空的信念存储和智能体自身的交互开始。行动之后,EvoBelief 把实际结果与行动前做出的预测进行比较。有依据的预测不匹配说明当前模型有误;决策关键的未知,即解决它会改变智能体下一步该做什么的未知,说明模型不完整。

一个意外结果可能有多种解释,因此 EvoBelief 会保留相互竞争的假设,直到后续证据把它们区分开。在化合物 X 的例子中,分解可能取决于温度、加热时长或容器。关键在于,形成假设并不等于为它提供证据:未验证的假设不能作为已确立知识来为任务导向的行动辩护,但可以推动一次实验。

证据来自被动观察或获准的实验

证据通过两条路径到达假设。被动证据来自恰好检验了现有假设的普通任务转移,例如后续任务加热化合物 X 并记录它是否保持完整。主动证据来自专门为解决不确定性或区分竞争假设而运行的实验。两者更新同一条证据记录。

主动实验使用真实环境动作,因此消耗任务的交互预算。只有当实验结果能改变智能体必须做出的决策、没有已验证规则能解决该问题、且所需设置可执行时,EvoBelief 才允许进行实验。支持与证伪标准在实验运行前固定,实际结果把检验判定为支持、反例或不确定。不确定的检验既不算支持也不算反证,未解决的假设保持待定,可在之后检验。

规则只能凭独立证据获得权限

权限是论文使用的术语,指允许一条学到的断言指导后续预测或计划。新形成的假设没有权限。要成为已验证规则,其支持证据必须在三个不同计数上达到阈值:不同回合、不同绑定和独立测试。这些阈值在任何基准运行前设定,从不在基准结果上调参。

最初形成假设的那次事件本身永远不能授予可复用权限,每个泛化角色都必须在支持它的绑定之间发生变化。一批化合物 X 在 90 °C 分解还不够;这条断言必须在之后的不同回合、不同批次上再次成立,才能指导加热决策。

反证可以移除权限。EvoBelief 先把规则收窄到仍被幸存证据支持的范围,再重新计算承诺条件。如果幸存证据不再满足条件,规则被降级:它失去可复用权限但保留证据,因此后续支持可以恢复它。只有当反复出现的反例使规则不再有任何支持证据时,规则才被退役。由于记录被保留,每次状态变化都能追溯到导致它的观察。

已验证规则改变预测,不改变执行者提示

在每个决策点,智能体在无法访问世界信念的情况下形成候选动作。对每个候选,冻结的预测器给出一个锚点预测,即不考虑已学规则时会预期发生什么。只有条件成立且范围覆盖当前绑定的已验证规则才能改变该锚点。仅检索规则本身没有效果。

规则支持的后果以两种方式影响行为。它们可以修正候选的预期结果,改变其排名,或在必要前提被违反时排除该候选;一旦化合物 X 的分解规则得到验证,把 X 加热到 100 °C 就会排到更低温度路线之后。兼容的规则还可以串联成短计划,当一条规则的后果建立另一条规则的条件时,智能体可以执行该计划的第一步,即使它不在候选之中。已验证的定量关系同样可以设定达到目标后果所需的参数值。

如果没有已验证规则适用,EvoBelief 回退到它在没有世界模型时本会做出的同一选择。一个实现细节对解读结果很重要:规则生命周期及其权限检查在执行者之外强制执行,执行者从不接收已验证规则文本。在 ALFWorld、MiniGrid 和 ScienceWorld 上,规则支持的后果直接由结构化表示计算;DiscoveryWorld 是唯一一个冻结预测引擎还可能进行规则条件模型调用的基准。

静态、漂移与发现场景均见提升

评估覆盖四个基准,涵盖静态动态、隐藏漂移和科学发现。在没有执行者侧转移记忆的 ALFWorld 上,EvoBelief 相对匹配的 Frozen World Model 把成功率提高 23.9 个百分点(Claude Haiku 4.5)和 31.3 个百分点(GPT-5.4)。绝对成功率分别为 66.42% 对 42.54%(Haiku)和 76.12% 对 44.78%(GPT-5.4)。

记忆设置会改变比较结果。在有执行者侧转移记忆时,EvoBelief 在 ALFWorld 上用 Haiku 达到 68.66%,用 GPT-5.4 达到 76.87%,而 Frozen WM 分别为 57.46% 和 55.22%。论文自己的解读是:当情节记忆已经补上先验缺失的信息时,规则与记忆部分互为替代,这也是无记忆设置能分离出更大增益的原因。

在 MiniGrid 上,智能体必须找出真正能打开锁门的钥匙,并在 24 步内到达目标箱子;EvoBelief 会修正过时规则,并在未预告的动态变化后恢复。在 DiscoveryWorld 的 Reactor Lab 中,每个反应堆只有在调谐到由隐藏参数定律决定的共振频率 ±2 Hz 以内时才会激活;EvoBelief 完成 83.3% 的 Normal 级和 58.3% 的 Challenge 级实例,而每个被评估基线均为 0%。这些发现任务在 GPT-5.4 上每级使用十二个全新任务实例,四种方法跑同一批实例,各尝试一次,且不使用转移记忆。

优势取决于记忆已提供了什么

论文的核心区分是改进智能体的行动方式与纠正它对环境的信念。EvoBelief 的增益在冻结先验有误、且没有其他来源补上缺失环境知识时最大,正如 ALFWorld 无记忆比较所示。当转移记忆已经携带这些信息时,差距缩小,两种机制部分互相替代。

第二个区分是学会一条规则与获准使用它。对回合、绑定和测试的承诺阈值,加上反证下的降级与退役,正是防止积累的知识在动态变化时变成负担的机制。这也是为什么一条已验证规则能帮助智能体从未见过的任务:它描述的是环境,而不是单个任务。

实际优先级由这两个条件决定。当失败可追溯到隐藏、漂移或可表达为定量定律的环境动态,且智能体缺少其他记录这些动态的通道时,EvoBelief 最值得增加这套机制。当情节记忆已经覆盖这一空白时,应预期规则层带来的增量更小,并以它能否从不再成立的规则中收回权限来评判它。

本文引用的文献

1

EvoBelief: Falsifiable World Models for Self-Improving LLM Agents

EvoBelief 把可证伪的环境假设演化为有证据支持的规则,用来指导冻结 LLM 智能体的预测和计划;在没有转移记忆的 ALFWorld 上,它相对匹配的 Frozen World Model 把成功率提高 23.9 和 31.3 个百分点。