不改模型权重也能自我改进
这篇论文要回答的是：语言模型保持固定时，智能体能否在陌生环境中越做越好。它的做法是把学习状态放到模型之外。Memento 3 维护一份自然语言规则本，作为持久的语义记忆，记录关于物体、动作、动态和目标的假设，这些假设可以修订，未知的部分则有意留空。规则本随后被编译成可执行代码，用于预测和规划。
整个循环是观察、反思、修订规则、编译、验证。预测误差是驱动信号：当编译出的模型预测错了某次状态转移，智能体就修订规则本和对应代码。作者把这一过程称为基于模型的递归自我改进路径，因为经验证的更新会影响之后的探索和学习，智能体学到的东西改变了它接下来收集到的证据。语言模型本身始终不更新。
回放能排除错误模型，却选不出正确规则
论文的出发点是欠定性。有限的交互历史可能同时支持多个世界模型，它们都能复现每一次观测到的状态转移，却对未见过的状态给出不同预测。论文举的例子是：如果观测到的墙都位于第 7 列，“箱子碰到墙会停下”和“箱子碰到第 7 列会停下”可以解释同一段轨迹，但当墙出现在别处时，两者的预测就不同了。
回放可以排除与观测不一致的程序，却无法在彼此一致的候选规则中挑出正确的那条。因此智能体需要把泛化假设明确写出来并允许修订，而不能只保留一个拟合数据的程序。规则本用语言承载这些假设，代码则让它们可执行、可检验。
两道关卡决定更新是否被接受
更新后的可执行代码不会被自动采纳，只有同时满足两个条件才会被接受：LLM 判定代码忠实于规则本，且逐格回放能复现观测到的状态转移。第一道关卡让可执行代码与写下的假设保持一致，第二道关卡让它与记录下来的证据保持一致。
论文的 Pong 案例具体展示了修订过程。最初的四段式反弹假设无法产生水平回球；一次击中球拍中部、让球水平飞回一百多帧的观测否定了它，促使智能体改用以中心为基准的偏转公式。后续更多接触又表明该公式高估了垂直回球速度，于是改为不对称的分段映射，并把垂直速度限制在绝对值 2 以内。每个版本都是被测量结果逼出来的，而不是凭空假设的。
RHAE 100.0 意味着达到人类效率上限
在全部 25 个公开 ARC-AGI-3 游戏上，单模型智能体通关每一关，平均相对人类动作效率（RHAE）达到 100.0，即该指标的上限。RHAE 是按关卡加权的、相对于人类的效率分数，越高越好；要拿到上限分数，必须通关每一关，且按关卡加权的平均效率不低于 1。它与原始动作次数不是同一个量。
动作次数另行报告。智能体用 7,518 次动作通关全部 25 个游戏，人类基线为 17,135 次，比值为 0.44；各游戏比值从 m0r0 的 0.20 到 lf52 的 0.67，中位数为 0.42。在参与比较的系统中，baseline1 是另一个通关全部游戏的方法，RHAE 为 99.0，用了 8,347 次动作（人类预算的 0.49）。NOOA 通关 19 个游戏，RHAE 为 85.1；OPINE-World 通关 20 个，78.4；DreamTeam 通关 6 个，38.1；Continual Harness 通关 3 个，20.5。论文指出，未通关系统的总动作数反映的是未完成的运行，而不是解题成本。
规则本降低收敛成本，群体扩展减少动作
为了单独考察规则本的作用，作者把它从更新循环中移除，同时保持运行框架、回放验证器、计划执行器、骨干模型和推理强度完全一致。由于每次运行成本很高，他们按每关人类动作数划分难度区间，每个区间选一个游戏：ft09（35）、ka59（104）和 cn04（132）。所有运行仍然通关每一关并达到 RHAE 100，因此比较的是收敛成本。带规则本时，三个游戏共用了 617 次动作而非 677 次（减少 9%），智能体轮次为 678 而非 830（减少 18%）。动作数的下降在三个游戏中都成立。
群体扩展同时维护多组规则本与可执行代码的配对，共享交互证据，并在每个规划回合采样其中一组。在 25 个游戏中人类动作基线最高的 wa30 上，把成员数从 1 增加到 2，使计分动作从 899 降到 597（0.66 倍），两组都通关全部九关并达到 RHAE 100；九个关卡中有八关的每关效率持平或更好。作者把这一群体描述为对剩余版本空间的计算近似，而不是经过校准的贝叶斯后验，目的是降低对单一早期模型构建的依赖。
学到的 Pong 控制器无需再调用 LLM 即可取胜
Pong 研究检验的是同一机制的另一种用法：反馈控制，而不是关卡求解。关卡求解规划器被替换成一个策略，它用学到的可执行世界模型预测候选动作的后果，并随着新观测到来选择下一个动作。LLM 只在学习阶段使用，评估时控制器保持固定。
学到的控制器在三个开局不同的评估回合中均以 21:0 获胜，分别用了 3,358、4,014 和 5,039 次动作。学习成本为 9,504 个模拟器帧。论文报告，其表格中无模型和基于模型的基线学习成本分别约为该成本的 2.1×10^4 倍和 42 倍。同一个 LLM 在没有世界模型时得分为 -19，图中随机策略回合得分为 -20。这里的回合得分是智能体得分减去对手得分，范围从 -21 到 +21，与 RHAE 是不同的度量。
证据能确立什么，不能确立什么
ARC-AGI-3 的评估覆盖 25 个公开游戏，论文自己也提醒，仅凭公开集通关无法单独区分世界模型架构的贡献，因为更强的前沿模型已报告在该公开集上饱和或接近饱和。论文主张，比较时还必须考虑模型选择和推理预算，并考察动作效率、重复运行稳定性和留出集评估。报告的运行使用 Claude Opus 5 作为骨干模型，推理强度设为 extra-high。
消融实验覆盖三个游戏，每个难度区间一个；群体实验只在单个游戏上以 N=2 进行；主要实验采用单配对设置。Pong 结果来自三个评估回合。这些就是所报告增益被测量到的边界。
因此，这篇论文真正独特的重点不是基准通关本身，而是两道关卡的分离：语言层面的忠实性判断，以及逐格回放的精确校验。正是这一组合让冻结模型的假设变成可修订、可执行的世界模型；读者判断所报告效率增益能否迁移到新环境时，最该先审视的也是这一机制。
本文引用的文献
Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks
一个冻结的 LLM 智能体维护自然语言规则本并将其编译为经验证的可执行代码，在全部 25 个公开 ARC-AGI-3 游戏中通关每一关，平均 RHAE 为 100.0，使用人类动作数的 44%；学到的 Pong 控制器在三个回合中以 21:0 获胜，且无需再调用 LLM。