单会话无法修复的三类失败
论文的出发点是诊断问题,而不是填补某个基准空白。在单个长会话中,一个看似合理但错误的中间结论会污染后续全部推理;增加推理量也无法提供模型从未学过的定理或规则;智能体还可能误读要求或弱化目标,例如证明一个相近命题、只测试方便的情形,然后看起来成功了。作者把最后这类模式称为问题误解与奖励黑客。
这三类失败需要不同的补救手段,因此 HOA 使用三条反馈通道,而不是换一个更强的模型。语义评审判断产物是否完整回答了原问题;知识库补足缺失的事实或方法;验证器检验一个机器可判定的条件。论文明确指出这些信号互补而非可互换,所以设计上的问题是哪一道关卡拦住哪一类失败。
评审者判断冻结的产物,而非求解者的推理
HOA 是建立在 Humanize 之上的流程级框架:它协调多个智能体会话和工具,而不是只做一次 API 调用或运行一个命令行智能体。每一轮中,求解者(worker)产出或修改候选产物;随后独立评审者(reviewer)对照原问题和验收计划评估这份已冻结的候选产物,并把具体发现返回给求解者,供下一轮修改。评审者看不到求解者的隐藏推理或对话历史,评审期间候选产物保持只读。
这种隔离是机制本身,而非风格选择。求解者不能自行接受输出,也不能绕过评审;评审者也不能悄悄修补产物,因此每一条被报告的问题都必须在新一轮求解中处理。当评审者宣布候选产物完成,或运行达到资源上限时,循环结束。求解者可以调用验证器获取即时的机器反馈,但验证与语义评审始终是两道独立的关卡。
知识库返回已验证引理,而非文字提示
数学知识库和化学知识库的构建方式不同,因为两个领域需要的可复用知识不同。一个数学问题被解出并通过验收后,整理智能体会从 Lean 开发中提取主定理和可复用的中间引理;每条记录包含声明名称、Lean 签名、简短描述、来源问题、所需导入、源码位置和验证状态。化学知识库则在评估前用教科书、测试集之外的奥赛题和相关在线资料构建,整理成以概念为中心的页面,并记录来源。论文没有为物理或编程单独建库,因为作者判断 IPhO 和 IOI 所需知识基本已存在于模型预训练中。
一条具体轨迹说明了这种格式为何重要。在 G2 张量平方分解的运行中,智能体检索到三条已通过 Comparator 和独立评审的记录,它们分别形式化了一个 14 维单 G2 商、一个 64 维不可约最高权模,以及十四类不可约张量平方的分类。智能体在组装最终定理时直接应用这些 Lean 声明,而不是重新证明它们,最终产物通过了 Comparator 以及 Nanoda 和默认 Lean 内核。论文把这一现象描述为知识库充当可执行接口,而非非结构化提示。
验证器检查命题,评审者检查意图
对于数学和形式化物理任务,验证器是 Comparator。它在沙箱中构建不受信任的 Lean 提交,确认提交的定理与受信任的挑战命题一致,限制允许使用的公理,并用 Lean 内核验证导出的证明。公理限制并非附带细节:论文指出,一个证明可能在使用被禁止公理的情况下仍然编译通过。
分工是明确的。评审者是循环内的智能体,从语义上评估产物,标记奖励黑客或问题误解,并决定是否需要再修改;验证器是客观的、面向具体任务的工具,求解者和评审者都可以调用。Comparator 确认的是所述定理已被证明,而不是非形式问题被忠实翻译。物理问题在求解前先经 Science Mango 流程形式化:该流程先建立蓝图,把物理定律、给定数值、前几问的结果和待证命题分开,再写出带类型的 Lean 声明,并暂不给出目标方程;物理评审者会拒绝缺少定律、遗漏图形参数、同义反复以及假设了答案的命题,之后命题才被冻结。
大部分提升来自评审循环
在 PutnamBench 前 50 题上的消融实验分离了各部分贡献。纯 API 调用下,Kimi-K3 解出 50 题中的 1 题,GPT-5.6 Sol 解出 3 题。加上 Codex 命令行工具层后,两者分别升至 4 题和 46 题。再加上 HOA 的知识库与验证器,分别达到 21 题和 49 题。加上完整的 Humanize 循环后,分别达到 47 题和 50 题。
这个顺序对解读很关键。对更强的模型来说,大部分改进来自工具层,流程级循环只补上最后几题。对较弱的开源模型来说,知识库与验证器带来一大步,而评审循环带来最大的单次跃升,从 21 题到 47 题。两个模型之间的差距从 Codex /Goal 层面的 42 题缩小到完整循环下的 3 题,这正是论文用来证明系统性反馈可以弥合基础模型能力显著差异的证据。
只有配合评审,额外时间才转化为已验证解
Lean-Eval 上的比较检验了更长运行是否有帮助。在按字母顺序排列的前 100 道合格题上,所有失败都保留在分母中,纯 Codex 配合 /Goal 达到 100 题中的 34 题,并在约 30 小时后停滞。HOA 则持续找回已验证的解,在 150 小时的求解者时间内达到 100 题中的 63 题。作者把这描述为另一个扩展维度:持续的智能体时间,由评审与修改循环转化为已验证解,而不是重复同一种失败方法。
排行榜上的总体数字是另一种测量,不应与这个 100 题子集混为一谈。在完整的 Lean-Eval 集上,HOA 解出 304 题中的 251 题(82.6%),排名第一,把 GPT-5.6 从 304 题中的 112 题提升上来。论文自己的表述是:流程设计是能力的主要来源,而不是基础模型外面的一层薄封装。
开源模型配合 HOA 追平或超过闭源基线
配合 GPT-5.6 Sol,HOA 报告在 2026 年 IMO、IPhO 和 IOI 上取得满分,在 2026 年 IChO 题集上接近满分,并解出 PutnamBench 全部 672 题。配合开源的 Kimi-K3,HOA 在 IMO、IPhO 和 IOI 上取得满分,在 IChO 上取得金牌水平的 97.1%。论文指出,这些结果在 IMO 和 IPhO 上接近闭源的 GPT-5.6 Sol + /Goal 基线,而在 IChO 和 IOI 上超过它。
这一比较是流程之间的比较,而不只是模型之间的比较,因此并未单独分离出模型质量。论文的限制部分也这样说明:流程比较可能受推理时间、token 预算、工具访问和停止行为差异的影响,而且更长的多会话运行比单智能体基线消耗更多算力。报告的奥赛和 PutnamBench 结果还使用了训练数据未完全公开的闭源模型快照,因此无法排除基准污染。
保证止于形式化命题
最有用的边界是验证器的适用范围。Comparator 确认与受信任 Lean 命题一致,但这一保证取决于这些形式化的正确性和忠实度;它本身不能证明非形式问题被正确翻译。对于化学、物理和编程任务,自动检查只覆盖评估器所编码的性质。评估也只覆盖有限的一组奥赛、编程和形式数学基准,因此不能证明 HOA 可推广到任意科学研究,或推广到缺乏可靠任务特定验证的领域;实验也没有分离每个组件之间的相互作用,或完整刻画评审者的误报与误接受。
在这些限制下,论文的优先判断很具体:把额外智能体时间转化为已验证解的是评审循环,而不是单独的知识库或验证器;最大的实测收益出现在基础模型最弱的地方。在 PutnamBench 上,完整循环把 Kimi-K3 从 50 题中的 21 题提升到 47 题,而 GPT-5.6 Sol 只从 49 题提升到 50 题。因此,读者在判断这套流程是否值得额外算力时,应先问基础模型在目标任务上还有多少提升空间,再问是否存在可据以验证的受信任形式化命题。
本文引用的文献
Humanize Olympiad Agents: A Multi-Session Workflow for Olympiad Problem Solving with Solve, Review, Wiki, Verify
HOA 用面向任务的知识库和客观验证器协调求解者与评审者会话;配合 GPT-5.6 Sol,它解出 Lean-Eval 304 题中的 251 题(82.6%)和 PutnamBench 全部 672 题,配合开源 Kimi-K3 则在 IMO、IPhO 和 IOI 上取得满分。
