比的是竞赛天梯,而非单场比赛
论文要问的是:AI 智能体能否充当对抗性游戏的学习引擎——读懂规则、挑选对手、研究回放,并不断改写负责打游戏的代码,直到在排行榜上攀升。这就是作者提出的对抗性启发式学习(Adversarial Heuristic Learning,AHL)范式,它扩展了启发式学习:经验以对程序的修改来保存,而不是以模型参数的变化来保存。
AAArena 让这个问题变得可测量。它包含 12 款真实的对抗性游戏和 1,920 个存档的人类程序,评估协议参照真实游戏竞赛设计。智能体的目标是在固定的对局与评估预算内取得尽可能高的排名,因此成功与否取决于它在天梯上相对固定人类程序的位置,而不是单场比赛的胜率。
两条反馈通道驱动每一轮改写
智能体通过两个接口工作。小规模对局允许它挑选特定对手并查看详细回放,论文把这描述为对策略假设的定向诊断。全池评估则让当前程序与完整对手池对战,返回 Elo、排名以及对各对手的结果,为比较不同快照提供统一参照。
两条通道返回的反馈不同:小规模对局给出稠密反馈,全池评估给出二元反馈。两者都通过同一个游戏裁判评估不可变的程序,智能体的改写还要先经过校验器检查合法性与运行时间,才能被使用。智能体不得上网搜索,也不得读取对手代码,因此进步只能来自规则、回放和对局结果。
12 条天梯中登顶 6 条
在 7 种被评估的模型与运行框架配置中,Opus5.5 搭配 Claude Code 获得 6 枚金牌,即在 6 条天梯上取得第 1 名。没有任何被评估的配置登顶其余 6 条人类天梯。这一半对一半的分野就是论文的核心结果:在同一协议下,启发式学习足以在这些游戏的一半中登顶,而在另一半中不够。
这一比较发生在配置与天梯之间,并不表示某个模型在一般意义上解出了这些游戏。金牌反映的是保留下来的冠军程序在给定预算内相对固定人类程序池的排名,因此它衡量的是该基准中的竞争位置,而不是面对任意对手的对局实力。
规则说明越复杂,结果越弱
论文报告,在规则说明更复杂的游戏中,表现总体更弱。它用两种方式衡量这种复杂度:规则描述的抽象语法树(AST)节点数,以及规则原子(RA)数,后者统计可独立更改的规则命题。表 1 按 AST 节点数递增排列这 12 款游戏,从 SnakeGo 的 141 个节点、1,538 个规则原子,一直到 AntWar2 的 6,368 个节点、1,008 个规则原子。
作者明确指出,这两种度量描述的都是规则说明的规模,而不是状态空间的大小或最优对局的难度。因此这一规律把较弱的排名与更大的规则说明联系起来;论文的定性分析则指出,其背后持续存在的挑战在于游戏理解、策略实现和长程策略发展。
对手选择与稠密反馈都有帮助
进一步的实验分离出哪些因素支撑策略改进。论文报告,对手选择和稠密反馈都能支持改进,这与双通道设计相符:选择与谁对战,能把证据集中到某个具体假设上;而小规模对局的稠密反馈,每次交互提供的信息比全池评估的二元结果更多。
回放来源的影响比预想的小。智能体既能从自身对局的同策略回放中学习,也能从其他玩家对局的异策略回放中学习,并因此得到改进。这一结果把可用的证据基础扩展到智能体自身对局之外,不过论文把它作为 AAArena 内部的一项消融发现,而不是关于模仿的普遍规律。
这些排名的适用范围与边界
证据覆盖 12 款特定游戏、一个由存档人类程序构成的固定池,以及小规模对局和全池评估各自的固定预算。池的大小统计的是可执行程序,而不是独立的人类参赛者,因为有些参赛者提交了多个相关版本。因此排名比较的对象是程序,天梯位置不应被理解为面对一批全新人类玩家时的水平。
论文还指出,其复杂度度量依赖于所选的规则语言。按 AST 或 RA 计数看起来更简单的游戏,未必更容易打好,因此复杂规则说明下表现更弱,只是这一套游戏内部的规律,而不是经过校准的难度标尺。
评判智能体参赛作品,不只看奖牌
这篇论文最有用的区分,是天梯的两半。6 枚金牌说明,当规则说明处于可处理范围时,智能体能将规则和回放转化为有竞争力的程序;6 条未被登顶的天梯则说明,当智能体必须理解更大的规则集、实现连贯策略并在长程中维持它时,同一套循环就会停滞。
对于要评估此类竞赛中智能体参赛作品的人,论文的证据支持把改写轨迹和游戏规则复杂度与最终排名放在一起看。在紧凑规则集上取得第 1 名,与在大规则集上处于天梯中游,描述的是不同的能力;论文的消融实验提示,区分二者的杠杆是对手选择和稠密反馈,而不是单纯增加对局数量。
本文引用的文献
AI 智能体能否学会登顶?在长期运行的游戏智能体竞赛中评估启发式学习
Opus5.5 搭配 Claude Code 在模型权重固定的情况下改写可执行策略,在 12 条 AAArena 游戏天梯中获得 6 枚金牌;没有任何被评估的配置登顶其余 6 条天梯。
