RSI-Forge 如何把研究论文变成自我改进环境？

环境是问题加可信的评分

在这篇论文的框架里，递归自我改进指智能体提升自身能力，并利用这些提升去引导后续改变。这需要的不仅是一个待回答的问题。智能体需要一个可以修改的起始方案、一种检验改动的方式，以及一个能把真实进步与噪声、或与只抬高分数却不做预期工作的取巧区分开的评分。

因此，RSI-Forge 的输出单位是一个可执行环境：任务说明、可运行代码、生成任务数据的代码、起始方案、独立复现的基线实现，以及评估配置。每个环境还把数据划分为用于实验的开发集和用于评分的留出测试集。天气估计的例子让这一结构变得具体：求解者在 160 个开发实例上测试改动，评分则使用来自不同模拟条件的 324 个留出实例，目标是让平均估计误差最小。

分数经过归一化，起始方案记为 0，目标分数记为 1。在同一个天气任务中，起始方案的留出误差为 1.786，复现的论文方法为 1.390，目标为 1.156，因此复现基线约落在 0.629。正是这种归一化，让读者能够比较原始指标彼此无关的不同任务上的进展。

三个智能体分别构建、复现与审查

构建流程给三个角色分配了不同职责，更重要的是分配了不同信息。作者智能体拿到论文和构建要求，产出任务、起始方案和评估器。复现智能体拿到论文和面向求解者的材料，独立实现论文方法以建立基线分数。审查智能体拿到环境和复现报告，决定批准还是要求修复。

这种分离之所以重要，是因为复现智能体看不到作者智能体的方法实现。这让基线在一定程度上独立于任务设计者，也让审查能够评估环境本身，而不只是确认作者自己的选择。检查未通过时，环境会在被接受之前进入修复或被拒绝。

构建并不是一次干净通过。在被接受的环境中，79% 至少在一次构建检查失败后需要修改，报告中的漏斗统计的是经过允许的修复之后的通过情况。对修复记录编码后发现的最常见缺陷是：检查无法发现预期失败（占修复记录的 66%）、说明不正确或不完整（63%）、检查查看了另一份代码副本（54%）、以及未做预期工作却获得分数提升（37%）；这些类别有重叠。构建每个被接受环境的中位消耗为 1.7 亿个模型 token。

从 10,800 篇预印本到 210 个环境

规模上的说法需要把分母理清。筛选覆盖 10,800 篇预印本，其中 2,117 篇（20%）符合构建条件。符合条件要求具备若干属性，例如有实测基线、指标可由确定性脚本计算、方法适配可用算力预算、存在可测量的改进空间，以及许可证允许再分发；所有来源论文均出自 2026 年。

在这 2,117 篇符合条件的论文中，只有 213 篇进入了主构建运行，因此漏斗中的计数不能用来估计全部符合条件论文的产出率。在该次运行中，213 次尝试开始，199 次通过设计，198 次通过构建，189 次通过独立复现，180 次通过端到端测试，180 个进入主语料库。主运行中三个智能体角色都使用 Claude Opus 5，各自独立会话并使用角色专属输入。

第二次运行把构建模型换成 GPT-5.6-sol，用相同的队列和检查又构建了 30 个环境，使总数达到覆盖 18 个领域的 210 个环境。两组在来源论文和领域上并不配对：第二次运行检验的是该流程能否在另一个后端上工作，而不是比较一个模型比另一个强多少。主运行的 180 个环境每个领域包含 6 到 14 个，范围超出机器学习，延伸到机器人、计算物理、统计学和软件工程。

专家认可改进空间，但不认可深度

质量用同一套九维度量表评分，分值为 1 到 5。三个智能体评审为全部 180 个主运行环境打分，人类领域专家则为其中 90 个打分，每个环境一位专家，均持有相关领域博士学位。在这个共同子集上，跨环境和维度的均值对人类专家为 4.24，对三人评审组为 4.54。

两组在衡量进展所需的属性上看法一致。专家对起始方案之上的改进空间评分最高，为 4.81；对不同尝试之间分数区分度的评分为 4.74。在其他方面专家更挑剔：抗饱和性专家给 3.09，智能体评审组给 3.98；对来源论文的忠实度分别为 3.72 和 4.22；抗取巧性分别为 4.09 和 4.67。

饱和性上的差距最大，并有具体例证。一位专家给出最低评分，原因是提供的一种搜索方法在大约 5 个 CPU 分钟内覆盖了约 69% 的声明改进区间，该专家还引用了求解者在第一次会话就达到目标分数的结果，而这些结果智能体评审并未收到。论文指出，达到归一化目标并不能排除原始分数继续提升，也不能说明研究问题已被穷尽。这一比较也反映了证据不对等：只有专家收到了跨会话的求解者分数摘要，部分专家引用了这些摘要。

一个忠实度的例子说明了较低评分捕捉到什么。一位专家给出 2 分，而评审组给出 4.5 分，原因是某个任务保留了 50 类零样本分类以及音频与文本语义比较，却用合成的低维数组和线性高斯大脑模型替换了真实的 THINGS-EEG 记录、预训练特征流程和三模态 BraVL VAE。为适配有限算力而改造问题，可以保留大致问题，同时省略来源方法中的实质部分。

模型确有提升，但多发生在首次尝试

重复改进测试使用了从主构建运行中抽样的 120 个环境和四个模型，每个模型有 3 次连续尝试。每次尝试继承此前的代码和笔记，而模型权重保持不变，因此该设置衡量的是任务内的进展，而不是改变模型的学习。在 84% 的环境中，至少有一个模型在首次尝试后取得提升；在 120 个环境中的 68 个里，模型超过了复现的论文方法。

这些提升不只是调参。转录分析显示，在超过复现基线的成功尝试中，95% 包含调参之外的工作。在 120 个环境上，最终归一化分数的中位数分别为 Opus 5 的 0.80、GPT-5.6-sol 的 0.76、DeepSeek 的 0.65、Haiku 4.5 的 0.33，所用尺度上起始方案为 0、目标为 1。

论文还报告，对较强模型而言提升集中在第一次会话。论文明确不把收益递减当作任务饱和的证据，因为它也可能反映智能体在寻找替代方案或使用继承记录方面的局限。该研究也没有把继承记录的作用与额外求解时间的作用分离开。

得分较低的模型探索更少、更易接受噪声

轨迹分析描述了较弱表现在实践中是什么样子。得分较低的模型探索更少，更常接受小于所报告标准误的提升，并更依赖针对开发集的调参。在各模型中，一些最终提交比此前保存的版本更差，也就是说找到更好的方案并不保证它被保留下来。

论文对这些模式的含义保持谨慎。它把它们作为关联而非因果来呈现：研究并未确定哪些做法导致更高表现。论文把实验判断和最终选择列为未来干预的具体目标，并把保存的程序、测量结果和交接记录作为评估这类干预的基础。

环境设计与行为发现正是在这里衔接起来。由于每个环境都记录了智能体所做改动的顺序，用于评分的同一批产物也暴露出智能体是否测试了足够多的替代方案、是否区分了真实提升与测量噪声、以及是否保留了最佳结果。

这些环境没有证明什么

若干边界限定了头条数字的含义。任务为适配有限算力做了改造，因此超过复现基线并不等于在原始研究问题上取得进展。没有轨迹被用于训练，因此该研究并未证明研究能力有更广泛的提升。一些环境在求解者运行期间仍可访问留出评分材料，一位专家提出的攻击依赖于运行时访问控制，而不只是任务措辞。

评审证据也是部分的。专家评审覆盖 180 个主运行环境中的 90 个，每个环境一位专家，没有人类评分者间一致性估计，模型生成的轨迹标签也缺少人工验证。构建角色未做消融，因此作者、复现者和审查者三个智能体各自的贡献仍不清楚。访问限制也妨碍对完整语料库的独立复现。

与人工构建任务的比较并不配对。在同一量表下，智能体评审认为 RSI-Forge 环境在分数区分度（4.65 对 2.64）和开发集—测试集区分（4.67 对 3.23）上优于 34 个人工构建的 RSI-Exam 任务，而 RSI-Exam 在抗饱和性上得分更高（4.41 对 3.98）。由于任务集不配对，这些差异不能单独归因于自动构建的效果。

瓶颈在深度，不在改进空间

这篇论文中最具决策意义的区分，是流程能可靠产出什么、又难以保留什么。专家对起始方案之上的改进空间（4.81）和分数区分度（4.74）给出最高评分，模型也确实在 120 个受测环境中的 68 个里取得提升并超过复现基线。而在决定环境能否支撑持续改进的属性上，情况较弱：专家给出的抗饱和性为 3.09，对来源论文的忠实度为 3.72。

这一差距指向一个具体优先级，而不是泛泛的告诫。如果目标是让环境奖励多个独立想法，而不是一次改动就吃掉大部分区间，那么关键约束就是在固定算力预算下让研究问题可执行的同时保留其深度；论文认为，随着构建规模扩大，有针对性的专家评审对评估这些属性仍然有价值。

求解者结果进一步说明注意力该放在哪里。提升集中在第一次会话、得分较低的模型接受小于所报告标准误的改动、最终提交比此前保存版本更差，这些都关乎智能体如何开展和保留实验。对于判断自动环境构建是否就绪的读者，有用的门槛不是任务能否规模化生成——这篇论文已在 18 个领域的 210 个环境中展示了这一点——而是生成的任务能否足够好地抵抗饱和与取巧，从而持续衡量真实进展。

本文引用的文献