把失败转化为训练任务
论文的核心问题不是如何收集更多科学文本,而是如何围绕模型仍然欠缺的能力来选择和组织科学资源。SAIL 的做法是观察模型在训练任务和开发验证任务上的行为,再让前沿 AI 模型驱动的智能体诊断背后的能力缺口,并为它构建新的训练材料。
诊断刻意做得具体。两次失败的文献检索可能需要不同的干预:一次需要更广的探索,另一次需要在已检索到的论文中做更好的筛选。在科学编程中,程序可能成功运行,但所选方法建立在无效假设之上。在更长的调研中,模型可能每一步都执行正确,却没有利用中间发现来修改计划。每种失败类型都指向不同种类的任务,而随着更新后的模型行为改变训练优先级,这个循环会在多个开发周期中重复。
前沿智能体构建哪些训练材料
构建智能体利用论文集合和科学代码仓库,产出三类材料。聚焦问题用于练习单项推理能力;示范展示观察结果应如何改变后续动作;可执行任务让学生在自身交互中练习。因此,同一批资源集合可以在模型弱点变化时支持不同的训练目标。
对于交互式任务,智能体还会在问题之外一并搭建工具和执行状态。检索任务会暴露中间检索结果,使模型能够修改查询和选择。编程任务提供执行工具和科学库,使模型能够检查计算结果。更长的调研使用持久工作区,让后续动作能够基于先前的产物和发现继续推进。生成的材料会对照来源和任务特定检查进行验证,包括在适用时执行验证,覆盖科学内容、所需工具的可用性以及用于训练的监督信号。
从 SFT 到智能体强化学习的四阶段训练
SAIL 分四个阶段训练。首先在通用能力数据与循环构建的科学数据的混合集上做监督微调,建立后续所需的能力和交互格式;对于交互式任务,示范包含工具调用、环境观察和随后的模型动作。该检查点随后同时初始化专家模型和学生策略。
专家模型在聚焦的能力分布上独立训练,使用额外的监督微调、强化学习或两者兼用,从而可以针对每项能力调整数据配比和优化设置。随后,多教师在线策略蒸馏(MOPD)在学生自己的轨迹上把专家监督迁移给通用学生:学生生成回答和交互轨迹,被路由到的专家在学生实际观察到的相同上下文下为每个学生生成的 token 打分,包括工具观察和压缩后的历史。掩码会排除任务输入和环境观察,只让模型生成的 token 参与计算。
最后,智能体强化学习利用任务特定验证器、完成标准或其他可用反馈信号得出的奖励,训练多步执行。训练覆盖多个任务族,并让模型接触到由自身动作产生的状态,包括工具失败和未成功的中间尝试。最终 SAIL 检查点在此阶段之后得到。
教师路由与执行环境为何分离
智能体强化学习和 MOPD 共享同一套 rollout 与采集流程:新轨迹由当前学生策略通过共同的 rollout 接口生成,两种方法只在采集后附加到学生动作上的监督信号不同。对强化学习,验证器或奖励函数评估回合结果;对 MOPD,任务元数据把每条轨迹路由到某位专家教师。
执行框架路由和教师路由被有意解耦。执行框架决定任务如何执行、学生如何与环境交互,教师则决定由哪位专家为产生的轨迹提供监督。因此,同一监督规则下任务可以使用不同的执行框架,重新配置专家教师也无需改动交互栈。基础设施还把模型优化、rollout 服务和环境执行分开,使 rollout 与优化可以采用不同的并行和内存配置,沙箱容量也能独立于模型服务容量扩展。
SAIL 领先与不领先之处
论文报告 SAIL 相对优势最强的结果出现在 SciCode 和 ArxivDIGESTables 上。SAIL 在 SciCode 上得 50.35,高于总参数 744B 的 GLM-5.2 的 47.57 和同规模 Apodex-1.0-mini 的 43.10。在 ArxivDIGESTables 上它得 35.24,高于 DeepSeek-V4-Flash-0731 的 35.13 和 GLM-5.2 的 34.21。讨论部分正是把这两个基准列为 SAIL 相对优势最强的结果。
其他方面的图景更为复杂。在全文问答上,SAIL 得 91.67,但相对排名较弱,与领先者相差 3.57 分。在仓库执行和长程科研工作流上,最强的更大模型仍保持领先,DiscoveryBench 相对基座模型的提升也较小。论文自己的解读是,证据解读、仓库执行和更长调研仍是后续开发的重点。
在总参数 35B、激活参数 3B 的同规模组内,SAIL 的优势幅度随任务变化。它在 LitQA search 上报告 33.25,BigBang-v1 为 28.36;在 ScholarQA CS2 上为 85.33,Apodex-1.0-mini 为 76.00;在 LitQA2 上为 86.51,Apodex-1.0-mini 为 74.32。在 E2E-Bench Hard 上它报告 89.46,Nex-N2.5-mini 为 83.83;而在 E2E-Bench Basic 上其 77.27 高于 Nex-N2.5-mini 的 70.02。基准层面的排序随任务族不同而变化,这也是论文不宣称全面领先的原因。
3B 激活参数比较的含义
SAIL 总参数 35B、激活参数 3B,与包含 BigBang-v1、Apodex-1.0-mini、Nex-N2-mini、Nex-N2.5-mini、Agents-A1 和 Qwen3.6-35B-A3B 的同规模组配置相同。更大规模组的总参数从 124B 到 1600B。因此,论文所称以少得多的参数取得有竞争力的表现,是相对这一更大规模组而言,并不是宣称在每个基准上都追平领先者。
这一区分对比较模型的读者很重要。SAIL 的 SciCode 和 ArxivDIGESTables 分数超过两组中列出的所有模型,但其全文问答分数 91.67 落后领先者 3.57 分,更大模型在仓库执行和长程科研工作流上仍保持领先。因此,选择模型的读者应看具体基准族,而不是单一的整体印象:论文证据支持其在科学编程和面向表格的文献综合上的优势,同时在证据解读和扩展调研上仍有差距。
循环与结论的边界
论文指出,后续开发周期取决于资源集合的覆盖范围以及诊断和反馈的质量。论文还指出,科学假设和实验解读仍然难以仅靠执行来检验,这直接限制了循环验证能走多远:可执行检查能确认代码运行,却不能确认背后的科学假设成立。
第二个边界是范围。报告的对比覆盖论文所列基准上的文献研究、科学编程和多步科研工作流;结果不能确立在这些集合之外的科学领域或任务类型上的表现。论文还发布了模型及其大部分训练数据,但诊断和构建步骤依赖前沿 AI 模型驱动的智能体,因此循环的任务质量与这些智能体绑定,而不只取决于 SAIL 本身。
结果指向的优先方向
论文自己的优先级排序很清楚:SciCode 和 ArxivDIGESTables 是 SAIL 相对优势最强的地方,而证据解读、仓库执行和更长调研是最强更大模型仍然领先、也是后续开发瞄准的方向。对于评估科学感知循环是否值得采用的读者,与决策相关的分界在于:一类任务的失败可以被诊断并通过执行验证,另一类任务的失败取决于执行无法检验的科学假设。SAIL 的结果对前一类任务的支持强于后一类,论文陈述的后续步骤也遵循同一条边界。
本文引用的文献
SAIL: Scientific Agentic Intelligence via a Science-Aware Loop
SAIL 是一个总参数 35B、激活参数 3B 的开放模型,通过科学感知改进循环训练;在论文的对比中,它取得最高的 SciCode(50.35)和 ArxivDIGESTables(35.24)分数,而更大模型在仓库执行和长程科研工作流上仍保持领先。
