监督取代逐项决策控制
当智能体执行长时程任务时,用户不再自己做出每一个决策,而是转为监督自主执行。论文把这一转变视为态势感知问题:注意到发生了什么、理解其意义、预判接下来可能发生什么。责任并未随委托而消失,因为用户仍需判断智能体的选择是否服务于自己的目标。
难点在于规模与碎片化。智能体的活动量可能超出用户跟进的能力,而任何单一选择的证据都散落在消息、工具结果和中间产物中。论文的引例是一个数据排除选择:丢弃不完整记录或许合理,但它改变了分析所代表的人群,因此仍值得用户判断。研究问题由此是:哪些关键决策值得验证,以及什么证据能帮助用户理解其影响。
两个监督维度拆成三个子集
AgentMonBench 是软件工程基准,包含三个各 100 个样本的子集,覆盖两个互补的监督维度。第一个维度是需求与行为之间的一致性。SpecGAP 评估需求不完整时未被明确规定的关键仓库行为:它从完整任务文档和仓库出发,删除选定关键条件的精确文本片段,再通过两种独立映射方法把每个被删条件追溯到其实现,并经过人工复核。SilentSwap 评估即使现有测试通过、行为仍偏离文档化需求的语义偏差,每个任务使用五处替换,覆盖八种行为改变机制。
第二个维度是关键决策的觉察与验证。FeedbackTrace 评估监控器能否在真实交互中浮现值得用户验证的自主选择,其目标来自后续用户反馈,且该反馈对监控器输入隐藏。它的验证点标注为必须披露或值得披露,每个验证点需要一到两个不同的证据 ID,且必须从可选中的智能体或工具证据中复制。
三个子集的输入长度差异明显。SpecGAP 平均 22,870.32 个输入 token,SilentSwap 为 22,855.91,FeedbackTrace 为 53,942.98,其中 FeedbackTrace 的长上下文组中位数达到 86,138.5 个 token。这一差距很重要:交互历史子集的平均长度约为仓库子集的两倍,因此不应把结果读成统一的难度水平。
EBG 无需训练即可构建行为
证据锚定行为图是一种免训练方法。其构建器运行三个确定性算子,不调用大语言模型,只使用可见输入并排除隐藏的参考标注:证据抽取、行为形成和行为图构建。证据单元保留标识符、原始内容和位置。仓库位置标识文件、所属符号和行范围;轨迹位置保留事件位置和可用的来源标识符。多个行为可以引用同一证据。
行为形成给每个行为赋予角色结构。仓库行为遵循条件—操作—结果,以返回值、异常和状态更新等可观察结果作为锚点,由分支结构提供条件,由变量定义与使用识别相关操作。轨迹行为遵循需求—动作—响应,利用对象标识符、工具调用链接、运行标识符和回复关系等显式结构线索,把与同一用户需求相关的工具动作和助手响应归为一组。
随后图把行为归入作用域,并用有向、带类型的关系连接它们,每条关系都保留支撑证据。仓库作用域遵循函数和方法等语法符号;轨迹作用域遵循显式任务关联。仓库关系包括从调用方到被调用方的调用,以及从生产者到消费者的供给;轨迹关系包括任务对它所引用更早任务的引用,以及连续任务之间的先后。构建与呈现是确定性的,语义判断由监控器做出。
面向任务的视图把扩展限制在一跳
对仓库而言,EBG 用任务需求对目录条目排序,优先考虑由显式路径、符号名、调用和配置键识别出的直接文档匹配,其次是图相关的条目,最后是其余文件。监控器用这一顺序选择要读取哪些文件。与任务文档引用直接匹配的作用域构成文档匹配种子集;当没有直接匹配时,一个固定的代表性作用域作为回退。
从每个种子扩展时,保留所有直接相连的关系,并加入另一端点处的作用域,扩展限制在一跳,新加入的邻居不再递归扩展。通过共享邻居或选定关系而变得连通的邻域合并为同一个弱连通分量;不连通的则保持分离。判定连通性时忽略边的方向,但每条关系保留原有方向和类型。
每个分量选择一个阅读根,优先选择在分量内连接到最多不同相邻作用域的种子,并列时以该种子在任务需求中最早被明确提及者优先。这正是论文所称 EBG 呈现面向任务视图的机制:图不是整体展示,而是围绕监控器正在核查的需求来渲染。
EBG 改善多数设置而非全部
在八个模型上的实验显示,与直接访问原始上下文相比,EBG 在多数设置中提升了决策识别和证据定位。多数设置这一表述来自论文本身,也是这一核心结果的诚实边界:它并非在每个模型和每个子集上都一致获胜。
进一步实验显示,EBG 的证据定位增益在输入规模和超参数设置上持续存在。这一持续性主张比总体结果更窄。它专门适用于证据定位,也正是它支撑了这样的论点:增益并非某一种上下文长度或某一种配置的产物。
基准的评分把读者容易混淆的度量区分开来。对 SilentSwap,定位分数要求文件路径、符号类型和完全限定符号名完全一致,之后行区间重叠才计入;而定位正确性容忍相邻行或同一块内的小型语法包装,但不接受缺失核心操作或范围过宽。变更正确性则单独检查预测是否识别出该决策、是否覆盖所有被改动的操作、是否同时描述原始逻辑与替换逻辑,并给出正确方向。对 FeedbackTrace,验证点对齐整体判断决策含义,证据支持分数判断有效性、直接性和充分性,而证据命中率只要求至少一个完全相同的共享标识符。因此高命中率并不意味着证据集充分。
配对案例显示披露改变决策
论文把五个公开记录的真实问题——来自自动研究及相关自主智能体工作流——改编为受控本地任务,并保留原有失败机制。每个案例让 Codex 在未启用 EBG 审查框架和启用该框架两种条件下各运行一次,得到五组配对比较,任务提示和模型配置保持不变。分析只依赖归档的执行轨迹。
在一个案例中,计划同时报告准确率和召回率,却未规定二者的优先级。没有 EBG 时,智能体未询问用户就选择准确率,选定的阈值把准确率从 0.70 提高到 0.80,同时召回率从 1.00 降到 0.3333,并且只在最终回复中解释所假定的优先级。有 EBG 时,智能体记录了一个未决决策并询问哪个指标优先;用户选择了准确率。被默认接受的假设在配置选择之前变成了明确的用户决策。
在另一个案例中,一项验证声明被纠正。没有 EBG 时,智能体报告调用次数和模拟成本单位从 96 次调用、1,056 单位降至 1 次调用、18 单位,并称 API 冒烟验证通过,引用执行记录路径,却没有区分复用已存储响应与真实服务调用。有 EBG 时,智能体发现响应来源为已完成状态、实际请求数为零,保留同样的三项优化,纠正了 4/4 冒烟结果验证了真实 API 请求这一说法,并披露实时外部 API 连通性仍未验证。
第三个案例涉及归因。两次选定运行报告的验证准确率分别为 SGD 的 205/240 和所选动量配置的 215/240,但候选配置获得的超参数搜索明显更多:先是一轮 27 次拟合的网格,再加一轮 140 次拟合的精细网格,而 SGD 参考只运行一次。没有 EBG 时,智能体仅凭更高的验证准确率推荐动量 SGD,未考虑搜索预算的不对等。这些案例是说明性应用,不是额外的基准评估。
适用范围与需要关注之处
证据基础是软件工程。SpecGAP 和 SilentSwap 取材于文档到仓库任务和真实用户—智能体交互来源,FeedbackTrace 使用对监控器输入隐藏的真实用户反馈。基准的 300 个样本平均分在三个子集,因此每个子集结果都基于 100 个样本,且标注数量各不相同:SpecGAP 有 484 个被省略条件,SilentSwap 每个任务恰好五处替换,FeedbackTrace 每个会话一个验证点。
EBG 本身免训练,构建与呈现都是确定性的,这意味着该方法贡献的是组织方式而非学习到的判断;语义判断仍由监控器做出。论文还报告了失败分析和未来方向,审查框架负责组织流程,而证据解读与纠正行动仍由智能体负责。
对读者而言,最具决策相关性的区分是识别关键决策与为其定位充分证据之间的差别。EBG 的持续性增益报告的是证据定位在输入规模和超参数上的表现,而决策识别是在多数设置中改善。评估一个监控器时,优先应看它是否浮现出需要确认的具体选择,并随后提供有效、直接且充分的证据,而不只是提供一个与参考集重叠的标识符。
本文引用的文献
What Did the Agent Actually Do? Evidence-Grounded Oversight for Long-Horizon Agents
EBG 是一种免训练的证据图,在八个模型上于多数设置中提升了决策识别和证据定位,且证据定位增益在输入规模和超参数设置上持续存在。
