用户打算把哪些认知步骤交给 LLM 推理?

992 步研究显示,用户认为 48.6% 的推理步骤由 AI 主动发起,却希望 63.9% 的步骤完全委托。

直接答案

在这项研究中,用户并不打算把 AI 实际做的大部分工作委托出去。在 24 位高频 LLM 用户标注的 992 个推理步骤中,参与者认为 48.6% 的步骤由 AI 主动发起,即他们并未要求 AI 做这些工作;但与此同时,他们希望 63.9% 的步骤由 AI 直接推进,无需咨询或通知自己。因此,委托意图并不是一个简单的“是或否”:它随认知工作的类型以及 AI 贡献的结果而变化。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

近一半推理步骤被判定为 AI 主动发起

这篇论文的核心测量不是用户是否喜欢 AI 的输出,而是每个中间步骤由谁发起。参与者逐步回顾自己已完成的任务,判断该步骤是自己要求的,还是 AI 自行承担的。汇总 992 条标注后,48.6% 的步骤被判定为 AI 主动发起。

这一总体数字可拆分为四种委托实施形态。有意委托(用户提出该工作,且 AI 的处理符合预期)占 43.6%;意外收获式委托(AI 未经提示主动行动,但贡献是用户想要的)占 30.4%;非预期委托占 18.1%;后悔式委托(用户曾提出该工作,但事后希望以不同方式处理)占 7.8%。

这一区分很重要,因为一个提示可能展开为许多步骤。通过提示委托一项任务,并不意味着用户要求了完成该任务所需的每一个推理步骤,因此“我委托了这项任务”和“我意图包含这个步骤”是在不同层级上测量的两回事。

单轮之内 AI 主动性从 31.1% 升至 61.4%

AI 主动发起并非均匀分布在一次回复中。参与者认为,一轮对话前五分之一中 31.1% 的步骤由 AI 主动发起,而最后五分之一中这一比例为 61.4%。

这一上升部分对应工作类型的转变:推理从“框定”转向“展开”“审查”和“再处理”,而这些更常被归为 AI 主动发起。但仅凭工作构成变化,预测的增幅只从 38.0% 升至 52.6%,低于实际观察到的 61.4%。因此论文把这一上升同时归因于两点:认知工作的变化,以及在同一类工作中、轮次越靠后 AI 主动性越强。

非预期委托在一轮对话后段也更常见,但一个由 AI 主动发起的步骤在后段并不显著更可能是不想要的。论文将此解读为更多步骤被归因于 AI 主动发起,而非后段的 AI 主动性更糟。

不想要和次要的步骤更常由 AI 主动发起

AI 主动发起并不自动等于问题。在 AI 主动发起的步骤中,62.7% 的贡献符合用户预期,论文将其归为意外收获式委托;37.3% 则不符合。

当按用户对步骤的判断拆分时,不对称性就出现了。不想要的步骤中 70.0% 由 AI 主动发起,而想要的步骤中这一比例为 41.1%;次要步骤中 75.8% 由 AI 主动发起,而关键步骤中为 44.4%。两项差异均在 p < .001 水平显著。

这些比例的分母不同——不想要与想要的步骤、次要与关键的步骤——因此它们描述的是 AI 主动性集中在哪里,而不是 AI 主动性有多常不被需要。62.7% 回答的是后一个问题,70.0% 回答的是前一个问题。

某些认知工作更容易招致不想要的主动性

委托实施形态随认知工作类型而变化。理解与规划最常被明确提示且按预期完成,分别有 72% 和 54% 被归为有意委托。综合、头脑风暴和分析中的 AI 主动工作常受到欢迎。非预期委托最常出现在重复(44%)、收窄(38%)、生成(28%)和收集(25%)中。

论文表明,这些差异并不只是 AI 主动发起频率的另一种表述。分析与收集的 AI 主动发起率几乎相同(51% 与 50%),但由 AI 主动发起的分析步骤中 26% 是不想要的,而收集步骤中这一比例为 51%。生成产生的非预期案例数量最多:61 个步骤,占全部非预期委托的 34%。

认知工作整体分布也不均匀。生成是最常见的编码(21.7%),其次是分析(14.2%)、规划(12.4%)和理解(12.1%)。生成占比突出,部分反映了工具使用在推理轨迹中的呈现方式:每个产出制品的工具调用,例如生成路演 PPT 的一页,都算作独立步骤,而 167 个工具调用步骤中有 78% 被编码为生成。

用户希望 63.9% 的步骤完全委托

对大多数步骤(63.9%),参与者希望 AI 直接推进,无需咨询或通知自己。其余 358 个步骤(36.1%)需要用户参与。在这些步骤中,63% 要求在 AI 行动前咨询,29% 要求调整 AI 的工作量(18% 希望少做,11% 希望多做),8% 希望事后被告知。

委托实际如何展开,强烈影响了用户想要的参与方式(Cramér's V = .475,p < .001)。对于越界委托——AI 主动承担了关键工作但贡献不符合预期——82% 要求在 AI 行动前咨询。对于不必要委托,即 AI 主动做了用户不想要的次要工作,53% 要求 AI 少做。对于后悔式委托,即用户曾提出该工作但事后希望以不同方式处理,62% 倾向于咨询。

成功的主动性并不总意味着用户希望完全自主。在有益自主步骤中,28% 仍要求用户参与,而 29 次“事后告知”请求中有 23 次出现在这些情况中。用户有时希望了解 AI 主动发起的工作,即使其贡献正是他们想要的。

期望的协议取决于认知工作类型

偏好的协议也随认知工作而变化(Cramér's V = .268,p < .001)。生成对参与的需求最高(62%),主要通过行动前咨询(55%)。重复的需求水平相近(56%),但参与者更希望 AI 少做(44%)。收窄介于两者之间,参与者要么希望咨询(32%),要么希望减少 AI 参与(21%)。相比之下,理解(15%)、规划(21%)和回忆(26%)对参与的需求相对较低。

这些差异并不只是对不想要结果的反应。即使在贡献符合参与者预期的步骤中,参与意愿仍随认知工作而变化:在满意步骤中,只有 6% 的回忆和理解步骤要求参与,而生成和头脑风暴步骤中这一比例分别为 34% 和 30%。

论文将这些偏好整理为四种期望的委托协议,按 AI 获得的自主程度排序:完全委托(静默)、披露式委托(行动后通知)、校准式委托(行动中调整 AI 的工作量)和咨询式委托(行动前咨询)。这些协议的区别在于用户是否以及何时被纳入——完全不纳入、AI 行动后、工作展开过程中,或在推进之前。

步骤级标注来自 24 位用户和三项任务

证据基础是 24 位高频 LLM 用户,每人完成三项预设任务之一,分别代表创作、信息和建议——即既有研究中识别出的 LLM 辅助知识工作的主要类别。参与者使用定制界面完成任务并进行回顾式审查,产生 992 条步骤级标注。

分类体系在 567 个数据点上开发,随后应用于未参与开发的 12 位参与者提供的 425 个留出数据点,每项任务各四位参与者。来自不同供应商的两个 LLM 使用最终分类定义对留出数据进行了标注。对于期望委托协议,两个标注者的一致率为 94.1%(Cohen's κ = .876),在 60 个实例的验证样本中所有标注者的 Fleiss' κ = .853。对于认知工作,一致率为 72.7%(Cohen's κ = .686),Fleiss' κ = .656。分歧由两位作者讨论裁定。

所有显著性检验均使用基于 χ² 统计量的置换检验,以考虑参与者内依赖性。对于步骤级检验,标签在参与者内打乱;对于控制认知工作构成的位置检验,标签在参与者×类别单元内打乱;对于参与者级检验,参与者在条件间置换。

这些分布在哪里不再适用

研究结果来自 24 位高频 LLM 用户和三项预设任务,每个类别各一项,因此创作、信息和建议之间的差异也可能反映这些具体任务之间的差异。任务较短,其后果和组织约束少于许多形式的知识工作,且参与者只使用一个模型、一个界面和有限的一组工具。

推理轨迹格式直接影响了所报告的分布。由于 PowerPoint 工具把每个产出制品的调用表示为独立步骤,创作任务中生成的占比被抬高——这提醒我们,模型行为、系统提示、轨迹格式和可用工具都会改变哪些步骤出现。

参与者在看到输出后回顾式评估每个步骤,这有助于他们把中间工作与其效果联系起来,但也可能引入后见之明和结果偏差。任务完成后审查每个步骤,也不同于在任务进行中被中断;当咨询、调整或披露机制带来真实成本时,用户表达的偏好可能会改变。论文中的设计草图是提案,而非经过评估的界面。

分类体系也简化了可能承担多种功能的工作:每个步骤只获得一个主要认知工作编码,且认知工作的一致率低于期望委托协议。论文呼吁在把这里的分布当作普遍规律之前,先将分类体系应用于不同人群、领域、任务、模型和智能体架构。

关注工作类型,而不只是步骤数量

这篇论文中最具决策相关性的区分,不是 AI 承担了多少步骤,而是这些步骤属于哪类工作,以及用户如何判断其结果。两种 AI 主动发起率几乎相同的工作类型——分析 51% 与收集 50%——产生了差异很大的不想要主动性比例(AI 主动发起步骤中分别为 26% 与 51%)。仅统计 AI 主动发起的步骤数量,会完全错过这一差异。

同样的逻辑适用于用户想要的协议。生成和重复对参与的整体需求相近(62% 与 56%),但所要求的补救方式不同:生成是行动前咨询,重复是少做。把“希望更多参与”当作单一偏好,会把两种不同的请求混为一谈。

论文自身的优先重点由此而来:由于有益自主步骤中仍有 28% 要求用户参与,且不想要和次要的步骤中 AI 主动发起比例过高,真正有用的目标不是对每个步骤进行一刀切监督,而是在用户确实希望有发言权的工作类型上,让 AI 主动发起的决策可检查、可修改。论文的设计草图——按认知工作类型和归因主动性标注步骤、汇总一次回复中有多少步骤由 AI 主动发起、让用户把协议选择带入后续任务——正是针对这一目标,而不是审查所有内容。

本文引用的文献

1

What Did the AI Take On? Characterizing Cognitive Delegation in LLM Reasoning

在 24 位 LLM 用户提供的 992 条步骤级标注中,48.6% 的推理步骤被判定为 AI 主动发起,但用户希望 63.9% 的步骤完全委托;即使贡献符合意图,期望的参与方式仍随认知工作和委托实施形态而变化。