检查AI输出为什么不同于自己做任务
普通决策工作通常意味着权衡信息并做出选择。检查AI输出则在此基础上多了一层工作:你得判断一个看起来已经完成、语气笃定的东西是否真的正确。研究AI赋能工作的学者把这种负担称为“核查负担”,并将其与一般工作负荷和角色模糊区分开来[4]。这一区分之所以重要,是因为它提示心理成本来自“要为发现别人的错误负责”,而不只是来自事情更多。
这一结论的证据来自请人们描述最近核查AI输出的经历[4]。这种设计能捕捉员工在核查时的感受,但没有直接测量心理负担或出错率,因此无法告诉我们这种成本有多大,也无法说明它是否会改变出错率。
心理负担和出错率会怎样变化
同时测量负荷和错误的研究指向一个一致的方向:当心理工作负荷过大时,表现会变差。在计算机工作中,完成时间和出错率被用作认知过载的标志,令人担忧的是,复杂的AI驱动工具可能把工作负荷推到难以管理的水平[2]。这说的是广义的AI辅助工作,而非专门找错,但它支持“沉重的监控要求会拖累表现”这一看法。
在教育领域,有研究在追踪认知负荷和出错率的同时,将AI辅助学习与传统方法做了比较[5]。这一比较针对的是借助AI学习,而不是审查AI输出,因此不应被解读为对找错行为的直接检验。它确实表明,研究者把负荷和出错率视为值得一起测量的关联结果。
还没有人干净地做过这项对比
这个问题要求的是正面对比:持续检查AI输出中的错误,与普通决策工作相比如何。现有研究都没有建立这种对比。核查负担的研究识别了这种现象,但没有量化负荷或错误[4]。工作负荷研究测量了负荷和错误,但场景是老龄化劳动力和计算机工作,并没有AI输出监控任务[2]。教育研究比较的是AI辅助学习与传统学习,而不是监控与决策[5]。
有一项关于AI与认知负荷的研究报告的是机器学习模型的出错率,而不是盯着AI输出的人的出错率[1]。这些数字描述的是分类器的表现好坏,而不是人类审核者承受了多大心理压力,因此不能回答关于人类出错率的问题。
如果你就是那个负责检查的人
最站得住脚的解读是:核查确实带有真实且多少有些独特的成本,而过重的工作负荷与更差的表现相关[2][4]。至于持续检查相比普通决策工作是否会提高出错率,这些研究尚未检验。一个与工作负荷发现一致的实际启示是:当检查要求高且持续时间长时,风险会增大,但这是从一般工作负荷研究推出的推断,而不是对AI监控效果的实测[2]。
还有一个更乐观的信号:至少在一项教育场景中,AI辅助方法与认知表现和主观认知负荷方面的良好模式相关[3]。这并不能说明检查AI很轻松,但它留下了一种可能:AI支持如何设计,可能与是否涉及AI同样重要。
本文引用的文献
通过分析认知负荷对工作记忆的影响来估算心理健康:一项AI研究
该论文用AI研究认知负荷和工作记忆,报告的是机器学习分类器的出错率,而不是监控AI输出的人的出错率。
人工智能对老龄化劳动力的认知成本:分析计算机工作中年龄对心理负荷和任务表现的影响
在计算机工作中,完成时间和出错率被用来检测认知过载,复杂的AI驱动工具可能把心理工作负荷推到过高水平。
从知识消费到人机共创:生成式AI赋能工程教育的实证研究
一项关于生成式AI在工程教育中的实证研究报告了认知表现和主观认知负荷方面的良好模式,同时涉及对AI输出的核查。
AI赋能工作中的核查负担:当委托生成输出后责任仍留在员工身上
受访者描述了近期核查AI输出的经历,支持将核查负担与一般工作负荷和角色模糊区分开来。
牙科教育中的认知负荷管理:使用眼动追踪和AI分析法的智能学习方法
该研究用眼动追踪和AI分析法比较传统牙科学习与AI辅助牙科学习,在教育场景中测量认知负荷和出错率。
