GenAI 使用如何影响开发者编程时的认知负荷?

四天实地研究显示,开发者的感知认知负荷与 GenAI 使用和任务情境相关,而非可穿戴生理指标。

直接答案

在这项为期四天、覆盖 21 名 SAP 开发者的工业实地研究中,涉及 GenAI 使用的任务在七点量表上的感知认知负荷比未使用 GenAI 的任务高约一分。任务类别和任务时长也与认知负荷相关,而可穿戴生理指标在这类工作情境之外只提供了有限信息。

1篇文献引用

本文由 WisPaper 驱动的搜索和论文分析生成。

衡量的是感知负荷而非生产力

这篇论文问了一个采用率看板通常不会涉及的问题:当开发者在日常工作中使用生成式 AI 工具时,他们感受到的心理负荷会发生变化吗?业界监测往往追踪活跃用户率、使用频率、提示或代码补全次数、建议采纳数,以及任务完成时间、拉取请求周期时间等交付指标。这些指标很少说明开发者在使用 GenAI 时面临怎样的认知需求。

这里的结果变量是感知认知负荷,由开发者本人针对每个工作任务在七点李克特量表上记录。这是主观评分,既不是生理指标,也不是生产力分数。研究随后检验 GenAI 使用、任务类别和任务时长是否与该评分相关,以及腕带采集的生理数据能否解释工作情境未能解释的变异。

21 名开发者记录了四天任务

2025 年第二季度,加利福尼亚州两个 SAP 站点的专业开发者参与了为期四天的研究。招募的队列包括 22 名 SAP 员工:12 名软件开发者或工程师、8 名高级开发者或工程师、1 名高级质量专家和 1 名首席软件架构师。由于一名参与者未遵守研究方案,当前分析将其排除,最终为 21 人。参与者报告平均有 5 至 10 年经验,参与要求具备 Java 经验,所有人都报告经常使用 Java。为保护隐私,研究未收集年龄或性别信息。

在非受控的工作场所阶段,参与者把每个任务记录在纸质问卷上,问卷放在视线范围内,既能提醒他们填写,又不会打断工作。每个任务记录开始和结束时间、感知认知负荷、生产力、是否使用了 GenAI 工具,以及若使用则记录工具的帮助程度。研究鼓励参与者每天至少连续一小时与 GenAI 工具交互,工具选择自由。工作中最常使用的 GenAI 工具是 GitHub Copilot 和 ChatGPT。

整个工作日,参与者在非惯用手佩戴 EmbracePlus 腕带,通过蓝牙与智能手机配对。设备以 64 Hz 记录血容量脉搏、以 4 Hz 记录皮肤电活动、以 1 Hz 记录皮肤温度、以 64 Hz 记录三轴腕部加速度。加速度仅用于检测运动伪影,不作为统计预测变量。研究结束后,记录的任务被归为开发密集型、协作密集型或其他活动三类。

GenAI 使用与任务类型都与认知负荷相关

GenAI 使用、任务类别和任务时长各自都显著有助于解释感知认知负荷。涉及 GenAI 使用的任务在七点量表上的认知负荷估计比未使用 GenAI 的任务高 0.996 分(χ²(1)=23.80,p<0.001,ΔR²=0.047)。任务时长每增加一分钟,感知负荷上升 0.007 分(χ²(1)=15.21,p<0.001,ΔR²=0.038)。

任务类别贡献的解释力最大(χ²(2)=44.13,p<0.001,ΔR²=0.091)。开发密集型任务的评分显著高于协作密集型任务(estimate=0.591,p=0.0153)和其他活动(estimate=1.437,p<0.0001);协作密集型任务的评分也高于其他活动(estimate=0.845,p<0.0001)。三个固定效应合计解释了感知认知负荷 32.4% 的方差,纳入参与者个体差异后升至 45.9%。

这些是小规模实地样本中的关联,并不能证明 GenAI 使用导致额外的心理需求。方向也值得直说:在这个队列中,GenAI 支持的任务带来的是更高的感知负荷,而非更低。由于任务类别和时长与 GenAI 使用一起进入模型,GenAI 的估计值已对这些因素做了调整,但任务之间未被测量的差异仍可能起作用。

可穿戴生理数据在情境之外贡献有限

研究逐一检验了 11 项生理指标,每次加入一个已包含 GenAI 使用、任务类别、任务时长和参与者个体差异的基线模型。对 11 项指标做 Benjamini-Hochberg 校正后,只有皮肤温度的标准差显著改善了模型拟合:皮肤温度变异性越低,感知认知负荷越高(estimate=-0.224,pBH=0.041)。新增的解释贡献很小(ΔR²=0.014)。皮肤温度极差呈现相似的负向关联,但校正后不再显著(pBH=0.105)。

一个多模态模型同时纳入心血管主成分、皮肤电活动主成分、平均皮肤温度和皮肤温度标准差。与情境基线相比,完整生理指标组的贡献接近显著(χ²(4)=9.42,p=0.052),增益很小(ΔR²=0.019)。逐一移除某一模态的比较显示,大部分信息来自皮肤温度:移除两项温度指标显著降低拟合(χ²(2)=8.87,pBH=0.035,ΔR²=0.018),而心血管成分(pBH=0.844)和皮肤电成分(pBH=0.379)则没有。后续比较表明温度结果由标准差驱动(estimate=-0.251,pBH=0.006,ΔR²=0.018),而非平均温度。

使用累积链接混合模型的敏感性分析考虑了七点评分的序数性质,结果大体一致。完整生理模型变得显著(χ²(4)=10.89,p=0.028),皮肤温度标准差仍显著(estimate=-0.396,pBH=0.002)。但当七点量表被合并为低、中、高三类后,皮肤温度标准差不再通过校正(pBH=0.102)。这种脆弱性说明生理信号应被视为边缘性证据,而非定论。

情境的解释力高于腕带数据

真正重要的比较发生在两类模型之间。工作情境因素的边际 R² 为 0.324,条件 R² 为 0.459;而单项生理指标中表现最好的皮肤温度标准差只增加了 ΔR²=0.014,完整多模态生理组增加 ΔR²=0.019。在这个数据集里,知道任务是否使用 GenAI、属于哪类任务、持续多久,比生理记录更能说明感知负荷。

作者据此认为,应在具体工作情境中评估感知认知负荷,把可穿戴数据作为补充信息而非独立依据。这一解读与数字相符:生理关联在各敏感性分析中方向一致,但解释份额很小,且单项指标的结果对评分量表的合并方式敏感。

这项研究也无法说明为什么 GenAI 任务的评分更高。它测量的是是否使用了工具,而不是如何使用、哪个工具用于哪个任务,或工具被认为有多大帮助;开放式帮助程度问题虽有记录,但在本文报告的结果中并未作为预测变量分析。更高的评分可能反映更困难的任务更倾向于使用 GenAI、编写提示和核查输出的付出,或其他未被测量的因素。论文的证据支持的是关联,而非因果解释。

小规模工业样本与有限适用范围

这些发现来自 2025 年第二季度加利福尼亚州两个 SAP 站点的 21 名开发者,为期四天,所有人都有 Java 经验并经常使用 Java,多数人报告有 6 至 12 个月的 GenAI 使用经验。第一和最后一个研究日包含预定义任务的受控环节不在本文范围内。任务类别由相关工作的作者在研究结束后依据既有分类方案划分,因此类别边界是分析选择,而非参与者自行报告。

这些范围条件限制了结论的可迁移性。估计值描述的是该队列在真实工作中的自报负荷,而非所有开发者、其他组织,也不是 GenAI 采用的长期影响。生理结果同样只适用于所用的 EmbracePlus 指标和预处理流程,该流程在可比流程中保留了最多的工作任务。在这些限制之内,论文的贡献是一项经过测量的比较:包括 GenAI 使用在内的工作情境承载了可解释的信号,而腕带生理数据没有。

评估 GenAI 工作流应先看任务情境

对于评估 AI 支持工作流的人,这篇论文给出的优先事项是在记录任何负荷指标的同时记录工作情境。GenAI 使用、任务类别和任务时长各自都与感知认知负荷独立相关,其中任务类别的贡献最大。只报告采用率或产出指标的看板会漏掉开发密集型任务与协作密集型任务之间的差异,也会漏掉本样本中涉及 GenAI 的任务高出约一分的评分。

可穿戴生理数据应被视为次要渠道。单项分析中唯一通过校正的指标是皮肤温度标准差,它解释了约 1.4% 的额外方差,且在评分量表合并为三类后失去显著性。这项研究暗示的实际门槛不是某个生理阈值,而是一个设计选择:把主观负荷评分与任务级情境配对记录,生理数据只用来补充这份记录,而不是取代它。

本文引用的文献

1

Beyond Productivity: Measuring Developers' Cognitive Load During GenAI-Supported Software Development

在一项针对 21 名 SAP 开发者的四天实地研究中,GenAI 使用与七点量表上约高出一分的感知认知负荷相关,任务类别和时长也有影响,而可穿戴生理数据在工作情境之外只提供了有限信息。