为什么不知道AI如何决策会让情况更糟
一个只统计击键次数或追踪位置的监控系统已经让人紧张,而一个还会评判绩效的AI系统又加了一层:员工往往说不清系统在衡量什么,也不明白它为什么得出某个结论。一篇关于AI监控的综述将这种不透明性——员工无法理解AI决策是如何做出的——描述为这项技术的核心特征之一,与监控强度、绩效焦虑和压力并列[1]。
由此产生的焦虑在零工劳动者研究中有了名字:“算法焦虑”,被描述为源于持续的数字监控加上不透明的决策,而这两者同时塑造着工作条件和劳动者福祉[2]。要点在于,这种不确定性并非次要问题。当规则不可见时,劳动者无法可靠地预测怎样才能成功,于是监控在他们心里就永远无法真正关闭。
被注视的感觉如何变成持久的压力
这方面规模最大、最直接的检验来自一项对3508名加拿大劳动者的全国调查,它询问了各行各业的人在工作中感知到多少监控。研究者使用结构方程模型——一种追踪一个因素如何通过中间步骤影响另一个因素的统计方法——发现监控感知与更强的心理困扰和更低的工作满意度存在间接关联[5]。
路径比标题结论更重要。监控与三个次级工作压力源相关:更大的工作压力、自主性下降和隐私侵犯。对于心理困扰,这三个压力源完全解释了这一关联——意味着困扰并非单纯由被监视引起,而是由监视所产生的压力、失控感和侵入感造成的[5]。对于任何试图减少伤害的人来说,这是一个有用的区分:损害是通过监控所创造的工作条件起作用的。
更好的监督能否保护员工的自主感?
如果自主性丧失是机制的一部分,那么保护自主性的治理应当有所帮助。关于AI赋能人力资源系统的研究考察了三种治理机制——算法透明度、公平性和人类监督——并追问它们是否决定了AI是支持还是削弱员工的自主性、信任以及AI带来的压力[3]。这指向一个实际抓手:同一个AI工具,人们能否看到它如何运作、是否有真人参与影响他们的决策,感受可能大不相同。
AI观察者效应研究从另一个角度得出了相容的结论,将高强度、不透明的监控与职业倦怠和焦虑联系起来,并主张员工应参与决定如何引入和使用AI监控系统[4]。值得注意的是,这一建议关乎过程,而不只是技术——让劳动者在设计和推行中有发言权,本身就是恢复被监控侵蚀的自主性的一种方式。
我们仍无法确定的地方
在几个问题上,证据只是提示性的,而非定论。加拿大调查衡量的是劳动者对监控的总体感知,而非针对AI系统,因此它说的是广义的监控,而非特指不透明的算法[5]。聚焦AI的研究描述了不透明监控与焦虑或职业倦怠之间的关联,但它们是综述和概念分析,而非因果关系的对照检验[1][4]。而关于算法焦虑的零工研究专门针对零工劳动者,他们的处境可能无法直接套用到传统员工身上[2]。
这些研究一致认同的是效应的方向和可能的路径:不透明和持续监视会削弱控制感、加大工作压力并侵犯隐私,而正是这些条件似乎转化成了焦虑和长期压力[5][4]。悬而未决的问题是,透明度和人类监督能在多大程度上抵消这一点——治理研究提出了这个问题,但尚未用结果数据给出答案[3]。
本文引用的文献
AI驱动的威胁情报、实时监控与员工绩效的未来
AI监控的特征是不透明——员工无法理解AI决策是如何做出的——并与监控强度、绩效焦虑和压力一同被讨论。
算法焦虑陷阱:为什么AI政策必须超越印度零工劳动者的后工作福利
持续的数字监控加上不透明的决策,被描述为在零工劳动者中产生“算法焦虑”。
治理算法,赋能于人:合乎伦理的AI监督如何塑造AI赋能人力资源管理中的信任、技术压力与员工自主性
算法透明度、公平性和人类监督被作为治理机制加以考察,它们可能决定AI赋能的人力资源管理是支持还是削弱员工的自主性、信任和与AI相关的压力。
当机器在注视:理解职场中的AI观察者效应
高强度、不透明的AI监控与职业倦怠和焦虑相关,员工应参与决定此类系统如何引入和使用。
私家侦探,他们看见你的一举一动:职场监控与劳动者福祉
在3508名加拿大劳动者的全国样本中,感知到的职场监控通过工作压力、自主性下降和隐私侵犯,与更强的心理困扰和更低的工作满意度存在间接关联。
