为何仅增加人工审核员还不够
“让人类参与决策”的本能往往意味着增加一个最终审批步骤。但研究表明，这可能会适得其反。2021年一项多方法研究（分析模型、实验、模拟）发现，当人类接受人工智能的建议时，他们的选择会趋向于AI的提议，从而提升个体准确性，但会侵蚀“独特的人类知识”——即只有人类才能带来的洞见[5]。研究人员将此类比为变成“博格人”：个体强大但失去个性，这损害了“群体智慧”——即源于多样化独立判断的集体准确性[5]。
这意味着，长期接触AI输出的人工审核员会开始像AI一样思考，从而削弱人类监督所依赖的视角多样性。研究指出，若不加以干预，人机协作团队在集体决策中的效率远低于纯人类小组[5]。因此，这一循环的设计必须旨在保留并鼓励人类的独特性，而非仅仅对AI的决策盖章放行。
设计循环以真正利用人类知识
解决方案在于构建能够主动征求并整合人类知识的系统，而非被动呈现AI输出。2023年一项关于以人为本AI的设计科学研究（涉及SCHOPPER和VRAILEXIA两个项目）通过两个阶段实现了这一理念：首先，采用人机协同的知情设计流程；其次，构建一种使用架构，用于聚合AI与人类的输入[3]。该方法将人类知识融入AI的设计与训练中，为人类提供可理解的预测解释，并创造出“增强智能”，使人类与AI能够相互抵消彼此的失误[3]。
具体来说，这意味着诸如以下功能：在展示AI输出之前提示用户提供自己的推理，提供用户可以质疑的AI预测解释，以及将AI建议个性化到每个用户。2021年的研究特别建议将个性化AI建议作为一种缓解技术，他们的模拟表明，这类干预措施在个体场景和群体智慧场景中都表现良好[5]。因此，这种循环应当是双向交流，而非单向灌输。
今天就能落地的实用机制
你可以将这些原则转化为具体功能。首先，利用提示引导人们贡献自己的知识。2022年一项关于文档助手（Themisto）的研究发现，“用户提示方法”能提醒参与者记录他们原本会忽略的代码，从而提升他们的满意度[1]。这表明，简单的提示可以激活原本会流失的人类输入。
第二，提供解释并允许人类进行干预。以人为中心的AI框架强调向人类提供可理解的AI预测解释，使他们能够对AI的偏见起到制衡作用[3]。第三，根据2021年的研究建议，将AI的建议个性化地适配给每位用户，以减少趋同并保持多样性[5]。这些机制将循环从形式主义转变为真正的协作。
关于这些来源
本回答基于5项同行评审研究——发表于2021年至2023年间，其中3项发表于Q1区期刊，合计被引用381次——这些研究是从5项通过质量筛选的研究中选出的最具相关性的成果，而后者又源自从超过5亿篇论文数据库中检索到的18篇文献。
本文引用的文献
文档记录至关重要：面向人类中心的人工智能系统，助力计算笔记本中的数据科学代码文档化
在一项针对24名数据科学从业者的被试内实验中，Themisto系统——结合了自动生成、API检索和用户提示——减少了文档编写时间，提醒用户记录被忽略的代码，并提升了满意度，表明提示能够有效地将人工输入引入AI辅助工作流程。
医疗中的AI：让人类始终参与其中
这篇关于人工智能在医疗领域应用的社论主张保持人类参与，强调在临床AI应用中需要人类监督，但并未提供具体数据。
以人为本的人工智能以减轻人工智能偏见
基于两个设计科学项目（SCHOPPER和VRAILEXIA），作者提出了一种以人为中心的AI框架，该框架采用人在回路的设计流程，并构建了一种聚合AI与人类输入的用途架构，旨在整合人类知识、提供解释，并创造增强智能以缓解AI偏见。
人机协同智能：推动面向未来的人工智能核心网络安全发展
这篇关于人工智能在网络安全领域应用的综述提出了一种“人在回路的智能网络安全模型”，将人类智能与人工智能协同起来，以应对当前AI驱动安全应用中的局限性，不过该模型仍属概念性框架，缺乏实证数据支持。
人类在环中会变成“博格人”吗？与AI协作的益处与陷阱
在一项采用多种方法（分析模型、实验、模拟）的研究中，作者发现人类的选择会趋同于人工智能的建议，这提升了个体准确性，却减少了人类独有的知识，损害了群体智慧；他们建议将人工智能建议个性化，作为一种在个体和集体层面均表现良好的缓解措施。