当AI先开口时，人类判断力会受损——所以要让人类坐在驾驶座上
最具体的警示来自2024年的一项实验：当人们在做出自己的判断之前先接收到错误的AI支持时，其准确率相比先自行判断的情况显著下降[1]。简而言之，如果AI在人类思考之前就给出答案，人类往往会锚定于该答案——即使它是错误的。这对跨学科研究自动化构成了直接风险，因为全模态AI可能会自信地提出有缺陷的假设或方法。
解决办法是反转循环：让人先形成初步判断，再用AI作为核查工具，而非依赖拐杖。这与2025年的一种观点相吻合，该观点认为许多“人在回路”系统实际上是“AI在回路”——人类掌控全局，AI提供支持[4]。对于跨学科工作而言，这意味着人类科学家应设定研究问题、解读结果，并决定何时信任AI的建议，而非被动接受它们。
信任必须被设计进系统，而非想当然——交互设计正是关键杠杆
信任不是一按即开的开关，而是一种从设计、训练和反馈的无数循环中涌现出来的属性[3]。在医疗保健等高风险领域，可信赖性必须从一开始就规划好，而不是在出错后才临时补救[3]。对于全模态AI科学家而言，这意味着要内置清晰的解释、审计追踪以及人工干预机制——以便人类能够验证AI的推理过程，并在错误扩散之前将其拦截。
交互设计是实现这一目标的实用工具。2022年的一项框架研究（COFI）分析了92个协同创作系统，发现其中许多系统侧重于AI的能力，却忽视了交互模型[2]。作者认为，人与AI之间更多的沟通——例如轮流发言和贡献类型——能够带来更好的合作关系[2]。在跨学科自动化中，这可能意味着AI会提出澄清性问题、提供替代方案并解释其推理过程，而不仅仅是输出结果。2026年的一项系统综述还强调，可扩展性、认知负荷和信任校准是部署人在回路系统时面临的关键挑战[6]——因此设计必须在监督与不让人类负担过重之间取得平衡。
人类反馈可以胜过全自动——即使在复杂的跨领域任务中也是如此
有直接证据表明，人在回路中的方法可以优于全自动方法。2023年一项关于行人重识别的研究——这是一个存在固有域偏移的跨摄像头匹配问题——表明，简单的人类反馈（如相关性反馈）与现有的自动域适应方法效果相当，甚至更优[7]。关键在于，人类操作员可以在运行过程中针对目标数据纠正AI，而无需重新训练模型[7]。这表明，对于跨学科研究而言，一个能够发现并纠正AI输出错误的人，可能比全自动流程更有价值。
但证据并非全然乐观。同一项2024年的实验发现，人类的判断会受到错误AI支持的影响，尤其是当这种支持首先出现时[1]。而2025年的一项哲学分析则警告称，AI系统可能充当“遥控”机制，在看似提供帮助的同时，实则压制人的自主性[5]。结论是：人在回路并非万能灵药——当人类真正被赋予质疑和推翻的权能时，它才有效；而当人类沦为被动盖章者时，它便会失效。
关于这些资料来源
本回答基于7项同行评审研究——发表于2022年至2026年间，其中4项为2024年或之后发表，4项发表于Q1期刊，合计被引用304次——这些研究是从8项通过质量筛选的研究中选出的最相关成果，而后者又源自从超过5亿篇论文数据库中检索到的42篇文献。
本文引用的文献
人在环流程中，AI错误所产生的影响
在两项模拟自动化决策的实验中，参与者在做出自身判断前先接收到错误的AI支持，其准确性有所下降，这表明当AI错误信息优先呈现时，可能会误导人类的决策。
使用COFI设计创意型AI伙伴：人机共创系统中交互建模框架
开发了一个用于建模人机共创系统中交互的框架（COFI），并将其应用于92个现有系统，结果发现许多系统侧重于AI能力而忽视了交互设计，同时揭示了通过加强沟通来促进伙伴关系的机遇。
信任、监管，以及人类参与的人工智能
对人工智能的信任是复杂系统的一种涌现特性，必须提前规划，而非事后补救；本文回顾了美国、欧洲和中国的监管路径，并强调在医疗保健等关键领域中可信赖性的重要性。
人在回路中，还是人工智能在回路中？自动化，还是协作？
本文认为，许多“人在回路”系统实际上是“AI在回路”——即人类掌控全局，AI提供辅助——并提议在评估时应认可人类专家在系统性能中的积极作用。
人类自主性与人工智能在环中的协作
本文借助丹尼特将自主性视为自我控制的概念，论证了推荐系统既能增强也能限制人类的决策自主性，并指出生成模型可被视为信息生产的工具，可能有助于提升创造性自主性。
人机协同人工智能：概念、方法与应用的系统综述
对人机协同人工智能的系统性综述提出了一种基于循环位置、交互粒度和时间特征的分类体系，并指出了包括可扩展性、认知负荷和信任校准在内的挑战。
人在环中的跨域行人重识别
在跨域行人重识别中，采用相关性反馈的简单人在回路实现，其效果与现有自动域适应方法相当甚至更优，且无需重新训练模型。