为何负面案例才是信任的真正信号
事务型AI代理如果只报告自己的成功，就像一辆自动驾驶汽车只报告自己安全行驶的里程数一样。对用户而言，最重要的信息是可能出什么问题，以及问题出现的频率。这里最有力的证据来自2026年一项关于五代理系统管理真实业务运营的研究：在受控的前后对比评估中，39%的审查发现了实质性问题，而其中大多数问题需要跨代理的知识才能识别，单个代理并不具备这些知识[3]。简而言之：每十次检查中就有近四次发现了真实问题，而这些问题中的大多数对做出决策的代理来说是不可见的。如果一篇论文只报告那61%的“干净”案例，就会掩盖那些对安全性和可靠性至关重要的失败。
盲点：智能体无法可靠地发现自身错误
负例之所以如此重要，是因为AI智能体存在一个根本性的盲区：它们无法可靠地察觉自身推理中的错误，正如开环控制系统无法修正其未测量的扰动一样[3]。这并非小缺陷，而是结构性的问题。同一篇论文指出，依赖护栏与对齐训练的单智能体系统，本质上受限于缺乏独立验证[3]。对于事务型智能体而言，一个错误操作可能带来财务或法律后果，这意味着，一篇省略负例的论文不仅不完整，而且具有误导性——因为它暗示了智能体并不具备的自我认知水平。
突出报告的作用：更好的监督与更安全的部署
当负面案例被突出报道时，它们能够促成研究界早已呼吁的那种监督。一篇2026年关于AI智能体在研究中应用的论文警告称，风险包括基于错误或有偏见的AI输出而做出的糟糕政策决策，以及责任空白[1]。该论文建议对研究人员进行偏见识别和输出验证方面的培训，并指定一名AI验证人或担保人来监督诚信问题[1]。负面案例正是这种验证的原材料——没有它们，验证人就无从检查。同样，一篇2022年关于AI智能体与法律的论文指出，AI智能体不具备法律人格，因此无法被起诉或追究责任[2]。这使得人类监督变得更加关键，而突出报道负面案例是人类有效行使这种监督的唯一途径。
关于这些来源
这个回答基于3项研究（2项经同行评审，1项为预印本），发表于2022年至2026年间，其中2项为2024年或之后发表，1项发表于Q1期刊。这些研究从3项通过质量筛选的研究中选出，被认为最具相关性，而这些研究又源自从超过5亿篇论文的数据库中检索到的46篇文献。
本文引用的文献
在研究中使用AI代理的益处与风险
一篇2026年的概念性论文指出，研究中的AI智能体会带来错误输出和责任空白等风险，并建议开展偏见识别与输出验证方面的培训，同时指定一名AI验证人或担保人。
人工智能作为智能体
2022年的一项法律分析得出结论，人工智能代理缺乏法律人格，因此无法被起诉或拥有财产，这使得代理法不适用，并留下了责任空白。
面向多智能体AI的分布式负反馈优化
一项2026年开展的对照前后评估研究，针对五智能体业务系统进行考察，发现39%的审查结果指出了实质性问题，其中大多数问题需要跨智能体的知识，而任何单一智能体均无法获取这些知识，这进一步印证了闭环验证的必要性。