AI代理在哪些条件下能可靠地自主完成复杂任务？
AI智能体在处理大规模结构化数据集的分析任务，或在受控环境中遵循明确流程的操作中表现出色。例如，ClockBase智能体自主重新分析了来自数百万分子图谱的43,602项干预-对照比较，识别出500多种能显著降低生物学年龄的干预措施——这些发现此前被人类研究人员遗漏[1]。其中一种名为哇巴因的化合物，在老年小鼠实验中得到了验证，显示出减轻虚弱症状和改善心脏功能的效果[1]。这表明，当任务数据密集且目标明确（如寻找延缓衰老的化合物）时，AI在规模和全面性上可以超越人类。
同样，在IT运维中，智能体AI系统能够自主预测并解决系统问题，从而减少停机时间和人工干预[2]。在科学研究领域，AI智能体已能自主完成同行评审、生成假设并进行系统综述，其准确性和效率均高于人类[8]。这些成功案例有一个共同点：任务涉及在定义明确的框架内处理大量结构化信息。
AI代理在复杂现实任务中为何失败？
AI智能体在不可预测的物理环境中面临巨大挑战，它们需要适应现实世界的噪声、人类行为或突发事件。一个典型例子来自自主地面平整领域：一台在纯净模拟环境中表现完美的推土机AI，在真实沙堆原型测试中却遭遇灾难性失败，因为模拟无法捕捉传感器噪声、不规则地形等现实动态[9]。作者指出，在模拟中有效的启发式方法在现实中毫无用处，不过模拟训练确实有助于学习型智能体提升泛化能力[9]。
自动驾驶汽车也暴露出明显的局限性。一项研究对453起真实交通事故进行了还原分析，结果显示，自动驾驶系统（百度Apollo）仅能避免约61%的碰撞（596辆车中有363辆成功规避）[4]。那些无法避免的事故呈现出一个共同特征：责任并不在自动驾驶车辆，而是由不可预测的人类驾驶员行为所导致——人工智能无法及时预判或应对这类情况[4]。这揭示了一个根本性局限：人工智能体尚无法应对人类驾驶环境的全部复杂性。
即便在数字任务中，当前的AI智能体仍存在局限。2023年一项针对语言模型智能体在12项自主复制与适应相关任务中的评估显示，它们仅能完成最简单的任务。研究者同时警告，这些评估结果并不能排除未来短期内出现能力更强的智能体[3]。核心结论在于：AI智能体具有脆弱性——它们在受控条件下表现良好，但面对现实世界的不可预测性时便会失效。
完全自主是否可能，还是人类仍需参与其中？
在部分狭窄领域内可实现完全自主，但多数复杂任务仍需人类监督。LLMAgentNet框架明确支持三种模式：人在回路中、人在回路上、人出回路，从而兼顾受监督与完全自主运行两种方式[6]。实践中，即便是像DeviceAgent这样的先进系统——它能自主设计生物电子设备并生成制造方案——在关键决策节点仍保留人类监督[7]。这表明，尽管人工智能可自主处理诸多步骤，但高风险判断仍需人类介入。
人类监督的需求也源于安全与伦理考量。一个名为CertAI的认证框架被专门开发出来，用于从安全性、隐私、伦理和公平性等多个维度评估自主AI智能体，结果发现即使在更大的模型中，公平性和透明度仍然是最薄弱的维度[5]。这意味着，在这些问题得到解决之前，在敏感领域（如医疗、金融）实现完全自主而不进行人工核查是不负责任的。正如一篇评论所指出的，智能体AI代表了一种范式转变，但需要谨慎的治理框架和验证标准[8]。
本文引用的文献
自主AI智能体从数百万分子图谱中发现衰老干预措施。
ClockBase Agent自主重新分析了43,602项干预-对照比较，识别出超过500种能够降低生物年龄的干预措施，其中一种（哇巴因）已在活体小鼠中得到验证，显示出减少虚弱并改善心脏功能的效果。
预测性AIOps中的自主AI：提升IT自主性与性能
在预测性AIOps中，智能体AI通过主动预测并解决系统问题，增强了IT自主性，从而减少了停机时间和人工干预。
评估语言模型代理在真实自主任务中的表现
语言模型代理仅能完成12项自主复制与适应任务中最简单的一项，但评估结果并未排除在不久的将来，代理能够胜任更复杂任务的可能性。
自动驾驶汽车在真实碰撞场景中会如何表现？
自动驾驶系统（百度Apollo）可避免约61%的596起真实碰撞事故，但当事故由不可预测的人类驾驶员行为引发时，该系统则无法应对。
CertAI：面向可信与安全自主AI智能体的认证框架
CertAI框架从安全性、隐私性、伦理道德、鲁棒性、透明度和公平性六个维度评估自主AI智能体，其中公平性与透明度是最薄弱的环节。
LLMAGENTNET：面向复杂任务执行的自主AI智能体协作网络
LLMAgentNet框架支持协作式多智能体系统，具备三种运行模式（人在回路中、人在回路上、人不在回路），并展现出相较于单智能体方法在效率上的提升。
DeviceAgent：一种用于柔性生物电子学的自主多模态人工智能代理。
DeviceAgent可自主生成生物电子布局、制定制造方案、识别微观缺陷并分析心脏信号，但在关键决策节点仍保留人工监督。
迈向自主发现：智能体AI与眼科研究的未来。
自主型人工智能系统能够独立完成同行评审、假设生成、系统综述及实验设计，但需要建立伦理与问责的治理框架。
面向真实世界的自主评分系统
一台用于地面整平的推土机AI在模拟中表现成功，但在实际测试中遭遇了灾难性失败，不过经过模拟训练的学习智能体仍能泛化应用于按比例缩小的原型机上。