多智能体研究团队能否被信任执行长期的真实世界任务？

最强研究显示：基于LLM的规划器可处理长期任务

最直接的证据来自2024年的一项研究，该研究在部分可观测环境中测试了基于大语言模型的多智能体规划器（LLaMAR）在长周期任务上的表现。在家庭任务和搜救模拟中，LLaMAR的成功率比其他基于语言模型的最先进多智能体规划器高出30%[2]。这意味着，当竞争系统每成功完成10项任务时，LLaMAR能完成13项。该系统采用“规划-执行-修正-验证”框架，使智能体能够根据执行反馈自我修正，无需依赖模拟器或预言机——这是现实部署中的关键特性，因为实际场景中无法回退错误。

该研究还引入了MAP-THOR，这是一个包含不同复杂度任务的测试套件，为多智能体规划器提供了标准化的比较方式。30%的性能提升是一个显著的效果，表明认知架构——而不仅仅是底层语言模型——对长期运行的可靠性至关重要。

安全与信任机制：多智能体系统何以值得信赖

在多智能体系统中，信任不仅关乎任务完成，更涉及安全性与可预测性。2022年的一项研究提出了分布式单纯形架构（DSA），这是一种运行时保障技术，能为分布式控制下的多智能体系统提供安全保证[3]。每个智能体都运行一个本地安全监控器，一旦系统检测到风险（例如即将发生的碰撞），便会从高级控制器切换至经证明安全的基准控制器。该研究验证了该架构在编队飞行防碰撞、地面漫游车安全导航以及微电网运行等长期实际任务中的安全性。

另一项2023年的研究从形式逻辑的角度探讨了信任问题，开发了一个模型检测框架，能够同时验证关于信任和承诺的属性[4]。关键发现是，即使系统规模扩大，这种验证仍能保持计算效率（多项式时间），这意味着可以在不出现指数级速度下降的情况下，正式证明信任属性。这对于长期运行的任务至关重要，因为你需要确保智能体能够长期履行承诺，而不仅仅是短期行为。

隐患：持久化智能体引发新的安全漏洞

2026年的一项研究揭示了一个严重风险：作为长期运行进程、具备持久化内存和定时任务的自主LLM智能体，可能遭受蠕虫式攻击[5]。研究人员在三种生产级智能体框架中演示了零点击自主传播，无需任何平台适配即可实现三跳跨平台传输。这意味着攻击者可将恶意内容注入一个智能体的内存，该内容会自动传播至不同平台的其他智能体，并实现权限提升与数据窃取——全程无需人工干预。

该研究还提出了防御措施：一个“无持久蠕虫传播”定理，以及一个名为RTW的系统，该系统可阻止“写入先于暴露读取”的重新进入行为，保护静态配置文件，并防止不可信的摘要进入可信内存。这些防御措施在保持正常流程的同时，消除了“持久性-重新进入-行动”链条。关键启示在于，对长期运行的多智能体系统的信任不仅需要任务能力，还需要稳健的安全架构——这是网络安全领域的一个教训，如今同样适用于AI智能体。

实际约束：规划复杂度与人类专业知识

2024年一项关于多无人机系统的研究揭示了一个实际挑战：在动态现实场景中为多智能体系统制定操作方案需要专业的技术知识[1]。研究人员提出采用声明式语言来减轻这一负担，使用户无需深厚技术背景即可规划高层级的多无人机任务。该系统通过三架模拟无人机进行软件在环测试，展示了当任意无人机中止任务时，系统能自动实时重新规划方案。这朝着让多智能体系统更易用迈出了一步，但仅基于仿真的验证意味着其真实环境下的性能尚未得到证实。

权衡显而易见：更易用的系统（如声明式语言方法）可能会牺牲部分使系统值得信赖的正式安全保证。反之，具备强安全性证明的系统（如分布式单纯形架构）则需要更多专业知识来搭建和维护。对于长期运行的现实任务，选择取决于应用的风险承受能力——在城市中运送包裹的无人机集群，比仓库中的清洁机器人团队需要更强的安全保障。

关于这些来源

该回答基于5篇经同行评审的研究构建而成——发表于2022年至2026年间，其中3篇为2024年及以后发表，2篇发表于Q1期刊——这些研究是从5篇通过质量筛选的研究中选出的最具相关性的成果，而后者又源自从超过5亿篇论文的数据库中检索出的59篇文献。

本文引用的文献

相关研究问题