[CVPR 2026] Memento-Skills：让 AI Agent 像资深工程师一样“带脑子”干活

TL;DR

Memento-Skills 提出了一种全新的 LLM Agent 范式：不再追求昂贵的模型参数微调，而是让 Agent 在执行任务的过程中，自主地编写、优化和沉淀“技能库”。通过这种“读-写反射学习”循环，Agent 的性能在不更新权重的情况下实现了跨越式增长，在 HLE 学术测试中性能翻倍。

1. 痛点：为什么 LLM 参数是“死的”，而任务是“活的”？

在生产环境中，我们通常使用“冻结”的 LLM（如 Gemini-3.1 或 GPT-4o）。这导致了两个尴尬的困境：

• 记忆力缺失：Agent 刚才在 A 任务上摔了跤，到了 B 任务（同类型）还会掉进同一个坑里。
• 微调代价高昂：如果你为了那 200 条错误的 case 去微调千亿参数的模型，不仅费钱，还可能导致模型原有能力的退化。

作者用一个生动的比喻指出：正如资深工程师和初级工程师的区别不在于神经元数量，而在于资深者有更好的“Cache”（经验沉淀）。

2. 核心机制：Read-Write Reflective Learning

Memento-Skills 的核心是一个闭环系统，它将任务处理过程拆解为五个步骤：观察 -> 读取 -> 执行 -> 反馈 -> 写入。

2.1 以“技能”为中心的存储

不同于以往只存一段文字记录（Memory），Memento-Skills 存储的是可执行的技能文件夹，里面包含：

• SKILL.md：说明书（声明式规范）。
• Python/Shell 脚本：具体的工具调用逻辑。
• Prompts：针对该任务优化的指令。

2.2 行为对齐的技能分发器 (Router)

这是本文的一个数学亮点。作者认为传统的“语义向量搜索”（Embedding Similarity）在找技能时并不可靠——描述相似的任务可能需要完全不同的操作逻辑。

为此，他们训练了一个 Memento-Qwen 检索器。通过一种“单步离线强化学习”的方法，该检索器不仅看文本像不像，更预测“如果我选了这套技能，执行成功的概率（Q值）是多少”。

3. 实验发现：从“青铜”到“王者”的自我演进

研究团队在 GAIA（通用助手）和 HLE（人类最后考试）两个高难度 Benchmark 上进行了暴力测试。

核心实验结果：

1. 持续进化：在 HLE 训练过程中，随着重试轮数的增加，Agent 的训练成功率从 30.8% 稳步爬升到 54.5%。
2. 跨任务迁移：在 HLE 的分学科测试中，Agent 在生物、人文等领域的表现最为出色，因为它在训练集里学到的“生物解题技巧”能完美复用到测试集。

技能库的可视化

通过 t-SNE 降维可以看到，Agent 从最初的 5 个种子技能出发，最终根据 HLE 的不同领域自主演化出了 235 个垂直技能丛。这种“ densification”（稠密化空间覆盖）正是性能收敛的本质原因。

4. 深度洞察：无需梯度的“学习”

Memento-Skills 给工业界的启示是巨大的。它证明了：

• 解耦的价值：我们可以保持 LLM 底座极其稳定，只去折腾外部的 Skill 系统。
• 收敛的保障：作者在数学上证明了，只要外部技能库不断丰富（覆盖半径 $r_{\mathcal{M}}$ 缩小），Agent 的表现必然会无限逼近最优解。

正如论文中的“资深工程师 S”所说：“虽然我不想承认，但这套 Read-Write 闭环确实把我们那些 3 万行、全是 if-else 的垃圾代码给重构成了一套优雅的、可演进的系统。”

局限性与展望

尽管表现惊艳，但该方法目前在“完全发散”且完全没有重复性的任务（如 GAIA 的某些部分）上迁移效果有限。未来，如何进一步提升技能的泛化抽象能力（通用化 Skill），将是通往 AGI 的关键一步。