AgentEvolve
目录
AgentEvolve
研究方向:Agent 推理时自进化——不改参数,Agent 在部署后通过反思、技能库、工作流记忆与上下文演化持续变强。
研究范畴
Agent 推理时自进化(inference-time / deployment-time agent self-evolution)研究 Agent 在参数冻结的前提下如何随经验持续改进:把失败反思写回记忆(Reflexion)、把成功轨迹沉淀为可复用技能与工作流(Voyager 技能库、SkillWeaver、Agent Workflow Memory)、按需自造工具与 MCP 能力(Alita)、把经验以"演化中的上下文 / 作弊表"形式积累(Dynamic Cheatsheet、Agentic Context Engineering),乃至以免训练方式实现 GRPO 式的经验学习(Training-Free GRPO)。本方向涵盖:Agent 认知架构(CoALA)、经验记忆与检索、技能发现 / 验证 / 精炼闭环、自动工具构造、上下文与提示的在线演化、多 Agent 间的经验共享,以及推理时自进化与训练时自进化的互补与衔接。社区关注的核心问题包括:经验积累是否会带来"上下文坍缩"与噩梦式膨胀、自我反思信号的可靠性、技能库的泛化与过时淘汰机制、以及如何在不更新参数的情况下保证改进可持续并最终反哺训练。
研究挑战
- 经验记忆的膨胀、噪声与检索精度之间的张力(上下文坍缩)。
- 自我反思与自评信号不可靠,错误经验被固化。
- 技能 / 工作流的泛化与过时:何时复用、何时淘汰。
- 推理时自进化缺乏统一评测,难以与训练侧方法公平比较。
- 推理时改进如何回流到参数(经验 → 数据 → 训练)的衔接。
自研项目
- EvolveLLM — 博士课题《Toward True ASI》承载仓库,推理时自进化(反思 / 记忆 / 技能)是自进化机制综述的重要分支。
- Awesome-RSI — 递归自我改进资源清单,收录自改进 Agent 相关工作。
- CLUB-benchmark (LogicEvolve) — 复杂逻辑推理智能体评测与自进化平台,可用于检验 Agent 推理时自进化的效果。
相关工作
代码 / 框架
- Voyager — Minecraft 开放式具身 Agent,自动课程 + 可增长技能库
- Reflexion — 语言反思写回记忆的"口头强化学习"
- SkillWeaver — Web Agent 自主发现、打磨技能并沉淀为 API
- Alita — 最小预定义、最大自进化的通用 Agent,自造 MCP 工具
- Dynamic Cheatsheet — 测试时学习的自适应记忆
- Agent Workflow Memory — 从经验归纳可复用工作流
- Youtu-agent (Training-Free GRPO) — 免训练的经验库式 GRPO
- Letta — 有状态、带长期记忆的 Agent 平台
- Self-Evolving-Agents — 自进化 Agent 综述资源库
- Awesome-Self-Evolving-Agents — 自进化 AI Agent 论文清单
论文
- Voyager: An Open-Ended Embodied Agent with Large Language Models
- Reflexion: Language Agents with Verbal Reinforcement Learning
- Cognitive Architectures for Language Agents — CoALA 认知架构框架
- Agent Workflow Memory
- SkillWeaver: Web Agents can Self-Improve by Discovering and Honing Skills
- Alita: Generalist Agent Enabling Scalable Agentic Reasoning with Minimal Predefinition and Maximal Self-Evolution
- Dynamic Cheatsheet: Test-Time Learning with Adaptive Memory
- Agentic Context Engineering: Evolving Contexts for Self-Improving Language Models — 上下文作为演化中的"剧本"
- Training-Free Group Relative Policy Optimization
- Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory
- A Survey of Self-Evolving Agents: What, When, How, and Where to Evolve on the Path to Artificial Super Intelligence
- A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic Systems