DataEvolve
目录
DataEvolve
研究方向:数据自进化——以数据为中心的自进化训练数据 / 合成与迭代。
研究范畴
数据自进化(data-centric self-evolution)以"数据"为核心驱动,让模型自主生成、筛选、配比并迭代训练数据,从而在尽量少依赖人工标注的情况下持续提升。本方向涵盖:合成数据生成、指令进化(Evol-Instruct 类)、自奖励 / 自评判偏好数据、数据飞轮(data flywheel)、以数据为中心的 Agent 自进化。社区关注的核心问题包括:合成数据的质量 / 多样性 / 覆盖度如何度量与保证、自迭代是否会引发模型崩溃(model collapse)或分布坍缩、数据污染与配比对下游能力的边际影响,以及如何量化"数据价值"并据此做主动筛选。
研究挑战
- 偏差与错误在迭代中累积放大。
- 真实性与事实性控制(幻觉随合成数据传播)。
- 大规模数据治理与自动化精炼的成本。
- 长期迭代稳定性与可复现性。
自研项目
- CLUB-benchmark (LogicEvolve) — 复杂逻辑推理的智能体评测与自进化平台,含元数据驱动的数据合成(Sudoku/迷宫/数独/Knights&Knaves/Zebra/代码推理等)与多基准(CLUB/CLUBv2/ToolCLUB/ExCLUB/BBH/SynLogic/LogiQA2)数据管线。
- EvolveLLM — 博士课题《Toward True ASI》承载仓库,含自进化机制综述与方法论沉淀。
相关工作
代码 / 框架
- agents (aiwaves-cn) — 数据中心的自进化自主语言智能体框架
- R-Zero — 零数据自进化推理
- autosynth — 仿 Meta Autodata 的合成数据生成框架
- AgentEvolver — 阿里 ModelScope 自进化 Agent 系统,支持训练数据自主生成
- Evol-Instruct — WizardLM 的进化指令数据生成方法
- Self-Rewarding-LM — 自奖赏语言模型偏好数据生成与迭代
- Awesome-Self-Evolving-Agents — 含数据进化专题的自进化 Agent 合集
论文
- Self-Rewarding Language Models — Meta/NYU LLM-as-a-Judge 自我改进(被引 996)
- Self-Improving Alignment with LLM-as-a-Meta-Judge — Meta-Rewarding 高层级自我改进(被引 223)
- A Survey on Self-Evolution of Large Language Models — LLM 自我进化方法综述(含数据进化模块)
- Adaptive Data Flywheel: MAPE Control Loops for AI Agent Improvement — 数据飞轮控制环路
- Evolving Knowledge: Towards Explanatory Evolution — 知识进化与数据迭代
- Self-Evolving Multi-Agent Collaboration Networks (ICLR 2025) — Agent 影响力驱动的协作进化