GeneralizeEvolve

研究方向：自进化中的泛化——自进化带来的提升能否跨任务、跨分布迁移而非基准过拟合，以及测试时学习与持续学习如何不遗忘。

研究范畴

自进化中的泛化（generalization in self-evolution）追问一个核心问题：模型 / Agent 通过自迭代获得的能力，究竟是真实的能力扩展，还是对训练分布与评测基准的记忆与过拟合。本方向涵盖：SFT 与 RL 后训练的泛化差异（“SFT 记忆、RL 泛化”）、RLVR 是否扩展了基座模型的推理边界、在线 RL 为何遗忘更少、无外部奖励的自信号学习（Intuitor 类）、测试时训练与自适应（TTT、SEAL 自生成微调数据）、测试时记忆与长上下文架构（Titans）、持续学习与灾难性遗忘、弱到强泛化，以及 ARC-AGI 类强调流体智能而非知识回忆的评测。社区关注的核心问题包括：如何在自进化闭环中设计分布外（OOD）与组合泛化的检验、如何区分"学到的算法"与"记住的模式"（grokking 现象）、持续自进化下能力增益与遗忘的权衡，以及测试时计算与测试时学习在多大程度上能替代参数规模。

研究挑战

• 基准过拟合与数据污染：自迭代容易把评测集"学进去"。
• 持续自进化下的灾难性遗忘与能力退化。
• 自生成信号（自信度、自评）可能强化已有偏差而非扩展边界。
• OOD / 组合泛化缺乏公认且不易被攻陷的度量。
• 测试时学习的算力成本与稳定性。

自研项目

• EvolveLLM — 博士课题《Toward True ASI》承载仓库，自进化的泛化边界是综述《大语言模型复杂推理的自我进化机制》讨论的核心科学问题。
• CLUB-benchmark (LogicEvolve) — 元数据驱动的可控逻辑推理任务生成，可按难度 / 规模 / 规则维度构造 OOD 测试，检验自进化带来的泛化。

相关工作

代码 / 框架

• SEAL — Self-Adapting Language Models：模型自生成微调数据与更新指令
• marc — ARC 上测试时训练（TTT）的参考实现
• ttt-lm-pytorch — 测试时训练层（Learning to Learn at Test Time）
• ARC-AGI-2 — 强调流体智能的抽象推理基准
• limit-of-RLVR — “RL 是否真正扩展推理边界"的实验代码
• Intuitor — 以自信度为内在奖励、无外部奖励的 RL
• weak-to-strong — 弱到强泛化实验代码
• Avalanche — 持续学习端到端库

论文

• SFT Memorizes, RL Generalizes: A Comparative Study of Foundation Model Post-training
• Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model? — RLVR 的能力边界
• RL’s Razor: Why Online Reinforcement Learning Forgets Less — 在线 RL 偏向 KL 最小解因而遗忘更少
• Learning to Reason without External Rewards — Intuitor，自信度驱动的泛化
• Self-Adapting Language Models — SEAL
• The Surprising Effectiveness of Test-Time Training for Few-Shot Learning — ARC 上 TTT 大幅提升
• Learning to (Learn at Test Time): RNNs with Expressive Hidden States
• Titans: Learning to Memorize at Test Time
• Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters
• Weak-to-Strong Generalization: Eliciting Strong Capabilities With Weak Supervision
• Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets — 记忆到泛化的相变
• Continual Learning of Large Language Models: A Comprehensive Survey