2026-10-25 科研追新
当日精选(由提交工具自动创建)。
今日概览
- 推理时自进化从反思走向可迁移技能:RoboSkill:具身智能体的技能积累与复用框架将触觉反馈与文字、代码技能库结合,实现跨任务、跨模型经验复用;Reflexion 的语言反馈与记忆机制与 RSI,正在重走深度学习的老路则分别提供经典闭环和方法论全景。
- 智能体强化学习聚焦训练稳定性与探索退化:ARLArena:稳定智能体强化学习统一框架以统一平台和 SAMPO 改善多轮训练的稳定性、可复现性,大模型强化学习中的熵坍塌则从机制层解释探索过早消失及 DAPO 的应对方式。
- 记忆机制深入长程适应与具身操作:METTA:面向元强化学习的记忆增强测试时适应以因果记忆和回合摘要支持未见任务适应,WholeBodyMem:面向人形机器人操作的目标前历史记忆通过对象追踪和事件关键帧解决动态、部分可观测操作。
- AI 同行评审出现值得警惕的相反结论:哈佛研究:Claude审稿质量全面超越资深人类专家报告模型在受控对照中胜过专家,而顶刊已发表论文的 LLM 同行评审可靠性评测发现模型意见不一致且缺陷检出率低,表明结论高度依赖任务设计与评价标准。
- 模型与系统落地继续向端侧和垂直科学扩展:Ember 推理引擎探索自进化尝试以预测加载和学习式调度承载手机端 30B 模型,Carbon-X则将 DNA 与自然语言统一建模;热点延伸中的 VAST关注离线强化学习长程信用分配,但与当前主线关联较弱。
对当前研究的启发
- AgentEvolve:RoboSkill表明技能库可同时保存文字、代码与执行反馈,Reflexion则给出了失败反思写回记忆的基础闭环,可共同用于设计“反思生成技能、反馈持续修订”的部署后进化机制。
- MemoryEvolve:METTA的因果神经记忆与回合级摘要提供了双时间尺度组织方案,WholeBodyMem的事件驱动关键帧则可用于研究固定预算下按任务事件写入和淘汰记忆。
- RobotEvolve:RoboSkill与 WholeBodyMem分别覆盖跨任务技能沉淀和目标对象历史追踪,可组合为机器人“状态记忆—技能检索—执行反馈—技能更新”闭环。
- AgentTrainEvolve:ARLArena的序列级裁剪、时序优势估计和动态过滤可直接作为多轮 Agentic RL 稳定训练与统一复现实验的候选基线。
- EvolveLRM:熵坍塌与 DAPO 对策提示应把策略熵轨迹、裁剪方向和低概率 token 更新纳入 RL 后训练监控,以区分早期探索崩溃与后期优化失效。
- ResearchEvolve:Claude 审稿对照实验与 LLM 同行评审可靠性评测的矛盾结果说明自动科研评审必须分开测量意见质量、事实错误、一致性和植入缺陷召回率,而不能用单一总体评分判断可替代性。
- HumanEvolve:CoWriter通过主动提问和专家共创流程提升用户参与、文档所有权与表达质量,为避免写作辅助造成判断外包和去技能化提供了具体交互范式。
- InfraEvolve:Ember将预测性部分加载与学习式调度结合,提示可把端侧内存峰值、时延和命中率作为机器可验证反馈,构建持续积累硬件调优经验的推理系统进化闭环。
- Awesome-RSI:RSI 方法论综述将优化、反向传播、元学习、蒸馏和持续学习映射到递归自我改进,可作为资源清单重构分类体系及补充稳定性、泛化与遗忘维度的依据。
⭐ 重点条目 12 条
由当日整备时的 LLM 从全部条目中挑选,完整展开。
RoboSkill:具身智能体的技能积累与复用框架
复旦大学团队提出RoboSkill,通过融合触觉反馈与文字、代码结合的技能积累机制,使具身智能体能够跨任务、跨模型复用并持续更新操作经验,显著降低新任务的探索与执行成本。
具身智能 智能体技能库 自演化 经验复用 执行反馈 技能演化 智能体
RoboSkill针对通用多模态智能体操控机器人时反复“观察—推理—执行—检查”带来的高时间开销,围绕“探索—执行—演化”构建技能获取与复用闭环,无需预先采集目标任务示范数据或开展针对性训练。框架引入压力、力和力矩等触觉反馈,帮助智能体快速确认接触状态,减少重复视觉检查和动作调整。任务结束后,系统会将有效策略整理为包含文字说明与真实执行代码的Skill,并根据后续执行结果持续更新,供不同任务和模型复用。仿真与真机实验显示,技能积累和代码复用能够缩短任务耗时、提高一次执行成功率;其中GPT-5.6-Sol使用文字与代码技能后,一次成功率由15%提升至67.5%。
- 将机器人现场探索产生的策略与经真实执行验证的代码沉淀为可持续更新的技能库,把单次交互经验转化为可复用资产。
- 降低新任务对示范数据、重复推理、程序生成和现场试错的依赖,从而减少执行成本。
- 说明触觉反馈可作为视觉观测的重要补充,高效确认物理接触状态并加快执行闭环。
- 为跨任务、跨模型复用经验的具身递归自我改进与持续进化系统提供实践路径。
📝 原始笔记(逐字保留)
ARLArena:稳定智能体强化学习统一框架
UCLA 团队提出标准化平台 ARLArena 与统一优化算法 SAMPO,通过序列级裁剪、时序优势估计和动态过滤提升智能体强化学习训练的稳定性与可复现性。
ARLArena 是面向智能体强化学习的标准化测试平台,整合行为克隆、格式惩罚、KL 正则化和超参数搜索,以构建可控且可复现的实验环境。研究基于平台分析训练不稳定性的主要来源,并从统一策略梯度视角提出 SAMPO 优化算法。SAMPO 融合序列级裁剪、时序优势估计与动态过滤,针对策略更新和训练样本带来的波动进行控制。多类智能体任务的对照实验表明,该算法能够维持持续稳定的训练过程,同时保持良好的任务性能。
- 为智能体强化学习算法提供统一、可复现的训练与评测环境。
- 可将序列级裁剪、时序优势估计和动态过滤用于缓解策略训练不稳定问题。
- 为搭建稳定的语言模型智能体训练流水线提供超参数配置与正则化实践参考。
- 统一策略梯度分析视角有助于系统比较不同 Agentic RL 算法。
📝 原始笔记(逐字保留)
METTA:面向元强化学习的记忆增强测试时适应
METTA通过因果神经记忆与回合级摘要构建双时间尺度适应机制,以线性序列复杂度实现面向未见任务的高效长上下文元强化学习。
METTA将元强化学习的快速适应拆分为两个时间尺度:因果神经记忆负责回合内的细粒度适应,紧凑的回合级摘要负责跨回合的长期任务推断。该设计无需关注完整交互历史,将序列处理复杂度由Transformer式二次开销降至线性级别。神经记忆还支持测试时训练,使智能体能够适应元测试阶段未见的任务及任务族。在Meta-World ML10/45未见测试环境中,METTA以较低训练预算取得超过50%的成功率,并在长上下文、稀疏奖励PointMaze任务上展现出比Transformer基线更有结构的探索行为。
- 为需要跨长交互历史推断任务的元强化学习智能体提供低成本记忆架构。
- 展示回合内神经记忆与跨回合摘要结合的分层状态表征思路。
- 说明测试时训练可提升智能体对未见任务及任务族的快速适应能力。
- 可用于长上下文、稀疏奖励和探索密集型连续控制任务。
📝 原始笔记(逐字保留)
WholeBodyMem:面向人形机器人操作的目标前历史记忆
WholeBodyMem通过目标对象追踪与事件驱动关键帧记忆,显著提升人形机器人在动态、部分可观测场景中的全身移动操作成功率。
WholeBodyMem针对人形机器人移动操作中的非马尔可夫问题,保存机器人执行目标前与任务对象相关的视觉历史。系统利用SAM3追踪对象,并根据对象事件在自适应预算内因果选择关键帧,而非均匀保留全部历史。动作专家通过交叉注意力读取关键帧及包含外观、几何和时间信息的对象词元。作者还提出HuMeGo基准,涵盖6项仿真与6项真实Unitree G1任务;该方法将基础策略成功率从仿真的29.1%提升至72.6%,并将真机成功率从36.7%提升至88.3%。
- 说明具身策略应优先保存与目标对象状态变化相关的历史证据,而不是简单扩大视觉记忆容量。
- 为动态遮挡、转身离开视野及对象状态变化等部分可观测场景提供事件驱动的记忆设计。
- HuMeGo可用于评估人形机器人策略对历史视觉信息的利用能力及其仿真到现实表现。
- 对长程具身任务的启示是将对象追踪、关键帧筛选与动作策略联合建模。
📝 原始笔记(逐字保留)
RSI 代表论文解读:Reflexion 的语言反馈与记忆机制
Reflexion 通过“执行—评估—语言反思—记忆更新”闭环,在不修改模型参数的情况下让智能体从失败经验中持续改进行为。
Reflexion 将 Actor、Evaluator 与 Self-Reflection 组成闭环,把环境奖励、规则或测试结果转化为可执行的语言反馈,并将其称为“语义梯度”。系统以当前轨迹作为短期记忆、以失败反思作为长期记忆,使后续尝试能够跨越循环复用经验,而模型权重始终保持不变。在 ALFWorld、HotPotQA、HumanEval、MBPP 和 LeetcodeHardGym 等任务中,该机制改善了长程决策、检索推理和代码修复表现,例如在 HumanEval Python 上由 80.1% 提升至 91.0%。实验也表明收益并不稳定,MBPP Python 出现性能下降,反思质量、信用分配、评估器可靠性与有限记忆容量仍是关键约束。
- 展示无需参数更新的测试时经验学习路径,可用于构建低成本、自我改进的智能体。
- 将环境反馈转写为具体反思,有助于定位长轨迹中的关键错误并调整后续计划。
- Actor、Evaluator 与 Self-Reflection 的模块化设计可迁移到工具调用、知识检索和代码修复工作流。
- 实际应用需要审计评估器与反思内容,防止错误反馈被写入记忆并在后续循环中持续放大。
📝 原始笔记(逐字保留)
顶刊已发表论文的 LLM 同行评审可靠性评测
研究发现,四种 LLM 对顶刊已发表论文的评审意见严苛且高度不一致,同时对人为植入缺陷的检出率偏低,尚不足以承担可靠的独立同行评审。
模型评估 同行评审分析 模型评判偏差 科学研究基准 人工智能可靠性
研究收集了 2026 年发表于 Nature、Science、Cell 等 20 种期刊的 200 篇 CC BY 4.0 论文,并让四种闭源或开放权重 LLM 在盲审条件下分别生成评审报告。800 份评审中有 605 份(75.6%)建议大修或拒稿,但不同模型给出此类决定的比例从 17.5% 到 100% 不等。研究者进一步向论文植入特定领域的方法学或统计缺陷,各模型的检出率仅为 17.0% 至 60.5%。结果表明,LLM 评审既可能对已通过真实同行评审的论文过度否定,也可能漏掉明确缺陷,其输出强烈依赖模型及任务框架。
- 为 LLM 同行评审系统提供同时考察特异性、敏感性和模型间一致性的评测设计。
- 提醒期刊和科研平台不要将单一 LLM 的评审结论直接用作稿件录用或拒绝依据。
- 实际部署时应引入多模型交叉验证、专家复核与缺陷检测校准,并披露所用模型及提示设置。
- 顶刊已发表论文并非绝对真值,但可作为检验自动评审系统判断稳定性与责任边界的重要参照。
📝 原始笔记(逐字保留)
哈佛研究:Claude审稿质量全面超越资深人类专家
哈佛研究在124篇论文的对照实验中发现,Claude在七项审稿指标上均优于付费领域专家,且意见事实错误率仅为人类的约三分之一。
- 研究收集rapidPeer在2019—2026年间对124篇论文生成的134份付费专家审稿意见,并让Claude Opus 4.8依据相同材料生成审稿意见。
- GPT-5.5的成对评判显示,Claude在弱点识别、方法评估、文献补充、图表分析等七个维度全部领先,平均得分为8.7分,人类为6.0分;三位前期刊编辑的盲选中,30次有26次选择Claude。
- 逐句对照论文原文后,人类意见的错误率为15.9%,Claude为5.5%;联网Claude引用的651篇文献均可验证,抽查的100处引用中有99处使用恰当。
- 字数匹配、文风改写、筛选高质量人类意见、按投稿年份拆分及更换评判模型等稳健性检查,均未改变AI审稿显著占优的结论。
- 作者建议采用“作者投稿前AI预审—提交意见与回应—编辑端独立AI复审—人类编辑终审”的混合流程,同时持续监测意见同质化和过度保守等风险。
- 可将AI审稿嵌入投稿前质量控制,提前发现方法、论证、图表和文献覆盖方面的问题。
- 评估科研智能体时,应同时衡量意见有用性、事实准确率、引用真实性和对原文的忠实程度,而非只依赖整体偏好评分。
- 联网检索显著提升文献补充能力,说明证据检索与可验证引用是高质量科研审稿系统的重要组件。
- AI评判可能存在模型偏好,应采用人类盲评、交叉模型评判、原文逐句核查和文风控制等方式进行审计。
- AI适合扩大审稿反馈供给,但期刊适配度、创新价值及最终发表决定仍需由人类编辑负责。
📝 原始笔记(逐字保留)
30B 模型端侧运行,Ember 推理引擎探索自进化
无量火科技通过预测性部分加载和学习式调度降低大模型运行内存,推动30B级模型在手机端部署,并探索可持续积累优化经验的自进化推理系统。
Ember 推理引擎利用轻量预测模型预判下一步推理所需参数,仅将相关部分从闪存加载至内存,以缓解端侧存储与算力瓶颈。该方案同时面向 MoE 与 Dense 架构,据无量火科技披露,可分别降低约80%和50%的内存占用,并支持30B级模型在手机运行。引擎在预测、调度和路由环节引入深度学习算法,可从设备运行过程中积累并共享优化经验,形成“用AI优化AI”的迭代闭环。基于 Ember 的 FlareOS 进一步尝试以AI替代传统操作系统的部分抽象层和中间件,以约300MB运行内存承载操作系统、大模型及多个智能体。
- 为大参数模型端侧部署提供模型压缩之外的系统路径,通过参数按需加载降低峰值内存需求。
- 展示学习式预测、路由与资源调度替代手工优化规则的潜力,为推理引擎持续自优化提供参考。
- 端侧推理的实际价值仍需通过公开基准验证,包括生成质量、预测失误开销、闪存带宽、能耗及长期运行稳定性。
- 推理引擎与AI原生操作系统的协同优化,可能成为手机、车载设备和机器人承载本地智能体的重要基础设施。
📝 原始笔记(逐字保留)
RSI,正在重走深度学习的老路
文章系统梳理递归自我改进与深度学习的对应关系,指出 RSI 正在借鉴优化、反向传播、强化学习、元学习、蒸馏、正则化和持续学习等成熟机制解决更新与泛化问题。
文章将 Agent 对 Skill、记忆、Harness 和训练数据的迭代更新,类比为神经网络依据损失调整参数,并指出过拟合、灾难性遗忘与系统冗余正在 RSI 中重现。SkillAdam 和 TextGrad 分别借鉴 Adam 优化器与反向传播,用历史修改记录、编辑预算及文本反馈决定修改方向,并将任务级错误归因到具体组件。MemRL、SEAL、RISE、ACE 和 DMoA 分别从强化学习、元学习、自蒸馏、对抗学习及集成学习中获取自我改进信号。RRSI 与 SkillEvoReg 则通过复杂度约束、无效组件删除和类似 Dropout 的随机屏蔽,提升 Skill 或 Harness 演化后的泛化性与长期稳定性。
- 可将深度学习中的优化器、正则化、回放、剪枝和蒸馏机制迁移到 Agent 的 Skill、记忆及 Harness 更新流程中。
- 设计 RSI 系统时,应同时评估新任务泛化、旧能力保持、执行成本与组件复杂度,而不能只看迭代任务上的收益。
- 文本反向传播、效用驱动记忆检索和对抗测试可用于改善组件级信用分配,并形成更细粒度的学习信号。
- RSI 后续研究可系统复用深度学习处理过拟合、灾难性遗忘和模型冗余的成熟经验。
📝 原始笔记(逐字保留)
大模型强化学习中的熵坍塌:机制、推导与 DAPO 对策
文章以 13 道算法面试题串联策略梯度、熵变化和 DAPO 非对称裁剪,解释大模型强化学习早期熵坍塌及后期训练失效的原因与应对方案。
文章将熵坍塌定义为策略在强化学习早期迅速趋于确定性,导致采样多样性、探索能力和后续性能增益同步下降。通过证明打分函数期望为零,把策略梯度改写为优势与对数概率梯度的协方差,并进一步分析高概率、高优势 token 如何形成“更多采样—更强更新—更高概率”的正反馈。低熵还会使 GRPO 组内样本趋于全对或全错,造成优势归零,使训练后期缺少有效梯度信号。文章以 DAPO 的 Clip-Higher 为例,说明通过设置更宽松的上裁剪界、动态过滤全对或全错样本及 token 级损失,可以为低概率 token 保留探索空间。
- 为大模型算法岗位面试提供从策略梯度到熵变化的完整推导链和答题框架。
- 帮助诊断强化学习训练中性能增益前置、后期梯度消失和输出多样性降低等问题。
- 启发使用非对称裁剪、动态采样和训练步数控制缓解熵坍塌。
- 提醒实践者区分正常策略收敛与探索能力过早消失,避免仅靠延长训练获得负边际收益。
📝 原始笔记(逐字保留)
CoWriter:主动引导人类与 LLM 协同写作
CoWriter 将认知科学中的专家共创方法融入主动式写作智能体,在端到端写作流程中提升用户参与度、观点表达、文档所有权及文本的人情味。
CoWriter 是面向长篇、基于来源写作的主动式人机协同框架,旨在改变用户仅被动审核 LLM 输出的传统交互模式。它借鉴认知科学中的专家共同写作方法,灵活引导完整写作流程,并持续鼓励用户表达观点和参与决策。探索性用户研究显示,相比标准 LLM 基线,CoWriter 产生了 2.2 倍更多的成功智能体交互,用户也表现出更强的文档所有权。外部读者认为其产出在叙事、个人经历整合等“人情味”维度上更出色。
- 为端到端人机协同写作系统提供主动引导式智能体设计范式。
- 通过增强用户参与缓解审核疲劳、过度依赖 LLM 和作者角色弱化等问题。
- 说明认知科学中的专家共创方法可转化为智能体交互策略,改善观点表达与文档所有权。
- 为协作型智能体评估提供用户参与次数、人情味和所有权感等补充指标。
📝 原始笔记(逐字保留)
Hugging Face 发布 DNA-语言模型 Carbon-X
Hugging Face 发布基于 Qwen3-14B 的开放模型 Carbon-X,统一建模 DNA 序列与自然语言,以支持基因组问答、突变影响预测和 DNA 片段生成。
Carbon-X 是一个面向生物学研究的 140 亿参数开放模型,基于 Qwen3-14B 使用人类、哺乳动物、植物和真菌的基因组数据重新训练。它将 DNA 序列与自然语言纳入同一模型,可对特定序列进行问答、预测突变影响并生成新的 DNA 片段。报道称,该模型在五项 DNA 基准上的平均表现超过受评开源对手,相比原版 Qwen3-14B 提升 27 分,同时具备较低的单题推理成本。为降低生物安全风险,训练数据剔除了病毒相关内容;其开放性也支持研究者本地部署,避免敏感患者数据外传。
- 为基因组研究提供统一的自然语言交互接口,降低 DNA 序列分析与生成的使用门槛。
- 可用于突变效应预测、候选 DNA 片段设计及其他模型的基因信息解释。
- 开放权重与本地部署有助于保护患者基因组数据,并减少科研机构对闭源实验室的依赖。
- 数据过滤策略表明,生物基础模型开发需要同步考虑能力开放与生物安全风险。
📝 原始笔记(逐字保留)
🔬 相关条目 2 条 · 按研究项目分组
点击标题展开完整内容;同子主题 3 条以上合并为专题卡。
NewApply1 条
全球下载量最高的 10 个智能体 Skill 文章盘点全球安装量最高的 10 个 Skill,覆盖技能检索、任务拆解、文档问答、软件开发、浏览器自动化与多智能体交接等场景。
人工智能辅助编程 多智能体协作 工具调用 智能体工具 智能体技能库
榜单中,技能发现工具 find-skills 以超过 340 万次安装位居首位,反映出用户对 Skill 检索与推荐入口的强烈需求。grill-me 与 grill-with-docs 分别聚焦任务拆解和文档知识整理,后者涉及 RAG 与文档问答。软件工程类 Skill 占据较大比例,包括代码架构改进、测试驱动开发、前端设计、问题分诊及精选开发工具合集。agent-browser 支持浏览器操作与数据提取,handoff 则负责在多个 Agent 之间移交任务、上下文和代码。
- 可用于观察智能体 Skill 生态中的高频需求,并为技能市场、插件体系和产品能力规划提供参考。
- 榜单显示软件工程、知识处理和浏览器自动化是当前最成熟且用户需求较高的 Skill 场景。
- Skill 检索入口的下载量显著领先,说明技能发现、推荐与安装分发可能成为智能体平台的关键基础设施。
- 多智能体任务交接工具受到关注,表明上下文传递和工程流程协作正成为智能体落地的重要能力。
📝 原始笔记(逐字保留)
NewModel1 条
★3 Kimi K3.1 Pro发布:智能体评测领先并强化3D工作流 月之暗面发布Kimi K3.1 Pro,文章称其在智能体、代码、金融分析及3D资产生成等任务上显著提升,并以长上下文和低成本切入前沿模型市场。
Kimi K3.1 Pro基于K3进行后训练,并强化了强化学习框架、长上下文推理、沙箱、任务调度和环境质检等技术栈。文章援引Artificial Analysis结果称,其智能指数达到55分,在Terminal-Bench 4.0上获得65.7分,并处于性能与单任务成本的帕累托前沿。该版本支持最高100万上下文,同时推出输出速度提升约3倍的Highspeed版本。实际案例展示了从草图生成Blender脚本、GLB资产和Three.js网页的端到端流程,以及跨文档金融分析和带公式联动的Excel建模能力。
- 展示强化学习、沙箱执行和长上下文能力联合扩展对智能体实战性能的提升。
- 为3D建模、网页开发和金融分析等长程工作流提供端到端自动化方案参考。
- 说明前沿模型可通过性能、推理速度和单任务成本的联合优化形成差异化竞争力。
- 评测成绩及成本对比主要来自发布方与媒体报道,实际采用前仍需独立复测。
📝 原始笔记(逐字保留)
🔥 热点延伸 1 条 · 当日热门但非主要研究方向,仍有启发
这些条目相关性判定为 0~1 分,是有意收录的当日热点;不进入重点与研究项目分组,点击标题展开。
★1 VAST:自适应时间尺度的离线价值缝合 香港大学与清华大学提出 VAST,通过联合选择未来子目标与时间跨度进行价值缝合,改善离线强化学习中的长程信用分配和多阶段决策。
VAST 引入以当前状态、未来状态和时间跨度为输入的 G-function,用于估计任意轨迹片段的折扣累计回报,并通过组合一致性约束增强跨时间尺度泛化。框架学习拼接策略,联合选择未来子目标与自举跨度,再将局部回报和后续价值拼接起来;其 stitching Bellman operator 被证明具有收缩性质。执行策略采用目标条件行为克隆,并在测试时通过拒绝采样生成多个动作,再由 Q 函数选择价值最高的候选。VAST 在 OGBench 的 10 个领域、50 个状态输入任务上优于多类单步、多步、动作分块和生成式价值基线,尤其适合多阶段操作任务。
- 为长程离线强化学习提供可自适应选择时间尺度的价值更新机制,减少固定步长造成的自举偏差与阶段错配。
- 将子目标选择、跨时间信用分配和动作生成连接起来,可用于复杂规划及多阶段机器人操作。
- 启示价值学习应根据任务阶段动态决定观察跨度,而非仅依赖固定 n-step TD 或固定动作分块。
- 当前结果主要来自状态输入的离线基准,后续仍需验证其在视觉输入、真实机器人和开放环境中的泛化能力。