2026-10-23 科研追新

当日精选(由提交工具自动创建)。

今日概览

对当前研究的启发

  • AgentTrainEvolve:TWICE的同噪声反事实轨迹可用于降低多轮工具调用强化学习的信用分配方差,而SPLICE提供了把高一致性经验同时写入外部知识与模型参数的训练闭环。
  • AgentEvolve:苏格拉底式技能学习可借鉴为“专家建议—自主实践—技能修订—跨任务复用”的冻结参数技能演化流程。
  • EnvironmentEvolve:WildAWM把环境生成、任务生成和执行质量门控统一起来,可直接补强自动合成环境的可解性、难度标定与验证可靠性。
  • MemoryEvolve:Raw-RAG提示应先以原始证据覆盖率和重排质量作为强基线,AfterDeleteBench则要求记忆写入时同步维护来源依赖图以支持级联遗忘。
  • CacheEvolve:OpenAttention的误差感知读取预算与BeNice!的跨递归 KV 共享,为固定显存预算下联合学习“读哪些缓存、哪些状态复用”提供了两条互补路线。
  • SystemEvolve:CMAS的影子回放与保守晋升机制可用于约束 Agent 架构自动修改,避免非平稳任务中一次高分实验直接替换稳定系统。
  • CodeEvolve:AgenticEvolve表明持久化实验智能体能以更少评估完成程序搜索,可用于增强代码进化中的跨代假设积累和实验复用。
  • HarnessEvolve:Petri 网监督控制框架可将工具调用约束编译为可认证执行规则,而规格—判定器缺口研究提示 harness 必须显式审计任务描述与隐藏测试的一致性。
  • JevEvolve:OpenAI Decisions API验证了封闭集低延迟决策的产品需求,Jev-DLC则给出了利用接受与撤销反馈持续更新个性化状态、无需重训评分器的具体机制。
  • ResearchEvolve:ADAPT for Science:自进化科学优化多智能体系统将搜索位置与搜索方式共同纳入闭环优化,可用于设计能依据历史实验和执行反馈自适应调整科研策略的多智能体系统。

由当日整备时的 LLM 从全部条目中挑选,完整展开。

WildAWM:面向计算机使用智能体的可控环境与任务合成

WildAWM利用开源模型合成同时支持GUI、MCP和命令行交互的可执行环境及长程任务,并通过执行质量门控保障可解性、难度与验证可靠性。

 环境合成 世界模型 智能体 数据合成 长程任务

WildAWM是一套面向通用计算机使用智能体的可扩展环境与任务合成流水线,可生成同时支持图形用户界面、MCP服务和命令行接口的可执行环境。系统通过异构智能体轨迹、跨评判器一致性检查和反事实探测构成执行式质量门控,以提高任务的可解性、难度及验证器可靠性。该流水线共合成341组长程环境—任务对,部分任务需要超过100步操作,GPT-6-Astra的完成率仅为60%。仅在这些合成世界中训练的两种不同规模Qwen模型,在覆盖Web、Claw和计算机使用智能体的8个分布外基准上均取得显著提升。

用途与启示
  • 为计算机使用智能体提供比真实系统更安全、可控且易扩展的交互训练环境。
  • 展示GUI操作、工具调用与代码执行可以在统一环境中联合训练,增强智能体的跨接口协作能力。
  • 执行式质量门控可用于过滤不可解、过于简单或验证器不可靠的合成任务。
  • 分布外评测结果表明,高质量合成世界能够向未见过的真实计算机任务迁移。
📝 原始笔记(逐字保留)
[真实环境中的智能体世界模型:计算机使用智能体环境合成(64 ▲)](https://huggingface.co/papers/2610.26828?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)

苏格拉底式技能学习:教学与实践交替培养可迁移智能体技能

Socratic Skill Learning 通过专家教学与学生智能体实践交替进行,使智能体自主测试、修订并沉淀可跨任务复用的技能,同时显著降低指导成本。

 智能体 智能体技能库 能力迁移 经验学习 多轮反馈

Socratic Skill Learning(SSL)让 Educator 提供调查指导,但由 Student 独立操作环境、编写技能,并通过提问和测试调整建议。作者构建 SkillTransferBench,包含 35 个任务族和 408 个可执行案例,以新求解会话中的留出任务检验技能迁移。在主要的 22 个任务族、155 个案例上,Fixed-Window SSL 的效用达到 0.801,高于无技能、Trace2Skill 轨迹蒸馏和 SKILL-KD 对比蒸馏。Issue-Guided SSL 持续追踪技能修订中的未解决问题,取得 0.805 效用,并较 Fixed-Window SSL 减少 61.7% 的 Educator token 和 16.9% 的总技能获取 token。

用途与启示
  • 为智能体技能学习提供“专家引导—自主实践—技能修订”的闭环范式,避免仅从成功轨迹中提炼未经验证的操作规则。
  • SkillTransferBench 可用于评估技能能否跨会话、跨任务变体复用,而非只衡量原任务上的即时成功率。
  • 通过追踪未解决问题来按需安排指导,可在保持迁移效果的同时减少专家调用与 token 成本。
  • 结果表明,交替式过程指导比专家直接编写技能或任务完成后的事后教学更有效。
📝 原始笔记(逐字保留)
[苏格拉底式技能学习:交替进行教学与练习,培养可迁移的智能体技能(30 ▲)](https://huggingface.co/papers/2610.17860?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)

TWICE:同噪声孪生世界的智能体强化学习信用分配

TWICE 通过让事实轨迹与反事实轨迹共享逐词元 Gumbel 噪声,隔离智能体决策与后续采样运气的影响,以更低方差和更少辅助词元实现轮次级信用分配。

 信用分配 强化学习 智能体 策略优化 不确定性估计 成本优化 执行轨迹

TWICE(TWIn-world Credit Estimation)针对智能体强化学习仅提供完整回合奖励、难以向内部决策分配信用的问题,按轮次和行号索引逐词元 Gumbel 噪声,使反事实孪生轨迹继承事实轨迹的后续采样噪声,实现“相同运气、不同决策”的受控比较。该方法将孪生轨迹的结果差异转化为轮次级优势,用于对 actor 自采样轨迹执行策略梯度更新,部署时仅需 actor。理论上,孪生信用估计在任意耦合质量下均无偏,其方差相较独立反事实估计按 $1-ρ$ 缩放,并可将识别大小为 $Δ$ 的优势所需 rollout 数量从 $Θ(Δ^{-2})$ 降至 $Θ(Δ^{-1})$。在七个问答基准上,TWICE 使 Qwen2.5-3B 和 7B 的 GRPO 平均精确匹配率分别提升 5.3 和 4.5 个百分点,并比 VinePPO 少使用 68% 的辅助词元。

用途与启示
  • 为长轨迹、稀疏回合奖励下的智能体强化学习提供低方差的轮次级信用分配信号,避免将后续采样运气误判为当前决策贡献。
  • 可作为 GRPO 等策略优化方法的增强组件,提高在策略训练效率并降低反事实采样与辅助词元成本。
  • 可利用平方根预算规则,将反事实 rollout 资源优先分配给单位成本下更可能产生结果分歧的决策。
  • 为检索器、语料库和评分器相对确定的搜索与问答智能体提供受控反事实和因果式策略评估思路。
📝 原始笔记(逐字保留)
标题:Same Luck, Different Choice: Twin-World Credit Assignment for Agentic Reinforcement Learning 来源:arXiv 链接:https://arxiv.org/abs/2610.31544 摘要:Agentic reinforcement learning rewards a complete episode, yet the policy needs credit for every decision inside it. Counterfactual branching estimates this credit by re-running the episode after an alternative decision, but the branch draws its sampling noise independently of the factual episode, so the outcome difference mixes the effect of the decision with the luck of everything that follows. We observe that in agentic search the retriever, the corpus, and the grader are deterministic, so an episode is a deterministic function of the policy's decisions and its sampling noise. Twin worlds are therefore realizable: the same noise, a different decision. We introduce TWICE (TWIn-world Credit Estimation), which keys the Gumbel noise of every token by turn and line, rolls out counterfactual

复杂智能体记忆并非总是必要:朴素 Raw-RAG 基线更强

Raw-RAG 直接从原始对话历史中进行稠密检索与重排,在四项长期记忆基准的多数设置中超越复杂智能体记忆系统,表明保留原始证据和提高必要证据覆盖率至关重要。

 智能体记忆 检索增强生成 模型评估 长程任务 证据推理 长上下文

论文提出 Raw-RAG,以原始对话历史为语料,通过稠密检索和重排为阅读器 LLM 提供证据,无需记忆改写、结构化组织或学习式检索。在 LoCoMo、LongMemEval、MEME 和 MemoryAgentBench 上,Raw-RAG 在七组“基准—模型”设置中的六组排名第一,领先最强的复杂智能体记忆系统 0.13~5.53 分。证据分析显示,Raw-RAG 对必要证据的较高覆盖率能够抵消证据利用率较低的问题,而有效证据不仅包含答案值,也包含推导答案所需的关系和依赖路径。即使完整访问转换后的记忆存储,其准确率仍落后于使用原始证据,说明记忆转换可能造成不可逆的关键细节损失。

用途与启示
  • 将 Raw-RAG 作为长期记忆系统评测的必要强基线,避免将基础检索能力带来的收益错误归因于复杂记忆架构。
  • 设计智能体记忆时应优先保证原始信息、关系和依赖路径可访问,并提升必要证据覆盖率,再评估摘要、改写、结构化或记忆变异的增益。
  • 同时测量必要证据覆盖率与证据利用率,以判断性能瓶颈来自检索还是阅读推理。
  • 审计复杂记忆转换造成的信息损失,并保留原始历史作为可回退的证据层,同时开展成本—效果比较。
📝 原始笔记(逐字保留)
标题:Is Complex Agentic Memory Always Needed? Naive RAG Is Stronger Than We Thought 来源:arXiv 链接:https://arxiv.org/abs/2610.30755 摘要:LLM memory is widely used in long-term conversation understanding. Agentic memory systems often use mutation, structural organization, learned retrieval strategies, or other complex operations. Is this complexity always necessary? We study Raw-RAG, a naive RAG baseline using dense retrieval and reranking over raw history to supply evidence to a reader LLM. Across LoCoMo, LongMemEval, MEME, and MemoryAgentBench, Raw-RAG ranks first among the compared memory systems in six of seven benchmark-model settings, outperforming the strongest compared agentic memory system by 0.13-5.53 points. We investigate why raw-history retrieval remains competitive. Evidence analysis shows that its higher coverage of necessary evidence can offset lower utilization. Useful evidence includes both answer values an

OpenAttention:用尾部代理实现 1% 稀疏注意力读取

OpenAttention通过查询几何聚类、误差感知预算分配和计数感知尾部均值代理,在仅读取1% KV缓存时保留稠密注意力99%的准确率,并将解码注意力加速10倍。

 推理加速 系统优化 长上下文 缓存压缩 稀疏注意力 缓存优化 成本优化

OpenAttention针对稀疏注意力中未读取KV缓存尾部被直接丢弃或低比例采样时误差过大的问题,将整个尾部分布折叠为一个计数感知均值代理,在极低读取率下比随机采样和直接丢弃具有更低的权重误差。系统采用免训练的查询几何聚类(QGC)和查询几何选择器(QGS),依据查询方向压缩、筛选键值,并结合 top-k 选择。ErrorGate根据各聚类的估计权重误差动态分配读取预算,而非仅按聚类质心排序。在 Llama-3.1-8B 的 RULER-32K HARD 评测中,该方法以1%读取率保持稠密注意力99%的准确率,定制内核 OpenAttention.flash 将解码注意力阶段加速10倍。

用途与启示
  • 为长上下文推理提供免训练、兼顾精度与速度的极低读取率稀疏注意力方案,显著降低KV缓存访问开销。
  • 表明在重尾注意力分布和极低读取预算下,聚合未读取尾部的统计代理比直接丢弃或随机采样更可靠。
  • QGC、QGS与ErrorGate可作为现有语言模型的推理期优化组件,按查询方向和估计误差动态分配缓存读取预算,并适配不同模型与上下文长度。
  • 计数感知代理和误差驱动预算分配可启发其他KV缓存压缩与近似注意力设计。
  • 定制注意力内核展示了算法近似与系统实现协同优化的实际加速潜力。
📝 原始笔记(逐字保留)
标题:OpenAttention: One Percent Is Enough with Tail Proxies 来源:arXiv 链接:https://arxiv.org/abs/2610.30951 摘要:Sparse attention reads only a small subset of the key-value cache, and how to treat the unread tail remains a key challenge. Discarding the tail biases the output, and sampling it as previous approaches do fails at reads of 5% and below, where the tail likely holds heavy hitters the selector missed. Our key observation is that the simplest possible proxy, one token that folds the entire tail into its count-aware mean, already yields lower output error than a sample at every read behind a practical selector. We further show in closed form that at low reads sampling nearly doubles the weight error of discarding while a single proxy stays below it. Building on these findings, we explore approximating the dense attention distribution with a few proxies that target the tail. We propose OpenAtte

CMAS:非平稳环境下的保守元智能体架构适应

CMAS通过归档架构检索、类型化图编辑、配对影子回放和保守晋升机制,在非平稳环境及硬风险约束下实现兼顾切换成本与资源开销的元智能体架构安全持续适应。

 智能体脚手架演化 智能体 进化搜索 人工智能可靠性 成本优化 架构演化 动态基准测试 风险控制 状态回滚

CMAS将元智能体架构搜索形式化为带切换成本和硬风险约束的序贯现任架构替换问题,面向持续分布漂移、延迟反馈及组件相关故障。系统从历史归档中检索架构并提出类型化图编辑,利用共同随机数下的配对影子回放和干预式组件信用分配,将候选架构与现任架构进行比较。候选架构只有在经过经验校准、方差惩罚的联合得分超过预设阈值后才会晋升,随后继续接受模拟金丝雀测试并支持预设回滚。作者还提出包含状态切换、泄漏控制回放和对抗治理轨道的 MetaInvest-Bench;在96条金融模拟流上,CMAS将归一化动态预言机遗憾从0.116降至0.104、留出效用从0.44提高至0.48,但完整搜索的词元成本最高,且统计校准不构成完整效用或序列级安全保证。

用途与启示
  • 为持续分布漂移、延迟反馈和组件相关故障环境中的智能体架构更新提供兼顾收益、切换成本、硬风险约束与资源开销的在线搜索范式。
  • 形成“影子评估—保守晋升—金丝雀验证—失败回滚”的部署流程,降低架构自动演化中的错误晋升和上线风险。
  • 共同随机数、方差惩罚、类型化图编辑和干预式组件信用分配有助于降低比较噪声、识别组件的真实边际贡献,并在额外工作智能体无收益时收缩团队规模。
  • 提醒系统设计者同时报告部署成本、搜索成本、错误晋升率及校准边界,区分单次更新的经验错误率控制与完整效用或全序列安全保证。
📝 原始笔记(逐字保留)
标题:Conservative Meta-Agent Search: Architecture Adaptation under Non-Stationarity 来源:arXiv 链接:https://arxiv.org/abs/2610.31436 摘要:Automated agentic-system design is typically evaluated on static task suites with immediate scalar rewards. Deployed systems face persistent shift, delayed dependent feedback, correlated component failures, and costly architecture changes. We formalize meta-agent architecture search as sequential incumbent replacement with switching costs and hard risk constraints and introduce Conservative Meta-Agent Search (CMAS). CMAS retrieves archived architectures and proposes typed graph edits, then scores each against the incumbent by paired shadow replay under common random numbers, with interventional component credit. Promotion requires an empirically calibrated, variance-penalized simultaneous score above a pre-specified margin, and is followed by a simulated canary stage and pre-specified roll

AgenticEvolve:持久化智能体驱动的进化程序搜索

AgenticEvolve 让持久化语言模型智能体管理各个进化岛,在候选评估之间自主设计和运行实验,以更少评估次数和相近成本发现质量更高的程序与方程结构。

 进化搜索 智能体 实验执行 人工智能辅助编程 自动化设计 成本优化 实验设计 SWE 软件工程 自演化

AgenticEvolve 保留进化算法的整体结构,但不再让语言模型仅根据父代程序和分数单次生成候选,而是由持久化智能体分别管理各个进化岛。智能体会在候选程序的评估间隙主动设计并运行实验,根据实验结果持续分析和改进后续搜索。两项启发式设计任务显示,该框架在隐藏及未见实例上均优于禁用实验的 No-analysis 配置和 OpenEvolve,并能以更少评估次数、相近成本达到基线的最终质量。在十二项方程发现任务中,它恢复真实方程结构的数量也超过现有语言模型及遗传编程基线。

用途与启示
  • 表明持久化状态、主动实验与迭代反馈可显著增强语言模型进化搜索,而非仅将模型用作一次性变异算子。
  • 可用于启发式算法设计、自动化程序优化和符号方程发现等需要反复试验与候选筛选的任务。
  • No-analysis 消融结果为量化自主实验对候选质量、评估效率和成本的独立贡献提供了清晰范式,并可指导搜索预算配置。
  • 以较少评估获得相近或更高质量,对评估成本较高的自动化算法发现任务具有实际价值。
  • 按进化岛部署独立智能体,为并行搜索和候选多样性维护提供了可扩展的系统设计。
📝 原始笔记(逐字保留)
标题:AgenticEvolve: Evolutionary Program Search with Persistent Language Model Agents that Design and Run Experiments 来源:arXiv 链接:https://arxiv.org/abs/2610.31326 摘要:Evolutionary program search with large language models keeps the structure of an evolutionary algorithm and uses the model as its variation operator. Typically, the model generates each candidate program in a single request from parent programs and their scores. We present AgenticEvolve, an evolutionary program search framework in which each island is run by a persistent large language model agent. Between evaluations, the agent designs and runs experiments on the candidate program. To measure the contribution of experimentation, we compare AgenticEvolve with No-analysis, an otherwise identical configuration with experiments disabled. On two heuristic design tasks with three large language models, AgenticEvolve produces better programs than No-analysis and OpenEvolve on both hidden and uns

SPLICE:基于一致性正则化的智能体知识—模型协同演化

SPLICE通过多视角分析同一经验,筛选具有一致效用增益的知识,并交替开展外部知识演化、自蒸馏与强化学习,实现知识与模型能力的协同演化,在提升准确率的同时降低正确解答的输出成本。

 自演化 智能体 经验学习 自蒸馏 强化学习 模型训练 技能演化 协同演化

SPLICE对同一条智能体经验采用不同分析与转换方式,构造多个演化视图并生成差异化知识候选,以降低对单一分析路径的依赖。框架依据跨视图的共同增益更新外部知识,同时评估候选知识的效用提升及其一致性。模型演化阶段通过自蒸馏内化已演化知识,并结合强化学习,将持续导致一致性效用下降的知识作为对比参照;知识更新与模型更新交替进行。实验中,平均准确率相较知识演化和模型训练基线最高分别提升7.1和4.6个百分点,每个正确解答的输出词元数最多减少44%,且演化知识可跨模型规模与模型家族迁移。

用途与启示
  • 为从智能体经验中提取可靠、可复用的技能或记忆提供跨视图效用一致性筛选机制,降低偶然或表面合理知识被采纳的风险。
  • 展示外部知识库演化、自蒸馏与强化学习协同更新的闭环,可用于构建持续自我改进的智能体。
  • 将持续造成一致性效用下降的知识用作对比信号,为自蒸馏和强化学习提供更具辨识度的训练反馈。
  • 跨模型迁移与词元效率结果表明,演化知识可兼顾能力提升、知识复用及持续学习与部署成本优化。
📝 原始笔记(逐字保留)
标题:Agentic Knowledge-Model Co-Evolution via Consistency Regularization 来源:arXiv 链接:https://arxiv.org/abs/2610.30790 摘要:LLM agents can evolve by learning from accumulated experience. Existing approaches extract reusable external knowledge, such as skills and memories, from experience to guide subsequent task solving, with some further internalizing this knowledge through model training. However, different ways of analyzing and transforming the same experience can yield knowledge with substantially different utility, even when the resulting guidance appears reasonable. Inspired by consistency regularization, we identify consistent utility gains across different ways of analyzing the same experience, rather than relying on any single way of analyzing it. We introduce SPLICE, a framework for consistency-regularized knowledge-model co-evolution. It constructs evolution views by perturbing how the same experienc

AfterDeleteBench:审计智能体删除后的信息残留

AfterDeleteBench 通过暴露后删除与从未暴露的对照实验,揭示固定权重 LLM 智能体仍可从派生记忆中重构已删除秘密,并验证来源感知的级联删除可有效阻止恢复。

 智能体记忆 模型遗忘 安全审计 记忆治理 证据溯源

AfterDeleteBench 面向具有外部持久记忆和摘要等派生状态的固定权重 LLM 智能体,评估删除原始记录后信息是否仍可恢复。基准为每个合成秘密设置“暴露后删除”和“从未暴露”两组匹配智能体,使恢复行为能够归因于此前的信息暴露。主要实验中,单次查询可在约三分之二的案例中从 Qwen2.5-7B-Instruct 恢复秘密,而未暴露对照组的恢复率为零;即使不存在完整字符串,仅保留分散组件,Qwen、Mistral 和 Phi-3 的精确重构率仍达 62%–99%。实验还表明响应格式与解析器错配会影响审计结果,而来源感知的级联删除可消除已观察到的恢复,精确字面写入过滤器则只能阻止重新写入,无法清除既有派生信息。

用途与启示
  • 为智能体持久记忆提供行为层面的删除有效性审计基准,而非仅检查底层存储记录是否消失。
  • 提示记忆系统应跟踪信息来源及派生关系,并在删除时执行来源感知的级联清理。
  • 区分信息重构、重新写入和新会话召回等失效阶段,有助于定位删除机制的具体安全缺陷。
  • 评测时需联合审查响应接口、输出格式和解析器,避免因测量管线错配产生漏报。
📝 原始笔记(逐字保留)
标题:AfterDeleteBench: Auditing Post-Deletion Information Persistence in LLM Agents 来源:arXiv 链接:https://arxiv.org/abs/2610.31366 摘要:Many LLM agents maintain external persistent memory and derive additional state from past interactions, such as summaries. Deleting an original memory record therefore need not remove information carried by its descendants. We introduce AfterDeleteBench, a controlled behavioral audit for this failure mode in fixed-weight LLM agents. For each synthetic secret, we compare an exposed-then-deleted agent with an otherwise matched agent that was never exposed to the secret, allowing post-deletion recovery to be attributed to the original exposure. In our primary setting, a single query recovers the deleted secret from Qwen2.5-7B-Instruct in roughly two thirds of cases, while matched never-exposed controls have zero recovery. Crucially, recovery does not require a surviving verbatim copy: when th

OpenAI 发布 Decisions API,面向低延迟低成本决策

OpenAI 正式开放基于 GPT-6 Luna 的 Decisions API,以低延迟、低成本及多模态批处理能力支持分类、路由、评分等答案范围明确的实时决策任务。

 模型路由 成本优化 推理加速 智能体 系统优化 人工智能应用 多模态

  • Decisions API 可接收文本、图像和原生 JSON,并以概率、选项或评分形式返回结构化结果,单次请求最多可提交 400 个问题。
  • 该服务通过模型配置与区域化资源调度优化推理,官方称部分场景较 Responses API 调用同一模型最高提速 10 倍,处理延迟可降至 100—180 毫秒级。
  • API 支持 GPT-Live 原生集成、提示缓存,以及美国和欧盟区域的推理数据驻留,适用于实时对话、动作选择、请求转接和风险判断。
  • 定价为每百万输入 token 0.10 美元、缓存输入 0.01 美元,不收取输出 token 费用;早期客户 Speak 报告其操作间隔由 1.4 秒降至 0.13 秒。
用途与启示
  • 可将分类、内容审核、候选筛选、请求路由、风险评分和下一步动作选择迁移至专用决策端点。
  • 适合部署在智能体、语音助手和实时交互的执行热路径中,以更低延迟完成继续、重试、澄清或升级等控制决策。
  • 概率与置信度输出可用于设置人工审核阈值,将低置信度案例交由人在回路处理。
  • 批量请求、提示缓存和免输出 token 计费有助于降低高频、大规模重复决策的运行成本。
  • 生产部署前仍需独立验证实际吞吐、延迟、准确率及区域数据驻留合规性。
📝 原始笔记(逐字保留)
标题:OpenAI 正式发布 Decisions API,面向低延迟低成本小决策 来源:AIHOT 每日精选(aihot.virxact.com) 链接:https://aihot.news/items/xffhf8h0e0r145getmi9k1zgs 摘要:(信源:openai.com)OpenAI 宣布基于 GPT-6 Luna 的 Decisions API 正式可用,用于分类、路由、评分等有界答案问题,速度最高比通过 Responses API 使用 GPT-6 Luna 快 10x。 [合并自 2026-10-23 openai-gpt-6-luna-api] 标题:OpenAI 全面开放决策 API:基于 GPT-6 Luna,输入每百万 token 仅 0.1 美元 来源:AIbase 快讯(aibase.com) 链接:https://www.aibase.com/zh/news/31819 摘要:OpenAI于10月22日全面开放决策API。该接口基于GPT-6Luna,聚焦“答案有边界”的问题,帮助应用和智能体依据文本、图像及结构化数据近乎实时地作出决策。OpenAI称,其响应速度比经Responses API调用GPT-6Luna最高快10倍。文中还提及定价,但信息未完整展开。 [合并自 2026-10-23 openai-gpt-6-luna-api-2] 标题:OpenAI 全面开放决策 API:GPT‑6 Luna 上阵,输入百万 token 仅 0.1 美元 来源:AIbase 快讯(aibase.com) 链接:https://www.aibase.com/zh/news/31818 摘要:OpenAI全面放开决策API,基于GPT-6 Luna,专攻答案范围明确的实时判断场景,支持文本、图像及结构化数据,助力应用与智能体快速决策。定价为输入每百万token 0.1美元(约0.67元),并涉及缓存命中计费。 [合并自 2026-10-23 openai-decisions-api-100] 标题:OpenAI 向所有客户开放 Decisions API,决策延迟最低降至100毫秒级 来源:AIbase 快讯(aibase.com) 链接:https://www.aibase.com/zh/news/31812 摘要:OpenAI 10月22日向所有客户开放 Decisions API,参与 TypeSafe Jev 模型带动的快速决策模型竞争。该产品9月29日开发者日宣布,核心是重配 ChatGPT Luna,降低推理延迟和成本,而非专门训练。其API负责人称,处理时间可从1—3秒缩短至100—180毫秒。

MiniMax 开源 M3.1 Flash:428B 参数与百万 Token 上下文

MiniMax 开源总参数 428B、激活参数 23B 的 M3.1 Flash 模型权重,以全模型稀疏注意力、量化感知训练和功耗感知调度提升推理效率,并获得多家芯片厂商、推理框架及平台适配。

 开放权重模型 模型开发 推理加速 系统优化 成本优化 长上下文

MiniMax M3.1 Flash 总参数量为 428B、激活参数为 23B,支持最长 100 万 Token 上下文,并在多个智能体基准中表现较强。模型采用全模型稀疏注意力,并通过量化感知训练(QAT)将部分 MoE 专家迁移至 W4A4,以降低推理开销。Power-aware scheduling 通过精细分配计算卡功耗提升硬件利用率,使推理成本较上一代下降一半以上。模型上线 72 小时内为真实用户处理超过 100 万亿 Token,并获得华为昇腾、NVIDIA、AMD、vLLM、SGLang、Hugging Face 和魔搭等硬件与软件生态支持。

用途与启示
  • 为超长上下文智能体和高吞吐推理服务提供新的开放权重基础模型选择。
  • 稀疏注意力、W4A4 量化感知训练与功耗感知调度的组合,可作为降低超大 MoE 模型部署成本的工程参考。
  • 多芯片、云平台及主流推理框架的适配有助于降低模型迁移和异构硬件部署门槛。
  • 可用于代码仓库分析、深度研究及长程智能体等任务,并评估 428B MoE 模型在国产芯片和开源推理框架上的部署效率。
📝 原始笔记(逐字保留)
标题:MiniMax 开源 MiniMax M3.1 Flash 模型权重 来源:AI工具集日报(ai-bot.cn) 链接:https://mp.weixin.qq.com/s/uqZpu1NYy7Iwn2Aj9OKL1g 摘要:(信源:MiniMax 稀宇科技)MiniMax开源的MiniMax M3.1 Flash模型权重,总参数428B、激活参数23B,支持100万Token上下文。MiniMax M3.1 Flash上线72小时处理超100万亿Token,推理成本较上代降一半以上,且在多个Agent基准中位居国产第一。华为昇腾、NVIDIA等十家芯片厂商与vLLM、SGLang等推理框架首日完成适配,共同推进开源生态落地。

ADAPT for Science:自进化科学优化多智能体系统

ADAPT 将科学优化分解为“在哪里搜索”与“如何搜索”两个耦合决策,通过多智能体利用历史设计、动态分配计算预算并依据执行反馈自演化优化流程,在有限评估预算下显著提升复杂物理设计效果。

 自动化科学研究 多智能体系统 自演化 科学发现 执行反馈

ADAPT for Science 面向可行解稀疏、参数强耦合、物理约束严格且评估成本高昂的科学设计空间,将优化建模为“在哪里搜索”和“如何搜索”两个耦合决策。系统利用历史设计筛选有潜力且多样化的初始条件,逐步将计算资源集中到更有利的搜索方向,并根据执行反馈持续演化优化程序,从既有经验和当前搜索结果中学习。作者使用可微物理模拟器,在八种未见过的引力波探测器拓扑上进行评估。在相同科学评估预算下,ADAPT 的平均损失为 0.204 ± 0.101,相比最佳经典优化器降低 54.9%,相比最佳通用智能体演化基线降低 62.2%,并在全部未见拓扑上取得最低损失。

用途与启示
  • 为高成本、强约束且评估预算有限的科学设计任务提供融合搜索起点选择、计算资源动态分配与优化程序演化的多智能体框架。
  • 表明历史设计、领域先验与在线执行反馈的联合利用,可提升搜索效率和样本效率。
  • 展示多智能体能够协同优化初始搜索区域、计算预算分配及优化程序本身,并体现对未见设计拓扑的泛化潜力。
  • 可用于引力波探测器之外的物理装置、工程结构及其他依赖模拟器的受约束科学优化任务。
  • 为从历史经验和自身搜索结果中持续学习的自动化设计与闭环科学发现系统提供实现思路。
📝 原始笔记(逐字保留)
标题:ADAPT for Science: A Multi-Agent System for Self-Evolving Scientific Optimization 来源:arXiv 链接:https://arxiv.org/abs/2610.30851 摘要:Scientific discovery often requires identifying a small number of high-performing designs in vast, constrained search spaces. This is difficult when evaluations are costly, feasible solutions are sparse, parameters are strongly coupled, and physical constraints are strict. Recent AI for AI methods can automatically improve algorithms and optimization procedures. However, general purpose approaches are not designed around scientific priors, physical constraints, and limited evaluation budgets. We introduce ADAPT for Science, a multi-agent framework that treats scientific optimization as two coupled decisions: where to search and how to search. ADAPT uses historical designs to identify promising and diverse initial conditions, progressively concentrates computation on favorable search direct

测试评分代码智能体基准中的规格—判定器缺口

论文揭示代码智能体基准的任务描述与测试判定器之间存在“规格—判定器缺口”,并提出覆盖五种编程语言的静态审计工具,量化隐藏依赖对评测结果的影响。

 模型评估 人工智能辅助编程 安全审计 构念效度 评估透明度 软件缺陷修复评估

论文将任务描述未说明、无法合理推断但评分测试依赖的常量名、模块路径或精确字面量形式化为“规格—判定器缺口”,并讨论任务依赖链可能引入的不一致性。作者构建了覆盖五种编程语言的静态审计工具,对测试中的名称、路径和字面量依赖进行分类,留出集精确率为 89.2%、召回率为 92.9%。在 SWE-Milestone 的 98 个里程碑中,25 个包含依赖未声明且不可推断名称或路径的测试;受影响构建单元在公开运行中的失败率为 80.6%,可比对照单元为 48.4%。对另外四个基准的分析表明,缺口频率与基准构建方式密切相关:使用发布说明或 LLM 摘要生成规格时问题更突出,而经人工筛选或围绕测试编写的任务几乎不受影响。

用途与启示
  • 为代码智能体基准提供规格完整性静态审计手段,识别任务描述与评分测试之间的隐藏依赖。
  • 提醒评测设计者区分真实软件工程能力与复现上游命名、路径及精确字面量等实现细节的能力。
  • 建议公开测试所需信息、发布规格补遗、修正过滤规则,并将静态审计纳入基准发布流程。
  • 在排行榜之外报告仓库内分数偏移、受影响任务比例,并结合不同评分脚手架评估缺口对得分和排序的影响。
  • 提升代码评测的构念效度、透明度以及跨智能体比较的公平性。
📝 原始笔记(逐字保留)
标题:What the Specification Did Not Say: Specification-Oracle Gaps in Test-Graded Coding-Agent Benchmarks 来源:arXiv 链接:https://arxiv.org/abs/2610.30635 摘要:Coding-agent benchmarks often describe a task in natural language but grade it with tests taken from the upstream project. Passing those tests can require information the description never states: a constant's name, a module path, an exact message. We call this a specification-oracle gap: where it exists, a benchmark also measures whether an agent reproduces upstream implementation details. We formalise the gap, including the inconsistencies that chains of dependent tasks add, and build a static audit for five languages that classifies every name-, path- and literal-level dependency of every scored test (held-out precision 89.2%, recall 92.9%). On SWE-Milestone (98 graded milestones, 35 published runs), 25 milestones contain a test that depends on an unstated, non-inferable name or path. B

基于 Petri 网监督控制的智能体认证执行框架

论文将智能体的工具执行框架形式化为 Petri 网监督控制问题,在提示注入和不可控工具结果下实现安全且尽量少干预的动作执行。

 可信执行 智能体安全 工具链安全 形式化验证 执行验证

论文在 LLM 推理层与工具执行层之间引入基于 Petri 网的认证执行框架,用标记表示能力、审批和预算,仅在前置条件满足时允许动作转换。系统将工具结果视为不可控事件,通过传统最大许可监督器实施安全约束,并在四项假设下将形式化安全保证迁移到实际运行系统。针对智能体遭拒后重新规划和重复提议的闭环,作者指出传统监督器可能比更严格的安全监督器产生任意程度的额外干预。对于给定提议模型,最少干预的最大许可监督器可表示为传统监督器的价值阈值细化,并能以至多一个监控库所约束并发动作顺序。自主发布智能体实验表明,安全部署需要保留在发布流程启动后拒绝某一步骤的能力。

用途与启示
  • 为智能体工具调用提供与自然语言表述无关的能力、审批及预算约束,可抵御提示注入诱导的越权执行。
  • 将执行安全转化为可综合、可验证的 Petri 网监督控制问题,为高风险智能体提供形式化安全保证。
  • 揭示最大许可并不等同于重规划闭环中的最少干预,设计执行监控器时还需考虑拒绝后的推理成本与后续策略。
  • 可用于软件发布、运维和其他具有不可逆动作的智能体系统,在任务启动后仍保留动态阻断能力。
📝 原始笔记(逐字保留)
标题:Certified Execution Harness for Agentic AI: Safe and Least-Intrusive Petri-Net Supervisory Control Between Reasoning and Action 来源:arXiv 链接:https://arxiv.org/abs/2610.31376 摘要:This paper studies the problem of safe tool execution for large language model (LLM) agents under prompt injection. Using Petri nets, we formalize the execution harness between the LLM and its tools as a supervisory control problem, in which marks represent capabilities, approvals and budgets. Since a transition fires only if the marks it needs are present, an injected request whose preconditions are unmet or already spent is refused regardless of its wording. Treating tool outcomes as uncontrollable, we enforce safety by the conventional maximally permissive supervisor, and this safety transfers to the running system under four assumptions. Moreover, to capture an agent that may propose again after a refusal, we introduce the notion of a replanning closed loop, in which each retry costs a

Jev-DLC:基于类型化反馈的决策级持续学习

Jev-DLC将用户接受与撤销操作形成的类型化纠正压缩为有界、持久的因果状态,在冻结评分器且不保留原始交互历史的条件下,实现跨请求的持续个性化决策。

 持续学习 用户画像 偏好优化 状态持久化 在线学习 成本优化 人工智能应用

Jev-DLC研究部署后的用户偏好如何通过接受或撤销决策逐步显现,并持续影响后续请求。它将每次纠正同时表示为重复动作的身份信号,以及偏好选项指向被拒选项的有向关系,并存入冻结评分器之上的互补有界通道,以提供更清晰的信用分配。该方法组合不同通道的得分影响后续决策,不保存原始交互历史、不增加评分器调用,也无需在运行时对语言模型执行反向传播。作者提出按时间顺序评估纠正对未来决策影响的TCPA-Bench;在TCPA-Repeat上,Jev-DLC取得44.83%的用户宏平均准确率,较Recent-4历史回放高2.43个百分点,在至少已有两次反馈时达到56.07%,领先该深度下最强对比方法7.54个百分点。

用途与启示
  • 为长期运行的个性化智能体提供低存储、低计算成本且无需在线更新语言模型参数的持续偏好适应机制。
  • 将显式用户纠正编码为紧凑因果状态,减少对完整交互历史回放和基础模型参数更新的依赖。
  • TCPA-Bench可衡量纠正对未来决策的实际影响,避免仅评估即时反馈拟合,并检验跨请求偏好保持能力。
  • 动作身份与成对偏好关系的双通道类型化设计,可改善信用分配,并为持续学习、推荐决策和用户画像系统提供参考。
  • 适合需要冻结基础评分器、避免在线反向传播或受到隐私约束的决策系统。
📝 原始笔记(逐字保留)
标题:Jev-DLC: Decision-Level Continual Learning from Typed Feedback 来源:arXiv 链接:https://arxiv.org/abs/2610.31521 摘要:Individual preferences often become visible only after deployment, when a user accepts one decision or revokes it in favor of another. Jev-style typed interfaces make this feedback explicit by identifying the selected action and, under revocation, the decision it replaces. We study how these consequences persist across requests as Decision-Level Continual Learning from Typed Feedback (Jev-DLC). Jev-DLC treats each correction as both evidence about a recurring action identity and a directed relation between the preferred and rejected choices. It preserves these signals in complementary bounded channels above a frozen scorer and combines their scores to shape the next decision. The method retains no raw interaction history, adds no scorer call, and performs no runtime language-model backward

点击标题展开完整内容;同子主题 3 条以上合并为专题卡。

RobotEvolve3 条
★2 DONIC:基于人类演示的通用灵巧双手追踪控制 Hugging Face Papers · 具身基础模型 · 论文 DONIC通过融合PPO、行为克隆与成功轨迹回收,在单一策略中实现跨物体、跨动作来源的通用灵巧双手协同操控。

 具身智能 模仿学习 强化学习 动作表征 数据增强

DONIC是一个面向接触密集型交互的通用双手追踪控制器,可联合学习不同操作类别和人类动作来源。作者同时构建BiHOI多视角数据集,包含1,575段双手交互序列和229个物体,并将重建的人类交互重定向为机器人参考动作。训练方法将近端策略优化(PPO)与行为克隆结合,通过反馈循环把验证成功的执行轨迹重新纳入演示数据,并采用以物体为中心的单手奖励和Clip-Centered Advantages改善协同学习。无需微调时,单一检查点在训练物体的未见轨迹上达到86.79%成功率,在留出物体上达到57.32%,分别领先双手追踪基线77.36和45.73个百分点。

用途与启示
  • 为从人类多视角演示学习通用双手灵巧操控提供可扩展的数据与训练范式。
  • 成功执行轨迹的验证和回收机制可用于构建强化学习与模仿学习相结合的闭环数据增强流程。
  • 以物体运动为中心、按双手接触角色分配监督,有助于解决接触密集任务中的协同控制与信用分配问题。
  • 单一策略对未见轨迹和留出物体的泛化结果表明,异构人类动作参考可支持更通用的机器人控制策略。
📝 原始笔记(逐字保留)
[DONIC:基于人类演示的通用灵巧双手追踪控制(124 ▲)](https://huggingface.co/papers/2610.29997?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)
★2 游戏规模化:在多样虚拟世界中持续预训练具身智能体 Hugging Face Papers · 具身基础模型 · 论文 研究通过120组受控实验分析数据量、世界多样性与模型规模对虚拟世界具身智能体持续预训练及跨世界泛化的影响。

 具身智能 模型训练 跨域泛化 缩放定律 长程任务

研究覆盖0.8B至27B的四种模型规模、50至1600小时的六档数据预算,以及从单一 Minecraft 到多世界语料的五种数据混合配置。增加数据量主要改善语料内表现,提升世界多样性有助于迁移至相近世界,但对差异较大的未见世界增益有限;扩大模型则能提高数据效率,却可能在单世界训练下削弱远域泛化。训练过程呈现早期“接口阶段”和后期“世界阶段”:前者带来广泛的跨世界收益,后者的提升逐渐集中于语料内及相关世界。作者进一步拟合了关联验证损失、数据规模、数据多样性和模型容量的经验缩放定律,但指出仅靠模仿式持续预训练仍不足以构建通用具身智能体。

用途与启示
  • 为虚拟世界具身智能体的数据预算、语料多样性和参数规模配置提供量化依据。
  • 提示多世界数据更适合提升近域迁移,而远域泛化还需要交互学习、强化学习或环境适应等训练阶段。
  • “接口阶段—世界阶段”的训练分化可用于设计分阶段课程、停止策略和跨世界能力评估。
  • 经验缩放定律可辅助预测不同数据与模型配置下的训练收益和资源需求。
📝 原始笔记(逐字保留)
[游戏中的规模化:在多样化虚拟世界中持续预训练具身智能体(49 ▲)](https://huggingface.co/papers/2610.28698?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)
★3 FETA:面向视觉语言导航的反馈高效测试时适应 arXiv · 测试时训练 · 论文 FETA通过分层筛选高信息量轨迹与关键动作,结合单次二元人工反馈和差异感知熵优化,以更少人工干预提升视觉语言导航智能体在未见环境中的测试时适应能力。

 具身导航 持续学习 人在回路 不确定性估计 视觉推理 主动学习 具身智能 测试时计算

视觉语言导航智能体在未见环境中容易因分布偏移而性能下降,传统无监督熵最小化还可能沿导航轨迹传播错误并引发级联失败。FETA先根据归一化策略熵的波动筛选高信息量轨迹,再利用熵梯度显著性定位其中的关键动作,并仅请求一次关于动作正确性的二元人工反馈。其差异感知熵优化将策略更新限制在被查询的步骤,同时根据预测与反馈之间的偏差自适应调整样本权重,避免轨迹级统一监督造成粒度错配。多项基准实验表明,该方法以更少人工干预取得领先表现,并能适应噪声反馈和持续适应场景。

用途与启示
  • 为部署于陌生环境的视觉语言导航智能体提供低反馈成本的在线适应方案。
  • 将轨迹级监督细化为关键动作级反馈,避免无差别更新造成优化粒度错配。
  • 利用策略熵波动和熵梯度显著性识别最具信息价值的反馈位置,优化反馈预算分配。
  • 根据预测与反馈的差异调节优化强度,降低错误累积和级联导航失败风险。
  • 为人在回路的具身智能系统构建噪声鲁棒的持续适应机制提供参考。
📝 原始笔记(逐字保留)
标题:Asking Less, Adapting Better: Feedback-Efficient Test-Time Adaptation for Vision-and-Language Navigation 来源:arXiv 链接:https://arxiv.org/abs/2610.30643 摘要:Vision-and-Language Navigation (VLN) requires agents to follow instructions and navigate to target locations. However, current VLN agents often suffer severe performance degradation in unseen environments due to distribution shifts. Test-Time Adaptation (TTA) offers a promising paradigm to bridge this gap, yet existing methods that rely on unsupervised entropy minimization can propagate errors through the trajectory, causing cascading failures in navigation. Recent methods mitigate this by incorporating human feedback, but they apply trajectory-level supervision uniformly across all steps without localizing the actions is truly informative, leading to inefficient feedback utilization and mismatched optimization granularity. To address these limitations, we propose FETA, a Feedback-Efficien
NewModel5 条
★2 FCP:面向未来演化建模的自回归视频生成 Hugging Face Papers · 视频生成 · 论文 论文提出未来片段预测(FCP)辅助目标,通过预测间隔较远的视频片段,促使自回归视频扩散模型学习场景演化规律,并以更低训练计算量提升生成结果的物理合理性。

 视频生成 模型训练 世界模型 时序建模 多模态

自回归视频扩散模型通常逐片段生成视频,但教师强制训练中的高度时间冗余可能使模型依赖局部视觉连续性这一捷径,而未能充分学习场景的长期演化。作者提出未来片段预测(Future Chunk Prediction,FCP)辅助目标,要求模型在无法访问中间视觉上下文的情况下预测时间上相隔较远的片段。FCP直接使用训练视频提供监督,无需额外的预训练视觉编码器,也不改变原有的自回归推理流程。实验表明,该方法以更低的整体训练计算预算获得了优于标准教师强制训练的物理合理性,并形成更具结构性的表征空间。

用途与启示
  • 为自回归视频生成提供针对场景动态演化的显式训练信号,减少模型对局部时间冗余的依赖。
  • 在不增加预训练编码器或修改推理流程的前提下,提高生成视频的物理合理性与训练效率。
  • FCP形成的结构化表征空间可为构建具备长期预测能力的自回归世界模型提供基础。
📝 原始笔记(逐字保留)
[展望未来:自回归视频生成中的未来演化建模(115 ▲)](https://huggingface.co/papers/2610.29989?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)
★3 蚂蚁数科发布决策模型 LingDT-Decision-1.0 量子位 · 模型发布 · 原文 蚂蚁数科发布4B与27B版本的 LingDT-Decision-1.0,以原生多选和按序决策能力面向客服、风控及金融等高频结构化决策场景。

 模型开发 成本优化 人工智能应用 工具调用 任务规划

LingDT-Decision-1.0 不生成开放文本,而是在限定候选项中直接完成判断,支持分类、评级、意图识别和工具选择等任务。模型提供4B与27B两个版本,并原生支持多选及基于任务依赖关系的按序决策(DAG),可处理复合意图和多步骤业务流程。在23项开源基准上,其27B版本按“90%单选评分+10%多选评分”计算的综合成绩位居参评模型首位,多选准确率也领先多款同类决策模型。蚂蚁数科称,该模型在真实业务测试中可将Token消耗降低超过90%、响应速度最高提升约10倍,目前已上线 DTMaaS 平台。

用途与启示
  • 为客服分流、风险识别、金融意图判断和工具组合等高频任务提供低成本、低延迟的专用决策能力。
  • 原生多选可避免单选模型遗漏复合诉求,按序决策则可依据任务依赖关系规划执行顺序。
  • 直接输出候选决策有助于减少格式错误及后续解析、校验成本,但基准成绩仍需结合独立测试和具体业务分布验证。
📝 原始笔记(逐字保留)
标题:又一国产决策模型发布!准确率超过微软和Jev等决策模型 来源:量子位(微信公众号) 链接:https://www.qbitai.com/2026/10/504879.html 摘要:10月22日,蚂蚁数科正式发布决策模型 LingDT-Decision-1.0。
★3 IQuest-Q1:面向智能体 CLI 系统的稀疏 MoE 基础模型 arXiv · 模型发布 · 论文 IQuest-Q1 是一款面向智能体 CLI、终端自动化与代码任务的开源稀疏 MoE 基础模型,总参数量 320B、单次推理激活约 15B,并通过预训练、中期训练、多脚手架后训练及模型合并兼顾编程与通用能力。

 模型训练 人工智能辅助编程 智能体 后训练 开放权重模型 模型开发

IQuest-Q1 采用稀疏 Mixture-of-Experts 架构,总参数量为 320B,每次推理激活约 15B 参数。预训练结合 Stable SplitNorm、Muon 与 muP,并采用逐步提高代码数据占比的两阶段课程,以兼顾训练稳定性与效率、维持较宽的学习率稳定区间。中期训练扩展跨领域、跨格式的数据混合并渐进增加上下文长度;后训练则在多种智能体脚手架和模型版本上整合 SFT、领域专用强化学习与 MOPD。团队还通过模型合并融合不同专家及训练阶段的检查点,以整合互补能力、缓解参数更新冲突,并开放模型权重支持社区研发。

用途与启示
  • 为智能体 CLI、代码生成和终端自动化场景提供兼具通用能力的开放权重基础模型。
  • 稀疏 MoE 以较低的单次激活参数量承载更大模型容量,为平衡模型能力与推理成本提供参考。
  • 展示从稳定预训练、渐进式长上下文中期训练到领域强化学习的完整分阶段训练范式。
  • 多脚手架、多版本后训练有助于整合不同执行轨迹与互补训练信号,增强对多种 CLI 环境的适应能力。
  • 模型合并可复用领域专家和跨阶段检查点,融合互补能力并缓解参数更新冲突。
📝 原始笔记(逐字保留)
标题:IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems 来源:arXiv 链接:https://arxiv.org/abs/2610.30949 摘要:We present IQuest-Q1, a sparse Mixture-of-Experts (MoE) agentic foundation model with 320B total parameters (15B activated). IQuest-Q1 is developed through a three-stage process: (1) stable and efficient pre-training, combining Stable SplitNorm, Muon, and muP with a two-stage curriculum whose second stage increases the coding-data mixture, preserving a wide stability margin between safe and optimal learning rates; (2) fine-grained mid-training, expanding the data mixture across domains and formats and progressively extending the context; and (3) multi-scaffold with multi-version post-training, combining SFT, domain-specialized RL, and MOPD across various scaffolds to integrate complementary training signals and strengthen agentic coding capabilities. Furthermore, model merging combines dif [合并自 2026-10-24 iquest-q1-cli-320b-moe] [IQuest-Q1:提升智能体 CLI 系统的基础能力(54 ▲)](https://huggingface.co/papers/2610.30949?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-23) [合并自 2026-10-24 iquest-q1-cli-moe] 标题:IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems 来源:arXiv 链接:https://arxiv.org/abs/2610.30949 摘要:We present IQuest-Q1, a sparse Mixture-of-Experts (MoE) agentic foundation model with 320B total parameters (15B activated). IQuest-Q1 is developed through a three-stage process: (1) stable and efficient pre-training, combining Stable SplitNorm, Muon, and muP with a two-stage curriculum whose second stage increases the coding-data mixture, preserving a wide stability margin between safe and optimal learning rates; (2) fine-grained mid-training, expanding the data mixture across domains and formats and progressively extending the context; and (3) multi-scaffold with multi-version post-training, combining SFT, domain-specialized RL, and MOPD across various scaffolds to integrate complementary training signals and strengthen agentic coding capabilities. Furthermore, model merging combines dif [合并自 2026-10-25 iquest-q1-agentic-cli-moe] 标题:IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems 来源:arXiv 链接:https://arxiv.org/abs/2610.30949 摘要:We present IQuest-Q1, a sparse Mixture-of-Experts (MoE) agentic foundation model with 320B total parameters (15B activated). IQuest-Q1 is developed through a three-stage process: (1) stable and efficient pre-training, combining Stable SplitNorm, Muon, and muP with a two-stage curriculum whose second stage increases the coding-data mixture, preserving a wide stability margin between safe and optimal learning rates; (2) fine-grained mid-training, expanding the data mixture across domains and formats and progressively extending the context; and (3) multi-scaffold with multi-version post-training, combining SFT, domain-specialized RL, and MOPD across various scaffolds to integrate complementary training signals and strengthen agentic coding capabilities. Furthermore, model merging combines dif
★3 封闭集决策中的联合与逐选项紧凑编码器 arXiv · 模型轻量化 · 论文 研究比较封闭集决策中的联合编码与逐选项评分,发现重排序器初始化可提升逐选项方案的准确率与顺序鲁棒性,而小型联合编码器在延迟、吞吐量和计算成本间更具优势。

 候选选择 成本优化 工具调用 提示敏感性 端侧部署 模型评估 模型开发

研究面向工具选择等封闭集决策任务,在包含37个基准的决策套件上,比较联合读取全部候选项与分别为每个候选项评分的两种紧凑编码器设计。在3200万参数、三个随机种子的实验中,逐选项方案在匹配优化步数和近似匹配训练算力时,分别领先联合方案5.8和2.8个机会校正技能点;这一优势依赖与查询—候选输入形式匹配的重排序器初始化,使用原始编码器初始化时二者表现相近。逐选项评分不受候选项顺序影响,但会增加5至13倍编码器前向计算,其中位延迟至多翻倍、平均延迟增加四倍以上。论文发布了六个覆盖1700万至10亿参数的联合编码器,其中6800万和1.5亿参数版本在经过重叠审计的System1-Arena任务上超过4.35亿参数DeBERTa-v3零样本分类器,最小模型在16线程处理器上的中位请求延迟仅14毫秒。

用途与启示
  • 为工具选择、意图路由和候选动作选择等封闭集决策提供比直接调用生成式大型语言模型更低延迟的专用组件。
  • 若更重视准确率与候选顺序鲁棒性,可采用重排序器初始化的逐选项评分,但需评估候选数量带来的计算与延迟开销。
  • 若更关注吞吐量、平均延迟和部署成本,小型联合编码器可在接近或超过大型零样本分类器性能的同时显著降低推理成本。
  • 评测和部署联合编码器时应加入候选项重排或顺序扰动测试,避免顺序敏感性被平均准确率掩盖。
📝 原始笔记(逐字保留)
标题:Joint or Per-Option? Compact Encoders for Closed-Set Decisions from 17 Million to 1 Billion Parameters 来源:arXiv 链接:https://arxiv.org/abs/2610.30970 摘要:Many language-model pipelines end in a closed-set decision, such as selecting a tool. Prompting a large language model for it is slow and order-sensitive. We ask how small an encoder for such decisions can be and whether it should read the options jointly or separately. In a three-seed study at 32 million parameters, per-option scoring beats joint scoring on a held-out sample of a 37-benchmark decision suite by 5.8 points of chance-corrected skill at matched optimizer steps and by 2.8 at approximately matched training compute; two external benchmarks agree, though not significantly on their unseen tasks. Crossing reader with initialisation shows that the advantage requires a reranker initialisation, whose query-candidate pair input matches per-option reading; from the raw encoder the two r
★3 RetiJev:快速且来源可溯的眼科决策模型 arXiv · 医疗人工智能 · 论文 · 代码 RetiJev通过直接评分预定义候选答案替代自回归生成,依托来源可追溯的眼科语料,在临床决策与指南分级任务上实现更高准确率和显著更低延迟,并支持隐私敏感的本地部署。

 医疗人工智能 模型训练 成本优化 数据工程 模型评估 证据溯源 人工智能应用 推理加速 数据策展

RetiJev-Data是来源可追溯的眼科语料库,包含78,158道源自PubMed Central文献、覆盖MeSH词表531种眼病的临床决策与诊断题,以及50,074道涉及11套标准的指南分级题。研究同时构建了包含24,662道题的评测基准,并训练出参数规模为0.8B至9B的RetiJev模型家族。模型不进行自回归解码,而是直接对预定义候选答案评分;各规模模型在指南分级任务上比27B LLM和商业决策模型Jev 1.13高出10.4至23.0个百分点。RetiJev-9B在临床决策准确率上领先基线5.4至6.5个百分点,诊断能力与基线相当,单GPU处理一个病例仅需158毫秒,较常规LLM生成快3.5倍、较推理模式快470倍。

用途与启示
  • 为答案空间预定义的封闭式临床任务提供比生成式推理更高效的候选答案评分范式,减少额外计算开销。
  • 展示基于权威文献、疾病词表和临床指南构建可追溯医学数据的实践,有助于增强证据基础、可靠性与审计能力。
  • 0.8B至9B的模型规模、低延迟和无需自回归解码的特性,适合眼科筛查、指南分级、临床决策支持及隐私敏感的院内或本地部署。
  • RetiJev-Data及其评测集可用于训练和比较眼科临床决策、疾病诊断与指南分级模型,其评分范式也可推广至其他决策集合明确的医疗专科任务。
📝 原始笔记(逐字保留)
标题:RetiJev: Fast and Source-Grounded Ophthalmic Decision Models 来源:arXiv 链接:https://arxiv.org/abs/2610.30947 摘要:Ophthalmic clinical decision support requires fast, accurate, and privacy-preserving inference, yet autoregressive large language models (LLMs) incur substantial latency and computational overhead for decisions among predefined actions. We therefore investigate a decision-oriented alternative to generative reasoning. Specifically, we first introduce RetiJev-Data, a source-grounded ophthalmology corpus comprising 78,158 clinical-decision and diagnosis questions derived from articles in PubMed Central and a MeSH vocabulary covering 531 eye diseases, and 50,074 guideline-grading questions spanning 11 grading systems, along with a 24,662-question evaluation benchmark. Based on this, we develop RetiJev, a family of 0.8B-9B decision models that directly score candidate answers without autoregres
DataEvolve2 条
★2 PrismaCoder:分解式评分标准驱动开放多模态代码智能 Hugging Face Papers · 数据合成 · 论文 PrismaCoder以可分解、可检查的合成评分标准统一数据过滤与强化学习奖励,构建大规模多模态代码数据集并显著提升开放模型的视觉编程能力。

 数据合成 人工智能辅助编程 多模态 模型训练 强化学习

PrismaForge是一套分层数据流水线,通过合成评分标准将程序正确性、代码构建质量和渲染视觉效果分解为可检查的评价维度。该评分标准同时充当数据过滤器和强化学习奖励信号,用于筛选监督训练语料并优化视觉编码任务。团队据此构建了覆盖广泛的开放数据集PrismaCoder-2M,并训练、发布PrismaCoder-9B与PrismaCoder-35B。实验显示,两款模型大幅刷新开放多模态代码智能水平,并可与领先闭源系统竞争,评分标准驱动的流程也能跨模型骨干带来增益。

用途与启示
  • 为图表、网页、动画和半结构化文档生成提供兼顾可执行性与视觉质量的数据生产方案。
  • 将同一套分解式评分标准用于监督数据策展和强化学习奖励,可减少训练目标与最终视觉效果之间的错位。
  • PrismaCoder-2M及开放权重模型可作为多模态代码生成、视觉编程评测和奖励建模的研究基础。
  • 该流程具备跨模型骨干迁移潜力,可用于扩展开放多模态代码模型的数据规模与质量。
📝 原始笔记(逐字保留)
[PrismaCoder:通过分解式评分标准合成,拓展开放式多模态代码智能的边界(49 ▲)](https://huggingface.co/papers/2610.20538?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)
★3 预训练进程中的潜意识学习与隐性偏好传递 arXiv · 在策略蒸馏 · 论文 研究发现,模型蒸馏可在不同初始化、预训练数据顺序、语料、规模及架构之间传递与训练数据表面内容无关的隐性偏好,且教师的传授能力与学生的习得能力会沿预训练进程分化。

 模型蒸馏 在策略蒸馏 行为建模 模型训练 安全对齐 人工智能可靠性 后训练

研究比较了硬标签蒸馏与在策略软标签蒸馏,发现学生模型可从教师生成的数据中继承与表面内容无关的隐性偏好。基于 Pythia、PolyPythia 和 DataDecide OLMo 的实验表明,该现象跨权重初始化、预训练数据顺序、语料库、模型规模和架构依然存在,互换师生角色后还可能呈现明显不对称性。预训练检查点分析显示,模型传授偏好的能力与习得偏好的能力分别发展,一些检查点更适合作为教师,另一些则更容易成为学生。频率匹配的合成数字序列仍能触发硬标签偏好传递,而从 top-K 软标签损失中移除动物相关词元只能部分削弱迁移;总体上,软标签蒸馏以更少训练产生了更稳定的传递。

用途与启示
  • 揭示蒸馏数据即使不显式包含相关语义,也可能携带并放大教师模型的隐性偏好。
  • 提醒仅审查蒸馏数据的可见语义不足以识别偏好迁移,还需分析词元频率、教师 logits 及非预期行为。
  • 说明教师的传授能力与学生的可学习性不能由单一检查点指标替代,应开展跨预训练阶段的角色互换测试与偏好探针评估。
  • 为教师模型选择、在策略蒸馏安全评估以及跨架构、规模和语料的迁移审计提供实验依据。
📝 原始笔记(逐字保留)
标题:Tracing Subliminal Learning Through Pretraining 来源:arXiv 链接:https://arxiv.org/abs/2610.30884 摘要:Large language models trained on data generated by other models can sometimes inherit traits unrelated to that data, a phenomenon called subliminal learning. We study both hard label distillation, where students train on numbers generated by a biased teacher, and on-policy soft label distillation, where students generate the data and the teacher's logits provide the learning signal. Using Pythia, PolyPythia, and DataDecide OLMo models, we find that transfer persists in both settings across differences in weight initialization, pretraining data order, pretraining corpus, model size, and architecture. Across pretraining checkpoints, the ability to transmit a preference and the ability to acquire one develop separately: some checkpoints are more effective teachers but weaker students, and vic
NewApply4 条
★2 LGWM:用世界模型验证 GUI 智能体状态转移 Hugging Face Papers · 世界模型 · 论文 LGWM 在表征空间直接预测动作后的下一屏状态,以低延迟向量比较检测 GUI 智能体遭遇的恶意状态转移。

 世界模型 图形用户界面智能体 执行验证 智能体安全 推理加速

论文指出,GUI 智能体的安全性取决于动作与后续屏幕之间的转移关系,仅检查当前屏幕无法区分合法流程与界面劫持。LGWM 是一种无解码器、动作条件化的世界模型,使用 185 万条真实 GUI 转移进行无语义标注训练,直接预测下一屏的表征向量。验证过程可简化为预测表征与观测表征的向量比较,并可利用残差方向判断不匹配是否有害。在 RSWT-BENCH 上,其免训练检测分数达到 0.987 AUC、单次决策耗时 17 ms,延迟比生成式 GUI 世界模型低三个数量级以上;区分有害与良性违规的 AUC 达到 0.953。

用途与启示
  • 将世界模型从模拟器和规划器扩展为 GUI 智能体的运行时验证器。
  • 通过表征空间预测绕过文本、代码或图像生成以及二次模型评判,显著降低验证延迟。
  • 为检测界面劫持、动作后异常跳转和凭证窃取提供基于状态转移的安全信号。
  • 启示智能体验证系统应建模“执行动作后应当出现什么”,而非只判断当前界面是否合法。
📝 原始笔记(逐字保留)
[屏幕正确,转场错误:将世界模型用作 GUI 智能体的验证器(88 ▲)](https://huggingface.co/papers/2610.11942?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)
★3 Replit 发布 Monitoring Agent:自主修复并部署生产故障 Replit Blog · 程序修复 · 原文 Replit 推出 Monitoring Agent,可基于生产日志与指标自主调查故障、验证修复,并在授权后自动部署至生产环境。

 智能体 SWE 软件工程 人工智能辅助编程 执行验证 自动化部署

Replit Monitoring Agent 被定位为面向应用创作者和小团队的自主值班工程师,可访问生产日志与指标,调查错误、性能下降及部署失败。启用告警和 autofix 后,智能体会定位原因、制定并验证修复方案,并通过邮件发送事件摘要。用户还可启用 auto-publish,将经过验证的修复自动部署至生产环境,同时保留是否自动发布的控制权。该功能建立在 App Monitoring 之上,体现了 Replit 从单一编程智能体向覆盖构建、维护、安全与优化的多智能体软件团队演进。

用途与启示
  • 为个人开发者和小团队提供自动化生产值守能力,降低故障排查与修复成本。
  • 展示从监控告警、根因调查、修复验证到自动部署的闭环智能体工作流。
  • 自动发布功能应结合权限控制、回滚机制和人工审批,以降低错误修复进入生产环境的风险。
  • 可作为自主运维与软件工程智能体产品化落地的参考案例。
📝 原始笔记(逐字保留)
标题:Replit 发布 Monitoring Agent,为应用提供可自动修复并部署的值班智能体 来源:AIHOT 每日精选(aihot.virxact.com) 链接:https://aihot.news/items/h1d0qu9nsy86fmfqns5f3pkjb 摘要:(信源:replit.com)Replit 发布 Monitoring Agent,为应用提供相当于自主值班工程师的监控智能体。它可以读取生产日志和指标调查错误、变慢和部署失败,在启用 autofix 后验证修复并邮件汇报,启用 auto-publish 后可自动部署修复。该能力建立在早前上线的 App Monitoring 之上,用户可在应用的 Publishing 设置中开启。
★3 System 1 模型在医疗决策中的价值与局限 arXiv · 医疗人工智能评测 · 论文 研究在跨语言临床文本与医学影像任务上系统评测 System 1 模型,发现其决策快速、低成本且能输出置信度,但复杂临床判断、医学影像理解及跨语言泛化能力仍明显不足。

 医疗人工智能 模型评估 不确定性估计 多模态 成本优化

研究对 4 个 System 1 模型开展零样本评测,覆盖 14 个临床领域、20 种语言、86 项公开任务及 179,111 个病例,重点考察 AUROC、校准表现和语言差异。最佳模型在医学知识、文本理解和图像感知任务上的平均 AUROC 分别达到 0.94、0.93 和 0.89,但临床文本判断、二维影像及容积影像任务分别仅为 0.83、0.84 和 0.69。开放权重模型在本地完成一次决策仅需 0.34 至 0.44 秒、消耗 24 至 81 焦耳;同系列生成模型慢 11 至 76 倍,但平衡准确率仅高出 3 至 5 个百分点。模型表现存在显著的语言和任务类型差异,相同问题从英语切换至约鲁巴语后准确率最多下降 39 个百分点,且在临床分诊任务上明显落后于护士。

用途与启示
  • 为高吞吐量、固定选项的临床决策提供低延迟、低能耗且可输出概率的候选方案。
  • 表明 System 1 模型更适合医学知识检索和文本明示信息识别,不宜直接替代复杂临床判断或医学影像解读。
  • 可利用概率输出设置不确定性与人工转诊阈值,将低置信度或高风险案例交由临床人员复核,实现选择性预测。
  • 医疗部署不能只考察准确率,还应在本地语言和具体任务上评估校准度、能耗、延迟、语言公平性及与专业人员的能力差距。
📝 原始笔记(逐字保留)
标题:The Value of System 1 Models in Medicine 来源:arXiv 链接:https://arxiv.org/abs/2610.31315 摘要:Many clinical decisions are a choice among a few fixed options, taken quickly and in large numbers. Such decisions also need an uncertainty estimate to know when to defer to a clinician. Generative language models answer slowly in free text and state their confidence poorly. In contrast, System 1 models answer zero-shot with a probability for each answer. However, their performance across clinical tasks is unknown. Four System 1 models, two proprietary and two with open weights, were evaluated zero-shot on 86 public tasks from 14 clinical domains in 20 languages, spanning examination questions and medical imaging. Tasks were assigned to six capability tiers before analysis. The primary outcome was the area under the receiver-operating-characteristic curve (AUROC). Secondary outcomes includ
★3 ReDence:面向社会工程诈骗的证据驱动混合智能体框架 arXiv · 智能体框架 · 论文 ReDence 通过多模态调查智能体与专用决策模型协作,实现快速、可审计且基于证据的社会工程诈骗检测,在十二类诈骗上的准确率达到 96%。

 网络安全 智能体 证据推理 多模态 成本优化

ReDence 是一个开源混合框架,用于跨多种社会工程诈骗类别开展自适应、证据驱动的检测。框架由微调后的多模态调查智能体 Qwen3.5-4B 和专用决策模型 Tev1 组成,前者负责调查规划、证据解释与报告,后者负责浏览器动作选择、证据评估及调查继续与否等离散决策。将短决策任务交给专用模型,可减少冗长语言生成带来的时间开销,同时保留复杂调查所需的推理能力。实验显示,该框架在十二类社会工程诈骗检测中达到 96% 准确率,并比可比智能体模型快至少四倍;其结构化报告还记录支持与反对证据、调查动作及采集产物,便于人工审计和后续处置。

用途与启示
  • 为钓鱼、虚假服务及其他现代社会工程攻击提供可本地部署的自动化调查方案。
  • 展示通用多模态智能体与专用决策模型分工协作对降低推理延迟的价值。
  • 通过记录调查轨迹、正反证据和采集产物,提高检测结论的可审计性与证据可追溯性。
  • 可将结构化证据直接用于人工复核、风险缓解和诈骗网站下架流程。
📝 原始笔记(逐字保留)
标题:ReDence: A Hybrid Agentic and Decision-Model Framework for Rapid, Evidence-Grounded Detection of Modern Social Engineering Scams 来源:arXiv 链接:https://arxiv.org/abs/2610.30963 摘要:Detecting online social engineering (SE) scams often requires examining website workflows, verifying claims against external sources, and connecting evidence across multiple pages. Existing detectors provide limited support for these investigations, leaving analysts to manually gather and validate evidence, which inevitably delays detection and subsequent takedown of these attacks. To address this gap, we present ReDence, an open-source hybrid framework for adaptive, evidence-grounded detection across diverse SE scam categories. ReDence combines two locally hosted models with complementary responsibilities: a fine-tuned multimodal agentic Investigator (Qwen3.5-4B) that performs investigative planning, evidence interpretation, and reporting, and a specialized Decider (Tev1) that handles bin
SystemEvolve2 条
★3 BeNice! 通过 KV 共享弥合循环架构的推理内存差距 arXiv · 推理效率 · 论文 BeNice! 结合预训练随机深度与后训练 KV 广播,使循环模型能够跨递归共享 KV-cache,在保持模型质量的同时显著改善低内存长上下文推理的吞吐与延迟。

 系统优化 缓存优化 循环计算 长上下文 模型训练 推理加速 成本优化

循环架构通过重复使用同一组网络层,在固定参数量下提升模型质量,但各次递归会生成独立 KV-cache,导致推理内存随递归次数线性增长。作者在预训练阶段引入随机深度,诱导收缩性残差动力学,使不同递归轮次的表征趋向共同极限。后训练方法 BeNice! 将最终递归的 KV-cache 广播至首次递归,并训练模型产生兼容残差,从而实现跨递归 KV 共享,同时保持原始模型质量及未共享缓存时的验证困惑度。该方案可与多潜变量注意力、Kimi Delta Attention,以及 FP8、MXFP8、NVFP4 等低精度 KV-cache 量化技术组合;在模拟的低内存长上下文推理中,缓存命中率最高提升 31.4%,吞吐量最高提升 23.6%,p90 首词延迟最高降低 83.6%。

用途与启示
  • 为循环架构提供跨递归共享 KV-cache 的训练方案,避免推理内存随循环深度线性增长。
  • 揭示收缩性残差动力学与不同递归轮次的表征对齐可能是形成 KV 可共享性的关键机制,可指导循环模型的预训练与架构设计。
  • 可与高效注意力或序列混合结构,以及 FP8、MXFP8、NVFP4 等低精度 KV-cache 量化技术叠加,适用于资源受限的长上下文部署。
  • 显著改善缓存命中率、吞吐量和首词延迟,为固定参数规模下扩展计算深度及训练—推理协同优化提供路径。
📝 原始笔记(逐字保留)
标题:BeNice! Closing Looping's Inference-Memory Gap via KV-Sharing 来源:arXiv 链接:https://arxiv.org/abs/2610.31633 摘要:Looped architectures scale quality while keeping parameter count fixed by repeatedly passing activations through the same block of layers. During inference, each recurrence generates independent KV-caches, causing memory to grow linearly. To address this challenge, prior work has proposed KV-sharing (i.e., sharing KV-caches across depth), finding that, in some cases, the KV-cache of the final recurrence can be shared with the earlier recurrences without quality loss, a property we denote as KV-shareability. However, the mechanisms underlying KV-shareability remain poorly understood, with even identically trained looped architectures not consistently exhibiting it. In this paper, we study how KV-shareability can be enabled in looped models. We propose a two-stage method: in the first stage,
★3 将自回归 LLM 控制编译为策略精确的并行推理 arXiv · 并行推理 · 论文 该工作将层次化 RAG 中受输入相关动作语法约束、有限时域的自回归决策编译为树因果并行推理,在保持原串行策略语义的同时显著降低控制延迟。

 推理加速 系统优化 检索增强生成 推理 任务规划

论文针对层次化 RAG 控制器逐步选择文档树节点造成的串行解码瓶颈,将有限时域内可达的决策未来表示为浅层动作前缀树。系统通过一次根节点预填充和一次树因果探测,并行计算所有前缀条件下的动作分布,在不生成输出词元的情况下,将关键路径压缩至两次前向传播,同时保持相同的词元、位置与因果祖先关系。前缀状态引理保证该编译方式在精确算术下与原串行语法约束策略完全等价,额外一次探测还可认证顺序边缘化后的精确 MAP 集合。实验中,该方法与串行策略在 84%–89% 的问题上结果一致,差异均来自浮点近似平局;控制延迟较逐词元串行解码降低 35%–47%,较理想化分块引擎降低 6%–7%。

用途与启示
  • 为动作空间有限、决策时域较短且受语法约束的 LLM 控制任务提供策略不变、无需生成输出词元的并行执行方案。
  • 表明可将串行控制轨迹编译为动作前缀树计算图,以树因果前向探测替代逐词元动作生成,缩短决策关键路径。
  • 可用于优化层次化 RAG、结构化检索、文档树导航、树搜索及动作语法驱动的任务规划流水线。
  • 部署与复现时应关注浮点近似平局,并加入数值稳定性和决策一致性检查,以减少理论等价策略在实际执行中的结果分歧。
📝 原始笔记(逐字保留)
标题:Compiling Autoregressive LLM Control into Policy-Exact Parallel Inference for Hierarchical RAG 来源:arXiv 链接:https://arxiv.org/abs/2610.30664 摘要:Large language models increasingly act as controllers in structured decision pipelines, yet their decisions are still executed by autoregressive text decoding. Hierarchical RAG is one such setting: at each frontier of a document tree, an LLM commits to $b$ of $k$ sections under an input-dependent action grammar, executed as either failure-prone free-form JSON or reliable but strictly serial grammar-constrained generation. We show that this serialization is unnecessary for bounded-horizon control: the reachable future forms a shallow action-prefix tree, which we compile --- one root prefill plus one tree-causal probe evaluate every prefix-conditioned action distribution with serial decoding's tokens, positions, and causal ancestry. A prefix-state lemma makes compiled control policy-exact in
CacheEvolve2 条
★3 漂移定时、预算定量:长篇多模态生成的速率控制 KV 重选 arXiv · 上下文压缩 · 论文 RCR 通过注意力漂移决定视觉 KV 的重选时机与位置,并以逐样本速率控制器约束刷新频率,从而提升长篇多模态生成的缓存压缩质量与效率。

 缓存压缩 多模态 推理加速 系统优化 长上下文 缓存优化

多模态 LLM 通常在预填充阶段一次性选择保留的视觉 token,但长篇生成中模型关注的视觉证据会持续迁移,固定选择即使借助预言注意力也只能达到 0.44~0.52 的 ROUGE-L 一致度。Rate-Controlled Refresh(RCR)根据注意力漂移决定何时及何处重新选择 KV,并通过逐样本控制器调节刷新频率,避免统一漂移阈值难以适应样本间差异。系统结合低秩漂移检测器、候选受限重选和 GPU 内决策,在保持相近数据移动成本的同时降低检测开销,检测器显存占用仅为 InfiniGen 的四分之一。实验中,RCR 在六组模型—任务设置中的五组较 InfiniGen 提升 1.6~3.8 个 ROUGE-L 点,与精确逐步重选的差距控制在 1.7 点以内;DetailCaps 和视频描述实验进一步表明,在相同刷新率下,漂移驱动刷新优于随机或周期刷新,并能应对样本间漂移异质性。

用途与启示
  • 说明长篇多模态生成中的视觉注意力会动态漂移,预填充阶段的一次性 KV 筛选难以持续保持与未压缩输出的一致性。
  • 提供“漂移决定刷新时机与位置、预算决定刷新频率”的双重控制机制,在生成质量、刷新频率和数据移动成本之间取得平衡。
  • 表明自适应刷新需考虑样本间漂移尺度与分布差异,不能直接依赖统一的固定阈值。
  • 低秩检测、候选约束和 GPU 内决策可降低动态缓存管理的显存及运行时开销,为高效部署长篇多模态生成系统提供参考。
  • 可用于改进图像详述、视频描述等长输出任务,并结合输出一致性、对象级 F1 等指标评估缓存压缩效果。
📝 原始笔记(逐字保留)
标题:Drift Says When, Budget Says How Much: Rate-Controlled KV Re-selection for Long-Form Multimodal Generation 来源:arXiv 链接:https://arxiv.org/abs/2610.31433 摘要:KV cache compression for multimodal LLMs usually selects the visual tokens to keep once, at prefill, and reuses that selection for the whole generation. We show that this one-shot selection is severely limited on long-form generation: on detailed image description, even an oracle that selects with the attention of the uncompressed answer reaches only 0.44-0.52 ROUGE-L agreement with the uncompressed output, because the evidence the model reads moves as the description unfolds. Re-selecting whenever attention drifts out of the kept set is the natural remedy, but we find that a fixed drift threshold fails systematically: drift magnitudes are not comparable across samples, so low-drift samples are almost never refreshed although they benefit the most. We propose Rate-Controlled Refresh (RCR),
★3 RIFT:面向草稿模型的 KV Cache 压缩与可压缩性训练 arXiv · 推理效率 · 论文 RIFT 通过动态平衡预填充信息与近期生成词元,结合自适应缓存刷新和可压缩性训练,在有限 KV Cache 预算下缓解长输出中的“解码陈旧性”,并显著保持推测解码草稿模型的接受长度。

 缓存压缩 推理加速 系统优化 模型训练 长上下文 成本优化

论文指出,偏重预填充信息的选择式 KV Cache 压缩会随输出增长产生“解码陈旧性”,即预填充阶段选出的缓存信息逐渐失去相关性,从而降低草稿模型的预测准确率。RIFT 在预填充上下文与近期生成词元之间动态分配缓存,并在解码期间刷新 KV Cache 选择,以改善草稿质量。为降低刷新引入的额外解码延迟,作者设计了自适应 KV 刷新策略,减少重要性分数的计算次数,同时维持生成质量。结合基于稀疏注意力掩码的可压缩性训练,Qwen3.5-4B 为 Qwen3.5-122B 提供草稿时,在 32K 输入、4K 输出和 8K KV Cache 预算下,仍保留了完整缓存条件下超过 98% 的接受长度。

用途与启示
  • 揭示长输出推测解码中选择式 KV Cache 随生成过程失效的“解码陈旧性”问题,说明缓存选择不能仅依赖预填充阶段的重要性信息。
  • 为有限显存条件下的小型草稿模型服务大型目标模型提供动态缓存管理方案,缓解 KV Cache 增长带来的资源压力。
  • 表明自适应刷新可与基于稀疏注意力的可压缩性训练协同优化,在草稿质量、缓存预算与解码延迟之间取得平衡。
  • 为长上下文推测解码的部署提供兼顾接受长度、显存占用和计算开销的系统设计思路。
📝 原始笔记(逐字保留)
标题:RIFT: KV Cache Compression for Draft Models with Complementary Compressibility Training 来源:arXiv 链接:https://arxiv.org/abs/2610.31098 摘要:Speculative decoding is a popular decode acceleration method. As such, it is particularly relevant to long-output generation, which requires an increasingly large KV cache. KV cache compression offers a way to constrain costs in long-context drafting. However, compression methods that focus on prefill information can lose relevance as the output length grows. We term this phenomenon decode staleness and show that it degrades draft model accuracy under selection-based KV cache compression. We introduce RIFT, a family of selection-based KV cache compression strategies that balance prefill information and recent generated tokens. We show that refreshing the KV cache selection during token generation significantly improves the drafter's quality at the cost of additional decode latency. To alle
HarnessEvolve1 条
★3 HERD:脚手架演化递归蒸馏持续学习框架 arXiv · 持续学习 · 论文 HERD结合脚手架技能演化、有界高残差样例记忆与双锚点漂移约束递归蒸馏,在持续学习中兼顾新任务习得、旧能力保持、模型可塑性与通用能力留存。

 持续学习 智能体脚手架演化 模型蒸馏 智能体记忆 灾难性遗忘 模型训练

HERD是一种混合持续学习框架,结合非参数脚手架的高效适应能力与参数化蒸馏的能力内化优势,实现“外部技能快速学习—内部参数能力沉淀”。脚手架侧持续提炼可复用技能,并在有界记忆中优先保留现有技能难以覆盖的高残差样例,以缓解上下文容量限制与文本压缩损失。参数侧采用带双锚点的漂移约束递归蒸馏,降低长期更新中的灾难性遗忘、能力漂移与可塑性损失。在TRACE+17的25阶段任务流中,HERD在固定记忆和计算预算下达到强参数基线的新任务学习水平,同时取得最低遗忘率和最强通用能力保持效果。

用途与启示
  • 为长期运行的智能体提供参数更新与非参数脚手架互补的持续学习路径,将外部经验稳定内化为参数能力。
  • 通过技能提炼和高残差样例优先保留,提高有限上下文及固定存储预算下的经验覆盖率、复用效率与后续蒸馏效率。
  • 双锚点漂移约束可用于稳定长周期递归蒸馏,平衡新技能获取、旧能力保持与模型可塑性。
  • 适合连续接收任务且需维持既有通用能力的智能体脚手架、训练系统与长期自我改进场景。
📝 原始笔记(逐字保留)
标题:HERD: Harness-Evolving Recursive Distillation for Continual Learning 来源:arXiv 链接:https://arxiv.org/abs/2610.31401 摘要:Continual learning requires a model to keep acquiring new skills and knowledge without compromising its existing capabilities. Parametric methods suffer from catastrophic forgetting and loss of plasticity. Non-parametric methods, such as prompts, skills, and harnesses, leverage in-context learning but are limited by context length and lossy plain-text compression. To effectively combine their complementary strengths, we propose HERD (Harness-Evolving Recursive Distillation), a hybrid continual learning framework that learns efficiently in the harness and internalizes experience into cumulative capabilities via distillation. On the harness side, HERD continually refines its skills to capture reusable patterns, while retaining high-residual examples that the skills fail to capture in a bound
ResearchEvolve1 条
★3 RIDAR:科研智能体违规检测与运行时干预框架 arXiv · 评测审计 · 论文 RIDAR通过覆盖科研全生命周期的违规分类、轨迹检测与运行时纠正,系统性识别并减少自主科研智能体中损害研究有效性、可复现性或忠实性的研究诚信违规行为。

 科研智能体 安全审计 轨迹审计 运行时干预 人工智能可靠性 智能体安全 自动化科学研究

RIDAR提出覆盖完整研究生命周期、包含14类研究诚信违规行为(RIV)的RIVT分类体系,并据此构建轨迹事后检测框架RIDAR-post-hoc。该框架在包含60条专家标注轨迹的RIV-Gold基准上达到85.2% F1。对覆盖50项研究任务、共300条轨迹的RIV-Wild分析发现,99.7%的轨迹存在违规,共检出3,964个实例,表明此类风险具有普遍性。RIDAR-runtime进一步在智能体运行期间动态检测并纠正违规,使任务结束时残留的违规数量减少36.8%。

用途与启示
  • 为科研智能体建立覆盖研究全生命周期的统一研究诚信风险分类与审计标准,支持安全评估、故障归因和系统比较。
  • 支持基于执行轨迹的自动化违规检测,定位影响研究有效性、可复现性与忠实性的行为,避免仅依赖最终结果验收。
  • 将安全治理从事后审计扩展到运行时干预,在研究流程完成前主动纠偏并提升结果可信度。
  • RIV-Gold与RIV-Wild可用于违规检测器训练、轨迹审计、科研智能体可靠性评测及干预机制研究。
📝 原始笔记(逐字保留)
标题:RIDAR: Safeguarding Research Integrity in Autonomous Research Agents via Automated Detection and Runtime Intervention 来源:arXiv 链接:https://arxiv.org/abs/2610.31372 摘要:Autonomous research agents are increasingly used to automate large portions of scientific research, yet they are prone to research integrity violations (RIVs): behaviors that compromise the validity, reproducibility, or faithfulness of the research process. We present RIDAR, a framework for automated RIV detection and runtime intervention. First, we introduce RIVT, a comprehensive taxonomy of 14 RIV types spanning the full research lifecycle. Building on RIVT, we present RIDAR-post-hoc, a framework to detect RIVs within agent trajectories. RIDAR-post-hoc achieves 85.2% F1 performance on RIV-Gold, a benchmark for RIV detection with 60 expert-annotated trajectories. Applying RIDAR-post-hoc to RIV-Wild, a dataset of 300 agent trajectories across 50 distinct research tasks, we detect 3,964 RIV
MemoryEvolve6 条

专题:长期记忆 3 条

面向 GUI 智能体的子目标感知记忆图

该研究将历史交互轨迹提炼为子目标级记忆图,通过合并、扩展和检索可复用经验,提升 GUI 智能体在长程任务中的持续决策与跨任务迁移能力,并在 SPA-Bench 上将任务成功率较基线提升 11.11%。

 智能体记忆 图形用户界面智能体 长程任务 经验复用 知识图谱 任务规划 智能体

📄 详细内容

现有 GUI 智能体通常以单步动作或完整轨迹为记忆单元,前者语义过细,后者粒度过粗,均难以支持长程任务中的经验复用。该方法将共享同一意图的一组连续动作定义为子目标,并把历史轨迹提炼为子目标级的结构化经验。系统以图节点组织不同子目标的经验,并依据当前环境观测对相关记忆进行合并、扩展与检索,从而减少冗余并支持跨任务复用。在 SPA-Bench 上,该方法相较基线将任务成功率提升了 11.11%。

用途与启示
  • 为长程 GUI 智能体提供介于单步动作和完整轨迹之间、更契合任务意图且更具复用性的记忆粒度。
  • 将历史执行轨迹转化为可检索、可合并、可扩展的结构化经验,降低轨迹记忆冗余并支持跨任务迁移。
  • 表明智能体记忆系统应围绕任务意图和阶段性进展组织经验,而非仅按时间顺序保存交互记录。
  • 可用于改进移动端自动化、桌面智能体及其他长程交互任务的经验复用机制。
📝 原始笔记(逐字保留)
标题:Subgoal-aware Memory Graph for GUI Agent 来源:arXiv 链接:https://arxiv.org/abs/2610.31307 摘要:GUI agents aim to automate complex user tasks by interacting with mobile interfaces, but ef- fective decision-making in long-horizon set- tings requires reusing prior experience rather than relying solely on the environment ob- servations. Existing memory-based methods typically store experience either at the single- action level or as entire trajectories. Single- step actions are often too fine-grained to carry meaningful semantics, since the success of an individual action does not necessarily imply progress towards the overall goal. In contrast, whole trajectories are often too coarse-grained and difficult to reuse across different tasks. We propose a subgoal-aware memory graph that distils past trajectories into structured, reusable evidence at the level of subgoals. We define a subgoa

语言智能体中的记忆价值:决策论框架

论文提出以可避免任务损失为统一尺度的决策论框架,系统分析语言智能体记忆从历史保留、实际使用到恢复与修订的价值及成本。

 智能体记忆 智能体评估 人工智能可靠性 成本优化 状态持久化 模型评估 不确定性估计 智能体

📄 详细内容

论文将记忆价值划分为原始历史价值、持久状态的保留价值、操作使用价值,以及恢复和修订成本,并统一表示为可避免的任务损失。框架以风险—成本前沿描述不同任务需求下可实现的记忆恢复与信息保存能力,通过价值剖面处理未知需求,并借助交互反馈刻画未来任务分布的变化。成本感知模拟和五个最小反例揭示了信息时机、检索访问、组件交互、反馈与需求不确定性的影响,其中与答案互信息为零的指针仍可能降低精确恢复成本。LoCoMo、双项目更新任务和纵向案例的诊断表明,记忆系统可能分别在信息保存、实际调用和评估测量环节失效;证据不变时记忆账本可改变回答,输出不变时评估器修订也可改变得分。

用途与启示
  • 为智能体记忆系统提供统一的价值度量,将记忆收益转化为可比较的任务损失降低量,并纳入恢复成本。
  • 指导有限存储与计算预算下的记忆容量分配、检索策略设计,同时保留未来恢复、修订和重新解释信息的能力。
  • 区分记忆保存失败、检索使用失败与评估测量失败,避免仅凭最终得分错误归因。
  • 提醒系统与评测设计者不能仅以互信息判断记忆组件价值,还应考虑访问路径、组件交互、反馈和需求变化,并显式控制证据、智能体输出及评估器版本。
📝 原始笔记(逐字保留)
标题:The Value of Memory in Language Agents 来源:arXiv 链接:https://arxiv.org/abs/2610.31303 摘要:Memory enables language agents to carry useful distinctions from past experience into future decisions. Its value depends on which distinctions survive, whether a bounded agent can use them, and what can be recovered or revised as demands evolve. We develop a decision-theoretic framework that follows this value from raw history through persistent state, operational use, and costly recovery and revision. Original and retained value are expressed in units of avoided task loss; risk-cost frontiers describe attainable recovery and preservation across uses. Unknown demand yields value profiles, while interactive feedback changes the distribution of future work. A cost-aware simulation condition and five minimal counterexamples expose the roles of information timing, retrieval access, component

同专题其余 1 条

★3 LLM 智能体长期记忆的治理状态损坏:跨模型压力测试 arXiv · 长期记忆 · 论文 研究揭示智能体即使正确检索记忆,也可能因治理状态损坏而错误使用记录,并通过跨六家模型提供商的压力测试量化性能影响,验证基于预言机的控制面强制治理可恢复正确记忆投影。

 智能体记忆 记忆治理 人工智能可靠性 模型评估 状态安全 智能体评估

研究将“治理状态损坏”定义为:在存储内容与任务不变时,故障改变哪些保留记录能够进入模型可见上下文,使智能体即使正确检索记忆也可能错误使用。作者覆盖六家模型提供商,基于 731 个基准来源样本构造 2,080 组匹配故障对;离线控制平面检查显示,损坏在 96.25% 的样本中改变了有效记忆投影,而基于预言机的强制治理实现了 100% 恢复。LongMemEval 与 Memora 面板成功解析 300 组匹配三元组中的 298 组,损坏分别使 LongMemEval 二元正确率和缩放后的 Memora FAMA 下降 40.54、30.60 个百分点,恢复条件下两项指标均有回升。结果表明,长期记忆评估不能只考察检索准确率,还需独立验证控制状态完整性、记录有效性、撤销或权限状态、上下文投影及故障恢复能力;全队列冻结评分器测得的损坏与恢复效应仅是描述性代理,不能直接视为经验证的原生语义总体效应。

用途与启示
  • 为长期记忆系统补充控制面与治理状态完整性测试,避免将“检索正确”等同于“使用正确”。
  • 将记录有效性、撤销与权限状态、上下文投影视为独立于存储内容的安全边界,并采用可验证标记、访问控制及基于规则或预言机的强制治理机制。
  • 可将匹配故障对和损坏—恢复三元组用于记忆投毒、过期记录复用、权限错配、污染检测、状态回滚与强制执行机制的压力测试、回归测试及安全审计。
  • 为 LongMemEval、Memora 等记忆基准补充治理状态与恢复能力维度,并明确区分原生语义指标和冻结评分器代理指标。
📝 原始笔记(逐字保留)
标题:Governance-State Corruption in Long-Term Memory for LLM Agents: A Cross-Model Stress Test 来源:arXiv 链接:https://arxiv.org/abs/2610.30698 摘要:An LLM agent can retrieve a memory correctly yet use it incorrectly after its validity state changes. We study governance-state corruption: faults that alter which retained records enter model-visible context while stored content and tasks remain fixed. Across six providers, 731 benchmark-grounded bases yield 2,080 matched fault pairs. In offline control-plane checks, corruption changes the operative projection in 96.25% of pairs, while oracle-backed enforcement restores it in 100%. For downstream evaluation, a deterministically selected, non-probability LongMemEval/Memora panel resolves 298 of 300 matched triplets (238 distinct bases). Clean-minus-corrupted contrasts are 40.54 percentage points in LongMemEval binary correctness (95% base-cluster interval [30.32, 50.71]) and 30.60 points i
★3 ColaBench:评测个人智能体的记忆引导知识获取 arXiv · 记忆能力评测 · 论文 ColaBench通过可追溯的证据图,联合评测个人智能体利用长期交互记忆识别知识需求、检索外部知识,并结合用户情境正确应用规则的能力。

 智能体记忆 智能体评估 检索增强生成 证据推理 医疗人工智能 规则推理

ColaBench是面向健康与日常生活场景的合成评测基准,涵盖10类用户画像、349项任务及由13,033篇文档组成的知识库。其Evidence Graph连接个人状况、历史会话披露、既往文档接触记录,以及回答所需的个人证据与新获取的文档证据,支持细粒度决策追溯。作者还提出MemKB,利用状态摘要生成检索查询并辅助规则应用,通过记忆—文档链接获取与用户历史相关的知识,取得86.25%的准确率,平均每项任务需要4.07轮交互。分析显示,该方法在整合多条历史事实时收益更明显,而无证据的个人状态假设和规则误用仍是主要错误来源。

用途与启示
  • 为个人智能体的长期记忆、知识需求识别、个性化检索与规则应用提供一体化评测框架。
  • 利用Evidence Graph开展细粒度证据溯源、决策过程审计、规则应用诊断与错误归因。
  • MemKB表明,将结构化状态摘要和记忆—文档关联纳入检索流程,有助于提升情境化回答能力。
  • 揭示多条历史事实整合、个人状态推断约束及规则执行可靠性,是记忆增强智能体的重要研究方向。
📝 原始笔记(逐字保留)
标题:ColaBench: Evaluating Memory-Guided Knowledge Acquisition in Personal Agents 来源:arXiv 链接:https://arxiv.org/abs/2610.30989 摘要:Personal agents need to draw on long-term interaction history to retrieve and apply external knowledge suited to a user's current request. Even an answer grounded in relevant documents can be unsuitable when it overlooks the user's circumstances. This creates two connected challenges: using historical conditions to identify the knowledge needed for a new request, and applying that knowledge to the user's situation. Existing benchmarks advance memory recall, personalized retrieval, and memory-guided action, while the joint evaluation of these two challenges remains underexplored. We introduce ColaBench, a synthetic benchmark in health and daily living, with 349 tasks across 10 Profiles and a knowledge base of 13,033 documents. Its Evidence Graph connects personal conditions to their disclos
★3 记忆感知奖励建模:学习用户对 LLM 记忆使用的偏好 arXiv · 奖励建模 · 论文 研究基于真实用户的个性化查询、个人记忆及偏好判断训练记忆感知奖励模型,用于判断何时以及如何使用记忆,偏好预测准确率达到 72.8%。

 智能体记忆 奖励建模 人在回路 模型评估 模型训练

研究收集了 87 名参与者基于真实 ChatGPT 查询和个人记忆作出的约 1,000 组两两偏好判断,对比使用记忆与不使用记忆生成的回答。结果显示,用户并不总是偏好记忆条件回答,部分情况下反而强烈偏好不使用记忆。自动评估器与真实用户判断的一致性有限,并会明显高估用户对记忆条件回答的偏好。作者据此提出记忆感知奖励模型,从用户判断中学习何时以及如何使用记忆,取得 72.8% 的偏好预测准确率并优于现有基线。

用途与启示
  • 将记忆系统的优化目标从“能否检索和调用记忆”转向“记忆使用是否真正符合信息主体偏好并改善用户体验”。
  • 可为记忆检索、调用、抑制、拒用及回答生成策略提供以用户偏好为中心的优化信号。
  • 可用于训练个性化助手及隐私敏感场景中的偏好判别器或奖励模型,减少无关、冒犯性或适得其反的记忆使用。
  • 表明自动评估器可能系统性偏爱记忆条件回答,评估个性化质量时应引入真实用户反馈并审计相关偏差。
  • 为用户控制机制及个性化助手的闭环优化提供人类偏好数据基础。
📝 原始笔记(逐字保留)
标题:Memory-Aware Reward Modeling: Learning Human Preferences for LLM Memory Use 来源:arXiv 链接:https://arxiv.org/abs/2610.31272 摘要:Memory enables language model assistants to maintain continuity across sessions and generate personalized responses, but knowing more about a user does not necessarily produce responses they prefer. Existing evaluations assess memory capabilities without directly establishing whether memory use benefits the user. To study this gap, we collect approximately 1,000 pairwise judgments from 87 participants using their own ChatGPT queries and personal memories. We find that memory-conditioned responses are not consistently preferred over responses generated without memory and in some cases, users strongly prefer the latter. Automatic evaluators also show limited agreement with users and favor memory-conditioned responses substantially more often than users do. Motivated by these gaps, we introdu
★3 Delta N-gram:前向写入语言模型原生 N-gram 记忆 arXiv · 持续学习 · 论文 Delta N-gram 通过不修改预训练表的可清除稀疏增量补丁,实现仅需前向传播、抗干扰且可逆的语言模型持续记忆写入。

 持续学习 状态持久化 模型训练 人工智能可靠性 模型开发 智能体记忆 灾难性遗忘

Delta N-gram 冻结预训练哈希 N-gram 表 T⁰,将新证据写入对应行的稀疏补丁 Δ,清除补丁即可恢复原始模型。一个 410 万参数的写入器为每个位置与哈希头生成目标和门控,通过分块平均 Delta 规则将记忆行维持为凸组合;写入器离线训练后,在线部署仅需前向计算。0.6B 原型在第二次写入后仍保留 16/16 条事实,而在线梯度写入仅保留 2–4/16;读取当前记忆的 Delta writer 也比 plain writer 更能抵抗干扰。连续 3.5 万次写入实验显示该机制总体稳定且优于梯度更新,但知识获取指标仍为负,通用输入漂移最高达 32.8%,主要源于被大量样本读取的少数高频格式行范数异常增长。

用途与启示
  • 为无需在线反向传播的持续学习提供轻量、低成本且可逆的记忆写入路径。
  • 稀疏补丁与冻结预训练表可减少灾难性干扰,并支持快速清空、回滚或隔离用户记忆。
  • 实验表明,读取当前记忆再执行写入有助于提高事实保持能力、文档特异性与抗干扰性。
  • 后续需加强高频格式行的行级正则化、容量治理与写入门控,并解决知识获取收益为负和通用输入漂移问题。
📝 原始笔记(逐字保留)
标题:Delta N-gram: Forward-Only Continual Writing into a Language Model's Native N-gram Memory 来源:arXiv 链接:https://arxiv.org/abs/2610.31125 摘要:Our previous analysis found that a model's native hashed N-gram table is where continual updates disturb the base least, but its writes needed backpropagation and changed the pretrained table. We present Delta N-gram, a forward-only write path into that table. The pretrained table T^0 is never modified. Evidence is written into a sparse patch Δon the rows it addresses: a 4.1M-parameter writer emits a target and a gate per (position, hash head) event, and a block-averaged delta rule keeps each row a convex combination of its old value and the gated targets. The writer is trained offline on raw text with the pretraining objective; at use time writing takes forward passes only, and clearing Δrestores the original model. A 0.6B prototype trained to answer questions keeps 16/16 facts after a se
CodeEvolve3 条
★3 RIPPLE:面向长程编程智能体的恢复内化与阶段化信用分配 arXiv · 信用分配 · 论文 RIPPLE通过前缀受限教师蒸馏、阶段化强化学习和局部有效性门控,将反思触发、故障诊断与纠正行动内化为单一自恢复策略,缩小长程编程智能体“会反思但不会纠错”的执行鸿沟。

 人工智能辅助编程 强化学习 信用分配 长程智能体 故障诊断与恢复 执行恢复 过程监督

RIPPLE针对长程编程智能体能够合理批判失败、却仍沿错误轨迹行动的“批评到行动交接鸿沟”。框架使用只能观察轨迹前缀的教师提供基于证据的恢复监督,避免利用未来动作或最终结果,并通过轻量蒸馏将指导内化到单一基础策略中。后续强化学习分别为反思触发、故障诊断和纠正行动分配阶段化信用,同时以局部有效性信号门控轨迹优势,防止中间决策无差别继承终局奖励。在四个仓库级软件工程基准上,RIPPLE相对基础策略平均提升4.8分,部署时无需额外批评模型;消融实验表明,局部、阶段对齐的信用分配是主要增益来源。收益主要出现在前缀诊断证据充分、仓库状态仍可逆且能在剩余预算内恢复的任务中。

用途与启示
  • 为长程编程智能体提供从识别错误、诊断原因到执行纠正行动的一体化训练与能力内化方案。
  • 表明提升反思文本质量并不足以实现可靠恢复,还需针对恢复流程的不同阶段进行细粒度、局部对齐的信用分配。
  • 前缀受限教师可减少未来信息泄漏,使恢复监督更贴近真实部署时可获得的证据。
  • 局部有效性门控有助于降低稀疏终局奖励对中间恢复决策的错误归因,并可扩展到其他涉及可逆操作和故障恢复的长程任务。
  • 可将状态可逆性、剩余预算和诊断证据充分性作为触发恢复策略及分配计算资源的重要条件。
📝 原始笔记(逐字保留)
标题:RIPPLE: Recovery Internalization through Process-Level Policy Learning and Effect-Aware Credit for Long-Horizon Agentic Coding 来源:arXiv 链接:https://arxiv.org/abs/2610.31276 摘要:Long-horizon coding agents can observe a failure and generate a plausible critique yet continue along the same incorrect trajectory. We call this the Critique-to-Action Handoff Gap. We introduce RIPPLE, a recovery-oriented training framework that internalizes process-level guidance into a single self-recovering policy. A prefix-only teacher provides evidence-grounded recovery supervision without access to future actions or terminal outcomes. After lightweight distillation, reinforcement learning assigns stage-specific credit to reflection triggering, diagnosis, and corrective action. Local validity signals gate trajectory advantages so that intermediate recovery decisions do not indiscriminately inherit terminal outcomes. Across four repository-level software-engineering benchmarks, RIPPLE
★3 PRS:面向自动启发式设计的多方向搜索 arXiv · 程序进化 · 论文 论文提出多方向扰动-重写搜索框架 PRS,通过扩展、压缩与定向优化启发式方案,提升大语言模型自动设计组合优化启发式算法时的探索广度、可控性、多样性与方案质量。

 进化搜索 多样性搜索 自动化设计 算法创新 人工智能辅助编程 探索与利用 数学人工智能

论文针对现有进化计算式自动启发式设计缺少明确变换方向、易出现多样性不足和过早收敛的问题,提出面向 NP-hard 组合优化任务的多方向扰动-重写搜索(PRS)框架。PRS 在生成阶段将启发式方案的变换显式分解为扩展、压缩和定向优化三类互补原语,分别用于增强设计的丰富性与表达能力、获得更简洁且低任务特化的方案,以及实施细粒度改进。框架采用基于广度优先搜索的候选探索流程,并通过自适应算子控制充分利用候选、维持搜索动力。多类组合优化任务上的实验表明,显式控制变换方向能够持续发现多样化的高质量启发式方案,并具备较好的任务通用性。

用途与启示
  • 为大语言模型驱动的组合优化启发式自动设计提供比传统进化算子更显式、可控的多方向搜索机制。
  • 将扩展、压缩和定向优化作为程序进化的通用搜索原语,兼顾表达能力、方案简洁性、低任务特化与细粒度改进。
  • 结合广度优先搜索与自适应算子控制,提高候选利用率与解空间覆盖范围,缓解多样性坍缩和过早收敛。
  • 可为组合优化算法及其他可执行程序的自动发现与设计提供通用搜索组件。
📝 原始笔记(逐字保留)
标题:Directing to Diversify: Multi-Directional Search for Automatic Heuristic Design 来源:arXiv 链接:https://arxiv.org/abs/2610.31048 摘要:Large language models (LLMs) have demonstrated strong potential to automate heuristic design for NP-hard combinatorial optimization (CO) tasks without human intervention. Recent methods predominantly rely on evolutionary computation (EC) frameworks, where heuristic diversification is mainly induced through EC-like operators or downstream selection, while the direction of heuristic transformation remains largely unharnessed. In this paper, we propose a multi-directional Perturbation-Rewrite Search (PRS) framework for automatic heuristic design that factorizes heuristic transformation through directional search primitives at the generation level. Specifically, PRS operates on heuristic ideas through three complementary directions: expansion toward richer and more expressive designs, compress
★3 CANNBot-CAKE:面向昇腾 NPU 的协作式智能体内核演化 arXiv · 程序进化 · 论文 CAKE 通过多 DSL 自适应路由、生成与演化双模式及可审核知识复用,实现昇腾 NPU 自定义算子的自动生成、正确性验证与持续性能优化。

 人工智能辅助编程 系统优化 智能体 进化搜索 SWE 软件工程 自演化

CAKE 是面向 CANN 生态与昇腾 NPU 的智能体式自定义算子开发系统,旨在降低 AscendC 高性能内核开发对专家经验的依赖。系统通过自适应多 DSL 路由为不同算子选择合适的实现路径,将 Generation 与 Evolution 两种模式分离,并借助 CAKE Book 和自进化智能体复用经过审核的内核优化知识。在 Ascend 950PR 的 53 个 CANN-Bench v1.1 算子上,其标准集通过率达到 100%,隐藏集通过率达到 98.28%,相对基线平均加速 1.334 倍。经过 20 轮演化后,EngramGateFusion 的设备总耗时降低 46.6%,平均 Roofline gap 约缩小一半。

用途与启示
  • 提供从算子代码生成、正确性验证到性能迭代优化的自动化闭环,降低昇腾 NPU 内核开发门槛。
  • 多 DSL 自适应路由可依据算子特征选择实现路径,为异构硬件上的代码生成与算子选择提供参考。
  • 将审核后的优化经验沉淀为可复用知识,并结合候选生成与迭代优化,可缓解 AscendC 等稀缺平台训练数据不足带来的能力差距。
  • Generation 与 Evolution 解耦的设计兼顾首次正确生成与后续持续优化,可迁移至其他异构加速器和领域专用编程环境。
  • 通过率、加速比与 Roofline gap 可作为评估智能体驱动内核优化系统的综合指标。
📝 原始笔记(逐字保留)
标题:CANNBot-CAKE: Collaborative Agentic Kernel Evolution for Ascend NPU 来源:arXiv 链接:https://arxiv.org/abs/2610.31034 摘要:Efficient custom operators are essential for modern deep learning workloads, yet developing high-performance kernels for Ascend NPUs remains slow, expert-intensive, and difficult to automate. Although AI agents now approach expert performance on GPU kernel benchmarks, current models remain less capable of generating AscendC kernels for NPUs, potentially reflecting the relative scarcity of relevant training data. We thus present CAKE, a CANN-native system for deployable custom operators that combines adaptive multi-DSL routing, separate Generation and Evolution modes, and reviewed knowledge reuse through CAKE Book and a Self-Evolving Agent. On 53 CANN-Bench v1.1 operators on Ascend 950PR, CAKE's aggregated results achieve $100\%$ case pass rate on the standard set (1,060/1,060) and $98.28\%
PersonalEvolve2 条
★3 面向长期个性化 Web 智能体的主动偏好获取 arXiv · 主动学习 · 论文 论文提出主动偏好获取框架 APA,综合偏好在未来任务中的累计复用收益、询问成本与隐私披露风险,提升长期个性化 Web 智能体的净效用。

 主动学习 智能体 用户画像 长程任务 信息价值 交互成本 长程智能体

论文研究长期服务同一用户的 Web 智能体应何时主动询问尚未显露的偏好,而非仅依赖被动记忆或当前任务的澄清收益。作者提出前瞻个性化价值(PPV),将偏好在未来任务中的预期累计效用增益减去用户交互成本与隐私披露风险,并在单次交互预算内选择问题。APA 使用智能体自身的任务求解器,在公开任务原型上估计候选偏好的反事实收益,再按不同任务族的预期复用频率聚合;论文还构建了包含隐藏但可查询用户画像和精确任务效用的纵向基准 ActiveWebPref。在跨度为 20 个任务的实验中,APA 获取了 80.3% 依赖长期摊销才值得询问的重要缺失偏好,而仅考虑当前任务信息价值的方法只能获取 5.1%;同时,APA 以 27.6% 的询问量恢复了 84.2% 的效用增益。

用途与启示
  • 为长期个性化智能体提供面向未来任务的主动询问准则,避免仅优化当前交互。
  • 将跨任务偏好复用收益、用户交互成本与隐私披露风险统一纳入净效用计算。
  • 可用于旅行预订、购物和日程管理等重复性 Web 任务,在个性化收益、用户打扰与隐私风险之间进行权衡。
  • 表明偏好问题应依据跨任务累计收益和交互预算选择,而非无差别询问或仅按当前任务收益排序。
  • ActiveWebPref 可用于评估主动个性化策略、用户画像获取机制及长程智能体的偏好获取与效用摊销能力。
📝 原始笔记(逐字保留)
标题:Learning What to Ask for Tomorrow: Active Preference Acquisition for Long-Term Personalized Web Agents 来源:arXiv 链接:https://arxiv.org/abs/2610.31107 摘要:Web agents increasingly serve the same user across repeated online tasks such as booking travel, shopping, and scheduling, so their long-term usefulness depends on how well they know the user's preferences. Passive memory and personalization methods cannot obtain preferences the user never reveals, and clarification methods that value a question by its benefit to the current task overlook the benefit of reusing the answer in later tasks. We study Active Preference Acquisition (APA): which missing preferences are worth the cost of asking? We define the Prospective Personalization Value (PPV) of a missing preference as its expected cumulative utility gain over future tasks minus the effort and disclosure-risk cost of asking, and select questions under a per-interaction budget. We characteriz
★2 Today AI 累计融资超 2 亿美元,布局主动式个人智能体 未知 · 产业动态分析 · 原文 Today AI 宣布累计完成超 2 亿美元融资,并以长程记忆、主动触达和跨应用任务执行能力打造个性化个人智能体。

 智能体 智能体记忆 主动式智能 人工智能应用 长程任务

  • Today AI 宣布累计完成超 2 亿美元融资,投资方包括 IDG 资本、腾讯、五源资本、蚂蚁集团、红杉中国、传音控股等机构。
  • 产品定位为主动式 Personal Agent,通过专属长程记忆持续沉淀用户的项目、人际信息、偏好及未完成事项,并以统一长程会话承载交互。
  • 系统已接入微信、邮箱等应用,可根据邮件、日程和任务状态主动提醒用户,并调用浏览器、文档等工具继续执行任务。
  • 底层基础设施涵盖模型编排、任务规划、记忆检索、任务队列和跨设备同步,产品覆盖桌面端与移动端多个操作系统。
用途与启示
  • 展示个人智能体从一次性任务执行向长期用户陪伴、主动服务和持续适配演进的产品趋势。
  • 长程记忆、跨应用连接及后台持续执行可能成为 Personal Agent 的关键差异化能力。
  • 持续积累的个性化数据能够提高服务贴合度与迁移成本,但也需要同步关注隐私、记忆治理和访问控制问题。
📝 原始笔记(逐字保留)
PersonalEvolve|Today AI 累计完成超 2 亿美元融资https://mp.weixin.qq.com/s/XvncGRbv577ONJXuhXOD_g
AgentTrainEvolve2 条
★3 ReflectPO:反思引导的长程智能体策略优化 arXiv · 策略优化 · 论文 ReflectPO结合反思引导采样与树结构信用分配,通过强化学习训练长程LLM智能体识别执行偏差、从错误状态中自主恢复并继续完成任务。

 强化学习 策略优化 长程任务 自我反思 信用分配 长程智能体 工具调用

ReflectPO面向长程工具使用任务中早期执行错误沿决策链累积,并持续影响交互历史与环境状态的问题。其反思引导采样机制利用交互轨迹的分支差异与重复访问构造错误恢复提示,自动提取恢复信号。树结构信用分配将采样轨迹组织为树,并依据父子节点奖励差异与恢复收益分配动作级信用,从而区分错误动作与有效恢复动作。两个长程工具使用基准的实验表明,该框架在多数领域优于现有基线,并增强了智能体识别偏差、自主恢复和持续推进任务的能力。

用途与启示
  • 为长程智能体训练提供显式面向错误恢复的策略优化框架,降低早期失误对后续轨迹的累积影响。
  • 利用轨迹分支差异与重复访问自动提取恢复信号,减少对人工反思标注和纠错数据的依赖。
  • 通过树结构动作级信用分配定位关键错误、区分有效恢复动作,改善稀疏奖励下的训练信号。
  • 启示智能体优化不应只奖励最终成功,还应衡量从错误状态恢复并继续推进任务的收益,可用于提升工具调用等连续交互场景的鲁棒性与任务完成率。
📝 原始笔记(逐字保留)
标题:ReflectPO: Reflection-Guided Policy Optimization for Long-Horizon LLM Agents 来源:arXiv 链接:https://arxiv.org/abs/2610.30933 摘要:With external tools, large language models (LLMs) can tackle complex tasks through sustained environmental interaction. LLM-based agents are therefore increasingly used to tackle complex long-horizon tasks in real-world environments. However, these tasks involve sequential, interdependent decisions and changes in environmental states. Early execution errors affect subsequent interaction histories and environmental states, and their effects accumulate along the decision chain. To address this challenge, we propose Reflection-Guided Policy Optimization (ReflectPO), a reinforcement learning framework for autonomous error recovery in long-horizon tasks. ReflectPO comprises two core components. The first is Reflection-Guided Sampling. We use branch differences and repeated visits in interaction
★3 强化学习训练可迁移的小模型工具选择器 arXiv · 工具调用 · 论文 研究通过强化学习后训练开放权重的 Qwen3-8B,使其能够分解复杂指令,并在万级工具库中从检索候选集选择必要工具,同时实现跨检索器和跨领域工具库迁移。

 工具调用 模型训练 强化学习 候选选择 跨域泛化 智能体 小语言模型

  • 面对超过一万种工具的语料库,全部工具描述无法装入上下文,传统相关性检索器也只能召回和排序,难以判断完成复杂多步任务真正需要哪些工具。
  • 作者通过强化学习后训练 Qwen3-8B,使其承担指令分解、检索驱动及候选工具选择等功能,形成“检索器召回候选、小模型执行任务感知选择”的架构。
  • 在 ToolBench 上,该 8B 模型的工具选择表现超过参数规模为 402B 的 Llama-4-Maverick。
  • 训练后的选择器无需针对目标环境重新训练,即可适配不同检索器,并泛化至不同领域的新工具库。
用途与启示
  • 为超大规模工具生态提供低成本、可私有部署且可扩展的工具选择方案,减少对 Claude、ChatGPT 等商业模型的依赖。
  • 表明强化学习可将通用工具选择能力注入开放小模型,而不必依赖超大模型或特定工具库。
  • 跨检索器与跨领域迁移能力有助于构建模块化、可替换检索后端的智能体工具路由系统。
  • 可提升复杂多步任务中的工具召回与选择精度,同时降低上下文占用、推理成本和部署延迟。
📝 原始笔记(逐字保留)
标题:Training Small Language Models for Transferable Tool Selection 来源:arXiv 链接:https://arxiv.org/abs/2610.31483 摘要:As LLM agents operate over corpora of more than ten thousand tools, selecting the right tool for a complex multi-step user instruction becomes a central bottleneck. Tool descriptions cannot all fit in context, and relevance-based retrievers only rank tools without knowing which are actually needed. Recent work instead leverages proprietary commercial LLMs like Claude or ChatGPT to drive a retriever, decomposing the instruction and selecting over retrieved candidates. We show that a small, open model can be trained via reinforcement learning to perform the same functionality. On ToolBench, a Qwen3-8B model post-trained with our recipe outperforms Llama-4-Maverick (402B). In addition, the trained model transfers directly to different retrievers and generalizes to new tool corpora in differen
AgentEvolve2 条
★3 SYNAPSE 分域评分保护未使用工具的检索性能 arXiv · 工具调用 · 论文 研究发现,直接汇集并索引工具使用样例会提升已使用工具的检索表现,却挤压未使用工具的排名;SYNAPSE 通过对使用经验进行独立分字段评分,兼顾经验复用与长尾工具保护。

 工具调用 经验复用 智能体 多智能体协作 模型评估 模型路由 候选选择

研究分别评估已有使用记录的工具与完全没有使用记录的留出工具,发现将使用样例作为额外索引条目会提高前者的 Hit@5,却在多数工具目录和嵌入模型设置下显著损害后者。对照实验表明,即使用其他工具的等长文本替代真实经验,未使用工具的检索性能仍会下降,说明索引条目数量与评分结构本身会造成排序偏置。SYNAPSE 将工具使用经验作为独立字段评分;在 StableToolBench 上,其留出工具 Hit@5 达到 0.785,高于预留经验槽位路由器的 0.683。十个模拟智能体汇集相同记录的效果与单个智能体持有这些记录相当,表明收益主要来自经验总量,而非经验在智能体间的分布。

用途与启示
  • 为共享工具目录的多智能体系统设计检索器时,应分别报告已使用工具与未使用工具的指标,避免总体得分掩盖长尾工具退化。
  • 工具描述与使用经验宜采用字段隔离或独立评分,而非作为同权索引条目直接追加,以减少经验数量造成的排序偏置。
  • 共享经验可复现集中式经验积累的收益,为构建多智能体工具使用记录池提供依据。
  • 不同工作负载下需权衡已使用工具的检索增益与未使用工具保护,并结合工具覆盖率和查询分布选择路由方案。
📝 原始笔记(逐字保留)
标题:Separate Field Scoring Protects Unused Tools When Agents Pool Tool-Use Experience 来源:arXiv 链接:https://arxiv.org/abs/2610.30867 摘要:Agents that call tools from a shared catalog can pool what they learn about which tool serves which request. We measure what pooled usage examples do to tool retrieval, reporting separately the held-out tools, for which no agent has usage, and all other tools. Adding usage examples to the index as extra entries for used tools raises Hit@5 (whether a gold tool is in the top five) for those tools and lowers it for held-out tools, by a large margin on two of three catalogs and with both embedders we tested. Giving used tools the same number of equally long entries filled with other tools' text lowers held-out Hit@5 about as much, but gives little or none of the gain. We call our method of scoring usage as its own field SYNAPSE. On StableToolBench, the held-out gold tool appears in its top fiv
★3 编码智能体的自适应技能粒度:运行时路由与宏到微恢复 arXiv · 技能优化 · 论文 该工作通过运行时技能粒度路由与有限状态恢复机制,使编码智能体依据任务结构、执行状态和宏技能失败信号,动态选择宏技能、原子工具调用或混合路线,并在宏技能失配时回退至微粒度执行,从而兼顾效率与鲁棒性。

 智能体 人工智能辅助编程 工具调用 执行恢复 任务规划 智能体技能库

论文提出 Adaptive Skill Granularity,将技能粒度建模为依赖任务结构、执行状态和宏技能失败信号的运行时动作抽象策略。框架由基于特征的粒度控制器与有限状态恢复执行器组成,可在原子工具调用、宏技能及混合执行路线之间动态选择。当宏技能因任务不匹配而失败时,系统会切换至微粒度操作进行受控恢复。作者采用确定性编码智能体协议,并以验证器定义的成功率、总成本、宏技能采用率、失败恢复率、路由匹配和状态转换正确性等指标评估;结果表明,固定宏执行虽在适用场景中效率较高但面对任务失配较为脆弱,而运行时路由与宏到微恢复可增强执行鲁棒性和失败恢复能力。

用途与启示
  • 为编码智能体提供可控制、可验证且可恢复的运行时技能粒度机制,在宏技能效率与原子工具调用灵活性之间动态权衡。
  • 启示技能库不应只是静态可检索资源,还应支持运行时路由、执行验证、故障检测与细粒度恢复。
  • 可借助有限状态执行器明确约束宏技能失败后的回退路径,用于长程软件工程任务并降低不可控执行与任务中断风险。
  • 提示智能体评测除成功率和成本外,还应关注宏技能采用率、失败恢复率、路由匹配和状态转换正确性等过程指标。
📝 原始笔记(逐字保留)
标题:Adaptive Skill Granularity for Coding Agents: Runtime Routing and Macro-to-Micro Recovery 来源:arXiv 链接:https://arxiv.org/abs/2610.31461 摘要:Reusable skills allow large language model agents to package task-specific procedures, tool affordances, and execution guidance into modular units. Prior work has largely studied how agents retrieve, compose, or synthesize skills before execution. In coding agents, however, execution poses an additional runtime control problem: the same task may be solved through primitive tool calls, macro skills, or hybrid execution that starts with a macro and falls back to micro-level recovery. We introduce Adaptive Skill Granularity, a framework that treats skill granularity as an action-abstraction policy conditioned on task structure, execution state, and macro-skill failures. The system combines a feature-based granularity controller and a finite-state recovery executor. We evaluate the framework w
EvolveLRM2 条
★3 GIFT:梯度引导过滤的蒸馏增强推理强化学习 arXiv · 策略优化 · 论文 · 代码 GIFT通过分解蒸馏梯度与强化学习梯度的平行、正交分量,筛选安全且具有互补价值的词元级教师指导,从而缓解蒸馏与结果奖励之间的优化冲突。

 强化学习 模型蒸馏 模型训练 逻辑推理 数学人工智能 推理 策略优化

GIFT面向推理强化学习中稀疏结果奖励与稠密词元级蒸馏信号可能相互冲突的问题,判断哪些教师更新应被采用。该方法将蒸馏梯度分解为相对强化学习梯度的平行分量与正交分量,分别衡量一阶冲突风险和新增方向指导价值。基于这一几何分解,GIFT对词元级指导进行排序,并通过渐进式覆盖率退火逐步缩减接受蒸馏的词元预算,使训练平滑过渡到纯结果驱动目标。数学与逻辑推理实验显示,该方法在多个模型规模上稳定优于强基线,并在困难数学推理任务上取得最高9.5%的相对提升。

用途与启示
  • 为联合使用强化学习与知识蒸馏提供基于梯度几何的冲突判定与消解机制。
  • 可筛除与结果奖励方向冲突的教师信号,同时保留具有互补价值的词元级指导,减少盲目模仿对策略优化的干扰。
  • 覆盖率退火为从密集教师引导平滑过渡到自主、结果驱动的策略优化提供了可复用范式。
  • 词元级安全性与价值评分可扩展到多教师蒸馏、过程监督及其他混合训练场景。
📝 原始笔记(逐字保留)
标题:GIFT: Gradient Informed Filtering for Distillation Augmented Reasoning RL 来源:arXiv 链接:https://arxiv.org/abs/2610.30796 摘要:Training large language models for complex reasoning tasks relies on two complementary signals: sparse, outcome-grounded reinforcement learning (RL) for correctness, and dense, token-level distillation for guidance. However, complementarity in supervision does not guarantee compatibility in optimization; imitation-focused distillation can conflict with the outcome-driven RL objective, and existing hybrids lack a principled resolution. We propose \textbf{GIFT} (\textbf{G}radient-\textbf{I}nformed \textbf{F}il\textbf{T}ering for Distillation-Augmented Reasoning RL), a novel method that directly addresses the allocation problem of which teacher updates to apply. GIFT performs a token-level geometric analysis, decomposing the distillation gradient into a component \textbf{parallel} to the RL g
★3 MCPD:降低在策略自蒸馏的参考答案敏感性 arXiv · 在策略蒸馏 · 论文 论文提出蒙特卡洛特权蒸馏(MCPD),通过聚合多个局部参考视图下的教师分布,缓解在策略自蒸馏中的参考诱导目标不稳定问题。

 在策略蒸馏 自蒸馏 模型蒸馏 模型训练 推理

现有在策略自蒸馏通常让特权教师读取完整参考解答,但参考中的表达顺序、措辞和求解路径可能使监督目标依赖学生推理时不可获得的信息。作者发现,在问题和学生状态不变时,仅替换另一份有效参考解答,就可能显著改变教师的下一词元分布,并将其称为“参考诱导目标不稳定”。MCPD将参考解答视为可能推理路径的样本,把特权上下文建模为局部参考视图的分布,在多个视图下评估教师并对下一词元概率分布进行平均。该概率空间平均等价于最小化不同特权视图上教师到学生的期望 KL 散度所诱导的精确目标;数学与科学推理实验表明,其监督具有更高的参考一致性,并稳定优于完整参考 OPSD。

用途与启示
  • 减少蒸馏监督对单一参考答案措辞、顺序和求解路径的过度依赖。
  • 将参考解答视为可能推理路径的样本,通过多视图边缘化提取跨参考共享的预测信号。
  • 减少教师目标依赖推理阶段不可用信息所造成的训练偏差,提升数学与科学推理自蒸馏的稳定性与泛化能力。
  • 概率空间聚合具有明确的 KL 散度优化解释,可作为多参考蒸馏方案的理论依据。
📝 原始笔记(逐字保留)
标题:One Teacher, Many Views: Reducing Reference Sensitivity in On-Policy Self-Distillation 来源:arXiv 链接:https://arxiv.org/abs/2610.30880 摘要:On-policy self-distillation (OPSD) improves reasoning by training a model on its own trajectories with dense token-level supervision from a privileged copy conditioned on a reference solution. Existing methods typically use a single teacher distribution conditioned on the complete reference. We identify a limitation of this formulation: a reference is only one realization of the reasoning process. Although it provides evidence about the answer, it also encodes an ordering, phrasing, and solution path. Full-reference conditioning can therefore produce correct targets that depend excessively on information unavailable to the student at inference. We show that replacing one valid reference with another, while holding the problem and student state fixed, can substantially alter the teacher dis
EvalEvolve1 条
★3 自信但错误的 LLM 如何导致人类服从与信任校准失效 arXiv · 置信度评估 · 论文 实验发现,人类会高置信度地吸收自信 LLM 提供的错误信息,导致判断准确率与置信度校准显著恶化,而对系统的主观信任度几乎不变。

 人工智能可靠性 模型评估 不确定性估计 以人为本的人工智能 人在回路 交互式评估 行为建模

研究让 32 名参与者与五个基于 GPT-5-mini 的助手学习科学知识,将助手简报中的错误事实比例设置为 0%、25%、50%、75% 和 100%,同时保持完全自信的表达。104 次测验的 1,040 个回答显示,平均得分从 7.4/10 降至 2.9/10;在被篡改题目中,参与者选择植入错误答案的比例达 60%,采纳助手错误陈述的概率约为 65%。参与者对吸收的错误仍有 8.4/10 的高置信度,置信度区分答案正误的 AUROC 从 0.70 降至随机水平,但任务后的整体信任评分几乎不变,反复返回聊天核查还与更多错误吸收相关。论文提出经基线校正的 Human Deference Index,主张双向评估“模型迎合人类”与“人类顺从模型”,并将可信度视为人机组合系统的属性。

用途与启示
  • 提醒学习与问答系统不能将流畅、自信且一致的表达等同于可靠知识,应针对具体主张展示证据、来源与可信度。
  • 可用 Human Deference Index 衡量用户超出基线水平采纳模型错误信息的程度,补充仅考察模型迎合用户的传统单向评测。
  • 整体主观信任评分可能掩盖真实风险,评估应同时测量知识吸收、回答准确率、置信度及其校准情况。
  • 反复询问同一错误来源未必能够纠错,人在回路系统应引入独立证据、交叉验证、证据溯源和显式不确定性提示。
📝 原始笔记(逐字保留)
标题:Who Is Sycophantic to Whom? Confident LLMs, Human Deference, and the Collapse of Trust Calibration 来源:arXiv 链接:https://arxiv.org/abs/2610.31579 摘要:Research on sycophancy asks whether large language models (LLMs) bend towards what their users want to hear. We ask the reverse question: when an LLM is confident, consistent, and wrong, do users bend towards it? In a within-subjects experiment, 32 participants learned up to five science topics by chatting with five assistants built on the same model (GPT-5-mini). Unknown to participants, each assistant's briefing had 0, 25, 50, 75, or 100% of its facts replaced by plausible falsehoods, and every assistant spoke with full confidence. A surprise quiz after each topic offered the correct fact, the planted falsehood, and two distractors, with a confidence rating for every answer. Across 104 quizzes and 1,040 answers, scores fell from 7.4 to 2.9 out of 10, and the planted option was chosen on
GeneralizeEvolve1 条
★3 基于算法稳定性的持续学习灾难性遗忘细粒度分析 arXiv · 持续学习 · 论文 论文以算法稳定性为统一框架,细粒度分析样本扰动、学习率调度、任务数量与梯度对齐等因素对 SGD 持续学习中灾难性遗忘的影响。

 持续学习 模型训练 灾难性遗忘 机器学习 人工智能可靠性

论文提出不限定模型架构的算法稳定性框架,将期望总体遗忘分解为任务内泛化差距、跨任务泛化差距和经验遗忘。通过追踪单个样本扰动在当前任务更新中的影响及其向后续任务的传播,作者推导了常数、任务内衰减和连续衰减三类学习率策略下的遗忘上界。针对经验遗忘,分析无需目标函数满足凸性,并保留优化轨迹中的累积梯度对齐信息,以刻画任务间干扰。最终上界揭示了训练集规模、每任务更新次数、任务总数、学习率调度和累积梯度对齐的共同作用,并在 Split CIFAR-100 与 Split MiniImageNet 上进行了实验验证。

用途与启示
  • 为持续学习中的灾难性遗忘提供与具体模型架构无关的理论分析工具。
  • 揭示任务边界处重启学习率衰减如何改变历史样本扰动向后续任务的传播。
  • 利用累积梯度对齐解释和预测任务间干扰,为依据任务数量、更新预算等因素设计训练方案提供优化依据。
  • 为持续学习算法的稳定性比较与遗忘风险评估提供可量化的理论上界。
📝 原始笔记(逐字保留)
标题:Fine-Grained Analysis of Catastrophic Forgetting in Continual Learning via Algorithmic Stability 来源:arXiv 链接:https://arxiv.org/abs/2610.31551 摘要:Understanding catastrophic forgetting, in which learning new tasks degrades performance on previously learned tasks, remains a fundamental challenge in continual learning (CL). Existing theoretical analyses often rely on specific model or task structures and offer limited insight into how iterative optimization affects forgetting. To address this gap, we develop an algorithmic stability framework for expected population forgetting under SGD without prescribing a particular model architecture. Specifically, we decompose forgetting into intra-task and cross-task generalization gaps and empirical forgetting. To bound the generalization gaps, we track how a sample perturbation affects updates within a task and propagates through subsequent tasks. We consider constant, intra-task decaying, and
EnvironmentEvolve1 条
★3 Trace2World:从真实交互轨迹重建应用世界以规模化训练 GUI 智能体 arXiv · 环境合成 · 论文 Trace2World 将全局应用行为重建与环境代码实现解耦,从真实交互轨迹构建可验证、可执行的应用环境,以规模化训练 GUI 智能体并提升真实设备迁移效果。

 环境合成 图形用户界面智能体 智能体 强化学习 模型训练 执行回放

Trace2World 首先将多条真实交互轨迹整合为共享、可追溯至来源证据的应用行为模型,再将其编译为可执行环境,避免从局部轨迹直接生成代码所导致的错误状态转移。系统通过独立回放源工作流定位实现偏差,并将修复限制在证据支持的行为范围内;验证通过后,还可面向学习器自适应扩增任务与环境。基于 1,570 条轨迹,该方法构建了 50 个环境,在十款应用的 200 个工作流上实现 91.1% 的端到端复现率,显著高于最强任务局部基线的 59.8%。来源证据驱动的验证使模拟训练收益在真实设备上保留 94.0%,并推动模型在内部基准、四项外部 GUI 基准及真实设备任务上取得提升。

用途与启示
  • 为 GUI 智能体强化学习提供可规模化、可执行且状态转移可信的应用环境构建流程。
  • 将全局行为证据重建、环境代码实现与源轨迹验证相分离,减少隐藏行为错误、自验证偏差及错误状态转移被固化的风险。
  • 利用来源关联验证和独立工作流回放开展局部故障定位与有界修复,提高合成环境与真实应用的一致性。
  • 展示环境验证质量对模拟训练向真实设备可靠迁移的重要性。
  • 为受来源证据约束、面向学习器能力的任务课程与环境自适应增强闭环提供基础。
📝 原始笔记(逐字保留)
标题:Trace2World: Reconstructing App Worlds from Real Interaction Traces for Scalable GUI Agent Training 来源:arXiv 链接:https://arxiv.org/abs/2610.30792 摘要:Scaling GUI reinforcement learning requires environments that preserve real-app behavior. Yet coupling behavior inference with coding can turn partial traces into runnable mocks with incorrect state transitions. We introduce \textbf{Trace2World}, which separates global behavior reconstruction from implementation. It reconciles traces into a shared, source-linked app model, then compiles an executable environment. Independent replay of source workflows localizes mismatches for bounded implementation repair. Validated worlds then support learner-adaptive task and environment augmentation within source-supported behavior. From 1,570 traces, Trace2World constructs 50 environments. On 200 workflows across ten apps, 91.1% are reproduced end to end, versus 59.8% for the strongest matched task-loc
SwarmEvolve1 条
★3 网络拓扑塑造 LLM 群体共识与脆弱性 arXiv · 多智能体协作风险 · 论文 在千至十万规模的 LLM 智能体命名博弈中,交互网络拓扑显著影响共识速度、收敛结果及对定向对抗干预的脆弱性。

 多智能体系统 群体共识 通信拓扑 多智能体协作安全 智能体安全 群体安全

研究将从四种 LLM 中提取的策略部署到全连接、随机正则和异构网络中,让 $10^3$ 至 $10^5$ 个智能体参与命名博弈。稀疏网络可使共识形成速度降低至多 12 倍,但持续邻居关系保留的相关性也能使部分在充分混合条件下无法收敛的群体恢复共识。网络拓扑还决定推翻既有约定所需的承诺智能体临界规模,其攻击效率稳定呈现“枢纽节点优于随机节点、随机节点优于低度节点”的规律。在异构性最强的网络中,针对枢纽、随机及低度节点的临界规模中位数分别为 3%、16% 和 35%,攻击枢纽所需智能体数量仅约为随机投放的六分之一,表明充分混合实验可能高估多智能体系统的稳健性。

用途与启示
  • 评估多智能体系统安全性时,应显式建模实际通信拓扑,避免仅以充分混合交互推断真实部署风险。
  • 枢纽节点是操纵群体规范与共识的高风险攻击面,应加强访问控制、异常监测、隔离与影响力限制。
  • 稀疏连接兼具延缓共识与通过稳定邻居关系促进特定群体收敛的作用,系统设计需权衡协作效率、稳定性和群体稳健性。
  • 可将推翻共识所需的承诺智能体临界规模作为衡量群体抗操纵能力的量化指标,并用于研究网络结构干预。
📝 原始笔记(逐字保留)
标题:Network topology shapes consensus and vulnerability in LLM populations 来源:arXiv 链接:https://arxiv.org/abs/2610.31165 摘要:As large language models (LLMs) are deployed in interacting populations, their collective behaviour depends not only on the models but also on who interacts with whom. Studies of convention formation in LLM populations have mainly tested well-mixed interactions. We place policies extracted from four LLMs on fully connected, random regular, and heterogeneous networks, with $10^3$ to $10^5$ agents playing the naming game. Topology affects how quickly consensus emerges, sometimes whether it emerges at all, and, in rare cases, which convention wins. Sparsest networks slow consensus up to twelvefold. Yet, by preserving correlations between persistent neighbours, they restore consensus in some cases that fail to converge under well-mixed interactions. Networks also govern vulnerability to advers
InfraEvolve1 条
★3 芯生代融资数千万元,打造Agent自进化推理引擎 智能涌现 · 系统优化 · 原文 上海交大学生创业团队芯生代完成数千万元种子轮融资,利用记忆、强化学习与真实硬件反馈,让Agent针对特定模型和芯片组合持续生成并优化定制推理引擎。

 系统优化 自演化 智能体 推理加速 成本优化

芯生代由上海交通大学人工智能学院团队创办,已完成数千万元种子轮融资,投资方包括启高资本、交大菡源母基金和元生创投。其前期工作EvoKernel采用价值驱动记忆沉淀试错经验,将昇腾平台上的算子生成正确率从4%提升至83%。团队计划让Agent针对模型、芯片与运行场景的具体组合,自动生成专用推理管线,并在真实硬件上验证正确性、吞吐和Token生产效率。系统通过记忆与强化学习形成闭环,使Agent能够提出优化方案、执行测试、依据客观指标筛选结果,并在不同国产硬件平台间复用经验。

用途与启示
  • 为国产芯片提供模型与推理软件的自动适配方案,降低人工维护不同算子库、编译器和推理框架的成本。
  • 利用真实硬件上的吞吐、正确率等可验证反馈,构建可持续运转的基础设施自进化闭环。
  • 通过跨模型、跨芯片复用优化经验,提高新硬件组合的适配效率并降低每Token推理成本。
  • 展示AI for AI在算子生成、推理管线优化和异构计算基础设施中的工程化潜力。
📝 原始笔记(逐字保留)
InfraEvolve|上海交大00后团队融资数千万,让Agent做定制的自进化推理引擎|智能涌现首发https://mp.weixin.qq.com/s/X0Ty_Ke_mtiACMcnSmDbpQ

🔥 热点延伸 3 条 · 当日热门但非主要研究方向,仍有启发

这些条目相关性判定为 0~1 分,是有意收录的当日热点;不进入重点与研究项目分组,点击标题展开。

★1 StreamEval:交互式流式视频生成统一评测基准 Hugging Face Papers · 交互式评测 · 论文 StreamEval 以300个长达15至300秒的脚本化测试案例评测37种交互式流式视频生成模型,揭示请求执行和长期状态一致性仍是实时全模态系统的核心短板。

 视频生成 交互式评估 模型评估 多模态 连续交互

StreamEval 是面向交互式流式视频生成的统一评测基准,覆盖虚拟人对话、虚拟人表演、世界生成、指令编辑和参考编辑五类任务。基准包含300个持续15至300秒的脚本化案例,每个案例均设定初始素材、逐步到达的多模态请求,以及状态变化和内容保留要求。评测从任务执行、状态一致性、视觉保真度和视听协调四个维度展开,并采用10项任务特定指标进行百分制评分。对37种模型的实验表明,高视觉质量和身份保持能力并不等同于可靠的请求执行或持续状态一致性,其中参考编辑的最高编辑成功分仅为15.00。

用途与启示
  • 为交互式流式视频模型提供覆盖生成、控制与编辑任务的统一评测框架。
  • 将请求执行、状态保持和视听协调纳入长时连续交互评估,避免只依赖单帧画质或身份一致性指标。
  • 结果提示后续系统应重点提升时序约束下的指令遵循、内容保留与状态持续能力。
  • 可用于比较实时全模态视频系统,并定位视觉质量与交互可靠性之间的能力错配。
📝 原始笔记(逐字保留)
[StreamEval:交互式流式视频生成模型评测(353 ▲)](https://huggingface.co/papers/2610.28402?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)
★1 SpatialScout:VLM 智能体主动探索与三维场景建图基准 Hugging Face Papers · 评测基准 · 论文 · 代码 SpatialScout 通过80个室内场景和3140个目标物体,评测VLM智能体在有限交互预算下主动探索并构建精确物体级三维地图的能力。

 具身智能评估 空间智能 视觉推理 智能体评估 任务规划

SpatialScout 是面向视觉语言模型智能体的主动式物体级三维建图基准,包含80个多样化室内场景和3140个目标物体。智能体根据物体清单、RGB观测、相机标定及位姿控制相机探索场景,并在统一坐标系中估计物体中心。任务综合考察视点选择、跨视图关联、几何估计和地图修订,并以兼顾定位精度与目标覆盖率的物体尺度重叠分数进行评价。实验中表现最强的 Claude Opus 5.5 平均重叠分数仅为41.71%,说明当前前沿VLM距离构建完整、精确的度量地图仍有显著差距。

用途与启示
  • 为主动感知、具身探索和物体级三维建图提供可量化的统一评测环境。
  • 可用于诊断VLM智能体在视点规划、跨视图关联、几何定位及地图动态修订方面的能力短板。
  • 结果表明粗略恢复物体布局不等同于构建可靠的度量地图,后续系统需强化覆盖率、定位精度与交互预算之间的联合优化。
📝 原始笔记(逐字保留)
[SpatialScout:视觉语言模型智能体能否主动探索并绘制三维场景地图?(129 ▲)](https://huggingface.co/papers/2610.26659?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)
★0 SSI:多光谱图像的光谱—空间联合归因 Hugging Face Papers · 视觉归因 · 论文 · 代码 SSI通过对每个空间位置的通道构建条件Shapley博弈,生成完整的光谱—空间归因矩阵,并以较低评估预算提升多光谱图像解释的准确性与定位能力。

 人工智能可解释性 视觉表征学习 多模态 模型评估

Spectral-Spatial Interpretation(SSI)将空间位置与光谱通道组成联合归因单元,解决传统空间热图或全局通道评分无法表达局部光谱相关性的问题。该方法固定目标位置周围的观测上下文,在每个空间位置上对通道构建条件博弈并计算Shapley值,从而输出完整的光谱—空间归因矩阵。SSI满足位置内部的Shapley公平性,其通道归因聚合后可精确恢复将该位置替换为基线时的上下文对比。实验显示,SSI在CUB-200、EuroSAT和HLS Burn Scar上取得更优的删除与插入AUC、光谱命中率、通道删除表现及空间定位效果;在HLS Burn Scar上仅使用约MC-Owen估计器6%的评估预算。

用途与启示
  • 为多光谱和遥感视觉模型提供同时覆盖空间位置与光谱通道的细粒度解释。
  • 可用于识别模型在局部区域依赖的物理光谱特征,辅助验证预测依据是否合理。
  • 条件Shapley博弈兼顾归因公平性与计算效率,可作为高维通道归因方法的设计参考。
  • 删除与插入AUC、光谱命中率及定位指标可用于系统评估视觉归因质量。
📝 原始笔记(逐字保留)
[光谱—空间解读(65 ▲)](https://huggingface.co/papers/2610.21114?utm_source=digest-papers&utm_medium=email&utm_campaign=2026-10-22)
0%