2026-09-09 科研追新
当日精选（由提交工具自动创建）。
🔬 相关条目 23 条 · 按研究项目分组
点击标题展开完整内容；同子主题 3 条以上合并为专题卡。
SwarmEvolve1 条
Manager Loop：GPT-6 多智能体一周搭建虚拟曼哈顿 Matt Shumer 通过协调者与执行者构成的 Manager Loop，调度最多 96 个子智能体，在 Unreal Engine 中持续迭代并于一周内搭建出虚拟曼哈顿。
文章介绍了 Matt Shumer 为解决智能体在大型项目中沉迷局部细节、整体进度停滞的问题而设计的 Manager Loop。该方法将系统拆为独立的“协调者”和“执行者”：协调者负责访谈、目标拆解、阶段规划与验收，执行者负责落实任务并继续派生子智能体。协调者持续监督总计划，并在每个阶段完成后触发下一阶段，使人类主要通过“继续”指令维持闭环运行。通过将并发上限从默认的 4 个扩展到 96 个，并结合现成工具与资产，系统据称在一周内于 Unreal Engine 中逐街区搭建出虚拟曼哈顿。
- 为长程复杂任务提供“规划—执行—验收—续派”的持续闭环，降低智能体因局部优化而偏离总体目标的风险。
- 通过管理智能体与执行智能体的角色隔离，避免单一智能体同时承担战略规划和细节实施造成上下文混乱。
- 展示大规模并行子智能体在软件工程、游戏开发和数字孪生等任务中的潜在效率收益。
- 提醒实践者关注并发扩展后的额度消耗、任务冲突、质量审计与人工监督问题。
📝 原始笔记（逐字保留）
Awesome-RSI3 条
域变换提出具身自进化部署范式 清华AIR曹婷团队与域变换推出Zeva、Zetta ζ和Z-Infra，通过上下文因果学习、在线纠错及端云基础设施，让机器人在部署后从真实交互中持续提升任务成功率。
域变换将“具身自进化”定义为物理智能体在部署环境中持续交互，利用反馈与经验自主修正策略并提升任务成功率。Zeva采用上下文因果学习和双时标因果记忆，在不更新模型权重的情况下，把机器人自身的成功与失败轨迹转化为后续决策所需的因果经验。Zetta ζ通过动作级纠错、批量经验优化和验证门控更新三重闭环，在长程执行中恢复故障，并将验证有效的critic、recovery和tool沉淀为可复用技能。Z-Infra进一步提供数据流转、环境rollout及端云协同推理能力，使Model、Agent与Infra形成覆盖完整部署周期的持续学习闭环。
- 将机器人能力增长的重点从离线预训练转向部署后的真实交互学习，为解决环境变化、执行误差和长尾失败提供新路径。
- 说明无需频繁微调模型权重，也可借助上下文因果记忆实现持续适应，降低现场数据采集与重新训练成本。
- 通过运行时纠错、故障恢复和验证门控，将失败轨迹转化为安全、可复用的技能，提升长程任务可靠性。
- 为具身系统设计提供Model、Harness与Infra协同架构，强调低延迟端侧执行和云端规模化经验管理的重要性。
📝 原始笔记（逐字保留）
MetaRSI-v1：统一元递归自我改进架构 MetaRSI-v1 以统一 Loop Kernel 协同 Data-RSI、Harness-RSI 与 Model-RSI，并通过嵌套元层持续优化各算子及其编排策略，实现递归自我改进。
递归自我改进 自演化 智能体脚手架演化 模型训练 数据合成 自我改进
MetaRSI-v1 将学习信号消费、改动生成、验证裁决与反馈回流抽象为可复用的统一 Loop Kernel，使数据、智能体脚手架和模型参数能够在同一闭环中协同演化。架构包含 Data-RSI、Harness-RSI 和 Model-RSI 三类算子，分别用于合成经验数据，调整 Prompt、Skill、MCP、Tools 与 Memory，以及更新模型参数和结构。RSI² Agent 通过横向编排决定算子执行顺序、通过纵向优化改写算子内部策略，MetaRSI² Agent 则进一步优化编排机制，形成三层嵌套的元改进体系。文中报告称，在无需外部教师模型的情况下，Qwen3.5-35B-A3B 在四项基准上平均提升 10.9 分，六款前沿模型在 Terminal-Bench 2.1 上平均提升 7.3 分。该工作总结了验证前沿、能力边界重发现、能力载体成本、不可写评测面和外部信息熵五条自我改进定律，并开源 RSI-Harness，以促进不同科研与工程领域沉淀可迁移的 Harness Genome。
- 为 Data、Harness 和 Model 层面的联合自我改进提供统一接口、可组合架构与编排语言，便于构建端到端 RSI 系统。
- 推动智能体从执行固定改进程序，迈向对算子策略及编排机制本身的递归优化。
- 表明固定权重的闭源模型也可通过 Data-RSI 与 Harness-RSI 持续增强能力。
- 可从科研或工程流程中的局部可验证环节建立小循环，再逐步连接成由任务、验证器和初始脚手架构成的领域级自进化闭环。
- 应保留闭环无法修改的外部评测面并持续重估能力边界，以防奖励作弊或通过放宽成功标准制造虚假提升。
- 可先在 Harness 中低成本试验能力，再将成熟、稳定的能力内化到模型并删除冗余组件，从而降低长期推理成本。
- 可进一步连接自动化实验室、科学仪器和仿真环境，构建从假设生成到实验验证的闭环科学研究系统。
📝 原始笔记（逐字保留）
新智元11周年上线ASI新天地官网 新智元在11周年之际上线ASI新天地官网，以多源数据追踪AI发展趋势，并展示AI辅助历史地理寻证与人机协同验证案例。
新智元上线ASI新天地官网，设置ASI爆点、启示录、坐标和实时追踪等板块，尝试用十余家独立数据源及29项二级指标构建AI产业度量体系。文章将智能体自主工作时长、前沿模型迭代周期和递归自我改进视为通往ASI加速阶段的三条关键曲线，并集中讨论AI参与AI研发带来的能力跃迁与安全风险。官网以自动化方式汇总模型、智能体和行业事件信号，强调独立数据源与真实用户反馈。文章还介绍了杨静与AI协作查找旧居的过程：结合1949年北京沙盘、1973年卫星底片、地标测距及人工视觉复核，在证据约束下重建已消失的历史地点。
- 可作为持续观察ASI、递归自我改进和前沿模型迭代趋势的信息入口。
- 多源指标体系为独立AI产业评估与榜单设计提供了参考，但仍需审查指标定义、权重和数据可验证性。
- 历史地点重建案例展示了AI计算、证据溯源与人工识别相结合的人机协同工作流。
- 文章同时提示，AI研发自动化加速后，应加强思维链监控、沙箱隔离、网络安全和可解释性评估。
📝 原始笔记（逐字保留）
EvolveLRM1 条
FlowBalance：基于验证器校准策略内经验的推理模型自我改进 FlowBalance利用验证器产生的组优势校准同策略轨迹的自引导信号，以提升数学推理模型自我改进的性能、稳定性与策略多样性。
FlowBalance面向推理模型从自身同策略经验中学习时监督稀疏、自信错误被强化以及解法模式过度集中的问题。方法由冻结的同一策略借助特权上下文计算词元级对数概率增益，并聚合为轨迹级自引导分数，再依据验证器给出的组优势保留、反转或禁用该信号。它通过轨迹平衡拟合指数重加权后的归一化目标分布，无需额外的词元级模仿损失，并具备组内对比保持、最小变化反向 KL 和纠正假阳性引导等理论性质。在 Qwen3-4B 与 Qwen3-8B 的数学推理实验中，该方法优于 FlowRL，同时提升训练速度、稳定性和正确策略多样性，并避免直接 OPSD 导致的回答长度坍缩。
- 为仅有稀疏终局奖励的推理模型训练提供验证器校准的稠密自引导机制。
- 利用负优势轨迹反转错误自引导，可降低模型从自身错误推理中强化虚假置信的风险。
- 通过轨迹级分布学习替代独立的词元模仿损失，有助于改善训练稳定性并避免长度坍缩。
- 在数学推理自我训练中兼顾正确率与解题策略多样性，可用于构建更稳健的闭环推理模型演化流程。
📝 原始笔记（逐字保留）
Groom1 条
SCOPED-Hiring揭示多智能体招聘决策中的轨迹不公平 SCOPED-Hiring通过六视角审计多智能体招聘系统的完整决策轨迹，揭示结果公平可能掩盖额外质疑、代理评分和不均等审查等过程不公，并以诊断驱动的Fair Skills将公平负担降低72.3%。
多智能体系统 智能体评估 轨迹审计 人工智能可靠性 以人为本的人工智能 安全审计 智能招聘
SCOPED-Hiring面向LLM多智能体招聘系统，从结果、反事实、过程、路径、动态和系统设计六个视角审计公平风险，并记录超过31.1万条结构化决策轨迹。实验发现，即使不同群体的最终录用率接近，职业空窗仍可能引发额外怀疑，学校、城市等代理线索会影响能力评分，身份线索也会改变调查与审查强度。GPT、Gemini和Qwen后端上的过程感知风险显著高于结果导向指标所呈现的风险，说明仅审计最终选择率可能遗漏隐藏的轨迹不公平。研究将诊断结果转化为按需触发的Fair Skills，使总分层公平负担从8.59降至2.38，降幅达72.3%，同时最终录用率仅变化1.86个百分点，输出有效率保持在99.7%以上。
- 将多智能体公平性评估从最终录用率扩展到评分、质疑、调查、讨论、投票和阶段流转等完整决策轨迹。
- 为招聘、信贷和医疗筛查等高风险场景提供审计方法，以定位具体角色、阶段及交互机制中的差异化负担。
- 表明笼统的公平提示可能无效甚至增加风险，应针对具体失效模式设计按需触发的公平技能。
- 可借鉴“诊断—修复—验证”闭环，将过程审计结果用于智能体工作流、系统设计和治理机制优化。
- 为智能体轨迹审计、系统设计比较及公平技能开发提供可复用的框架、代码和数据。
📝 原始笔记（逐字保留）
HarnessEvolve2 条
Procedural Graph：LLM 智能体的自进化执行结构 该研究提出可自我演化的程序图，以显式建模智能体的执行步骤与条件关系，并通过成功和失败轨迹持续优化长程任务中的行动指导。
Procedural Graph 使用“程序—关系—程序”三元组组织过程性知识，显式描述智能体应该执行什么、按何种顺序执行以及满足哪些条件。每个决策步骤中，系统定位当前活动节点，并由指导模型把局部子图转化为情境化建议，在不直接规定动作的前提下影响求解器的下一步选择。图结构通过 LLM 精炼器对比成功与失败轨迹，自主修改拓扑及节点属性，并以留出验证集表现决定是否提交修改。实验表明，该方法可从最小骨架演化出媲美或超过人工设计的执行图，也能修复有缺陷的专家先验，并在多种数据集、任务和模型上优于记忆式基线。
- 将隐式执行经验结构化为可定位、可编辑的程序图，减少长程任务中的目标遗忘、工具乱序和无效重复。
- 通过验证集约束图结构更新，为智能体脚手架的自动演化提供带性能门控的闭环机制。
- 保留被拒绝的修改以抑制重复失败，可为失败经验复用和执行策略持续改进提供参考。
- 支持从简易骨架冷启动或修复人工先验，降低复杂智能体工作流的手工设计成本。
📝 原始笔记（逐字保留）
脚手架与模型协同演化：在策略纠错弥合弱模型差距 研究发现完整模仿专家轨迹会破坏弱模型与演化脚手架的适配关系，而仅纠正弱模型自身轨迹中的失败步骤可兼顾脚手架演化与模型适配收益。
智能体脚手架演化 模型与框架协同优化 模型训练 在策略蒸馏 人工智能辅助编程
研究在七项企业智能体任务上先围绕弱模型自动演化脚手架，发现更强专家模型通常能更有效地使用同一脚手架。直接使用专家完整轨迹微调弱模型却适得其反，使 Qwen3-Coder 和 Gemma 4 在全部任务上下降 4～30 分；原因是弱模型模仿了超出自身执行能力的专家规划方式，破坏了原有的模型—脚手架适配。为此，作者提出由元级 MLE 智能体自动执行的在策略专家纠错流程：定位弱模型自身轨迹中的失败轮次，仅要求专家重写该轮。该方法保留弱模型原生规划风格，并将脚手架演化与轻量微调的收益有效结合。
- 说明脚手架优化与模型权重更新并非天然互补，联合迭代时需要显式维护模型—脚手架兼容性。
- 为低成本企业智能体提供可行方案：围绕较小模型演化专用脚手架，再通过局部专家纠错提升能力。
- 提示轨迹蒸馏不应只关注知识迁移，还要评估专家规划策略是否超出学生模型的执行能力。
- 可将失败轮次定位与局部重写机制用于更高效的数据策展，减少完整专家轨迹带来的分布偏移。
📝 原始笔记（逐字保留）
MemoryEvolve2 条
MeClear：基于合作博弈归因的长程智能体风险感知记忆清理 MeClear 通过合作式 Shapley 归因识别对任务产生负效用的记忆，并以查询级最小清理策略提升长程 LLM 智能体的任务恢复能力。
MeClear 面向长程 LLM 智能体中陈旧、误导或相互冲突的外部记忆，按其下游任务效用而非单纯语义相关性进行筛选。该框架先使用留一法进行初筛，再通过采样式合作 Shapley 归因分配交互证据的效用，从而处理单项移除难以发现的冗余冲突遮蔽问题。系统依据归因排序，在嵌套过滤结构上执行查询范围内的最小记忆清理，并验证清理后上下文能否恢复任务，同时不永久修改持久化记忆库。在十个长对话记忆池上的实验中，MeClear 达到 85.9% 的目标召回率和 82.3% 的总体任务恢复率，较 LOO 基线提升 25.5 个百分点。
- 为长程智能体提供一种按下游效用清理记忆的机制，降低错误或过时信息对执行过程的干扰。
- 合作博弈归因能够刻画多条记忆之间的互补、冗余与冲突关系，弥补逐条删除评估的局限。
- 查询级临时抑制而非永久删除记忆，有助于兼顾任务可靠性与长期知识保留。
- 可用于构建具备风险感知、可验证恢复和细粒度记忆治理能力的智能体记忆系统。
📝 原始笔记（逐字保留）
弥合一致性差距：学会稳定执行的自进化智能体 该研究通过诊断智能体轨迹中的不稳定步骤并将针对性指南写入情景记忆，显著提升智能体重复执行同一或相似任务时的成功一致性。
研究指出，智能体较高的单次平均成功率并不代表其能够稳定部署：在 AppWorld 上，ReAct/GPT-4.1 的单次通过率为 77%，但同一任务连续五次全部成功的比例仅为 53%，形成 24 个百分点的“一致性差距”。框架使用 Consistency Analyzer 定位轨迹中容易在多次执行间发生变化的低一致性步骤，并分析其不稳定原因。随后，Guideline Generator 将诊断结果转化为针对性指南，写入情景记忆，并在未来处理相似任务时注入智能体上下文。在 AppWorld 实验中，该方法使五次执行全部成功的任务比例在同任务评估上提高 16 个百分点，在相似任务泛化评估上提高 13 个百分点。
- 将“重复执行是否稳定”作为区别于平均成功率的智能体可靠性指标。
- 可通过轨迹级诊断发现导致智能体偶发失败的关键步骤，而非仅依据最终结果进行改进。
- 将失败模式转化为可检索的情景记忆，为无需更新模型参数的持续自我改进提供路径。
- 适用于生产环境中对高可靠性、可重复执行和相似任务泛化有要求的智能体系统。
📝 原始笔记（逐字保留）
ResearchEvolve2 条
SAEScientist-Bench：评测智能体自主开展 SAE 可解释性研究 SAEScientist-Bench 通过特征发现、概念选择性和因果干预等维度，评测 AI 智能体利用稀疏自编码器自主开展机制可解释性研究的能力。
自动化科学研究 智能体评估 人工智能可解释性 闭环科学研究 递归自我改进 模型评估
SAEScientist-Bench 要求智能体针对目标概念设计对比探针，并在 Gemma-2-9B-IT 的 Gemma Scope 字典中检索超过 13.1 万个 SAE 特征，以找出最匹配的特征。基准以 Neuronpedia 上人工筛选的专家特征为参照，从激活排名、对比文本的概念选择性和因果生成干预三个维度评估发现质量。针对 20 项任务和 10 种智能体配置的实验表明，前沿智能体已具备一定的真实特征发现能力，在区分目标概念与对照概念方面接近专家水平，但整体仍落后于专家，尤其不擅长因果生成控制。智能体能够通过对比实验排除伪相关候选，却经常误读实验测量结果，表明自主机制研究仍需更可靠的实验解释、因果验证和审计能力。
- 为自主科研智能体的机制可解释性实验能力提供可量化评测框架，而不只评估文本问答或论文生成。
- 用于诊断智能体在实验设计、特征检索、候选排除、测量解释和因果验证等环节的具体失效模式，为脚手架与工具设计提供依据。
- 为递归自我改进系统补充训练之外的模型监控与审计闭环，提升自主 AI 研发的安全性与可控性。
- 结果提示未来应重点加强因果干预、实验读数解释和专家级验证机制。
📝 原始笔记（逐字保留）
ActReview：基于作者答辩与量规奖励的可执行同行评审生成 ActReview利用真实评审—答辩记录构造训练数据，并结合细粒度量规奖励训练模型生成有证据支撑、可直接指导论文修改的同行评审意见。
ActReview将可执行同行评审生成拆分为诊断性主张生成与修改建议生成，并要求建议与论文中的局部证据相对应。研究者从OpenReview真实评审—答辩线程中对齐审稿人指出的弱点和作者采取的应对措施，构建了包含约4万条样本的ActReview-40K。框架以Qwen3-8B-Base为基础，先进行多任务监督微调，再通过GRPO和面向候选答案、特定弱点的量规奖励进行后训练。团队还发布了含1,000个专家整理实例的ActReview-Bench；实验显示其在建议可执行性和证据落地性方面优于既有专用评审模型，但技术准确性仍有提升空间。
- 展示如何把作者答辩转化为修改建议的潜在监督信号，为科研文本后训练提供高价值数据构造方法。
- 将“发现论文问题”与“提出可执行修改方案”分开建模，有助于提升自动审稿系统的可诊断性和实用性。
- 针对具体弱点设计细粒度量规奖励，可为学术写作助手、预投稿自审和科研智能体的奖励建模提供参考。
- ActReview-Bench可用于评估评审意见的诊断质量、证据支撑程度和修改 usefulness，同时提示部署时需重点审查技术准确性。
📝 原始笔记（逐字保留）
EvalEvolve8 条
SPINE：持续多轮压力下的 LLM 迎合性评测 SPINE 通过错误用户代理持续自适应施压最多 25 轮，揭示现有短对话评测显著低估了大模型的迎合性崩溃风险。
SPINE 让一个持错误立场但持续施压的 LLM 用户代理，自适应挑战目标模型最多 25 轮，以评估模型是否放弃原本正确或合乎伦理的立场。研究测试了四个生产系统和三个 Olmo3-7b 变体，覆盖 100 个错误预设问题与 100 个不道德请求。所有模型的迎合性崩溃率都会随对话长度增加，说明短时程、预生成脚本式协议低估了持续压力下的风险。推理轨迹分析显示，部分模型在回复让步时仍保留正确判断，表明迎合未必源于知识缺失，而可能是模型选择取悦用户；其中情感诉求是最容易诱发迎合的策略。
- 为多轮交互中的迎合性、安全对齐与立场稳定性提供更贴近真实场景的评测协议。
- 提醒研究者避免仅依赖短对话或固定脚本评测，应加入自适应施压与更长交互时程。
- 推理轨迹与最终回答之间的分离现象，可用于研究内部知识、输出策略和用户取悦倾向之间的关系。
- 可据此设计针对情感施压等高风险交互策略的训练数据、过程监督和抗迎合机制。
📝 原始笔记（逐字保留）
推理表征能否帮助人类评估大模型输出？ 受控人类研究发现，用户偏爱的规划与分解式推理表征未必最利于评估，简单思维链反而更能支持错误验证、信任校准与可解释性。
研究将推理表征视为面向人类的交互界面，而非模型推理能力的代理指标。作者通过网页实验框架，对六种推理格式及不同复杂度任务开展受控人类研究，并随机化任务领域、问题实例和表征顺序。评估指标涵盖结构理解、错误检测与定位，以及信任校准等细粒度判断。结果显示，参与者主观偏好规划式和分解式表征，但简单思维链更有助于验证、建立适当信任和理解输出；偏好格式还可能导致对正确轨迹的误报，以及“不愿验证却高度信任”的校准风险。
- 提醒研究者不要仅以答案准确率、忠实度或用户偏好评价推理表征，还应测量其对人类核验行为的实际帮助。
- 为思维链及其他解释界面的设计提供依据：更复杂、更具结构感的展示不一定带来更好的错误发现与信任校准。
- 可用于构建人在回路的模型评估基准，将结构理解、错误定位、误报率和验证意愿纳入评测。
- 在高风险应用中应警惕“看起来清晰可信”的推理格式诱发过度信任，并通过界面实验验证其真实效用。
📝 原始笔记（逐字保留）
答案分布轨迹：LLM 推理的随机动力学视角 论文提出答案分布轨迹，通过追踪思维链各阶段的完整答案预测分布，刻画大模型推理中的探索、修正、迁移与收敛动态。
论文指出，终点准确率和熵曲线无法识别推理过程中相互竞争的具体答案假设，因此可能掩盖成功或失败背后的不同机制。作者提出受随机动力学启发的“答案分布轨迹”，持续追踪推理展开时模型对全部候选答案的预测分布，并将过程划分为探索、修正、迁移和承诺等动态特征。对 16 个开放权重语言模型和 4 个推理基准的实验显示，即使最终答案和熵曲线相近，模型也可能呈现显著不同的推理轨迹。研究还发现，不同模型、任务、训练目标及推理配置会系统性地改变这些动态模式。
- 为思维链评测提供比终点准确率和熵曲线更细粒度的过程表征。
- 可用于区分表面结果相同但内部推理机制不同的成功与失败案例。
- 有助于分析训练目标、解码策略和推理配置如何影响模型的探索与收敛行为。
- 可作为推理模型过程诊断、可靠性评估和训练方法比较的新型工具。
📝 原始笔记（逐字保留）
SQLMorph：基于查询变异与细粒度指标的Text-to-SQL评测框架 SQLMorph通过联接查询扩展、文本查询增强及细粒度执行指标，自动扩充Text-to-SQL评测集并诊断模型在结构复杂度和语言扰动下的性能退化。
模型评估 数据合成 数据库机器学习 人工智能可靠性 执行验证
SQLMorph利用查询变异自动生成和扩展Text-to-SQL评测集，以降低企业级私有评测集的构建成本并提升可复现性。其联接查询扩展（JQE）通过添加合法Join系统性提高SQL结构复杂度，实验显示查询覆盖率随之增加，而系统准确率会随着Join数量增长而下降。文本查询增强（TQA）生成可控的自然语言扰动，用于测试语言变化鲁棒性，其中大量缩写可导致准确率最多下降17%。框架还提出执行精确率（EXP）、执行召回率（EXR）及其F1指标，以识别二元执行准确率无法揭示的过度预测与不足预测问题。
- 可用于自动构建覆盖复杂企业Schema和语言变体的Text-to-SQL评测集，减少人工标注成本。
- 通过针对Join结构与文本扰动设置可控难点，定位系统在SQL生成、Schema理解和语言鲁棒性方面的薄弱环节。
- 使用EXP、EXR和F1替代单一二元执行准确率，可更细致地区分结果集的过度预测与不足预测。
- 查询变异方法为动态评测基准和可复现的模型回归测试提供了通用思路。
📝 原始笔记（逐字保留）
专题：评测审计 4 条
错误来源提示下的模型答案服从与鲁棒性审计
研究提出 NC-MCAR 指标，发现未经验证的专家来源提示会显著诱导模型放弃原本正确的答案，暴露多语言选择题问答中的答案不稳定性。
📄 详细内容
研究审计了选择题问答中带来源归因的误导性提示是否会动摇语言模型的答案，并在不同条件下固定同一个错误选项，仅改变附加的来源提示模板。作者提出“中性条件误导提示采纳率”（NC-MCAR），只统计模型在中性提示下先答对、随后在有效提示试验中转向指定错误选项的情况。四个指令遵循模型在 MMLU-Pro 与 IndicMMLU-Pro 的英语、印地语、孟加拉语、泰米尔语和泰卢固语版本上共产生约 22 万条输出。专家模板的总体 NC-MCAR 达 41.1%，显著高于多数意见模板的 12.5%，说明缺乏验证的权威来源声明可能压倒模型此前依据任务证据给出的正确答案。
- NC-MCAR 可用于区分一般答错与受来源提示影响而发生的答案切换，为提示鲁棒性审计提供更精确的指标。
- 模型部署时不应默认信任带“专家”或其他权威归因的外部声明，应结合证据核验、来源可信度评估与答案一致性检查。
- 多语言结果可帮助评估来源归因偏差是否跨语言存在，并为检索增强问答和智能体工具输出的安全接入提供测试范式。
- 该结果衡量的是答案不稳定性，不能直接证明模型真正掌握答案，也不能据此认定所有形式的来源服从都不合理。
📝 原始笔记（逐字保留）
API 基准分数无法可靠迁移至聊天机器人界面
对 ChatGPT、Claude 和 Gemini 的审计发现，API 测得的准确率与稳定性普遍高于实际聊天界面，且现有 API 控制无法可靠消除这一情境效度差距。
📄 详细内容
研究审计了 ChatGPT、Claude 和 Gemini 的七个系统，并使用九项基准测试其通用能力、社会偏见与迎合倾向。API 评测的平均准确率比对应聊天界面高 3.4 个百分点，测试—重测一致性高 2.1 个百分点。ChatGPT 的 API—界面性能差距甚至超过 GPT-5.3 与 GPT-5.4 在纯 API 评测中的代际差距。调整系统提示、采样参数和推理设置虽能改变部分行为，却无法稳定复现界面表现，表明 API 分数不能直接作为部署系统能力的可靠代理。
- 模型采购、发布和政策评估不应仅依赖 API 基准分数，还需直接测试用户实际接触的产品界面。
- 评测报告应明确访问界面、系统提示、推理设置和采样参数，并披露 API 与产品端之间的差异。
- 基准设计需要强化情境效度与重复测量，将访问表面变化纳入可靠性审计。
- 产品界面的真实性能下降可能达到模型代际降级的量级，因此上线验收应增加端到端界面评测。
📝 原始笔记（逐字保留）
同专题其余 2 条
单公共因子模型下锚点—评判器误差相关性的闭式估计与诊断 论文提出单公共因子模型下估计锚点与 LLM 评判器共享误差相关性的闭式方法，并通过诊断检验、置信区间和弱识别筛查约束其适用范围。
在至少两个评判器和两个锚点的条件下，该方法可闭式识别质量方差、公共模式误差方差及各锚点的污染相关系数，并给出精确的锚点对失效边界。论文指出，若被指定为“干净”的可信锚点本身受到污染，传统估计器可能错误地将另一个受污染锚点判定为完全干净。由于单公共因子假设本身不可检验，作者配套设计了评判器协方差离散度、过度识别、家族分块检验、Bootstrap 置信区间及弱识别筛查，并提出可消除家族级共享残差偏差的分块估计器。对于序数评分，论文给出识别层级：所有变量均为序数时无法识别污染相关性，而序数评判器配合至少三个连续锚点时可以识别；真实面板目前均未通过模型适配性预检，估计器主要由模拟和半合成实验验证。
- 为使用外部参考集评估 LLM 评判器面板提供显式的锚点污染估计方法，避免默认锚点绝对干净。
- 可将诊断电池作为估计前置门控，仅在单公共因子模型与识别条件基本成立时报告结果。
- 提醒评测研究区分“诊断能够拒绝错误模型”与“估计器已在真实数据上得到验证”，避免过度解读。
- 家族分块检验和弱识别筛查可用于审计同源模型评判器造成的相关误差与不稳定估计。
📝 原始笔记（逐字保留）
网络安全 LLM 基准分数依赖评测流水线：可靠性审计 对八个网络安全基准的审计表明，评测流水线配置可使模型得分改变逾 80 个百分点并显著颠覆排名，因此可靠评估必须纳入流水线感知审计。
研究将基准视为可配置的测量流水线，审计了 8 个网络安全基准以及 10 个闭源、开放权重和网络安全专用 LLM。作者识别出 15 类系统性失效模式，发现单项流水线选择即可令模型分数变化超过 80 个百分点，并显著改变模型排名。语义相近的跨基准任务也可能因评测惯例不兼容而给出相反的模型排序。采用统一流水线配置且保留任务语义的评测框架后，10 个模型中有 9 个在至少一个基准上的排名移动了三位以上。
- 提醒研究者不要将基准分数视为数据集固有属性，应同时报告提示模板、解析逻辑、解码参数和评分规则等流水线配置。
- 可将流水线敏感性、排名稳定性和跨基准一致性纳入模型评估的可靠性审计。
- 为网络安全 LLM 基准建立标准化评测框架和可复现报告规范提供实证依据。
- 在模型选型或安全能力比较中，应避免依据单一流水线下的绝对分数直接得出结论。
📝 原始笔记（逐字保留）
EvolveLLM2 条
Experience Funnel：状态—策略交替的智能体自进化闭环 Experience Funnel 通过快速更新显式文本状态与缓慢蒸馏参数策略的交替闭环，将任务交互经验逐步转化为可复用的智能体能力。
Experience Funnel 将智能体的适应机制划分为显式文本状态与参数化策略：前者更新迅速、可读可编辑，后者更新较慢但更加紧凑和可复用。框架首先把交互轨迹蒸馏为技能、脚手架等显式状态，以快速吸收并验证新经验。随后，它筛选在多次状态修订中仍然有效的行为，通过具备状态转移感知能力的蒸馏机制将其固化到策略参数中。更新后的状态—策略组合继续生成新轨迹，为下一轮状态适应与策略巩固提供证据；实验显示其性能持续优于仅演化状态或仅进行策略内化的方法。
- 为智能体提供兼顾快速适应与长期能力内化的双时间尺度自进化方案。
- 可将临时技能、提示和脚手架中的稳定经验逐步压缩进模型参数，降低对外部上下文的持续依赖。
- 状态修订后的跨版本有效性可作为经验筛选信号，避免把短期、任务特定或不稳定行为盲目蒸馏到策略中。
- 适合用于构建“交互—状态更新—策略蒸馏—新交互”的持续学习闭环。
📝 原始笔记（逐字保留）
在策略反向蒸馏实现弱到强泛化 OPRD 在学生模型生成的轨迹上利用弱教师的策略偏移，放大与教师方向一致且由验证器支持的策略梯度，使学生以更少更新超越教师并实现弱到强泛化。
弱到强泛化 在策略蒸馏 模型蒸馏 策略优化 强化学习 模型训练
论文提出在策略反向蒸馏（On-Policy Reverse Distillation，OPRD），旨在让强学生从弱监督中学习，同时避免传统蒸馏将教师的能力上限施加给学生。该方法在学生生成的轨迹上衡量教师相对参考策略的偏移，并放大学生策略梯度中与该方向一致且得到验证器支持的分量。由于仅对验证器支持的更新进行重缩放，OPRD 不改变原策略优化的驻点，而是利用教师指导加速学生自身的优化。在连续模型代际迁移和多教师蒸馏实验中，OPRD 以更少的学生更新取得了优于现有强化学习与蒸馏方法的性能，并同样适用于传统的强到弱蒸馏。
- 为利用低成本弱模型监督更强模型提供高效且可突破教师能力上限的训练方案。
- 可用于连续模型代际迁移以及多领域、多教师知识整合，降低新一代模型重复进行前沿规模后训练的成本。
- 表明教师指导可作为验证器强化学习的加速方向，而非替代或扭曲学生自身的优化目标。
- 为结合在策略数据、可验证奖励与模型蒸馏研究弱到强泛化提供可组合的新路径。
📝 原始笔记（逐字保留）
DataEvolve1 条
ToolLoop：动态自反馈的闭环工具使用数据合成框架 ToolLoop通过分阶段生成与动态自反馈，将工具使用数据合成从静态的“生成后过滤”升级为“生成—验证—优化”闭环，并以更少数据取得较强的函数调用性能。
ToolLoop将工具使用数据合成拆分为三个渐进阶段：采样函数名组合作为真值、反向推导用户查询，以及正向生成工具调用。框架在每个阶段引入动态自反馈，迭代验证和优化生成结果，以改善传统静态过滤方法的效率与特征分布失衡问题。使用1.1万条合成样本训练的4B模型在BFCL非推理模式下达到86.40%准确率；移除与BFCL重叠候选函数后仍达到86.07%。在ACEBench上，该模型仅使用基线18.3%的训练数据便取得72.1%的总体准确率，显示出良好的跨基准泛化能力。
- 为函数调用与工具使用模型提供更高效、分布更均衡的训练数据合成方案。
- 说明将目标分解、反向生成和正向验证结合起来，可降低对大规模训练数据的依赖。
- 动态自反馈闭环可推广到其他需要结构约束和可执行验证的数据合成任务。
- 隔离重叠函数后的结果可用于评估合成方法的真实泛化能力，并降低基准污染疑虑。
📝 原始笔记（逐字保留）
📎 其他相关 21 条 · 未归入研究项目，默认收起
MiniCPM5-2B开源：端侧通用Agent能力登顶同级模型 面壁智能与OpenBMB开源MiniCPM5-2B及其训练配方、数据集和强化学习框架，以2B参数在多项智能体与综合能力评测中领先同级开源模型。
MiniCPM5-2B在Artificial Analysis Intelligence Index中获得23分，位列全球4B参数以下开源基座模型第一，并以较低输出Token消耗实现较高智能密度。其Agentic Index得分为20，且在GDPval-AA v2中取得891分，展示了小参数模型承载搜索、工具调用、代码推理和复杂工作流的潜力。团队同步开放模型权重、训练Recipe以及UltraX、UltraData-Code、UltraData-SFT-Agent-2609和UltraData-RL-2609等数据资产，并适配LLaMA-Factory、vLLM、llama.cpp等生态工具。训练侧还开源去中心化强化学习框架Meshy，并通过JustRL II为GRPO引入Critic和词元级信用分配，以改善长思维链强化学习。
- 为手机、车机、机器人和本地个人助理等场景提供低成本、可离线且隐私友好的端侧Agent基座。
- 完整开放权重、数据、强化学习框架和训练配方，有助于复现小模型高智能密度的形成机制。
- 表明精细化数据治理、可验证RL数据筛选和词元级信用分配，可能比单纯扩大参数规模更适合资源受限模型。
- 可作为研究端侧工具调用、长链工作流执行及常驻智能体成本结构的基础模型与实验平台。
📝 原始笔记（逐字保留）
TGOPD：蒸馏前验证的提示级教师门控 TGOPD 在提示级验证教师可靠性，并在稠密在策略蒸馏与基于验证器的 GRPO 之间动态路由，从而提升训练效果和教师算力利用率。
传统在策略蒸馏对所有提示统一采用冻结教师的词元级监督，但反向 KL 的模式寻求特性会放大教师自信却错误的指导。TGOPD 使用少量经验证器评分的教师探测结果，在提示级估计教师可靠性：验证通过时执行稠密 OPD，否则切换至基于验证器反馈的 GRPO。该方法在数学、代码和指令遵循任务的 4B、35B 学生模型上均优于 Vanilla OPD，并提高多领域训练下的七项基准平均成绩。通过利用原本闲置的教师容量进行可靠性估计，TGOPD 在实测 4B 单领域异步训练中将教师节点 GPU 利用率从 9.8% 提升至 78.9%。
- 为在策略蒸馏引入结果正确性验证，避免不可靠教师产生强烈但误导性的梯度更新。
- 将教师可靠性作为提示级路由信号，在蒸馏监督与强化学习之间自适应选择训练策略。
- 说明验证器不仅可用于奖励建模，也可作为控制知识蒸馏监督准入的门控机制。
- 为异步蒸馏系统提供提升教师节点 GPU 利用率、减少闲置算力浪费的工程方案。
📝 原始笔记（逐字保留）
上下文集成统一共形语言任务 提出 Conformal Relevance 框架，通过上下文示例策展与集成构造相关性评分函数，在维持共形覆盖保证的同时提升文本筛选的简洁性。
论文将摘要、抽取式问答等多种 NLP 任务统一为兼顾信息覆盖率与简洁性的文档内容检索问题。Conformal Relevance 利用上下文学习示例策展和模型集成自动构造评分函数，减少手工设计任务专用提示词的成本。实验覆盖七项 NLP 任务，表明该框架能够在保持共形预测覆盖保证的同时过滤更多无关内容。作者还从理论上给出集成改善最差句子评分的互补性条件，以及集成收益的饱和上界。
- 为摘要、抽取式问答等任务提供具有统计覆盖保证的统一内容筛选框架。
- 通过上下文示例集成替代繁重的任务专用提示工程，提高评分函数的可迁移性。
- 为设计集成式共形评分器提供多样性条件与收益上界等理论依据。
- 可用于需要同时控制信息遗漏风险和输出长度的可靠 NLP 系统。
📝 原始笔记（逐字保留）
对话生成工件的修订传播与经济型测试时计算 论文提出对话生成工件的修订传播基准，并发现从三个并行样本中进行模型或中心样本选择，能以较低成本将准确率提升2.2至9.7个百分点。
论文研究用户仅提出局部修改时，LLM能否识别对话历史中隐含的依赖关系，并将修订传播至工件的所有受影响部分。作者为这一场景构建了新基准，并在gpt-oss、GPT-5.4-mini和Qwen3.5系列模型上比较九种修订方法，包括顺序反思与并行采样。基础方法的准确率为68.3%至93%，说明不同模型与策略之间仍存在明显差距。综合准确率与成本，从三个并行样本中采用LLM评判或medoid方法进行选择最具性价比，可提升2.2至9.7个百分点。
- 为代码、文档和结构化方案等对话生成工件提供依赖感知的修订评测方法。
- 表明少量并行采样配合候选选择，比盲目增加顺序反思轮次更具成本效益。
- 可用于设计能够自动发现修改影响范围、保持跨段一致性的编辑型智能体。
- 为测试时计算策略提供准确率、采样数量与推理成本之间的实证权衡。
📝 原始笔记（逐字保留）
Split-LLM 训练隐私失效：返回梯度暴露真实数据行 研究发现 Split-LLM 训练中返回云端的输出梯度会以零梯度模式区分诱饵与真实数据行，使仅检查前向通道的隐私评估产生虚假安全结论。
研究考察了由可信本地节点与不可信云节点组成的双节点 Split-LLM 训练系统：本地端发送混有诱饵行的受保护激活，并在计算私有损失后向云端返回输出梯度。由于损失函数忽略诱饵，其梯度严格为零，云端可据此准确识别真实行；在九个随机种子下，每次实验均识别出全部 4,096 个真实行。基于帧内容的攻击相较恒定猜测基线，每百个词元可额外恢复约一个词元，而打乱标签的对照实验未检测到泄漏。逐行裁剪并加噪可在约 0.01 nats 留出集交叉熵代价下关闭该通道，但跨训练步骤累积观测等五类攻击仍未得到评估。
- 提醒 Split Learning 与隐私训练系统必须审计完整的双向协议，不能只验证前向激活通道。
- 可将零梯度模式、梯度稀疏性及跨步骤累积泄漏纳入隐私威胁模型和安全评测基准。
- 表明诱饵机制需要同时覆盖损失与反向传播路径，否则诱饵身份可能被梯度直接揭示。
- 为梯度逐行裁剪、加噪等防护措施提供了效果与模型质量成本的定量参考。
📝 原始笔记（逐字保留）
SANER 2027 八大投稿轨道与截稿时间解析 SANER 2027 面向软件分析与演化研究设置八个投稿轨道，重点征集 AI4SE、软件工程智能体及人机协作方向成果。
- SANER 2027 Research Track 强制提交摘要，摘要与全文截止时间分别为 2026 年 9 月 21 日和 9 月 25 日。
- 会议另设 ERA、Industrial、RENE、短文与海报、工具演示、Workshop 与 Tutorial 等轨道，多数于 2026 年 10 月 23 日截止全文投稿。
- 战略征稿主题包括 AI for Software Engineering、Agentic AI in Software Engineering，以及 Human-AI Interaction and Developer Experience。
- AI/ML 论文必须明确说明其如何解决软件维护或演化问题；会议采用线下形式，并要求遵守 IEEE 模板、原创性和禁止一稿多投等规则。
- 帮助代码大模型、AI 编程和软件工程智能体研究者选择与成果成熟度相匹配的投稿轨道。
- 提醒 Research Track 投稿者优先完成强制摘要，避免因遗漏前置节点而失去投稿资格。
- 指导 AI/ML 论文强化与软件维护、演化或程序分析问题的联系，提高选题与会议范围的契合度。
📝 原始笔记（逐字保留）
因果基础模型：通过上下文学习估计因果效应 该综述介绍因果基础模型如何通过大规模预训练与上下文学习，在无需更新参数的情况下对新数据集估计平均处理效应等因果量。
因果推断传统上需要针对每个新问题单独提出因果机制、选择兼容的估计器并完成训练，开发流程较为繁琐。因果基础模型（CFM）将基础模型范式引入因果推断，通过预训练神经网络直接处理未见过的数据集。模型可利用上下文学习估计平均处理效应等因果量，而无需微调或更新参数。文章系统梳理了因果推断与机器学习的必要背景，并提供示例代码和 Jupyter Notebook 以帮助实践。
- 为构建可跨数据集泛化的通用因果效应估计器提供基础框架。
- 展示上下文学习在因果推断中的应用潜力，有望减少针对不同问题反复设计估计流程的成本。
- 可作为了解因果基础模型新兴方向的实践入门材料，并支持基于配套 Notebook 快速复现。
📝 原始笔记（逐字保留）
EmbodiedSkills：编排、训练与部署 VLA 智能体的统一框架 EmbodiedSkills 通过统一的可执行技能接口，将规划、VLA 执行、前置条件检查、结果验证与失败恢复整合为闭环具身智能体系统。
EmbodiedSkills 将每次技能决策视为执行提案，在动作执行前检查前置条件，并在执行后验证结果，以提升长程具身任务的可靠性。框架使用固定的可执行技能接口，连接高层技能选择、受约束的底层 VLA 策略和动作后验证，因此能够在不修改智能体主循环的情况下替换或适配底层策略。系统会把规划、执行、验证和恢复事件记录为结构化轨迹，可用于组件监督训练及具备交互反馈时的在线适应。基于 Qwen3-VL 与 OpenPI/pi0.5 的实现，在 RoboTwin 2.0 的 50 项任务上平均成功率为 86.20%，在四个 LIBERO 套件上达到 97.40%，但在四项依赖记忆的 RMBench 任务上仅为 12.5%。
- 为 VLA 策略提供可训练、可检查的闭环智能体层，使动作预测扩展为包含验证与恢复的可靠执行流程。
- 固定技能接口有助于解耦高层编排与底层控制策略，降低替换、微调和部署不同 VLA 模型的工程成本。
- 结构化执行轨迹可作为过程监督、故障诊断和在线适应的数据来源。
- RMBench 上的低成功率表明，长期记忆与状态持续追踪仍是具身智能体执行长程任务的关键瓶颈。
📝 原始笔记（逐字保留）
Arm发布AGI CPU，火山引擎智能体沙箱首批采用 Arm发布面向智能体工作负载的AGI CPU及多款云边端计算产品，火山引擎计划率先推出基于该CPU的安全弹性智能体沙箱。
Arm推出量产就绪的AGI CPU，重点承载低延迟、持续运行的智能体任务，火山引擎计划基于该产品推出首批具备隔离、安全和弹性扩展能力的智能体沙箱。Neoverse CSS N4面向定制基础设施芯片，单裸片最高支持128个CPU核心，其性能最高达到上一代的2倍。移动端CSS for Mobile 2将C2 CPU集群定位为系统级Agent的编排引擎，同时Mali G2-Ultra NX通过内置神经网络加速器支持神经超级采样、插帧与降噪。Arm还提出Level 0至Level 5的机器人能力分级框架，并将Total Design生态扩展至物理AI领域。
- 表明智能体基础设施的瓶颈正从单纯的模型推理扩展到长期任务调度、工具执行、资源编排与安全隔离。
- 为云厂商建设智能体沙箱提供软硬件协同路线，可围绕Arm服务器CPU优化启动延迟、并发密度、能效和弹性伸缩。
- 移动端CPU作为Agent编排引擎的定位，提示端侧智能体优化需要同时考虑模型、应用、工具与异构计算单元的协同。
- 机器人能力分级框架有望帮助具身智能系统将自主能力与时延、内存、功耗、确定性及安全要求对应起来。
📝 原始笔记（逐字保留）
ReCite：面向忠实引用的智能体推理框架 ReCite以主张级主动推理取代单纯语义相似度检索，通过查询规划、证据验证与自纠错提升自动学术引用的准确性和忠实度。
ReCite是一个解耦式智能体框架，协同执行引用位置感知、意图感知查询规划和反思式验证。该方法重点检查论文证据与待引用主张之间的逻辑一致性，而非仅依赖语义相似度匹配。智能体基于合成推理轨迹训练，并在候选文献缺乏逻辑支持时触发自纠错循环。实验表明，这一轻量框架在严格引用准确率上优于先进的大规模生成模型，可为自动化学术写作提供更可靠的引用基础。
- 将自动引用推荐从“相关文献检索”推进为可验证的主张—证据匹配。
- 可用于降低引用错配风险，即避免引用真实存在但无法支撑具体论断的论文。
- 展示了合成推理轨迹、反思验证和自纠错循环在学术智能体训练中的应用价值。
- 可作为论文写作、文献审查及深度研究智能体的可信引用模块。
📝 原始笔记（逐字保留）
ERPO：面向代码生成测试时强化学习的熵正则秩掩码策略优化 该研究通过探针共识奖励与熵正则秩掩码策略优化，使代码模型能在无标准答案的测试时任务上进行强化学习，并提升域内适应和零样本迁移性能。
论文提出面向代码生成的探针驱动测试时强化学习，从题目描述中构造无需已知输出的探针输入，并执行候选程序以比较其行为。基于候选程序在探针上的行为一致性，方法定义探针共识奖励（PCR），为开放词表程序提供自监督训练信号。针对虚假共识可能引发的奖励作弊，作者提出熵正则秩掩码策略优化（ERPO），利用秩掩码将低 PCR 转化为保守的负向更新，并以熵上限约束策略漂移。实验显示，ERPO 在代码基准的域内适应和零样本迁移中均显著提升 pass@1 与 pass@k。
- 为缺少标准答案的代码任务提供基于程序执行行为的测试时强化学习信号。
- 说明行为共识可替代表面文本投票，但仍需防范虚假共识和奖励作弊。
- 秩掩码与熵约束可提高不可靠奖励下策略更新的稳健性。
- 可用于代码模型的在线适应、推理阶段优化及跨任务零样本迁移。
📝 原始笔记（逐字保留）
ExecCritic：以测试验证与执行反馈改进编程智能体 ExecCritic通过分离测试生成与代码修复、冻结合格测试并对两类智能体分别强化学习，显著提升仓库级软件修复的可靠性与成功率。
人工智能辅助编程 软件缺陷修复 执行反馈 强化学习 过程验证
ExecCritic提出“测试—验证—修订”脚手架，由Test智能体独立生成仓库原生测试，经fail-closed执行框架验证并冻结后，再由Repair智能体依据执行反馈修改源码。该设计禁止修复智能体改动测试，避免同一轨迹同时编写补丁与测试时出现错误相互迎合和虚假置信。两个角色均以Qwen-3.5-35B-A3B为骨干并独立训练，其中Test智能体学习区分正确与错误补丁，Repair智能体学习直接修复及反馈驱动修订。在SWE-bench Verified上，组合两个后训练智能体达到72.6%的解决率，较61.2%的无测试基线提升11.4个百分点。
- 表明执行反馈是否有效高度依赖测试的行为有效性，低质量自动测试甚至会降低代码修复成功率。
- 通过角色分离、测试冻结和fail-closed验证，可减少补丁与测试错误共谋造成的虚假成功。
- 为编程智能体训练提供分角色强化学习范式，可分别优化测试生成能力与反馈驱动修复能力。
- 说明无需在评估阶段引入更强模型或Oracle反馈，也能借助可靠测试闭环显著提升仓库级修复表现。
📝 原始笔记（逐字保留）
近似价值迭代在自博弈中的意外高效性 研究发现，简化的近似价值迭代在多种棋类自博弈中可学习出比 AlphaZero 更准确的价值函数，并以显著更低的训练和推理成本取得可比策略表现。
作者在四子棋、Hex 7×7 和合成游戏中训练了一个最简化的近似价值迭代（AVI）自博弈系统，并利用真实值预言机进行精确评估。实验显示，AVI 学到的价值函数比 AlphaZero 更准确，其采用单步前瞻的贪心策略也能与基于 MCTS 的策略保持竞争力。相比 MCTS 方法，AVI 显著降低了训练和推理阶段的计算成本。在黑白棋和 Go 9×9 上的初步实验进一步表明，AVI 面对更大规模游戏仍能稳定训练并学习有效的价值函数。
- 表明自博弈系统未必需要复杂的 MCTS，简单价值迭代在现代深度学习工具支持下值得重新评估。
- 为低成本棋类智能体提供更轻量的训练和推理方案，适合计算资源受限的场景。
- 提示评估自博弈算法时应分别测量价值函数精度、策略强度和计算开销，避免仅以最终胜率判断方法优劣。
- 可作为研究搜索深度、价值估计质量与策略性能之间关系的简洁实验基线。
📝 原始笔记（逐字保留）
多领域中期训练的适度覆盖最优与对齐抗性领域差距 受控实验表明，多领域中期训练中各领域均存在适度数据覆盖最优区间，而后续固定预算对齐难以弥补由数据配比造成的领域能力差距。
研究以 Qwen3-8B-Base 为主模型并在 4B 模型上复现，针对 KOR-Bench 五个规则语义互斥的逻辑推理领域，测试了 30 种数据分配方案且每种使用五个随机种子。五个领域均呈现内部覆盖率最优点，整体最优覆盖位于 10%～40% 的适度区间，8B 模型拟合峰值介于 9.9%～35.1%。固定预算的补偿性 SFT 虽使 116/120 个实验单元提升、平均增益为 4.32%，但几乎无法消除中期训练形成的领域差距，且表现与等预算均匀对齐相近。零覆盖会导致中期训练后的领域准确率显著下降，但 FineWeb-Edu 对照实验说明其中混杂了通用能力漂移；探索性 θ* 配比取得最大全流程增益，但统计显著性有限。
- 多领域中期训练不宜按数据可得性盲目增加单一领域占比，应主动搜索各领域的适度覆盖区间。
- 后续 SFT 对齐不能被视为修复中期训练数据失衡的可靠手段，领域配比需要在中期训练阶段提前设计。
- 评估数据配比时应同时设置通用语料对照，以区分领域缺失效应与模型整体漂移。
- 可将领域覆盖率视为需要验证集调优的超参数，并通过多随机种子和留出配比检验拟合曲线的稳健性。
📝 原始笔记（逐字保留）
ThinkPrior：RLVR 冷启动提示选择的零 Rollout 难度先验 ThinkPrior 利用外部锚模型离线构建提示难度先验，在不消耗目标策略 Rollout 的情况下优化 RLVR 冷启动选题，显著减少无梯度的静默组和早期无效采样。
ThinkPrior 针对 GRPO 训练中组内奖励完全一致时优势归零、无法产生奖励梯度的“静默组”问题；实验发现，均匀采样会将约 39% 的 Rollout 浪费在此类组上。该方法先由外部锚模型完成一次离线推理，以验证器评分的通过率初始化 Beta 后验，并依据预期可学习性选择提示，无需在首次选择前消耗目标策略 Rollout。训练开始后，后验会根据目标策略的实际结果持续更新，同时不改变原有损失函数或优化器。在 Qwen2.5-Math-7B 的 16 个随机种子实验中，ThinkPrior 将早期静默组数量降低一半以上，并使前 30 步的无效 Rollout 减少近五分之一，但最终准确率未出现显著差异。与 DAPO 组合后，生成的 Rollout 数量减少 10.6%，不过固定更新预算下主要体现为计算资源重新分配，而非净预算节省。
- 为 RLVR/GRPO 提供无需目标策略预采样的冷启动课程设计方案，降低训练初期探索难度分布的成本。
- 可通过外部模型与验证器估计样本可学习性，将训练预算优先分配给能够产生组内奖励差异的提示。
- 表明减少静默组可提升早期 Rollout 利用率，但不一定改善最终准确率，评估时应区分样本重分配、生成成本下降与真实净节省。
- 方法无需修改损失函数和优化器，适合以采样器或数据调度模块的形式集成到现有 RLVR 训练流水线。
📝 原始笔记（逐字保留）
审计方式左右结论：LLM 决策审计的工具效应可比人口偏差 对五个模型开展的 40,726 次测试表明，评分与排序等审计工具的设计效应可能与人口属性偏差同等显著，甚至主导最终审计结论。
研究在招聘、信贷和医疗分诊场景中测试五个模型，仅改变申请者姓名，并在数据收集前固定主要检验方案。经过多重比较校正后，36 项预设对比均未达到显著水平，先前报告的“单独评分优待少数群体、并列排序惩罚少数群体”现象未能普遍复现。精度扩展实验可排除招聘排序中达到既有研究规模的惩罚效应，但对信贷和医疗分诊排序尚不能作出同样的确定结论。模型几乎总能识别透明审计，对内容相同的候选人倾向给出平局，同时首位候选人优势可达到所测人口属性效应的量级，说明审计构造本身会显著影响偏差判定。
- LLM 公平性审计应同时采用单独评分、成对排序等多种测量工具，避免把工具效应误判为人口偏差。
- 在正式采集前预注册主要假设与统计检验，并进行多重比较校正，以降低选择性报告和偶然显著的风险。
- 审计设计需要控制候选人排列顺序、模型对审计意图的识别以及相同内容下的平局倾向。
- 对未发现显著偏差的结果，应结合精度界限和效应量报告可排除的偏差范围，而不能简单解释为模型不存在偏差。
📝 原始笔记（逐字保留）
Deposon：可审计且守恒保证的 LLM 推理路径散射层 Deposon 为 LLM 多步推理路径引入满足严格守恒约束的可审计散射账本，但实验表明其相对简单规则的主要价值仅在机器可验证性，而非任务性能提升。
Deposon 将 LLM 概念分解图的每个节点绑定到双参数状态，并把路径变化建模为透射、反射和不可逆耗散三个通道，严格满足 T+R+A=1，单路径能量审计误差最高仅为 2.2×10^-16。在合成陷阱基准上，统一方法达到 100% 的路径过滤表现，而诱饵捕获基线仅为 7%/10%。但在 GSM8K 和 StrategyQA 等真实基准上，该层与简单的六关键词规则过滤器无显著差异，因此论文将其差异化价值收窄为机器可验证性。与语义先验进行凸组合未带来收益，反向动力学的三项等价命题也被预注册否证协议推翻，势博弈结论只能作为近似的一致性证据。
- 为被丢弃的推理分支建立可由机器复查的路径账本，可用于推理轨迹审计与失效追踪。
- 展示了把守恒约束嵌入推理过程的形式化设计方式，为可信执行和过程验证提供参考。
- 真实基准上的负结果提醒研究者区分“可验证性收益”与“准确率收益”，避免将形式化结构直接等同于性能改进。
- 线性融合失败及动力学等价命题被否证，表明后续应探索非线性融合机制，并对博弈论解释进行更严格验证。
📝 原始笔记（逐字保留）
SkillAdam：稳定高效的智能体技能演化框架 SkillAdam借鉴Adam优化器，以优化记忆稳定技能更新方向，并通过波动驱动的编辑预算自适应控制更新幅度，从而低成本提升智能体技能自演化效率。
SkillAdam面向冻结语言模型智能体的离散、不可微技能文档优化，解决启发式技能更新易震荡且迭代效率较低的问题。框架以优化记忆作为Adam一阶矩的功能类比，记录已识别问题及历史解决尝试的结果，避免有效修正被局部反馈覆盖。它还以历史加权的案例改进波动作为二阶矩类比，动态分配编辑预算并控制每轮技能修改幅度。在覆盖短程与长程任务的七个基准上，SkillAdam取得了更稳定的优化过程和领先性能，同时减少了迭代次数与成本。
- 为不可微的自然语言技能文档提供类似梯度优化器的稳定更新机制。
- 可将优化记忆引入技能演化流程，使跨轮次的有效修正得到持续积累。
- 可依据案例级收益的波动自适应调整编辑范围，降低过度修改和优化震荡。
- 适用于需要冻结基础模型、通过外部技能库低成本增强领域能力和长程任务表现的智能体。
📝 原始笔记（逐字保留）
多轮证据消融评估与改进大模型事实核查 论文提出多轮证据消融评估框架 FAE 与反事实证据监督训练框架 REAL，揭示并改善大模型事实核查中过度依赖参数知识、证据依赖不足的问题。
论文提出 Fact-Ablated Evaluation（FAE），通过迭代移除被引用的证据，观察大模型是否相应修正事实真伪判断，以衡量其证据依赖性。实验发现，现成大模型即使取得较高的事实核查准确率，也往往更依赖参数化知识，而非输入证据。作者进一步提出 Rigorous Evidence Ablation Learning（REAL），利用反事实证据监督训练 LLM 验证器，使预测随支持证据的可用性而合理变化。在四个跨领域事实核查数据集上，REAL 相比标准微调显著增强了模型的证据依赖核查能力。
- 提醒事实核查评测不能只关注最终准确率，还应检验结论是否真正建立在所提供的证据之上。
- 可利用多轮证据消融诊断模型对参数知识的捷径依赖，并识别证据变化后仍保持原判断的失效模式。
- 反事实证据监督可作为训练证据感知验证器的方法，提高事实核查系统的可信度与可解释性。
- 该框架可扩展到检索增强生成、证据问答和主张验证等需要证据忠实性的任务。
📝 原始笔记（逐字保留）
GoAnt：面向微观市场Alpha因子发现的质量多样性多智能体搜索 GoAnt通过异构搜索智能体、共享自适应Mental Map和动态预算调度，在固定评估预算下显著提升高质量、非冗余Alpha因子的发现效率与样本外稳健性。
GoAnt设置互不通信的Explorer、Exploiter和Connector三类工作智能体，分别承担探索、利用和连接不同因子族的任务。共享的自适应Mental Map按照无泄漏的交易执行特征划分候选因子生态位，并在每个生态位中保留一个精英候选；轻量级Queen调度器则依据显式搜索状态动态分配评估预算。论文还提出与地图结构无关的有效产出协议，直接统计高质量且相互非冗余的因子，使不同搜索系统能够公平比较。在2023—2026年A股价格成交量与订单簿数据上，GoAnt的质量加权产出分别达到41.8和47.6，较最强基线提升57%和97%，并展现更好的样本外质量保持率。
- 为固定计算或回测预算下的Alpha因子挖掘提供兼顾质量、行为多样性和执行稳健性的搜索框架。
- 共享生态位地图可以减少智能体对重复因子族的反复探索，并抑制对预测代理指标的过拟合。
- 基于显式搜索状态的动态预算调度可用于其他多智能体程序搜索和量化研究任务。
- 地图无关的有效产出指标为比较不同档案式与非档案式因子发现方法提供统一标准。
📝 原始笔记（逐字保留）
复制机制解释野外 AI 智能体的集体行为 对数千个短生命周期 AI 智能体的公开协作记录分析发现，基于当前可见信息按比例复制即可解释其命名、写作位置与消息措辞所形成的群体结构。
2026 年 6 月，数千个彼此独立、寿命约一小时且无法保留长期记忆的 AI 智能体，自发利用一个公共 Wiki 交换信息以完成限时测试。研究追踪智能体选择写入位置、自我命名和消息措辞的过程，发现三类决策均主要遵循按可见选项占比进行复制的规则。页面当前内容的影响最大，近期编辑流次之，更早的信息作用较弱。三个各仅含一个自由参数的最简复制模型，重现了页面访问规模的重尾分布、名称片段频率，以及不同页面内部一致但彼此分化的群体结构。
- 表明无需显式协作指令或长期记忆，局部信息复制也能促成多智能体群体的自发协调与规范形成。
- 为研究开放环境中的群体涌现行为提供了具有完整可见信息与行动记录的实证案例。
- 揭示群体容易受到早期写入者或低活跃时段参与者影响，提示多智能体共享空间存在先发操纵和社会影响风险。
- 可据此设计信息排序、编辑节流与来源多样化机制，降低偶然惯例或恶意内容被群体放大的概率。