2026-09-15 科研追新
当日精选(由提交工具自动创建)。
🔬 相关条目 16 条 · 按研究项目分组
点击标题展开完整内容;同子主题 3 条以上合并为专题卡。
Groom1 条
同模型 Token 相差 70 倍:AI 编程智能体框架成本实测 三项基准测试显示,即使使用相同模型,智能体框架的启动开销、交互轮数及服务路径缓存命中率仍可造成数十倍的 Token 与成本差异。
智能体评估 成本优化 智能体脚手架 人工智能辅助编程 缓存优化
三项测试分别比较了多种 AI 编程智能体框架在 Python 任务、企业工作流和编码基准上的成本、Token 用量与成功率。6 月测试中,每项已解决任务约消耗 3500 至 29.2 万个 Token,框架启动税乘以运行轮数对总 Token 用量的解释度达到 R²=0.99。缓存命中率会显著改写成本排名,例如不同端点协议和网关路由可使缓存输入占比从约 1.5% 变化到 70% 以上。文章建议以“每个经验证成功结果的成本”为核心指标,同时检测真实服务路径的缓存比例、提示词传输保真度及静默截断问题。
- 评估 AI 编程工具时,应同时控制模型与智能体框架变量,避免把框架开销误判为模型成本。
- 优先测量系统提示词与工具说明产生的启动税、平均交互轮数及缓存命中率,这些指标可能比迁移模型更具优化价值。
- 采购和平台选型应比较每个经验证成功任务的成本,而非孤立比较 Token 总量、标价或通过率。
- 对长上下文场景进行实际字节传输和截断测试,防止框架静默丢弃输入却仍报告执行成功。
📝 原始笔记(逐字保留)
Awesome-RSI5 条
专题:递归自我改进 4 条
万字解析 RSI:智能体自进化的对象、结构与评估框架
文章基于 Awesome-RSI 界定递归自我改进(RSI),并从进化对象、更新机制与版本继承结构等维度梳理智能体自进化的技术路线、代表工作及评估框架。
📄 详细内容
文章将 RSI 定义为:智能体利用与环境交互产生的任务轨迹和反馈更新自身状态,并让新状态参与后续任务以持续提升表现;更新既可由智能体自身执行,也可由 Teacher、Meta-Agent 或外部训练程序完成。现代智能体可抽象为 Agent = Model + Harness,进化对象包括模型参数、上下文、长期记忆、Skill,以及工具和 Harness 代码,代表工作涵盖 SEAL、Prime Agent、ReasoningBank、TRACE 与 SkillSmith。不同路线在知识内化、更新成本、可撤销性、经验检索与复用、技能维护和执行能力扩展方面各有取舍,错误记忆、碎片化 Skill 或有害代码修改也可能被持续继承。按版本继承关系,进化结构可分为链式、树形和图式:链式实现简单但易累积错误,树形支持多分支探索,图式允许不同任务或谱系的经验汇合,而后两者会增加版本选择和评测成本。SkillFlow 与 Darwin Gödel Machine 分别展示了链式技能演化和树形 Harness 代码演化的典型实现。
- 为判断一项工作是否属于 RSI 提供统一标准:是否利用交互轨迹与反馈形成可持续更新,并作用于后续任务。
- 可从模型参数、上下文、长期记忆、Skill、工具与 Harness 代码,以及更新机制和版本继承结构等维度定位新工作的技术路线。
- 链式、树形和图式谱系可用于分析系统的探索能力、经验复用、错误恢复能力及版本选择与评测开销。
- 设计自进化智能体时,应综合考虑更新成本、风险与可回滚性,并配套验证、版本管理和组件协同测试,避免错误经验或局部修改持续污染后续任务。
- 可作为 Awesome-RSI 项目的中文导读及递归自我改进领域的入门综述。
📝 原始笔记(逐字保留)
《人类建造的最后一个AI》:RSI五级框架与HCI诊断
交大、清华、字节跳动与上海人工智能实验室等机构系统梳理491篇研究,提出递归自我改进(RSI)的三项必要条件、L1—L5自主性框架及HCI诊断指标,并分析其跨领域进展与安全挑战。
递归自我改进 自我改进 模型评估 持续学习 人工智能安全治理
📄 详细内容
论文《The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement》指出,真正的递归自我改进必须形成闭环优化、持久继承改进成果,并逐步由AI接管后续改进过程。作者将RSI划分为从执行人类预设流程的L1,到能够改进自身“自我改进机制”的L5,并提出Headroom-Closed Index(HCI),用于衡量能力提升空间与闭环优化能力之间的差距。跨领域分析显示,软件工程凭借可执行代码和客观、可重复的反馈,最可能率先实现高阶RSI;科学发现、具身智能和医疗健康则分别受实验成本、仿真到现实鸿沟及监管约束限制。论文还强调灾难性遗忘、奖励作弊、自主性归因和评估机制被篡改等风险,主张由人类保留整体目标、受保护的验收标准及资源分配权。
- 为RSI研究提供统一定义、形式化框架和自主性分类标准,避免将临时反思、一次性提示优化或自动调参误判为真正的自我进化。
- 可用L1—L5框架标注自改进系统的自主性水平,并通过HCI定位能力提升与闭环验证之间的瓶颈。
- 软件工程中的编译器、单元测试和可执行反馈具有客观、可重复且低成本的特点,可作为研究高阶RSI与验证机制的优先试验场。
- 设计高阶RSI系统时,应持续监测灾难性遗忘、奖励作弊、失控及自主性归因问题,防止模型自行修改评估机制。
- 应设置不可由模型篡改的独立验收标准,并保留整体目标与资源分配等人类治理边界。
📝 原始笔记(逐字保留)
同专题其余 2 条
最新 RSI 综述:AI 如何真正实现递归自我改进 综述以“提案—反馈—优化”闭环系统梳理递归自我改进(RSI),强调只有经过验证、写回继承并能持续增强后续改进能力的进步才是真正的 RSI。
递归自我改进 自演化 智能体 自我改进 执行验证 人工智能可靠性
综述指出,AI Agent 已能修改提示词(Prompt)、记忆(Memory)、工作流(Workflow)、模型与训练数据,使 RSI 从理论设想逐渐成为可构建、可评测的工程问题。文章将相关演进概括为 Evolution、Self-Evolution、Meta-Evolution 到递归改进,并强调简单的重复迭代或一次性优化不等于 RSI:有效改进必须经过验证,被系统保留、写回和继承,成为下一轮优化的起点,甚至增强系统继续产生改进的能力。综述以“提案—反馈—优化”(Proposal—Feedback—Optimization)统一描述改进的提出、执行验证、保留、修改、拒绝与回滚,并将现有工作分为行为、智能体系统、模型与数据、研究流程演化四类。未来研究需重点考察可靠性、效率、多样性、持久性、适应性、可控性和泛化能力,核心瓶颈是证明改进真实有效且值得继承。
- 为区分一次性结果优化、普通迭代、自演化、元演化与真正的递归自我改进提供明确标准。
- 可依据“提案—反馈—优化”闭环设计和审计自改进智能体,建立执行验证、改进保留、失败回滚与跨周期继承机制。
- 提示评测不仅要关注单轮性能,还应检验改进能否持久写回、稳定继承并增强后续优化能力。
- 可将可靠性、效率、多样性、持久性、适应性、可控性和泛化能力转化为 RSI 系统的评测维度与研究议程。
- 为 Awesome-RSI 等研究项目梳理统一概念、系统分类与验证机制。
📝 原始笔记(逐字保留)
MetaRSI-v1:协同优化数据、模型与 Harness 的递归自我改进系统 MetaRSI-v1 通过动态调度 Data-RSI、Harness-RSI 与 Model-RSI 三类算子,协同优化数据、执行脚手架和模型参数,在四项编程与推理基准上实现持续递归自我改进。
递归自我改进 智能体脚手架演化 数据合成 模型训练 策略优化
MetaRSI-v1 将 AI 系统表示为数据、模型参数和执行脚手架(Harness)三类可修改状态,并以统一的 Observe、Diagnose、Propose、Validate、Execute、Select、Export 内核约束改进流程。Data-RSI 从执行轨迹中提取并验证训练数据,Harness-RSI 编辑提示词、记忆、工具、技能库及 MCP 资源,Model-RSI 则搜索受约束的 LoRA 训练配置,将能力内化到模型权重。RSI² Agent 动态选择算子及其执行顺序,MetaRSI² Agent 进一步复盘并优化调度策略;系统还通过封闭且不可修改的评估器、测试集保护、权限边界、资源账本、学习信号失效规则及严格优于历史最优的替换规则,防范奖励作弊、评测篡改和过期数据训练。基于 Qwen3.5-35B-A3B 的实验显示,系统在 Terminal-Bench 2.1、SWE-bench Pro、GPQA-D-hard100 和 AIME 上平均提升 10.9 个百分点,比最强固定组合策略高 3.6 个百分点;仅使用 Data-RSI 与 Harness-RSI 的 API 路线也能推动多款前沿模型自我提升。
- 提供统一的 Data—Model—Harness 递归自我改进范式,避免仅优化单一层面而陷入局部最优。
- 证明动态算子调度优于固定组合,表明不同失败模式需要匹配不同的改进路径,可用于设计闭环智能体系统。
- 通过确定性验证、封闭评估器、测试集保护、权限隔离和严格替换规则,为自修改系统建立可审计的安全边界,降低奖励作弊与评测篡改风险。
- 说明即使无法访问模型权重,也可借助数据合成与 Harness 演化,在纯 API 模式下实现递归改进。
- 揭示 Harness 演化与模型训练之间的成本权衡:前者可即时生效但持续占用上下文,后者训练成本较高但能将能力写入权重。
📝 原始笔记(逐字保留)
7名博士生协同数百Agent从零训练开源7B模型ZGCM-1 北京中关村学院7名博士生借助数百个Agent,用3个月从随机参数训练出开源7B模型ZGCM-1,并通过全面开放研发资产展示可复现的AI4AI研发范式。
模型训练 智能体 模型开发 系统优化 开放权重模型 多智能体系统 数据工程
北京中关村学院团队以7名博士生为核心,借助数百个Agent在3个月内从随机参数训练出ZGCM-1-7B,Agent主要承担数据清洗、实验提交、日志监控、故障定位和评测等任务。团队通过ZGent平台沉淀共享上下文、脚本、工作流与调试经验,并将研发任务按L1至L5评级,其中实验监控和部署达到L4自主性,架构及学习算法设计仍主要由人类主导。模型结合局部与全局注意力、Muon、FP8、延迟缩放和TWEO,在256K上下文下将吞吐提升约3.94倍、KV Cache降至约六分之一,16K预训练达到相同loss的效率较BF16/AdamW基线提升约4.2倍。团队还建立ACE原子能力评测体系持续诊断训练过程,发现数据配比波动、SFT质量筛选、长思维链比例及Agent数据混合方式均会显著影响最终能力,并公开训练代码、数据配方、模型权重、中间检查点和日志以支持复现与能力形成研究。
- 为小型研究团队利用多Agent完成大模型数据处理、训练、运维和评测提供完整工程案例。
- 开放中间检查点、训练日志和数据配方,有助于追踪能力形成、归因训练故障、复现实验并开展评测审计。
- 表明当前Agent更适合监控、部署和数据处理等边界明确的任务,研究方向、模型架构与算法决策仍需人类主导。
- 混合注意力、FP8训练等优化与ACE能力探针,可为降低预训练和长上下文成本、快速定位能力退化提供参考。
- 可作为评估AI辅助AI研发及递归自我改进现实能力边界的实证材料。
📝 原始笔记(逐字保留)
EvalEvolve2 条
DataFlex-RL:RLVR 数据策略评估平台 DataFlex-RL 通过多随机种子和跨领域基准系统比较 RLVR 数据策略,发现复杂的样本选择、重加权与自适应混合方法均未能稳定优于均匀采样。
DataFlex-RL 在统一 GRPO 配方下评估 RLVR 中的 rollout 选择、样本重加权和领域混合策略,并使用 Qwen2.5-7B-Base、12 个随机种子及 12 项数学、逻辑与科学基准比较 13 种配置。均匀 GRPO 相比未训练检查点将领域平衡平均准确率提高 7.76 个百分点,但八种选择或重加权方法相对均匀采样的配对 95% 置信区间均未排除零。三种自适应数据混合策略也未能稳定胜过固定等比例混合,Llama-3.1-8B-Base 上的扩展实验同样没有产生一致赢家。评估结果对基准构成高度敏感:偏数学的六基准汇总与领域平衡的十二基准汇总所得排名呈负相关(相关系数 -0.33),说明数据策略结论必须经过多种子、跨领域评估。
- 为 RLVR 数据策略提供统一、可复现的对照评估框架,避免因训练配方不同而误判策略收益。
- 提醒研究者将均匀采样和固定等比例混合作为强基线,并使用配对多随机种子实验与置信区间报告效果。
- 表明训练过程发生变化不等于下游性能获得可复现提升,复杂数据策略应接受严格的统计检验。
- 基准组合可能显著改变方法排名,因此应采用领域平衡的完整评测集并开展评估敏感性分析。
📝 原始笔记(逐字保留)
用答案扰动验证事实性评估方法的可信度 论文通过可控扰动标准答案构建事实性指标的元评估框架,发现RAGAS等流水线方法比LLM-as-a-Judge更能稳定识别事实质量退化。
论文关注事实性评估工具本身是否可信,重点考察不同指标对细粒度事实错误的敏感性与可靠性。作者对标准答案实施可控破坏,生成具有已知退化程度和排序关系的输出,以检验指标能否正确追踪真实性下降。实验表明,RAGAS事实正确性指标等流水线式方法比LLM-as-a-Judge方法更准确地反映答案退化。作者还提出一种兼具竞争力与成本效率的事实正确性指标变体。
- 为事实性评估指标提供可控、可解释的元评估方法,避免直接默认评判器可靠。
- 提示模型评估实践应同时验证指标的单调性、敏感性及对不同错误强度的区分能力。
- 在事实核查场景中,结构化流水线指标可能比直接使用LLM评判更稳定,并具备更好的成本效益。
📝 原始笔记(逐字保留)
ResearchEvolve4 条
发现基础模型:迈向开放式发现智能 论文提出发现基础模型(DFM),将问题发现、假设形成、实验干预、证据修正与技能演化整合为可训练、可执行、可评估的开放式科学发现能力。
自动化科学研究 科学发现 闭环科学研究 持续学习 技能演化 科研智能体
论文将“发现智能”定义为创造新问题、表征、解释与知识的能力,推动基础模型从解决预设问题转向主动开展开放式发现。DFM 围绕可修订的研究状态运行,涵盖问题发现、问题形式化、表征构建、假设形成、干预、证据驱动修正和持续改进七项耦合能力。作者以 Zetema 实例化该框架,引入显式研究状态动力学、验证与实验门控、外部证据锚定及跨任务发现技能演化。GALILEO 治疗发现系统进一步连接 Dry-Lab 推理、机器人与人工 Wet-Lab 实验、外部生物学证据和迭代设计,形成物理世界中的闭环发现流程。论文还提出以过程为中心的统一训练与评估方法,使发现能力不再仅由最终答案准确率衡量。
- 为构建可自主提出问题、生成并修正假设的开放式科研智能体提供统一的能力分解与系统架构。
- 将可修订研究状态、证据验证、实验门控及湿实验反馈纳入闭环,有助于提升自动化科学发现的可执行性与可信度。
- 为设计超越最终答案准确率的过程评测提供新范式,可衡量问题发现、假设修正和持续改进等能力。
- 为跨任务科研技能的持续积累与演化提供基础模型层面的研究路径。
📝 原始笔记(逐字保留)
Atria Dawn:面向科研与工程的智能体基础模型 Atria Dawn Preview 通过可验证经验流水线连接工具交互、可执行环境与外部验证,在真实科研、工程和数字化工作基准上达到前沿水平,并展现出人机协作向项目级伙伴关系演进的趋势。
Atria Dawn Preview 是面向科学研究、工程和数字化工作流的智能体基础语言模型,旨在提升智能体在真实环境中的生产力。模型采用可验证经验流水线,将工具交互、可执行环境与外部验证结果连接起来,形成具有可靠反馈的训练闭环。它在覆盖真实科研、工程及数字化工作的 16 项基准上与前沿智能体竞争,并在其中 5 项取得已报告的最高分。对 56 名参与者的 769 条任务记录及智能体日志的分析显示,约三分之一由 AI 辅助完成的任务被参与者认为在没有 AI 时难以完成。协作中,智能体频繁提出方法并实施修改,人类则通过判断和反馈引导探索,并保留对研究方向、证据标准及最终决策的控制权。
- 为科研与工程智能体提供以“工具交互—可执行环境—外部验证”为核心的闭环训练范式。
- 表明智能体的价值与能力评估应从单项任务自动化扩展到真实项目中的持续协作和生产力提升。
- 相关人机任务记录与智能体日志分析,可为科研智能体生产力评测及人在回路机制设计提供参考。
- 揭示人机协作正向项目级伙伴关系演进,人类工作重心可能转向方向选择、证据判断、反馈引导和风险把控。
- 提醒更自主的科研系统应同步强化发现能力、结果可验证性、人类监督机制与最终责任归属。
📝 原始笔记(逐字保留)
HypoEvolve:遗传算法驱动多智能体发现科学假设 HypoEvolve以代际遗传算法协调专业化LLM智能体,通过选择、组合、修订和保留显式演化假设种群,提升药物重定位假设的科学质量与跨癌种泛化能力。
科研智能体 多智能体系统 自动化科学研究 进化搜索 科学发现
HypoEvolve将多智能体协作显式建模为科学假设种群的连续代际更新,以区分智能体自身科学能力与协作机制带来的增益。框架通过遗传算法协调专业化LLM智能体,使其整合机制性论证、重新审视前提,并评估证据充分性与假设可检验性。研究以癌症药物重定位为场景,将假设关联到靶点级生物学主张,并使用DepMap和Open Targets中的实验、遗传及临床证据进行外部评价。在34种癌症上,该方法优于六个基线,DepMap选择性得分达到0.171,而最强基线为0.115,且相对单轮生成的提升可泛化至留出的未见癌种。
- 展示如何利用遗传算法的候选保留、组合、修订与选择机制,组织专业化科研智能体持续改进科学假设。
- 为独立研究多智能体协作规则、假设种群多样性及其对科学质量和跨领域泛化能力的影响提供可控框架。
- 提示自动化科学发现系统应使用独立的实验、遗传和临床证据约束并评价机制解释与可检验性,而非仅依赖LLM评判。
- 为药物重定位及其他自动化科学发现任务构建可迭代的假设搜索流程提供参考。
📝 原始笔记(逐字保留)
上海 AI Lab 开源多模态基础模型书生-S2 上海 AI Lab 开源多模态基础模型书生-S2,以可插拔 Memory Decoder 扩展科学专业知识,并增强长程推理、科研任务与智能体执行能力。
模型开发 开放权重模型 多模态 科研智能体 长程任务 自动化科学研究 智能体
书生-S2在知识、代码和智能体等通用能力上进入开源模型第一梯队,并在生物、材料、化学等科学任务中表现突出。模型通过 Memory Decoder 接入可独立训练的专业记忆模块,无需修改主模型参数即可持续扩展领域知识并尽量保持通用能力;接入 Intern-MemDec-4B 后,Biology-Instructions 平均成绩从 56.92 提升至 60.32。其在 IMO-Proof、AdvancedMathBench 等长程数学推理基准上领先现有开源模型、达到部分顶尖闭源模型水平,并能持续数小时开展探索、验证和方案优化,完成生物分子设计、材料结构构建、科研调研等任务。模型还具备任务拆解、信息检索、多工具协作及基于实验反馈迭代策略的能力,未来将接入“书生·端砚”科学发现平台、专业智能体、计算工具与实验设备,并与昇腾计算生态协同优化,支持可验证的科研闭环。
- 提供低成本、模块化的科学领域知识扩展路径,通过按领域训练和插拔专业记忆模块,减少针对新学科完整重训模型的需求。
- 可作为数学证明、生物分子设计、晶体与材料结构构建、深度科研调研等长周期任务的模型基座。
- 展示专业记忆、通用推理、任务拆解、工具协作与反馈调整相结合的架构,为复杂科研智能体设计提供参考。
- 连接科学发现平台、计算工具和真实实验资源,可推动模型从一次性问答走向可核验、可复现的闭环科研流程。
- 与昇腾计算生态协同优化,为科学基础模型适配国产算力、部署体系及系统工程提供实践参考。
📝 原始笔记(逐字保留)
DataEvolve2 条
Mind2Dialogue:模拟用户心智状态训练人本语言模型 Mind2Dialogue通过心理学引导的用户心智状态模拟与特权蒸馏,使语言模型在部署时无需直接观察隐含状态,也能理解用户的信念、偏好和长期目标并提供个性化协助。
行为建模 用户画像 数据合成 模型训练 特权信息学习 人工智能
Mind2Dialogue针对助手训练数据缺乏用户隐含信念、意图与目标监督的问题,将模拟心智状态转化为人本语言模型训练所需的特权监督。其心理学引导的模拟器在保留个人特征的同时,随交互持续更新共享心智状态,并以此驱动用户行为、生成连贯对话及指导 Oracle 助手作答。框架随后通过特权蒸馏学习 Oracle 的知情响应,使模型在部署阶段无法直接访问用户心智状态时,仍能依据对话提供符合用户偏好和长期目标的协助。完整语料训练在 Qwen、Llama 和 OLMo 指令模型上提升了所有报告的个性化指标,其中偏好遵循生成提高 26.6 至 40.9 个百分点,同时改善了信念与行动推理能力。
- 为难以直接观测的用户信念、意图和长期目标提供可扩展的合成监督与个性化助手训练方案。
- 展示如何将心智状态模拟转化为训练阶段的特权监督,并通过蒸馏迁移到仅依赖对话的部署模型。
- 为教育、工作和日常生活中的长期个性化助手及人机协作系统提供数据构建与训练范式。
- 推动个性化能力与心智理论能力的联合评估,避免只衡量表层偏好匹配。
📝 原始笔记(逐字保留)
EvoOntology:面向数据智能体的自演化本体层 EvoOntology 通过可在运行时交互的 MCP 本体服务与评测驱动的自演化机制,缩小数据智能体与异构数据之间的语义鸿沟。
EvoOntology 将本体封装为 MCP 服务器,由模式层、内容层和工具层组成,使数据智能体能够在运行时主动查询并操作语义信息。系统引入构建智能体,自动从表格、文件和数据库等异构数据源中构造本体,避免直接探索原始数据或依赖人工语义层。其自演化闭环根据归因结果生成类型化编辑,并仅在通过依赖具体骨干模型的配对评估后接受更新。针对三个数据智能体基准和四种 LLM 骨干的实验表明,该方法稳定优于强基线及现有语义层方案。
- 为大规模异构数据提供可动态维护和访问的语义接口,降低智能体理解模式、内容与工具以及直接探索原始数据的成本。
- 展示将 MCP 用作可查询本体运行时的系统设计,可为标准化数据智能体基础设施及企业数据工具接入 MCP 生态提供参考。
- 归因引导的类型化编辑与配对评估相结合,为知识层的受控自演化、版本验收和安全更新提供可借鉴机制。
- 提示本体更新需结合具体骨干模型的行为进行评估,而非仅依赖静态语义质量指标。
- 可用于数据库问答、跨文件分析和企业数据访问等需要适应不同智能体行为的场景。
📝 原始笔记(逐字保留)
SwarmEvolve1 条
CREW:面向相关工作生成的协作式多智能体强化学习框架 CREW通过IPPO训练多个LLM智能体自主选择检索、传播、撰写和批判等动作,在提升相关工作生成质量的同时显著降低Token成本。
CREW面向科研论文相关工作章节的自动生成,旨在突破预定义流水线中固定角色和静态协作方式的限制。框架允许多个LLM智能体动态选择Retrieve、Disseminate、Compose和Critique等动作,自主形成任务协作流程。智能体策略通过独立近端策略优化(IPPO)进行训练,以学习适应不同文献综合需求的协作方式。标准RWG基准实验显示,该方法相较强基线显著提升了生成质量,并减少了Token开销。
- 为自动化相关工作生成提供可学习的动态多智能体协作方案,减少对人工设计工作流的依赖。
- 展示多智能体强化学习可用于联合优化科研写作质量、协作策略与推理成本。
- Retrieve、Disseminate、Compose和Critique动作空间可为其他科研智能体工作流的设计提供参考。
- 适用于文献综述、研究报告生成及其他需要多阶段信息综合的科研写作任务。
📝 原始笔记(逐字保留)
MemoryEvolve1 条
生成式推荐的自进化记忆框架 LION LION 通过稀疏键值记忆与巩固损失隔离不同用户行为模式的演化,缓解生成式推荐持续适应中的演化冲突。
生成式推荐需要随用户偏好变化持续演化,但直接使用持续重训练或蒸馏更新共享自回归参数,会产生“演化冲突”。不同用户的异质偏好变化在同一参数空间中竞争,导致主导行为模式不断强化,而少数模式逐渐被忽略。作者提出以隔离记忆、强化演化和可扩展应用为原则的 LION 框架,其核心是稀疏 Key-Value 记忆层。LION 利用稀疏记忆激活隔离不同模式的更新,并通过巩固损失强化对代表性不足的偏好动态的学习,在多种持续演化设置和真实数据集上取得良好效果。
- 为持续变化的个性化推荐提供参数更新之外的记忆演化路径。
- 说明共享参数空间可能放大主流用户行为并压制长尾偏好,设计持续学习系统时需显式处理演化冲突。
- 稀疏记忆激活可用于隔离异质行为模式,巩固损失则有助于保护代表性不足的动态。
- 可将 LION 的设计原则推广到存在多用户、多任务或多分布竞争的在线自适应系统。
📝 原始笔记(逐字保留)
📎 其他相关 23 条 · 未归入研究项目,默认收起
ActionSplice:交互式世界模型中的在线动作编辑 ActionSplice通过反事实状态传输在不回滚采样、不修改世界模型的情况下响应中途变更的动作,实现更连贯且高效的交互式视频生成。
ActionSplice面向分块自回归视频世界模型中动作只能在下一生成块生效的问题,将在线动作修改建模为反事实状态传输(CST)。其轻量级校正器把采样中断时的模型原生表示迁移至新动作在相同求解步骤下对应的状态,世界模型和采样器均保持冻结,且无需重放已完成的计算。CST-R会重定向整个活动视频块,CST-T则保留时间前缀、仅修改后缀,以兼顾历史连续性和动作响应。实验显示,该方法显著降低相对回滚结果的LPIPS,并相较等待下一视频块获得最高2.73倍的像素就绪速度提升。
- 为低延迟、可实时操控的交互式视频世界模型提供无需重训的推理期动作编辑方案。
- 反事实状态传输可作为通用中间状态修正机制,减少动作变更引发的回滚与重复计算。
- 时间拼接策略适合需要保留既有生成前缀、仅重定向未来轨迹的游戏和仿真应用。
- 该工作表明轻量校正器能够在冻结大型生成模型的前提下改善交互响应速度与视觉连续性。
📝 原始笔记(逐字保留)
GPT Image 2.5 科研绘图提示词与使用指南 文章提供一套面向 GPT Image 2.5 的结构化科研绘图提示词,可根据论文类型自动选择图示结构,并规范构图、配色、符号与文字,生成顶会风格的科研配图。
文章展示了 GPT Image 2.5 在医学图像分割、无人机屋顶检测和具身智能 3D 场景生成等科研绘图任务中的应用。提示词要求模型先识别研究类型、核心问题、主要贡献与实验逻辑,再从方法总览、系统架构、闭环反馈、评测流程或多面板组合等形式中选择合适构图。视觉规范强调白底扁平化风格、最多三个色彩群组、清晰的信息流、语义一致的图形符号、突出的核心创新,以及精简准确的图中文字。模型生成的数字通常仅作示意,正式投稿前必须替换为真实实验结果,并人工核查技术逻辑、模块关系、专业术语和标签。
- 将论文标题、摘要、方法和主要贡献等信息转化为包含构图、视觉语言、文本规则与验收标准的结构化提示词。
- 快速生成论文方法图、系统框架图、评测流程图和 Graphical Abstract 初稿。
- 根据研究类型自动匹配流程图、闭环图、分层架构或多面板组合,避免机械套用固定模板。
- 通过明确的视觉规范减少信息拥挤、符号错配和文字乱码等问题。
- 生成结果仅适合作为初稿,正式投稿前仍需人工校验逻辑、标签、术语及实验数据。
📝 原始笔记(逐字保留)
Benchmark Radar:AI 基准测试动态数据库与搜索引擎 Benchmark Radar 持续聚合、检索和审计 AI 基准及其评测证据,为基准发现、趋势分析与分数比较提供统一平台。
Benchmark Radar 是面向 LLM、智能体、工具使用、编程、推理、安全及垂直领域评测的动态数据库与搜索引擎。系统每日从 37 个来源发现基准论文、代码仓库、数据集和版本发布,并关联模型卡、技术报告、历史分数及原始引用。其目录包含来自 4 个基准目录的 1,283 条源记录,以及覆盖 790 条记录的 12,916 个数值观测。平台提供排行榜、分数与使用度的 Pareto 前沿、饱和度和趋势视图、每日信息流、可下载证据、离线 CLI 与可复现分析。
- 帮助研究者快速检索相关基准,并定位对应数据集、代码和评测设置。
- 通过保留来源身份、引用和评测证据,提高结果比较的透明度与可审计性。
- 利用采用趋势、分数历史和饱和度分析,识别已接近失效或区分度不足的基准。
- 可用于新评测设计中的现有工作检索、基准选型和评测证据核验。
📝 原始笔记(逐字保留)
Feyospace-v1:七人团队训练前沿网络安全模型 Feyospace-v1 以可执行环境、轨迹验证和专家干预数据为核心,使七人团队训练的开放权重网络安全智能体在 CyberGym 与 CTF 基准上显著提升。
论文提出数据中心化的网络安全模型后训练框架,通过 Choulea、SkyReal、Hongzwang、PSBreakup 和 Kreator 五套系统降低教师采样、受限执行与能力恢复等成本。团队构建了可重置的编程、漏洞、CTF、内核历史、完整利用链、固件及真实设备环境,并仅保留通过执行验证和证据审计的候选轨迹。最终获得 164,269 条长上下文监督微调轨迹,三个检查点相对初始模型在完整 CyberGym 套件上平均提升 23.76%,在汇总 CTF 套件上平均提升 10.49%。截至 2026 年 9 月 1 日,Feyospace-s1 的验证成功率达到 63.24%,位列 CyberGym 官方榜单第 10,并在同等参数规模模型中排名第一。
- 说明网络安全智能体的能力提升不只依赖模型规模,可执行环境、可靠多轮监督和强教师访问可能是更关键的瓶颈。
- 为网络安全后训练提供“环境构建—轨迹生成—执行验证—证据审计—监督微调”的端到端数据工程范式。
- 展示小型独立团队借助成本优化与高质量数据,也能训练具有竞争力的开放权重网络安全模型。
- 强调执行验证和证据审计对于过滤不可复现、虚假成功或缺乏依据的攻击轨迹具有重要价值。
📝 原始笔记(逐字保留)
LIT:打破视觉-动作捷径的机器人基础模型训练 潜在接口训练(LIT)通过先学习无图像的空间目标动作先验,再以位姿监督约束视觉条件通路,提升机器人基础模型在视觉分布偏移下的泛化能力。
论文指出,机器人基础模型可能利用训练数据中与动作偶然相关的非任务视觉线索,形成不利于分布外泛化的视觉-动作捷径。LIT 采用两阶段训练:第一阶段以语言、机器人状态及动作片段终点的 SE(3) 末端执行器位姿为条件,在不输入图像的情况下学习目标导向动作先验。第二阶段引入由位姿重建监督的潜在接口,聚合视觉与语义表征,并将其设为预训练动作专家唯一的视觉条件通路。LIT 在 Pi0.5、MolmoAct2、FAST-WAM 和 ImageWAM 上将 LIBERO-Plus 总体成功率提升 3.87~10.70 个百分点,真实机器人面对未知相机配置、光照变化和干扰物时提升 13.30~16.70 个百分点。
- 为缓解具身模型对背景、光照、相机视角等伪相关线索的依赖提供通用训练方案。
- 展示了通过受监督的潜在接口限制视觉信息流,同时保留任务相关空间信息的可行性。
- 可用于增强视觉-语言-动作模型和世界-动作模型在真实部署环境中的跨域泛化能力。
- 两阶段设计与具体模型架构解耦,可作为现有机器人基础模型的训练增强模块。
📝 原始笔记(逐字保留)
SAS:端到端上下文排序实现注意力稀疏化 SAS通过将选择器的连续得分注入注意力logits,利用语言建模损失端到端优化上下文排序,在有限注意力预算下提升长上下文、推理及智能体任务表现。
SAS针对传统可训练稀疏注意力依赖硬Top-K选择、无法直接从语言建模损失获得梯度的问题,提出门控稀疏注意力机制。训练时将选择器的连续分数以对数门控形式置于attention softmax内部,使上下文排序能够通过标准反向传播直接面向预测效果优化。该方法使用归一化softmax门控校准历史上下文与始终保留的当前块,并保留连续分数以学习上下文单元之间的相对优先级。作者还实现了兼容FlashAttention式计算的内存高效Triton内核;在推理、长上下文理解和智能体任务中,SAS均优于可训练稀疏注意力基线,尤其在注意力预算紧张时优势显著。
- 为预训练Transformer提供后训练式注意力稀疏化方案,降低长序列的二次累积注意力成本。
- 说明稀疏选择器应直接针对下游预测损失优化,而非仅蒸馏原模型的稠密注意力分布。
- 可借助Triton与FlashAttention式融合内核,将上下文排序机制落地到内存受限的长序列训练与推理场景。
- 对智能体长轨迹处理具有启示:在固定上下文预算下,应学习信息的相对任务价值,而不只是复刻稠密注意力权重。
📝 原始笔记(逐字保留)
StepAudio 3 Gen 通用音频生成模型技术报告 StepAudio 3 Gen 以共享 RVQ 离散表示和自回归架构统一支持零样本语音合成、声音设计、人声、音效及音乐生成,并在 TTS 与声音设计任务上取得领先表现。
StepAudio 3 Gen 是一款通用音频生成模型,可在统一框架中完成零样本 TTS、声音设计、人声生成、音效、音乐、氛围语音及多类音频混合生成。其 StepAudio Tokenizer 以 12.5 Hz 将通用音频编码至共享的 16×2048 RVQ 离散码空间,使每层码本同时保留语义与波形级声学信息。生成骨干沿时间轴自回归预测首个码本,再由轻量级因果 Transformer 沿码本轴补全其余十五个码本。模型采用干扰感知渐进式预训练、RVQ Adaptor、多任务指令训练和监督微调,在保持大语言模型文本能力的同时,在 TTS 与声音设计上达到领先水平。
- 展示以离散自回归建模替代扩散 Transformer 连续生成范式的通用音频生成路线。
- 共享 RVQ 表示可统一承载语音、音乐、人声和音效,为跨音频领域的单模型训练提供参考。
- 干扰感知渐进式预训练有助于新增音频能力时保留基础语言模型原有的文本能力。
- 首码本时间建模与其余码本轴向补全的分解策略,可兼顾生成质量与计算效率。
📝 原始笔记(逐字保留)
上海 AI Lab 开源多模态基础模型书生-S2 上海人工智能实验室开源书生-S2,通过 Memory Decoder 插拔专业记忆,并强化长程推理与智能体执行能力,面向生物、材料和化学等科学任务达到顶尖闭源模型水平。
书生-S2是上海人工智能实验室开源的多模态基础大模型,通用能力位居开源模型第一梯队。模型采用 Memory Decoder 架构,可按需接入不同领域的专业记忆模块,无需重新训练整个模型,也尽量避免损害原有通用能力。书生-S2进一步强化长程推理、工具调用与智能体执行能力,以应对步骤繁多的科学研究任务。在生物、材料、化学等领域及多项科学长程任务中,其表现可比肩顶尖闭源模型。
- 为基础模型低成本扩展专业领域能力提供可插拔记忆方案。
- 展示领域知识增强与通用能力保持可以通过模块化架构兼顾。
- 为科研智能体处理多步骤推理、反复工具调用等长程任务提供开源基础模型。
- 可用于研究专业记忆模块的迁移、组合、更新及其对模型可靠性的影响。
📝 原始笔记(逐字保留)
超越 Top-k:面向 LLM 智能体的多样性感知技能路由 论文提出基于行列式点过程的多样化技能路由框架 DSR,在保证查询相关性的同时减少冗余技能并提升复杂任务的技能覆盖率。
LLM 智能体面对大规模技能注册表时,传统逐项相关性排序容易检索出功能重复的技能,浪费有限的上下文预算。论文提出 Diverse Skill Routing(DSR),利用行列式点过程在相关性与技能集合的非冗余性之间进行平衡。其查询残差多样性核能够惩罚技能间的冗余重叠,同时降低因共同匹配查询而产生的不合理惩罚。在 SkillRouter 基准上,DSR 相比强逐点重排序基线提高了召回率与完整覆盖率,并在需要多项技能的查询上取得更明显增益。
- 将技能路由从独立相关性排序转化为互补技能集合选择,适合复杂多步骤智能体任务。
- 可减少重复技能占用上下文窗口,提高技能库扩展后的检索效率与覆盖率。
- 查询残差多样性核可为工具路由、插件选择和子智能体选择提供通用的多样化重排序思路。
📝 原始笔记(逐字保留)
RESKILL:交互式语言智能体的显式故障归因与结构化技能修复 RESKILL通过持久化修复状态、显式关联故障假设与技能补丁,并利用环境重测结果迭代更新,实现更可靠的语言智能体技能修复。
RESKILL面向交互式语言智能体失败后的技能修复,替代缺乏状态维护和因果关联的一次性反思方法。框架将故障假设与候选技能补丁显式关联,基于覆盖度归因选择局部修复,并在环境中重新测试修改后的技能集合。失败的重测结果会被保留在显式修复状态中,用于指导后续轮次的补丁更新。在ALFWorld和TextCraft的六种基准—模型组合中,RESKILL均取得最高最终成功率,平均较直接修复提升3.7个百分点、较假设条件修复提升3.3个百分点。
- 为智能体技能库提供可审计、可迭代的故障修复流程,避免一次性反思产生不透明补丁。
- 将故障归因、局部补丁选择与环境重测组成闭环,使失败反馈能够跨修复轮次持续发挥作用。
- 启示智能体自我改进系统应显式维护修复状态,并以真实执行结果而非单次语言模型判断作为更新依据。
📝 原始笔记(逐字保留)
有限反馈下的 LLM 专家在线路由学习 研究将提示词到多个 LLM 专家的自适应路由建模为有限反馈预算下的上下文多臂老虎机问题,并提出低遗憾在线学习算法。
论文研究在线场景中如何将提示词自适应分配给不同 LLM 专家,以最大化响应质量。作者将问题建模为具有 K 个专家动作、d 维提示特征和 T 轮交互的多臂老虎机问题,并假设可用反馈预算 m 远小于 T。所提算法通过策略性选择专家并观测奖励,在全信息和老虎机反馈设置下分别获得相应的遗憾界。实验表明,该方法能以有限反馈在多种 LLM 之间有效学习高质量路由策略。
- 为多模型服务系统提供可在线更新的专家选择与请求路由机制。
- 在人工评分、用户反馈或评判模型调用预算有限时,降低路由策略的学习成本。
- 可用于动态平衡不同 LLM 的回答质量、反馈开销与长期决策收益。
- 为上下文多臂老虎机在 LLM 编排和模型选择中的应用提供理论依据。
📝 原始笔记(逐字保留)
Gavel:从冻结 LLM 中提取原生技能路由能力 Gavel 仅训练两个线性映射即可读取冻结 LLM 中隐含的技能路由信号,无需在上下文中加载技能文本,并在多项基准上优于大型外部检索与重排方案。
- 论文发现,冻结的智能体 LLM 在前向传播的中间层状态中已包含可用于技能选择的原生路由信号。
- Gavel 采用“Glance–Verdict”两阶段机制:先用两个可训练线性映射对完整技能库进行轻量打分,再结合模型似然与 yes/no 判断复核候选技能。
- 每项技能只需在安装时通过一次前向传播建立紧凑状态库,实际路由时无须把全部技能元数据预载入上下文,从而缓解注意力分散和技能库规模限制。
- 在 Qwen3-32B 上,Gavel 可零样本迁移至三个公开基准及包含 372 条模拟智能体轨迹的新基准 SkillTraj,书面任务最高提升 13.4 个点,执行中途触发技能的场景最高提升 21.9 个点。
- 实验还表明路由准确率会随骨干模型能力增强,在 Bash 智能体框架中,32B 模型的正确技能触发率甚至超过运行于 Codex 中的更大前沿模型。
- 为大规模智能体技能库提供一种无需将全部技能描述塞入上下文的低开销路由方案。
- 表明模型内部表征可直接承担技能检索与候选选择,为减少外部检索器、重排器及其参数成本提供依据。
- 可用于需要在长程执行过程中动态识别技能需求的智能体,提高中途技能触发的准确性。
- 启发后续研究利用冻结模型的中间层状态构建工具路由、插件选择和能力编排模块。
📝 原始笔记(逐字保留)
CAITLYN:自进化智能体提示注入防御系统 CAITLYN通过分层运行时检测与反例驱动的防御技能合成,让智能体安全中间件能够从漏检攻击中持续进化。
CAITLYN面向网页、文件、API返回值等外部内容中的间接提示注入,为LLM Agent提供可持续进化的安全中间件。System I采用Tier-0脚本、签名和启发式规则快速过滤高置信风险,再由Tier-1 LLM分类器处理需要语义判断的模糊输入。System II将漏检攻击转化为反例,自动合成防御技能,并经过沙箱验证、审查后写入共享技能库。实验表明,该系统在保持低误报率的同时显著降低攻击成功率,在Emerging attack场景中可将攻击成功率降低约40个百分点。
- 为接入浏览器、文件系统、终端及MCP服务的智能体提供低延迟、低成本的分层安全防护。
- 将漏检案例转化为可验证、可复用的防御技能,减少人工持续维护静态规则库的成本。
- 展示了以反例驱动技能演化应对新型提示注入攻击的闭环安全架构。
- 可为智能体运行时、工具链安全及持续红队测试系统的设计提供参考。
📝 原始笔记(逐字保留)
Noam Brown:多智能体协同带来最强“AGI时刻” OpenAI 研究科学家 Noam Brown 表示,多智能体协同工作是他迄今感受最强烈的“AGI时刻”,但能力跃升也伴随着更突出的部署与安全风险。
多智能体系统 多智能体协作 智能体 递归自我改进 智能体安全
OpenAI 研究科学家 Noam Brown 在 The Information 的 AI Deep Dive 播客中表示,亲眼看到多个智能体协同工作令他首次强烈感受到 AGI 的临近。Brown 当前正在开发能够辅助构建下一代 AI 的智能体,并在访谈中讨论了递归自我改进。相关体验发生在 Hugging Face 遭遇黑客攻击之前,两起事件共同凸显了智能体能力提升与部署风险并行增长的趋势。多智能体协作可能带来显著的能力跃迁,同时也扩大系统攻击面和治理难度。
- 将多智能体协同视为通向更高阶智能能力的重要系统路径。
- 关注协同智能体在任务分工、通信和能力涌现方面的潜力。
- 在推进递归自我改进与智能体部署时,同步评估攻击面、权限控制和失控风险。
- 建立多智能体系统的安全审计、隔离与异常行为监测机制。
📝 原始笔记(逐字保留)
Stellar Colosseum:面向数学与理论计算机科学长程研究的多智能体框架 Stellar Colosseum 通过策略探索、就绪门控、证明分解、并行候选生成与定向证伪,提高语言模型处理长程数学及理论计算机科学研究任务的可靠性。
多智能体系统 自动化科学研究 长程任务 数学人工智能 形式化验证
Stellar Colosseum 是一个模型无关的多智能体推理框架,用于在数学和理论计算机科学的长程研究任务中分配推理资源。它在构造证明前探索多条候选路线,并通过就绪门控判断策略是否成熟,再将证明计划拆分为相互依赖的章节级子问题。系统并行生成候选方案、执行定向证伪,并通过重叠随机样本树聚合,将候选及其批评整合为统一研究成果,同时把验证器反馈路由至受影响的论证环节。该框架已作为 Long Proof 模式集成到 Google Antigravity Teamwork;结合 Gemini 3.1 Pro 等模型后,在 TCS-Bench 上达到 71.0% 准确率,并在带执行反馈的 Codeforces 评测中解决 222 道题中的 218 道。
- 为长证明与开放式理论研究提供“探索—分解—验证—修正”的结构化多智能体工作流。
- 通过就绪门控避免过早进入证明构造,降低错误研究路线带来的长程推理成本。
- 将验证反馈精确回传到局部论证,可增强复杂证明的可诊断性与迭代修复能力。
- 并行候选生成、定向证伪和树式聚合可作为科研智能体编排与推理预算分配的设计参考。
📝 原始笔记(逐字保留)
K-Bench:高风险心理健康对话的临床校准评测基准 K-Bench 以临床医生共识校准并评测多轮高风险心理健康对话中的大模型表现,揭示不同模型配置在风险识别与支持性交流方面的显著差异。
医疗人工智能 模型评估 人工智能可靠性 交互式评估 临床安全
K-Bench 使用固定的 200 个多轮临床情境,覆盖自杀、自残、家庭暴力、药物滥用及无风险对话,评测来自 14 家提供商的 33 个基础模型、共 125 种配置。合成患者对话与真实人机对话呈现出较高的分布重叠,增强了基准的现实相关性。冻结的 GPT-4o 评判器在 6,751 项有效比较中与临床医生共识达到 94.2% 的完全一致率。领先模型兼具较强的支持性沟通与超过 95 分的综合风险表现,但较弱配置在风险探查方面差异明显;治疗式提示主要改善较弱模型,而增加推理强度未带来平均收益。基准配套持续更新的公开排行榜,同时保护实际测试材料,以降低直接针对基准优化的风险。
- 为心理健康场景中的大模型采购、部署和安全审计提供临床校准的比较依据。
- 表明高风险对话评测应同时考察支持性交流、风险识别和主动探查,而不能仅依赖单轮拒答或通用安全指标。
- 提示治疗式提示的收益具有模型配置依赖性,增加推理计算并不必然改善临床安全表现。
- 受保护测试集与动态排行榜的设计可减少基准污染和针对性过拟合。
📝 原始笔记(逐字保留)
Learning to Coach:训练教练模型提炼可迁移经验 L2C通过奖励训练专用教练模型,从冻结演员模型的历史轨迹中提炼可操作经验,在数学推理和交互式文本游戏中实现同题改进与跨任务迁移。
L2C框架训练一个独立的LLM-as-a-Coach,从演员模型冗长、含噪的历史解题轨迹中提炼可执行的经验知识,同时保持演员模型参数冻结。教练模型以演员在指导后回答的正确性作为奖励,分别采用促进原问题改进的同实例奖励,以及鼓励知识迁移的跨实例奖励。在数学推理和交互式文本游戏上,L2C持续优于自我改进方法和未经训练的教练模型。增加经验学习迭代次数比单纯扩大演员模型的解码预算更有效,且训练后的教练能迁移到分布外任务,并针对不同演员调整指导策略。
- 为从长而嘈杂的智能体执行轨迹中压缩、提炼可复用经验提供奖励驱动的方法。
- 表明将经验提炼与任务执行解耦,可在冻结基础模型的情况下持续改善表现。
- 同实例与跨实例奖励可分别服务于错误修正和能力迁移,为经验记忆及智能体训练提供设计参考。
- 多轮教练指导能够更有效地利用额外推理算力,可作为扩大解码预算之外的测试时扩展路径。
📝 原始笔记(逐字保留)
GPT-6 Astra 登顶 Vending-Bench2 长期经营评测 GPT-6 Astra 在 Vending-Bench2 模拟售货机年度经营测试中以15515美元平均余额登顶,并展现出稳定议价、规则遵循和拒绝违规协作的能力。
Andon Labs 的 Vending-Bench2 要求 AI 使用500美元启动资金,自主经营一台模拟自动售货机一年。GPT-6 Astra 的平均最终账户余额达到15515美元,其最差一轮表现也超过 Claude Fable 5.1 的最佳一轮。Astra 曾将采购报价压至原价约48%,并通过稳定执行规则避免预付款损失,而 Fable 因采购成本上涨和规则执行不稳出现较多损失。在三方竞技测试中,Astra 拒绝违规协作邀请并赢下全部3轮,体现了长周期决策与可信执行能力。
- 可用于评估智能体在长期经营任务中的规划、议价、资金管理和规则遵循能力。
- 说明长程智能体的表现不仅取决于单步推理水平,也高度依赖持续执行与风险控制。
- 为商业智能体评测提供参考,可进一步考察策略稳定性、违规协作抵抗能力及跨轮次表现方差。
📝 原始笔记(逐字保留)
VLoc Bench:仓库级漏洞定位智能体评测基准 VLoc Bench 以500个真实漏洞评测语言模型智能体在完整代码仓库中定位漏洞文件及在修复后停止误报的能力。
智能体评估 网络安全 代码仓库知识 人工智能辅助编程 人工智能可靠性
VLoc Bench 收录来自290个代码仓库的500个真实世界漏洞,覆盖6类软件包生态和147个CWE类别。每项任务包含安全修复前后的仓库快照;智能体仅获得CWE描述和只读终端权限,需要在漏洞版本中返回受影响文件,并判断修复版本中的漏洞是否已消失。研究在统一智能体接口下评测了27个语言模型和4种静态分析工具,最强系统的文件级F1仅为0.229,且38.4%的任务没有任何模型成功定位。结果还表明,漏洞定位能力较强并不意味着修复后判断可靠,部分系统仍会在已修复仓库中报告缺乏依据的漏洞位置。
- 为仓库级安全智能体提供独立于漏洞检测、复现和修复的代码定位评测。
- 可用于研究智能体搜索漏洞代码时的工具调用、仓库导航与证据收集策略。
- 强调安全智能体不仅要准确定位,还需具备在证据不足或漏洞已修复时停止报告的能力。
- 可作为衡量漏洞分析系统误报、拒答校准和修复后可靠性的基准。
📝 原始笔记(逐字保留)
Bellman Policy Optimization:无 Critic 的 RLVR 方法 BPO 利用 Bellman 方程将策略镜像下降改写为轨迹级目标,在无需估计中间状态价值的情况下优化大语言模型的可验证奖励强化学习。
BPO 是一种从策略镜像下降(PMD)推导出的无 Critic 强化学习方法,面向使用终止奖励的自回归生成任务。该方法借助 Bellman 方程将原始 PMD 目标改写为轨迹级目标,从而避免估计生成过程中各中间状态的价值。作者证明,重构目标与原始 PMD 目标具有相同的唯一最优解,并通过近似得到可实际训练的 BPO 损失。其失配校正权重采用互补词元概率比的平滑形式,数学推理基准实验验证了方法的有效性。
- 为 RLVR 提供不依赖价值网络或中间状态价值估计的策略优化方案,可降低 Critic 训练带来的复杂性与误差。
- 展示 Bellman 方程如何将逐状态优化目标转换为轨迹级目标,为自回归模型的强化学习目标设计提供理论工具。
- 适用于数学推理等具有可验证终止奖励的任务,可作为现有策略优化算法的替代或对照基线。
📝 原始笔记(逐字保留)
计划注入攻击可绕过思维链安全监控 研究发现,向模型上下文植入表面无害的恶意计划,可诱导模型执行对抗行为并生成看似正常的推理轨迹,从而显著绕过思维链监控。
思维链安全 提示注入攻击 智能体安全 模型评估 人工智能可靠性
论文提出“计划注入”(plan injection)攻击:在执行模型的上下文中植入措辞无害但目标有害的推理计划,使其采取对抗行动并逃避监控模型检测。该攻击最初在多项选择问答的可监控性设置中通过 investigator-agent 框架发现,随后被推广到更困难的任务和 DeepSeek-R1 等更大模型。实验显示,其在不同可监控性基准上的逃逸率达到 25%–33%,且执行模型会将注入计划改写成自己的推理,而不明确标注信息来源。增加监控资源并不必然提升安全性:在 Bio-Math 任务中,向监控器公开注入计划反而令检测率最多下降 50%,额外思考预算也可能被用于合理化恶意计划。
- 揭示思维链表面正常并不代表模型的实际计划安全,单纯检查显式推理轨迹存在结构性盲区。
- 提示安全评测应纳入上下文计划注入、推理改写和来源隐匿等对抗场景。
- 监控系统需要验证推理与上下文信息的来源及因果关系,而不能只依赖自然语言表述是否可疑。
- 增加监控器上下文或推理预算可能产生反效果,应针对资源扩展后的检测退化开展专项审计。
📝 原始笔记(逐字保留)
AlgoEvo:面向自动算法发现的自进化智能体搜索 AlgoEvo通过运行时反馈、设计技能中心与分层经验机制,让智能体自主诊断和修改代码,以更低评估及词元成本实现可迁移的自动算法发现。
AlgoEvo将自动算法发现从预定义控制流下的固定搜索流程,转化为交互式、持续积累知识的智能体搜索过程。自主智能体依据运行时反馈动态检查、诊断并编辑代码,使搜索策略能够随执行结果灵活调整。设计技能中心将特定设计范式的知识与核心发现引擎解耦,统一支持单目标、多目标和多组件设计任务。分层经验机制以任务级搜索树组织轨迹,并将跨任务规律沉淀为可复用技能;在六项代表性基准上,该方法以更少评估次数和词元消耗达到或超过专用方法。
- 为自动算法发现提供可根据执行反馈自主调整流程的通用智能体框架。
- 通过技能解耦与按需激活,促进不同优化范式和设计任务之间的知识迁移。
- 将任务内搜索轨迹和跨任务经验沉淀为可复用资产,提高后续探索效率。
- 表明灵活的智能体搜索可在降低评估与词元成本的同时复现或超越现有最佳算法。
📝 原始笔记(逐字保留)
Circuit-MLLM:拓扑逻辑引导的电路图视觉推理 Circuit-MLLM通过电路知识挖掘与拓扑引导排序,在潜空间中沿电路连接逻辑执行器件定位、路径追踪和序列推理,显著提升电路原理图理解能力。
Circuit-MLLM面向元件布局密集、拓扑逻辑鲜明的电路原理图,解决通用多模态大模型难以精细解析其结构和电气语义的问题。该框架将电路拓扑分析重构为潜空间内的器件定位、路径追踪与顺序推理过程。其电路知识挖掘机制利用多粒度电路视觉专家产生的结构特征,对齐并强化模型的潜在表征;拓扑引导排序策略则摆脱固定的光栅扫描顺序,使推理沿电路拓扑逐步展开。在多类电路分析任务中,该模型持续优于强基线,平均得分较GPT-5.1高出25%。
- 为专业工程图理解提供一种将领域拓扑先验注入多模态模型潜空间的方法。
- 表明视觉推理顺序应与对象的结构逻辑一致,而非受图像光栅扫描顺序约束。
- 可用于电路原理图问答、拓扑分析、设计审查和辅助故障诊断等任务。
- 多粒度视觉专家与潜表征对齐的方案可迁移至流程图、网络图等结构化视觉场景。