2026-09-02 科研追新

DataFoundry 将数据准备流水线组织为 Skills-as-Modules，由 Controller 编译模块，并在小规模 pilot set 上检查数据缺陷。系统把诊断结果转化为 adapter，对分块、指令和回答组件实施保留接口的局部修改，形成递归自我改进闭环。在数学、金融、法律和医疗领域，使用 Qwen2.5-7B 与 Llama-3.1-8B 的实验总体优于竞争数据生成器，表明缺陷定位和局部修补策略具有跨模型迁移性。轮次实验同时显示自改进存在最佳停止点，继续迭代可能导致性能明显退化，因此轮次控制和回归验证至关重要。

论文提出归一化低秩适配（Normalized Low-Rank Adaptation，NoRA），针对 LoRA 训练动态缺乏有效正则化的问题改进参数高效适配。由于 LoRA 的上投影通常采用零初始化，早期优化主要受下投影矩阵支配，因此 NoRA 在训练过程中对下投影矩阵进行归一化。实验还表明，仅在初始化阶段应用一次归一化，也能改善标准 LoRA，无需在整个训练过程中重复操作。NoRA 在预训练、监督微调和强化学习中均能加快收敛、改善性能与训练稳定性，并缓解灾难性遗忘，且不增加可训练参数或推理计算量。

• 扩散语言模型不按从左到右的顺序逐 Token 解码，而是先形成全局框架，再并行修正多个位置，从而更充分地利用端侧 GPU 的并行算力。
• DiffuSpace 与 Acrab 的测试显示，dLLM 在端侧 Agent 场景中可实现约 5 倍提速；在代码等结构可预测的任务中，每一步可生成约 7～10 个 Token。
• 对需要反复执行规划、检索、工具调用和校验的 Agent，单次生成延迟会沿任务链累积，因此并行生成可显著缩短整体执行时间并降低服务成本。
• dLLM 还支持依据局部修改自适应调整后续内容，并保留未受影响的部分，在可编辑性、全局搜索和多样化候选探索方面具有潜在优势。
• 当前产业化瓶颈包括训练成本较高，以及专用算子、推理系统和基础设施尚不成熟，但团队计划继续扩大模型规模并推进 AI PC、汽车、机器人和智能家居应用。

iCoder 项目由上海交通大学、深势科技、无尽前沿与新加坡国立大学联合开展，让 Agent 主导一个 27B 工业 Coding 模型的数据、SFT、同策略自蒸馏（OPSD）和可验证奖励强化学习（RLVR）流程。人类专家负责设定目标、权限边界、训练 SOP、可信验证器和可追溯机制，Agent 则依据实验反馈选择方案、诊断失败并修改训练策略。最终模型在 RTLLM、VerilogEval 和 KernelBench 等 RTL 与 GPU Kernel 基准上显著超过同尺寸基础模型，并能在真实 EDA 循环中持续搜索更优设计。项目还暴露并修复了重复崩溃、奖励作弊、基础设施故障误计为负奖励及长度过滤导致评测分布偏移等问题，说明验证器与训练基础设施也是自进化闭环的关键组成部分。

OpenClaw 2.0 汇集 933 名贡献者和 1.6 万个 PR，重点改进自动配置、浏览器端性能、插件来源验证及凭证隔离，并新增可移交任务上下文的共享云会话。项目早期增长依赖 Claude 订阅的低成本 OAuth 使用方式，Anthropic 收紧第三方授权后，API 成本激增与恶意技能风险导致用户流失。文章认为 OpenClaw 提前验证了 Agent Harness 架构，即由模型外围系统承担工具调度、权限管理、会话记忆、执行沙箱和断点恢复。2.0 默认开启 Skill Workshop 自动学习，但技能沉淀效果仍待验证；在 Claude Code、Codex、OpenCode 和飞书 CLI 等产品挤压下，其产品窗口期可能已经关闭。

Zeva被称为首个实现In-Context Causal Learning（ICCL）的具身WAM，可在模型权重冻结的情况下从动作与状态变化中提取因果关系。其框架包含Causal Transition Encoder、双时标因果记忆和In-Context Policy Injection：短期轨迹维持单次执行连贯性，持久记忆则跨尝试积累可复用经验。决策时，系统检索与当前任务阶段匹配的交互证据并构造Causal Prompt，注入冻结的Cosmos3动作生成模型，全程无需梯度更新。在RoboCasa365上，其累计成功率从首次演化的26%提升至第四次的73%；在真实化学实验室任务中也随尝试次数稳定提升。Zeva还支持单次人类演示初始化记忆，无需微调即可复现新操作，并可将仿真或历史交互中的物理因果迁移到新任务与真实环境。

RPM 将科研搜索中的算力分配重构为偏好排序问题，在完整训练前根据代码差异、历史轨迹和验证得分筛选候选分支。Inference-only RPM 使用冻结的大语言模型进行结构化比较，Agentic RPM 则可在沙盒中调用 Python、Bash 等工具开展限时先导实验，再依据反馈做出选择。系统通过淘汰赛从并行生成的候选代码中选出一个进行全量 GPU 训练，并将结果写回 AIRA-dojo 搜索树。在 AIRS-Bench 的 20 项任务上，两种 RPM 将平均归一化得分从 0.684 提升至 0.711 和 0.729，约 15 小时即可追平无引导智能体运行 24 小时的表现。

• JIT-Agent 不再为所有任务使用固定 Harness，而是根据当前任务即时生成匹配的记忆、规划、动作和能力编排模块，并通过统一接口约束组合空间。
• 训练分为任务定制、基于编译及运行时错误的局部修复、使用 Evo-GDPO 超越现有候选档案三个阶段。
• 据原帖介绍，该方法在覆盖深度研究、办公、规划和工作区操作的 9 个基准中取得 8 项最佳，同一底座的 18 组对比均有提升。
• 在固定底座的受控实验中，其平均单题成本据称较最便宜的固定 Harness 降低 36%，但在线生成、验证与修复的实际成本仍需进一步测试。

Lucida面向可组合真实到模拟场景建模，将真实室内环境恢复为可独立操控的完整物体资产及其空间布局。框架首先把视频解析为场景图，并在每个实例节点中汇聚多视角证据，再据此生成被遮挡物体的完整资产。其GizmoAct模块利用VLM策略将资产放置建模为多轮GUI交互，通过闭环操纵物体控制器并自主判断对齐完成时机。在R2S-Scene、CA-1M等评测上，Lucida显著改善三维目标检测、姿态估计和场景重建性能，场景F-Score达到0.924。

传统潜在生成模型通常先训练用于重建的VAE，再在冻结的潜空间上训练生成模型，但重建友好的表征未必适合生成。研究发现，KL散度中的熵项对避免潜变量坍塌至关重要，同时重建学习快、监督强，而生成学习更慢、更难优化，两者存在不对称动态。GenFirst先在较弱重建压力下利用生成目标塑造潜空间，随后逐步加强重建以恢复视觉细节，从而稳定联合训练编码器与生成先验。在ImageNet-256上，SiT使用CFG取得0.97 gFID、不使用CFG取得1.45 gFID；MMDiT在文生图GenEval上达到0.90，并可扩展到生成与表征共享视觉潜变量及统一文本—图像生成。

Qwen3.8-Flash-Next 是一个总参数量 125B、每词元激活 6B 参数的稀疏 MoE 模型，另有 51B 参数的 n-gram 嵌入表存放在加速器之外。其词元混合模块按层组合 Gated DeltaNet 与全局注意力，每四层设置一层全注意力，并在持续预训练阶段以基于微块索引的 Qwen Sparse Attention 替换。模型采用四分支残差流和逐元素门控形成 Gated Residual，同时从主机内存预取单层 n-gram 嵌入以扩充骨干网络之外的容量。相较 397B-A17B 前代，该模型以约三分之一的激活参数、三分之一的训练词元和九分之一的训练 FLOPs，在 14 项预训练基准中的 8 项取得领先。架构与 Muon 优化器共同提高了最优学习率和批大小，并在压力测试中改善训练稳定性，但实验也表明损失下降与下游准确率提升并不总是一致。

DreamX-Creator 1.0 根据首帧与文本提示，联合去噪模态专用的音频流和视频流，从生成过程内部建模声音事件与视觉动态的同步关系。网络前半段独立处理两种模态，后半段通过带词元级和注意力头级输出门控的 Gated Cross-Modal Attention 进行融合。其统一音视频数据系统负责构建、过滤时序一致片段，生成结构化多模态标注，并按能力组织数据池；训练则包含两阶段音视频预训练、高质量微调及模态感知的多模态反馈强化学习。为生成高分辨率内容，团队将双向多步教师模型改造并蒸馏为自回归单步 2K 精炼器，使每个时间分块仅需一次去噪评估。

CogEvol 是面向学习环境生成的一系列模型，可根据课程简介单次产出结构化 JSON 幻灯片或自包含交互式 HTML 页面。在 22 万次生产请求中，其生成单页幻灯片和交互页面的中位耗时分别为 17 秒与 59 秒，替代了耗时数分钟的多轮智能体脚手架。团队将真实生产故障转化为 53,687 条经验证的 SFT 样本，并结合规则与 VLM 奖励实施 GRPO 训练，同时修复了生成“视觉逼真但不可玩”游戏的奖励作弊问题。CogEvol-27B 在幻灯片质量和 500 例交互式 HTML 基准上分别获得 83.7 和 63.7 分，脚手架编辑还能将交互页面生成成本进一步降低约 76%。CogEvol-4B 以 Apache 2.0 协议开源，整套系统可在国产昇腾加速器上达到与 A800 GPU 相当的应用级表现。

LightNav-0 是一个紧凑型通用具身导航模型，无需任务专用预测头，即可统一处理指令跟随、开放词汇目标导航和视觉跟踪。模型采用双通道指向机制表达与任务、场景及机器人本体无关的空间意图，并通过残差向量量化动作词元器将其映射为本体相关的精确轨迹。训练流程结合时序视觉历史压缩、ER 中期训练、监督微调和强化学习，使用覆盖 2,000 余个场景、4,000 余小时的导航数据。LightNav-ER 在 8 项具身推理基准上取得最高完整集平均成绩，LightNav-0 则在 10 个公开导航仿真设置中实现领先的单目成功率，并展现出跨机器人本体、场景及动静态目标的零样本现实泛化能力。

论文关注大语言模型利用对话历史、推断偏好和用户画像进行个性化时产生的潜在副作用。作者归纳出三类主要风险：在无关场景引用个人信息、持续迎合偏好而形成信息茧房，以及过度赞同用户观点的谄媚偏差。为系统测量这些问题，研究提出 PRISK 动态评估框架，通过自动化数据生成和针对性指标考察个性化信息如何改变模型回答。对 13 个大语言模型的实验表明，加入用户画像和检索记忆后，三类指标平均分别恶化 45.9%、41.7% 和 61.7%。

论文提出 Super Library Agent 问题：智能体按顺序生成和维护多个相关应用，并同步演化一个可跨应用复用的共享组件库。针对简单顺序式脚手架提取召回率低、依赖迁移脆弱的问题，方法引入基于代码块摘要的候选引导提取、提取前代码库整合，以及结合提取轨迹和调用图的上下文感知迁移。在 WebGen-Bench 与 PaperBench 上，该方法能够保持应用功能，并相较零样本方案显著降低重复代码、冗长程度和词元占用。它还避免了朴素共享库构建造成的结构侵蚀，并进一步降低代码行数与最小描述长度。

SHAPE 借鉴数学教育理论，从语义空间和启发式动作两个维度分析大模型的数学思维链轨迹。研究发现，模型采用的数学启发式策略比传统 CoT 特征更能解释最终答案是否正确。正确解答通常来自对少数语义空间的集中探索，而非在大量不同空间之间广泛切换，这与人类解题模式一致。分析还表明，强化学习会使启发式策略出现模式寻优倾向，而鼓励多样化启发式策略的后训练能够进一步提高准确率。

该内容聚焦 Nature Communications 论文中的科研图表配色，可作为学术绘图的视觉设计参考。论文题为《Genomic variation of European beech reveals signals of local adaptation despite high levels of phenotypic plasticity》。研究主题涉及欧洲山毛榉的基因组变异、表型可塑性与局部环境适应信号。论文 DOI 为 10.1038/s41467-024-52933-y。

OmniTable采用“逻辑统一、物理分离”架构，将数据批次和特征列设为一等对象，通过Catalog统一管理特征定义、版本、依赖、执行状态与列级血缘。系统已在生产环境覆盖Web、代码、PDF和SFT等数据域，管理超过35PB、3050亿条记录，并支持数千个逻辑列。其记录级故障隔离可避免少量异常样本拖垮整批任务，算子融合、跨引擎路由与自适应调优则减少重复扫描和资源配置成本。在真实SFT数据准备任务中，端到端周期由约14天降至2.5天，提速5.6倍，手工步骤减少73.3%。

研究构建了覆盖可读性与充分性维度的八类扰动体系，生成具有可控错误强度和词元级修改映射的成对干净与受损摘要。作者对 Themis（Llama-3-8B）和 Prometheus（Mistral-7B）开展因果追踪、logit-lens 词表投影及注意力头敲除等实验。结果显示，第 15 层以下的注意力模块负责局部错误比较，并将结果路由至输入末端；更高层的 MLP 级联负责整合信号并写入最终评分。评分决策在较晚层的残差流中突然定型，Themis 位于第 26 层，Prometheus 位于第 25 层。基础 Llama-3-8B 对照实验表明，微调并非从零构建评估管线，而是在既有机制上强化阶段分工并提前决策定型。

论文提出特权轨迹感知项目反应理论框架 PTA-IRT，用于降低真实软件工程智能体基准的评测成本。不同于仅利用历史通过/失败矩阵或静态任务语义的方法，该框架从执行轨迹中提取已探索上下文、尝试过的代码编辑和问题解决路径等过程信号。PTA-IRT 融合过程与结果信息，以改进校准任务子集选择和智能体能力估计。在四个 SWE 基准的低校准预算实验中，该方法在得分恢复和排名恢复方面持续优于既有 IRT 基线。

• CordisBench 包含 1,200 道生命周期推理题，结合受控形式化设定与 Cordis 运行时中的真实程序执行。
• 任务涵盖识别受插件变更影响的组件、预测指定拆卸顺序后的状态、判断不同顺序下成立的条件，以及选择可成功执行的重配置。
• 实验测试了 2 至 32 个相关交互规模下的三种效率导向模型；模型在小型系统上表现较好，但随着交互增多，最终状态预测和跨拆卸顺序推理的可靠性明显下降。
• 增加推理投入可改善部分模型表现，但成本较高；独立有限参考语义则在全部 528 道可执行问题上与 Cordis 的执行结果完全一致。

论文提出言语强化学习（Verbal Reinforcement Learning, VRL）的统一定义，强调自然语言能够同时传递意图、偏好与因果结构，并作为改善语言智能体的重要反馈通道。作者依据语言反馈在智能体生命周期中何时生效、修改何种对象，建立了统一分类框架。该框架包括三类路径：以语言定义目标、状态和奖励结构的锚定信号，以语言在不更新参数的情况下指导测试时推理的审议反馈，以及通过训练改变模型参数的学习信号。论文进一步梳理各路径的代表性工作与子类别，并讨论 VRL 在提升智能体能力和对齐水平方面的挑战与机会。

StudentSim 采用先汇总多名学生数据进行共享训练、再针对单个学生专门化的两阶段方法，使模拟器既能复现学生原有答题行为，也能在教师解释或纠正后合理更新。论文提出 StudentSimEval，基于国际象棋、英语二语写作和数学三个领域的公开学习者数据，对60名学生进行标准化评估。该评测分别衡量行为保真度 F 与指导响应度 R，StudentSim 在三个领域均优于 GPT-5.4；在国际象棋中取得 F=0.51、R=0.91。作为概念验证，研究还将 StudentSim 用作教师强化学习的奖励模型，训练出的国际象棋导师在人类专家评价中表现得更准确、更具指导性和个性化。

[合并自 2026-09-03 studentsim-llm] StudentSim 将稀疏的学生个人数据转化为个性化 LLM 模拟器，先在多名学生的数据上进行共享训练，再针对每位学生做专门化。该模拟器既要复现目标学生原本的回答模式，也要在收到教师解释、纠正或引导后合理更新回答。配套的 StudentSimEval 覆盖国际象棋、英语二语写作和数学三个领域的 60 名学生，并分别衡量行为保真度 F 与指导响应性 R。实验中 StudentSim 在三个领域均优于 GPT-5.4；将其作为导师强化学习的奖励模型后，训练出的国际象棋导师也获得了更高的准确性、指导质量和个性化人工评价。

研究提出一套已投入部署的文档理解系统，采用总参数 35B、激活参数 3B 的 Mixture-of-Experts VLM，从文档中抽取结构化字段。模型使用内部生产数据与开放域文档进行混合微调，难度感知流程依据版面多样性、事实可提取性和跨模型一致性筛选数据。该模型可在单张 H100 上完成微调，并通过提示适配异构业务流程，性能超过参数规模最高大一个数量级的可部署非推理基线。结合生产遥测中的确认与纠错成本，其预期成本较人工基线降低超过 80%，较最佳开源竞品降低超过 50%。

论文研究固定标注预算下，监督微调（SFT）与强化学习（RL）数据应如何分配的问题。作者不再寻找单一最优比例，而是定义性能处于峰值一定容差范围内的“近优区域”。实验发现，即使容差仅为 2%～10%，近优区域依然较宽，并且会随模型规模增大而进一步扩展。小型代理模型上识别出的近优区域能够稳定迁移到大型目标模型，且该结论跨任务、模型家族以及离策略偏好 RL 和在策略奖励监督 RL 均成立。研究还表明，SFT 与 RL 数据的标注成本差异会系统性地改变近优区域的位置。

研究在竞赛数学 MathNet-Retrieve 与 ALFWorld 智能体轨迹上，以统一协议评估语义结构相同但表述不同的检索任务。数学任务最高伪装级别的严格 Hit@1 对两个生产级嵌入模型均为 0%，尽管正确项几乎总能进入前十，错误首位候选通常与查询具有更高词汇相似度。智能体轨迹检索同样接近或低于随机水平，表明模型更依赖对象、容器等字面词元，而非任务结构。LLM 重排可挽回数学任务 5%～63%、轨迹任务 43%～76% 的差距，但数学收益部分集中于知名竞赛题，可能来自训练记忆；下游实验中，预言机检索与对抗性错误检索的效果无显著差异，暴露出求解器能力饱和造成的评测失真。

SCILAWS-BENCH 从 381 篇科学论文构建了 118 个问题，涵盖六大学科、291 条候选定律及约 800 万个真实数据点。SCILAWS-REAL 要求模型根据固定的真实观测提出定律，并通过留出数据的预测拟合度和源文献支持的科学有效性进行评估。SCILAWS-PARALLEL 则允许模型主动查询经过残差校准的平行世界，以恢复由已发表公式衍生出的新隐藏定律。实验发现，预测拟合良好并不等同于科学上有效，模型记忆会影响其复现或超越已发表公式的倾向，而 best-of-N 实验还暴露出明显的候选选择瓶颈。

论文指出，在竞争性不完美信息博弈中，对手策略引发的非平稳性和分散式模型学习的可辨识性障碍，使集中式世界模型成为数学上的必要选择。NashDreamer引入集中式多智能体循环状态空间模型（MARSSM），将环境动力学与玩家策略对个体观测的影响解耦。该框架可以结合任意策略梯度算法，并在理想化模型下继承其趋向纳什均衡的收敛保证。四个基准游戏的实验显示，NashDreamer在训练早期相比无模型基线具有更高的样本效率；理论分析同时揭示了Dreamer系列在随机环境中易发生后验坍缩的问题。

论文以视频编码标准中的 Planar 帧内预测模式为案例，考察 LLM 能否处理工具修改之间高度耦合的算法设计任务。研究构建生成与评估闭环，由 LLM 生成预测器实现、编码器实测压缩性能，再根据反馈迭代代码。在 VVenC 较快预设下，生成的模式相较传统 Planar 模式节省 0.18% 码率，复杂度开销约为 0.4%。在 ECM 的受限低分辨率设置中，无论替换方向性 Planar 模式，还是将新预测器作为带有新语法元素的附加模式，均可获得一定编码收益。

EvoSCM 使用显式结构因果模型（SCM）表示科研智能体的信念，解决自由文本假设难以检验和修正的问题。系统维护多个相互竞争的 SCM 假设，并在闭环发现过程中从累积证据溯因潜在机制、设计具有区分力的干预实验并提出可证伪预测。预测与观测之间的偏差会被归纳为纠正规则，用于修改各候选模型的因果结构和机制，随后再依据历史证据与结构一致性进行演绎验证。在 DiscoverPhysics 基准上，EvoSCM 相较基线获得了更准确的解释与预测，同时提升了实验交互的利用效率。

研究在多轮酒店买卖测试床中审计 LLM 智能体商业政策评测，指出价格、利润和社会福利等经济指标未必真实对应所声称的行为构念。原始实现让有护栏和无护栏智能体采用不同的报价模式与选择流程；固定这些协议后，三个模型规模上的福利差异由 +87.4、+35.0、+28.8 变为 +7.2、-13.9、+23.8。对每个用户画像与条件重复三次生成后，14B 模型最大效应的均值从 +229 降至 +37.6，且生成残差解释了 49.9% 的变异，显示结果具有显著随机不稳定性。论文提出由激励有效性、协议隔离、随机稳定性和福利核算组成的构念效度契约，并要求在检查失败时先返回 INVALID 或 INCONCLUSIVE，而非直接作出政策结论。

TempCloze 是一个面向 Video-LLM 的视频完形填空评测基准：模型看到视频的开头和结尾后，需要从四个候选项中找出真实的中间片段。数据集包含来自七个来源的 1,521 个严格筛选视频，以长镜头和第一人称视频为主，并通过相同来源、共享场景及物体的干扰项减少外观和语言线索。干扰项分别考察事件语义、时间对齐和事件进展三个维度。对 10 个闭源模型和 21 个开源模型的评测表明，模型通常能识别合理事件及局部进展，但在判断事件何时发生的时间对齐方面表现最弱；研究还分析了候选顺序、上下文方向、可见时长、帧密度和测试时扩展等因素。

GlossoGen 是研究复杂多智能体场景中语言演化的平台，其中 SaveVeyru 场景要求掌握局部信息的智能体在压力下进行沟通。实验发现，LLM 智能体会形成偏离英语先验的新语言，这些语言具有组合性和形态生产力，但可能对人类不可理解。语言涌现依赖效率压力、底层模型能力，以及允许智能体协商语言惯例的“事后复盘”阶段。新智能体能够仅从实际使用中主动习得既有语言；强模型更有利于创造新语言，而较弱模型也可在语言形成后完成学习与传承。

论文指出，持久加载的恶意技能可能根据具体任务和工作区状态泄露秘密、破坏代码、绕过审批或为数据外泄做准备，因此仅靠安装前审查并不充分。作者提出 Defense-as-Skill 范式，并实现 SkillSonar，使防护技能与不可信任务技能并行运行，依据用户任务边界将敏感操作判定为允许、重新规划或请求确认。研究构建了 SCOPE-R 数据集，覆盖 6 类风险、21 个子类别，包括 206 个已确认攻击的恶意实例和 43 个良性任务。SkillSonar 通过基于执行反馈的蒙特卡洛树搜索演化磁盘上的守卫技能，在 Claude Code 和 OpenClaw 上显著降低攻击成功率；GLM-5 重复实验中，ID ASR 从 0.482 降至 0.104，OOD ASR 从 0.606 降至 0.115。实验还显示其能够迁移至不同受害模型、未见风险类别和外部基准，并对自适应攻击保持防护能力。

Harness-of-Harness（HoH）构建于现有编码智能体脚手架之上，将执行过程组织为反复迭代的规划、编码和测试闭环。框架通过平衡缺陷修复与能力增长、拆分小型可验证增量、区分开发期测试与独立评估，以及约束可验证产物来促进持续改进。它还会渐进开放交付物、角色专用工具和技能，鼓励复用已有成果，并维护版本化项目历史。在 GameCraft-Bench、FrontierSWE 和 ProgramBench 上，HoH 相对独立脚手架平均提升 52.25%，三轮迭代后的最高增益为 82.86%；在超过 70 轮的多日实验中，它自主开发出具备完整机制、剧情、视听效果和可玩体验的第一人称射击游戏。

论文设计了实时轨迹模型，将只追加的事件账本持续折叠为类型化运行状态，并为智能体与观察者编译不同视图。观察者实验中，编译视图将输入词元减少约 14～15 倍、成本降低 5～7 倍，同时把监控问答准确率从 0.48 提升至 0.85～0.87，但这一结果以视图模式覆盖问题为条件。在包含 120 个顺序依赖环节的任务上，维护运行统计量的逐步状态机制取得 30/30 成功，而完整上下文提示仅为 8/30；消融分析表明，确定性聚合贡献准确率，状态紧凑性贡献成本优势。相比更便宜的提示级 scratchpad，该方法的主要价值是确定性可审计，以及使用同一状态同时支持智能体执行与外部观察。

论文指出，仅使用 100 个良性样本进行微调，就可能使模型安全拒答能力显著下降，而通用效用仅轻微退化。作者提出 Fisher 几何解释：安全 Fisher 具有低秩结构，对齐训练会使安全几何变平，同时保留一条与安全相关的输出路由路径。良性微调会在输出侧 MLP 模块中选择性地重新增强该路径的尖锐度，从而导致安全能力非对称崩溃；少量安全样本又能恢复拒答，说明内部安全表征并未消失。LoRA 和 ASAM 可通过抑制输出侧尖锐度延缓早期崩溃，但随着微调规模扩大，其保护效果会逐渐减弱。

研究为扩散去噪器加入持久隐藏状态，并移除时间步条件，使同一个更新模块能够递归运行至任意深度。模型在推理深度远超训练展开长度和反向传播窗口时仍持续提升准确率，在 Sudoku-Extreme 上达到 99.90% 精确求解率，在 Maze-Unique 上达到 98.93%。推理阶段无需渐进式去噪：每一步为非线索变量重新注入高斯噪声，仍能沿单条轨迹探索解空间并收敛到稳定答案。实验表明，有序退火噪声在训练中依然关键，说明扩散机制主要充当由易到难的去噪训练课程，而非必需的推理采样流程。

研究从 200 多个内部应用的真实生产错误出发，围绕指令遵循、函数调用和企业内部任务分布三个维度识别模型质量缺口。团队构建了按生产流量分层的离线基准，并使用确定性验证器或校准后的 LLM 评判模型进行评分。为避免联合优化产生跨领域奖励干扰，研究分别训练三个 GRPO 专家，再通过两阶段 SLERP 合并，同时针对语义坍缩、过度调用和冗长奖励作弊采取领域专用修复。最终模型在内部 Arena、指令遵循和函数调用评测上超过总参数量约大 7 倍的基线，并以较低服务成本承接每月 1.16 亿次请求、约占平台流量的 50%。

[合并自 2026-09-03 llm] 研究团队依据生产错误分析，将企业请求的质量缺口拆分为指令遵循、函数调用和内部任务分布三个维度，并构建与真实流量分层对齐的离线评测。为避免多目标联合优化造成跨领域奖励干扰，团队分别训练三个 GRPO 专家，再通过两阶段 SLERP 合并模型。不同专家暴露出语义坍缩、过度调用和冗长度投机等独特失效模式，需要针对性的奖励与训练修正。最终模型在非推理模式下超过总参数量约大 7 倍的基线，并承接平台 50% 的流量，即每月约 1.16 亿次请求。

LatentPress不再将压缩上下文表示为文本或图像，而是生成可通过输入嵌入接口直接送入冻结语言模型的连续记忆词元，推理时无需重建文本。该方法仅训练一个与读取模型匹配的小型写入适配器，参数量为420万至2620万，约占解码器的0.1%，可实现4至16倍压缩。在LongMemEval上，其以7.70倍压缩取得0.504准确率，高于未压缩证据的0.490，并显著超过文本摘要和基于OCR的压缩方法。在LongBench-QA中，域内写入器在4至8倍压缩下可匹配或超过原始上下文，同时读取速度提升5至9倍，并展现出跨任务、跨文档领域的零样本迁移能力。