推理加速 LLM-DailyDigest 2026-08-17 2026-08-17 约 100 字 预计阅读 1 分钟 推理加速 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 上下文压缩 4 有界键查询相似度下的注意力：空间复杂度与 Transformer 各向异性 10-27 漂移定时、预算定量：长篇多模态生成的速率控制 KV 重选 10-23 Attic-KV：按需预演的 KV 缓存压缩方法 10-09 Triage：语言模型运行前预测并裁剪音频 Token 10-01 世界模型 4 LGWM：用世界模型验证 GUI 智能体状态转移 10-23 Simple-WAM：测试时未来建模提升世界动作模型泛化 10-01 Zing-0.5：实时动作与文本联合控制的可游玩世界模型 09-18 ActionSplice：交互式世界模型中的在线动作编辑 09-15 两阶段蒸馏 1 GEAR：表格基础模型的生成扩增与真实锚定两阶段蒸馏 08-20 具身基础模型 1 GPT-6-Astra具身智能评测：具备能力但尚未达到实用门槛 10-20 前缀滑动窗口 1 Prefix Sliding：高效扩展测试时推理 08-27 动态操控 1 Reflex：面向反应关键型操作的快速预测式 VLA 模型 08-17 医疗人工智能 1 RetiJev：快速且来源可溯的眼科决策模型 10-23 多模态学习 1 NeoMME：高效微调与推理的单塔多模态多语言编码器 09-07 多跳推理 1 LADDER：图引导扩散语言模型加速多跳推理 09-22 奖励建模 1 LatentGRM：基于语义保真压缩的高效生成式奖励建模 10-08 并行推理 4 将自回归 LLM 控制编译为策略精确的并行推理 10-23 CoRAL：混合扩散—自回归高效多模态推理框架 10-22 LLoCoT：基于循环 Transformer 的非自回归潜空间推理 10-10 TRACE：基于跨轨迹证据的并行搜索智能体轨迹选择 10-01 弱到强泛化 1 CritICL：利用小模型失败模式实现推理时弱到强泛化 08-28 形式化证明 1 面向 GPU 高效证明候选评估的 Lean 反馈学习 10-18 扩散模型 3 循环式均匀扩散语言模型 10-22 扩散语言模型的表示空间 MMD 后训练 10-08 E-MoE：非因子化扩散语言模型的增强型专家混合架构 10-08 推理优化 1 VC-Attention：低比特注意力的数值平滑与 Softmax 转换 09-18 推理效率 43 文心 Unlimited OCR 2 开源：KV 缓存降低 96% 10-29 GUI-JEPA：基于候选条件潜变量的移动端 GUI 智能体快速动作策略 10-29 BellowsKV：按需展开的跨层共享潜变量 KV 缓存 10-27 BeNice! 通过 KV 共享弥合循环架构的推理内存差距 10-23 RIFT：面向草稿模型的 KV Cache 压缩与可压缩性训练 10-23 OpenAttention：用尾部代理实现 1% 稀疏注意力读取 10-23 VLA-Rolling：自适应复用动作尾部以加速具身控制 10-22 分层稀疏注意力：缩小极端稀疏下的稀疏—稠密差距 10-22 AMTP：自适应多词元预测的动态推测窗口 10-22 BitMTP：面向超低比特模型的多词元并行预测 10-22 FrameBlend：流式视频理解的局部缓存与选择性重计算 10-22 DoSA：无损点稀疏注意力加速 10-18 VisionWeave：弹性视觉表征编织提升 MLLM 推理效率 10-18 VideoJev：面向视频理解与交互的 System One 模型 10-18 Intern-Decision：基于自回归掩码语言建模的高效多模态决策 10-18 SpecAgent：面向工具智能体的轨迹级推测与语义验证 10-18 SSR 将智能体推理改为结构化选择，延迟降低超 90% 10-18 Celeris-1 Decision以67ms延迟刷新决策模型速度纪录 10-10 RACE：基于跨轮估计的智能体自适应推理 10-09 SSR：基于选择的高效多模态搜索智能体推理 10-08 循环语言模型第二部分：在不动点处重构训练与推理 10-08 Kimi K3自写超级算子，系统级优化推理提速3倍 10-01 SpecScale：面向测试时扩展的高效推测搜索服务系统 10-01 MassAlloc Attention：让注意力自适应分配计算资源 09-30 TokenProbe：利用词元价值不均衡提升推理效率 09-29 自监督置信度训练提升推理效率 09-28 解耦早退实现流匹配 VLA 的任务自适应算力分配 09-26 Flash-dLLM：IO 感知 KV 缓存与并行解码加速扩散语言模型 09-24 扩散语言模型的因果捷径学习与高效推理 09-24 FLEET：基于熵轨迹记忆的高效文本生成 09-24 APUS 开源复现 Jev：9B 模型实现 79 毫秒快速决策 09-22 按需注意力：语言模型自主判断何时回忆 09-19 SKIP：自知识引导的逐步偏好学习实现简洁推理 09-16 GrowMTP：在强化学习循环中从零训练草稿头 09-16 BeaconKV：查询引导的 KV 缓存压缩提升大型推理模型推理效率 09-10 VestigeKV：利用 NoPE-MLA 残留分支实现 KV 缓存淘汰 09-10 Random Attention：随机驱逐 KV 缓存提升推理效率 09-07 语言模型通过声明式注意力自主控制上下文访问 09-07 BeaconKV：信标查询引导的 KV 缓存压缩 09-07 MCPO：多模态思维链的模态对比偏好优化与压缩 09-07 扩散语言模型让端侧 Agent 推理提速约 5 倍 09-02 无 LM Head 的软潜空间思考 09-01 Daedalus-150M：面向 CPU 推理的卷积-注意力混合模型 08-25 推理早停 3 AURA：效用引导的自适应推理提升文本检索效率 10-18 Settle：从答案稳定性学习何时停止推理 10-01 Adaptive Self-Consistency：基于分布反馈的自适应推理早停 10-01 智能体框架 1 Policy as Code：协程桥接 Harness 提升 CAR-bench 智能体效率与可靠性 09-26 智能体评测 2 AgentPerfBench：智能体大模型推理性能评测套件 09-30 Agent Arena：GPT-6 Luna (Max) 排名第 23，单任务成本仅 0.05 美元 09-29 本地智能体 1 Meta 开源本地多模态智能体模型 Muse Glimmer 30B 08-25 概率预测 1 TimePrism：并行生成概率场景的时序预测新范式 09-26 模型发布 9 MiniMax 开源 M3.1 Flash：428B 参数与百万 Token 上下文 10-23 MiniMax发布M3.1 Flash，智能体任务成本降低70% 10-21 JetBrains 开源 AI 编程模型 Mellum2.1 10-10 Liquid AI 开源端侧决策模型 d1-3B 与 d1-omni-600M 10-08 Intern-Decision开源：多模态实时决策性能超越Jev 09-29 GPT-6 Sol、Luna 与 Claude Opus 5.5 同日发布，竞逐单位任务成本 09-23 DeepSeek V4.1 Flash 正式发布 09-13 智谱开源原生多模态模型 GLM-5.3 Flash 08-27 GLM-5.3-Flash 开源：低成本原生多模态前沿模型 08-26 模型架构创新 7 Lafa：大规模连续流语言模型 10-22 Jeva：从第一性原理构建决策原生 System One 模型 10-18 Qwen-Audio-Jev：统一高效的音频决策接口 10-18 ALoDLM：自适应循环扩散语言模型 10-08 CoWindow Attention：以多头协作实现完整因果覆盖 09-30 分组价值注意力：按需重建键以压缩 KV 缓存 09-16 Intern-S2-Mobius：知识与推理解耦的基础模型 08-17 模型架构演进 1 DeepSeek、Llama、GLM、Qwen 底层架构演进详解 08-22 模型训练 1 不要丢弃 Dropout：优化层稀疏性以加速 LLM 训练与推理 09-08 模型评测 1 RubriX：可微调的快速非自回归量规评判器 10-27 模型路由 3 OpenAI 发布 Decisions API，面向低延迟低成本决策 10-23 TokenRouter：Token 级 LLM 路由高效服务系统 10-18 TokenRouter：高效 Token 级 LLM 路由服务系统 10-10 模型轻量化 3 PACE：周期与通道对齐的四比特循环状态量化 10-22 SoloQ：扩散语言模型的免校准量化 10-18 解耦量化：分别优化 LLM 预填充与解码 09-29 测试时训练 1 E²-TTT：兼顾表达力与效率的测试时训练 08-24 深度研究智能体 1 DiffResearch：用扩散语言模型加速深度研究 10-22 生成式推荐 1 JevRec：生成式推荐的变长语言编码与决策建模 10-29 稀疏加速 1 SparsePR：面向视频生成与世界模型的免训练稀疏注意力 08-25 端侧推理 1 FreeToken：单卡消费级 GPU 高效运行满血 MoE 大模型 08-23 端侧模型 1 开源版 Jev：Laya 登顶 Hugging Face 热榜 09-24 系统优化 4 SPARTA：面向长上下文端侧推理的稀疏三值 LLM 加速器 10-27 芯生代融资数千万元，打造Agent自进化推理引擎 10-23 PISA：对数线性复杂度的块稀疏注意力 09-29 SAS：端到端上下文排序实现注意力稀疏化 09-15 缓存优化 1 EdgeRock-4B：固定内存长推理，KV Cache削减99.1% 10-21 置信度评估 1 SIGMA：面向自动驾驶决策的仿真闭环快慢推理 10-08 置信度调度 1 ParaTempo：基于时间置信度的高效并行推理 08-18 自我反思 1 RetroThinker：让语音大模型实现回溯式思考 09-11 视觉推理 2 MJev-Spatial：原生注意力匹配实现系统一空间智能 10-18 GroundAnything：并行扩散解码实现高速精准视觉定位 10-18 视频生成 2 SolarRenderer：四步结构条件视频渲染 10-22 交互式视频生成中的推测采样 10-20 记忆增强 1 记忆增强解锁高效思维链推理 08-24 递归自我改进 2 Sol-H3：递归自我改进加速 MiniMax-H3 云边端推理 09-30 智谱披露GLM-5.3 Infra Agent最小RSI闭环 09-18 递归调用 1 循环语言模型提升组合式工具调用能力 08-21 长期记忆 1 ConvMem：用于长上下文推理的卷积式记忆框架 09-10 顶级会议论文 1 小米 8 篇大模型与智能体论文入选 EMNLP 2026 08-29
