缓存优化 LLM-DailyDigest 2026-08-16 2026-08-16 约 100 字 预计阅读 1 分钟 缓存优化 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 上下文压缩 3 有界键查询相似度下的注意力：空间复杂度与 Transformer 各向异性 10-27 漂移定时、预算定量：长篇多模态生成的速率控制 KV 重选 10-23 Attic-KV：按需预演的 KV 缓存压缩方法 10-09 推理优化 1 STAIR：复用历史计算提升大模型新问题推理 10-01 推理效率 8 BeNice! 通过 KV 共享弥合循环架构的推理内存差距 10-23 OpenAttention：用尾部代理实现 1% 稀疏注意力读取 10-23 VLA-Rolling：自适应复用动作尾部以加速具身控制 10-22 FrameBlend：流式视频理解的局部缓存与选择性重计算 10-22 循环语言模型第二部分：在不动点处重构训练与推理 10-08 Flash-dLLM：IO 感知 KV 缓存与并行解码加速扩散语言模型 09-24 按需注意力：语言模型自主判断何时回忆 09-19 VestigeKV：利用 NoPE-MLA 残留分支实现 KV 缓存淘汰 09-10 智能体评测 1 同模型 Token 相差 70 倍：AI 编程智能体框架成本实测 09-15 框架评测 1 DeepSeek + Pi：轻量 Harness 提升智能体成功率与缓存效率 08-16 模型架构创新 2 Jeva：从第一性原理构建决策原生 System One 模型 10-18 分组价值注意力：按需重建键以压缩 KV 缓存 09-16 模型架构演进 1 DeepSeek、Llama、GLM、Qwen 底层架构演进详解 08-22 模型蒸馏 1 Fable 5.1以思考块一致性验证阻断模型蒸馏 09-07 测试时优化 1 CANOPY：利用分段平滑树先验的多保真老虎机 09-25 系统优化 1 工具进度信号优化智能体 KV 缓存调度 09-17 缓存优化 1 EdgeRock-4B：固定内存长推理，KV Cache削减99.1% 10-21 脚手架优化 1 Cursor 团队分享 Agent Harness Token 降本提示词 09-24 视频生成 1 交互式视频生成中的推测采样 10-20 长期记忆 6 Galahad 字节精确记忆让 LLM 文档读取成为一次性成本 10-01 位置不是事实：KV 缓存与记忆的错配 09-29 长寿命游戏 NPC 的增量记忆维护与本地推理 09-17 KVMem：消费级 GPU 上的百万 Token 智能体工作区虚拟化 09-07 预计算记忆的组合、重建与纠错成本 09-01 ReWorld：具备长时记忆的交互式世界模型 08-26 额度异常检测 1 Codex 额度异常查明：自动标题等三处 Bug 导致超额消耗 08-24
