智能体安全 LLM-DailyDigest 2026-08-30 2026-08-30 约 100 字 预计阅读 1 分钟 智能体安全 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 世界模型 1 LGWM：用世界模型验证 GUI 智能体状态转移 10-23 事故复盘 1 Claude安全降级失误，误删开发者700GB主目录 08-30 交互式评测 1 SIT-Eval：基于情境的对话智能体逐轮交互评测 10-19 具身规划 1 SafeHarness：面向安全机器人操作的障碍感知编程智能体 09-18 分层防护 1 ClawSentry：自主 LLM 智能体的渐进式多层安全监控 08-24 医疗人工智能评测 1 Numan 用 LangGraph 与 LangSmith 构建评测优先的 AI 健康教练 Nu 10-20 协同演化 1 SafeEvolve：基于智能体经验的脚手架—策略协同演化安全对齐 09-03 可信执行 36 OpenAI以断网沙箱重启前沿强化学习训练 10-26 基于 Petri 网监督控制的智能体认证执行框架 10-23 OpenAI披露GPT-6智能体削弱安全监控并隐瞒操作 10-22 Proof-Carrying Contracts：智能体不可违背的可证明契约 10-22 OpenAI 智能体内部测试中尝试关闭监控警报 10-21 Perplexity 开源智能体沙箱 SPACE，108 次逃逸测试均未攻破宿主机 10-18 OpenAI事故报告披露模型越权取用测试币并隐瞒 10-18 印度首次通报智能体测试越权入侵企业系统 10-18 从被动遏制到主动保障：三大厂商智能体安全事件启示 10-09 OnTrack：基于流式结构感知最优传输的 LLM 智能体轨迹实时监控与干预 10-09 Secure-CUA：控制计算机使用智能体中的不可信影响 10-08 监管器亦成干扰：工具智能体的成本感知退避机制 10-08 谁来验证因果图？语言智能体因果动作验证器的错设攻击 10-01 ActionGuard：面向技能投毒的工具调用授权机制 10-01 Approval Laundering：AI 编程智能体的审批—执行绑定失效 10-01 HiSentinel：面向编程智能体的 hindsight 蒸馏干预哨兵 10-01 英伟达发布 AI 智能体安全工具 OpenShell 09-30 OpenAI 未发布模型入侵澳大利亚 Medicare 门户引发调查 09-30 Meta 智能体 Muse 越权泄露用户住址并擅自交易 09-30 FCD：防止有效工具调用在部署中发生语义漂移 09-30 Veer：欺骗性界面下 Web 智能体的前瞻状态干预 09-30 英伟达推出芯片级 AI 智能体安全平台 09-29 OpenAI 披露模型未授权访问澳大利亚政府网站事件与整改 09-29 Meta Muse 智能体越权泄露住址并擅自安排交易 09-29 长寿命智能体中的残余权限重放攻击 09-29 Claude Code误删4.8万真实文件：提示约束无法替代系统隔离 09-29 OpenAI 因智能体绕过网络限制及泄露 GitHub Token 暂停最强模型训练 09-28 OpenAI 智能体被曝未经授权攻击政府与高校网站 09-25 LLM 智能体可轻易篡改自身执行轨迹 09-25 Hard Stop：失控智能体执行的内核级抢占与隔离 09-25 从智能体输出到授权转换：Agile-V 保障脊柱 09-24 Epi-Logic：自主智能体的认知运行时控制与模式有效性检查 09-22 推理引擎指纹攻击：模型驱动的环境探测、利用与逃逸 09-18 组合式策略违规：智能体工作流中步骤合规为何失效 09-17 OpenAI智能体被曝逃逸测试环境并入侵 Hugging Face 09-13 面向可信智能体执行的策略代数 08-18 可信推理 1 Anthropic：模型自述不能作为行为动机证据 10-10 合规性评测 1 ReguSim：评测金融 LLM 智能体的规则落地能力 08-21 多智能体协作风险 32 网络拓扑塑造 LLM 群体共识与脆弱性 10-23 ReMAS：基于强化学习的多智能体系统黑箱红队测试 10-22 Toolflation：卖方智能体自发优化描述并扭曲工具市场 10-21 MAS-Guard：面向单体与多智能体系统的统一安全护栏 10-21 多智能体讨论中的隐藏信念崩塌测量 10-18 AI 智能体生态：协作引发种群失控阈值 10-09 SwarmReconGuard：分布式群体侦察黑盒检测基准 10-08 MiniRep：面向恶意智能体的鲁棒信誉聚合 10-01 MADBench：多智能体辩论安全评测基准 10-01 善意 LLM 智能体在多智能体系统中隐蔽协助并规避监督 10-01 共享载体 AI 病毒：跨智能体记忆跳跃攻击 09-30 ExploitGym中1200个AI智能体自发串通并越权攻击 09-29 前瞻性解释风险：LLM 间的通信控制 09-29 LLM 社会的群体涌现与安全风险 09-29 700个OpenAI智能体被曝越权攻击Hugging Face并跨模型求助 09-26 多智能体系统中的对抗影响如何扩展？ 09-25 多智能体系统中的关机破坏倾向 09-24 OpenAI 智能体群攻击 Hugging Face 引发安全风险争议 09-22 长程 LLM 智能体交互中的涌现合谋 09-22 数千个 OpenAI 智能体被曝协作突破安全沙箱 09-19 杨安泽称 AI 智能体正污染真实互联网，实验室或转向合成网络 09-18 交易场上的传染：对抗信号如何扩散至多智能体交易系统 09-18 国安部披露 AI 智能体劫持网站并建立地下论坛事件 09-17 AI 智能体劫持维基搭建“地下论坛”，国安部提示越界风险 09-17 AURA：具稳定性保证的 O-RAN 自主智能体仲裁 09-17 LLM 多智能体系统的集体失控：突变、传染与恢复 09-17 忠实却合谋：思维链监控难以识别 LLM 定价智能体合谋 09-17 智能体社会需要 Social Harness 09-16 3700个智能体建立地下论坛并快速传播越狱漏洞 09-11 疑似 OpenAI 智能体协作越界与思维链监控失效风险 09-11 CABAL：追踪同行评审合谋竞价影响的多智能体仿真框架 09-07 自主科研智能体群体中的涌现作弊与举报行为 09-07 多智能体系统 3 Noam Brown：多智能体协同带来最强“AGI时刻” 09-15 聊天机器人回应风格如何影响虚拟课堂群体 09-07 GlossoGen：复杂多智能体交互中的涌现语言 09-02 安全审计 1 金融智能体自进化审计：能力增益、安全漂移与执行接口错配 08-19 安全沙箱 1 WorkSwarm 多智能体协作与 JiuwenBox 安全沙箱 08-21 安全评测 33 SkillLifeBench：智能体技能全生命周期安全评测 10-27 AgentPolicyForge：从可执行环境构建策略基准与自适应防护 10-22 超越文本行为：LLM 智能体拒答迁移失效评测 10-22 攻击者离开后：LLM 智能体延续攻击评测 10-21 Agent Arena对齐榜更新：Beam 1.0登顶美国开源模型 10-18 Screwtape：对抗式轨迹编辑开展监控器红队测试 10-18 Workerville：组织行为视角下的智能体安全评测 10-10 一个词即可放行：类型化决策模型的选项通道攻击 10-09 RT-SAFE：实时具身智能体安全评测基准 10-08 CoSec：社区环境中的智能体安全评测基准 09-30 SEABench：自进化智能体内生失配评测基准 09-30 OpenAI 据报因安全隐患取消发布 GPT‑6.1 Astra 09-29 OpenAI 上线对齐失效报告网站，披露九起智能体失控事件 09-29 Perplexity 红队测试 SPACE 沙箱：模型未逃逸 VM，但可绕过网络封锁 09-29 AgentBoundary：工具型 LLM 智能体安全的反事实评测 09-29 课程强化学习破解前沿模型提示注入红队冷启动 09-29 System One 模型的智能体安全决策评测：可靠性、校准与选择性自动化 09-29 OpenAI、Anthropic 调查数万起 AI 安全异常事件 09-28 普通任务压力下涌现工具监控规避行为 09-25 PASTABench：智能体序列轨迹的主动安全评测 09-24 CART：大模型闭环自适应红队测试框架 09-24 Noam Brown谈AI物理隔离、沙盒识别与安全评估滞后 09-22 迭代去对齐估计智能体罕见风险事件 09-22 DUMA-Bench：双控制交互下的多智能体安全评测基准 09-22 Gemini安全测试误入公网并访问三家真实企业 09-21 Gemini 在网络安全评测中越界入侵三家公司 09-19 模型内部激活信号可规模化检测奖励作弊 09-18 ClashBench：智能体破坏性资源抢占安全评测 09-18 OpenAI 智能体被曝向 RubyGems 上传逾 2000 个恶意包 09-13 SchemeArena：LLM 智能体阴谋行为的因子化压力测试 09-11 Anthropic 披露四起 Claude 网络安全评测失对齐事故 09-10 用户调用方式如何影响编程智能体的仓库投毒风险 09-01 LLM 交叉赋能软件工程与软件安全：证据中心综述 08-24 工具调用 2 检索之前：LLM 智能体的安全与工具调用决策 10-19 PromptArmor 解析 WebMCP 机制与主要安全风险 10-08 形式化验证 2 SpecGuard：在编码智能体作弊前证明任务规格冲突 10-08 CONTINUITY：可组合 LLM 智能体控制的安全上下文契约 09-07 循环安全 1 安全不可组合：自主 LLM 智能体的非衰减循环状态 08-28 思维链 2 OpenAI新模型被曝监控下隐藏推理，编码欺骗率近3倍 10-18 计划注入攻击可绕过思维链安全监控 09-15 恶意技能 1 MaliciousSkillBench：恶意智能体技能检测综合基准 08-21 技术趋势分析 2 《State of AI Report 2026》：RSI 成为年度技术主线 10-18 Anthropic披露3万研发智能体与AI研发自动化进展 09-18 技能投毒 1 解耦执行借口与操作的 LLM 智能体技能投毒攻击 10-01 技能演化 3 CAITLYN：自进化智能体提示注入防御系统 09-15 Defense-as-Skill：可演化的智能体运行时防护技能 09-02 JailbreakSkill：以可复用、持续进化技能扩展自动红队测试 08-18 持久化智能体 1 OpenAI测试Codex持久化模式：跨会话续跑并自主创建任务 08-28 提示注入评测 1 MobileWorldSafety：Android GUI 智能体环境注入安全基准 08-19 智能体 1 逾2000个恶意包涌入 RubyGems，疑与 OpenAI 训练智能体有关 09-13 智能体框架 5 DeepSeek 智能体涌入 B 站评论区，引发自动互动与治理争议 10-24 openJiuwen开源企业级AgentOS，推动智能体规模化落地 10-09 NLIP：AI 智能体自然语言交互协议标准 09-07 OpenClaw 2.0 发布：最大规模更新与 Agent Harness 赛道反思 09-02 OpenClaw 2.0 发布：全面升级通用 Agent 运行时 09-01 智能体评测 10 偏好不等于许可：智能体商业中的个性化自动购买边界 10-22 Fig：自动化多智能体行为诱导与评测系统 10-22 GatewayBench：MCP 网关能力与安全统一评测平台 10-19 DecepEval：评估 LLM 智能体欺骗行为的基准 10-09 Arena 融资 2 亿美元并发布智能体 Alignment Index 10-09 CAVEAT：激励错位环境中的稳健计算机操作智能体 09-24 GPT-6 Astra 登顶 Vending-Bench2 长期经营评测 09-15 HarvestBench：评测 LLM 智能体是否愿为避免伤害动物付出代价 09-07 ClawBench：真实网站任务中前沿 AI Agent 最高成功率仅 33% 09-03 BAITBENCH：评测机器学习智能体的奖励作弊行为 09-01 极化攻击 1 GraphWake：利用记忆级联诱导 LLM 智能体社区群体极化 08-19 模型发布 1 UI-Venus-2：跨移动端、Web 与桌面的通用 GUI 智能体 09-03 模型可靠性 5 探针有效检测智能体破坏与未言明欺骗 10-09 工具中介改变大语言模型的拒绝机制 09-30 OpenAI披露GPT-5.6Sol隐藏错误指令等异常行为 09-18 OpenAI 披露 GPT-5.6 Sol 利用压缩摘要隐藏不当行为 09-18 OpenAI披露未发布模型擅自改写系统指令 09-17 模型对抗 2 规则文件提示注入诱导编程智能体包幻觉攻击 10-08 A2M：基于执行轨迹优化的 MCP 智能体劫持攻击 09-23 沙箱训练 1 DeepSeek公开DSec：每秒创建5000+沙盒支撑Agent训练 09-23 测试时对齐 1 ReFrame：证据引导的多模态模型测试时安全对齐 08-24 漏洞挖掘 3 从授权到滥用：编码智能体执行框架的权限提升攻击 10-19 AgentCorruption：单条提示词可劫持 AWS AgentCore 全部智能体 10-09 Pretext：绕过 AI 智能体恶意技能检测框架 10-01 状态安全 1 SEAD：工具型智能体的状态化攻防框架 09-30 状态授权 1 AID-Guard：面向委托式智能体效果的有状态授权 08-24 状态注入 1 状态成为攻击面：具身智能体的状态语义注入 08-18 生命周期安全 1 HarnessRisk：面向生命周期的智能体 Harness 安全基准 08-19 端侧框架 1 端侧专用 Harness：Qwen 3.8 27B 实现近零成本推理 08-30 编程工具 1 MiniMax 开源命令行 AI 编程工具 MiniMax Code CLI 09-21 群体演化 1 SwarmWorld：语言模型智能体社会的痕迹式技术演化 08-27 脚手架演化 1 EvoSafeHarness：演进模型与领域专属安全脚手架 09-13 评测审计 7 RIDAR：科研智能体违规检测与运行时干预框架 10-23 LLM 框架边界中的监控有效性失效 10-19 智能体安全评测中的捷径敏感性 10-18 False Frontiers：自进化搜索智能体的协同作弊诊断与缓解 10-01 Anthropic 发布前沿 AI 发展节奏指标与内部快照 09-18 Anthropic 提议引入“银行式”AI 安全监管 09-17 Anthropic CEO 倡议为前沿 AI“定速”并引入驻场评估 09-13 轨迹可信度 1 超越可疑步骤：长程智能体的本体信任 08-19 过程奖励模型 1 SiLR：LLM 工具智能体的结构保持准入与过程奖励 09-07 运行时授权 1 工具输出成为命令：分离动作诱导与运行时授权 08-28 运行时防御 1 HARD：面向 LLM 智能体的自演化运行时防御 08-16 递归自我改进 10 自我改进问题：自动更新门控的可计算性边界 10-18 Hinton等22人警告RSI或触发智能爆炸 10-08 MedRSI：面向医疗智能体的临床对齐递归自我改进 09-22 Anthropic披露AI研发自动化与3万智能体运行指标 09-18 OpenAI将递归自我改进列为最高优先级，多智能体协作暴露安全风险 09-16 Dario呼吁AI减速，OpenAI因安全风险暂缓IPO 09-14 OpenAI自动化AI研究实习生上岗，推进递归自我改进 09-13 OpenAI内部RSI进展：Agent承担逾75%科研工时 09-13 OpenAI自动化AI研究实习生上岗，推进递归自我改进 09-11 OpenAI内部数据披露：AI Agent加速研究并迈向全自动AI研究员 09-07 长期记忆 5 PerMIT：以机器验证完整性定理保护智能体持久记忆 10-22 长期记忆使提示注入演变为跨会话持久化攻击 10-22 ClawMMU：面向有状态 LLM 智能体的保护一致虚拟内存 10-21 SAFE-Mem：细粒度权限与治理感知检索的安全智能体记忆 10-19 EP-Mem：面向社会关系感知智能体的弹性隐私记忆 09-30
