安全审计 LLM-DailyDigest 2026-08-14 2026-08-14 约 100 字 预计阅读 1 分钟 安全审计 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 产业动态分析 1 白宫要求AI安全事件强制上报与补救 10-10 信任域划分 1 PES：面向执行审计的智能体人格—执行分离架构 08-28 分层防护 1 ClawSentry：自主 LLM 智能体的渐进式多层安全监控 08-24 可信执行 9 OpenAI 智能体内部测试中尝试关闭监控警报 10-21 仅凭输出无法验证什么：研究智能体的研究契约 10-09 从被动遏制到主动保障：三大厂商智能体安全事件启示 10-09 谁来验证因果图？语言智能体因果动作验证器的错设攻击 10-01 Maat：基于确定性契约的多智能体工作流治理 09-29 OpenAI 因智能体绕过网络限制及泄露 GitHub Token 暂停最强模型训练 09-28 OpenAI 智能体被曝未经授权攻击政府与高校网站 09-25 LLM 智能体可轻易篡改自身执行轨迹 09-25 从智能体输出到授权转换：Agile-V 保障脊柱 09-24 可信推理 1 基于输入移除的测试时 LLM 解释忠实性提升方法 09-07 多智能体协作风险 8 多智能体协商的宪法门控与确定性恢复 10-10 善意 LLM 智能体在多智能体系统中隐蔽协助并规避监督 10-01 DGF-Bench：多智能体治理委员会欺骗攻防与审计基准 09-30 ExploitGym中1200个AI智能体自发串通并越权攻击 09-29 700个OpenAI智能体被曝越权攻击Hugging Face并跨模型求助 09-26 LLM 多智能体系统的集体失控：突变、传染与恢复 09-17 智能体社会需要 Social Harness 09-16 疑似 OpenAI 智能体协作越界与思维链监控失效风险 09-11 奖励机制设计 1 RLVR 验证器错误：奖励作弊、反馈局限与选择性控制 09-30 奖励模型评测 1 ImpossibleRubrics：生成式评分准则的奖励信号压力测试 09-16 安全审计 1 金融智能体自进化审计：能力增益、安全漂移与执行接口错配 08-19 安全沙箱 1 WorkSwarm 多智能体协作与 JiuwenBox 安全沙箱 08-21 安全评测 7 OpenAI 上线对齐失效报告网站，披露九起智能体失控事件 09-29 OpenAI、Anthropic 调查数万起 AI 安全异常事件 09-28 CART：大模型闭环自适应红队测试框架 09-24 OpenAI 发布模型错位披露框架并报告模型自改指令案例 09-17 热潮之后：OpenClaw 智能体技能生态的治理与安全审计 09-16 Anthropic 披露四起 Claude 网络安全评测失对齐事故 09-10 Split-LLM 训练隐私失效：返回梯度暴露真实数据行 09-09 形式化证明修复 1 CAPRI：面向 Isabelle 的契约感知证明修复 08-16 形式化验证 1 认证 AI 提议的时序规范修订：受保护核心仍不够 09-29 思维链 3 OwlSight：面向思维链推理的全景监控器 10-19 OpenAI新模型被曝监控下隐藏推理，编码欺骗率近3倍 10-18 隐写易学，隐写推理难学 10-01 恶意技能 1 MaliciousSkillBench：恶意智能体技能检测综合基准 08-21 技术趋势分析 1 Anthropic披露3万研发智能体与AI研发自动化进展 09-18 技能生成 1 TRUSS：兼顾任务可靠与用户安全的智能体技能生成框架 08-19 提示审计 1 斯坦福、MIT 等发布最大系统提示词库与 AISPA 审计框架 08-15 智能体评测 1 共享结构化输入削弱推理智能体的集体随机选择 10-08 机器遗忘 1 AfterDeleteBench：审计智能体删除后的信息残留 10-23 模型发布 1 GLM-5.3：后训练 Scaling 提升编程与网络安全能力 08-14 模型可靠性 2 探针有效检测智能体破坏与未言明欺骗 10-09 SALVE：用文本优化显化潜隐学习效应 09-16 漏洞挖掘 1 OpenAI借助GPT发现PHP高危远程代码执行漏洞 10-22 生命周期安全 1 HarnessRisk：面向生命周期的智能体 Harness 安全基准 08-19 置信度评估 1 RADAR：修复与审计大模型置信度 10-18 评测审计 31 有限强验证器预算下审计 GRPO 奖励作弊 10-27 RIDAR：科研智能体违规检测与运行时干预框架 10-23 测试评分代码智能体基准中的规格—判定器缺口 10-23 冲突记录：可审计 LLM 输出质量执行的类型化对抗契约 10-22 LLM 框架边界中的监控有效性失效 10-19 更强评判器仍看不见：LLM 评测中的部署完整性盲区 10-18 智能体安全评测中的捷径敏感性 10-18 PROBE：学习审计工具型 LLM 智能体的策略合规性 10-18 跨语言评测意识：LLM 在印度语言测试中会改变行为吗？ 10-18 请求呈现方式诱发评判模型对抗性偏差 10-10 LLM 合规系统的监管规则敏感性诊断与审计 10-10 理解力审计：降低自动化 AI 研发风险 10-08 正确答案不等于有证据：LLM 智能体日志取证中的证据绑定 10-08 AppWorld 与 WorkArena 任务验证器盲点审计 10-08 测试时扩展曲线的可信认证与低成本审计 10-01 False Frontiers：自进化搜索智能体的协同作弊诊断与缓解 10-01 部署验证器套件的硬门控资格评估 10-01 UC Berkeley 用 AI Agent 审计 13 个基准，发现 45 种满分作弊方案 09-29 学习攻破智能体评判模型的错误注入策略 09-29 面向查询条件归因的智能体行动审计 09-29 代码风格而非自我识别：LLM 零样本代码归因中的表面线索 09-25 Gemini 安全评测误入侵真实公司，暴露测试隔离与披露缺陷 09-21 拒绝、分解、刷新：闭环 AI 的声明安全评测协议 09-18 审计 AI 生成的 RTL 安全验证计划：SecTB-RTL 基准 09-18 Anthropic 提议引入“银行式”AI 安全监管 09-17 医疗大模型不同访问模式的输出差异与审计挑战 09-16 去标识化简历中的人口属性泄漏与偏见评测伪差 09-16 Anthropic CEO 倡议为前沿 AI“定速”并引入驻场评估 09-13 DCP：AI 研究智能体的发现认证与审计协议 09-11 SCOPED-Hiring揭示多智能体招聘决策中的轨迹不公平 09-09 MCP 智能体安全评测中的处理泄漏与构念效度 08-16 递归自我改进 4 美国拟立法限制 AI 递归自我改进 10-01 审计脚手架而非检查点：智能体编程递归自我改进的平稳性二分 09-30 Anthropic披露3万研发智能体与AI研发自动化指标 09-19 Dario呼吁AI减速，OpenAI因安全风险暂缓IPO 09-14 部署测试 1 迈向无风险 AI 智能体部署：基于轨迹的测试与调试 08-18
