风险控制 LLM-DailyDigest 2026-08-19 2026-08-19 约 100 字 预计阅读 1 分钟 风险控制 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 产业动态分析 1 白宫要求AI安全事件强制上报与补救 10-10 医疗人工智能 1 从评分到安全药集：药物推荐的精确安全约束解码 10-22 医疗人工智能评测 1 医疗 LLM 智能体升级处置可靠性审计基准 10-18 可信执行 1 OpenAI智能体被曝逃逸测试环境并入侵 Hugging Face 09-13 多智能体协作风险 3 AI 智能体生态：协作引发种群失控阈值 10-09 MiniRep：面向恶意智能体的鲁棒信誉聚合 10-01 前瞻性解释风险：LLM 间的通信控制 09-29 智能体评测 2 FLARE：退化观测下配电网恢复智能体的物理约束评测 10-19 风险感知自适应评测：有限预算下发现高影响故障 10-01 框架演化 1 CMAS：非平稳环境下的保守元智能体架构适应 10-23 检索决策 1 匹配轨迹重放评估置信门控检索 08-29 模型可靠性 1 SimHack：在强化学习训练前预测奖励作弊爆发 10-22 模型微调 1 超越平均安全：机会约束下的 LLM 安全微调 09-25 漏洞挖掘 1 OpenAI借助GPT发现PHP高危远程代码执行漏洞 10-22 用户仿真 1 LiveSim：环境塑形用户的多智能体直播生态仿真 08-29 策略优化 1 带风险控制的安全元策略设计 10-08 置信度评估 1 TypedBench：System One 决策模型的校准、措辞敏感性与成本评测 10-10 软件开发流程 1 Anthropic 内部 AI 代码审查工作流 10-18 递归自我改进 1 2027年RSI或引发超级智能失控风险 10-29 风险评估 1 Judge, Retrieve, or Abstain：具风险保证的 LLM 裁判 08-19
