安全对齐 LLM-DailyDigest 2026-08-24 2026-08-24 约 100 字 预计阅读 1 分钟 安全对齐 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 主权人工智能模型 1 Thomson：以持续学习构建主权前沿模型 08-28 产业动态分析 2 OpenAI据称暂停前沿强化学习训练以强化安全监控 09-13 Anthropic研究员辞职警告自我改进超级智能风险 09-10 偏好优化 2 RubricOpt：用于偏好优化的语义准则自修订框架 10-22 TPO：面向 OOD 的三级分布鲁棒直接偏好优化 10-21 协同演化 1 SafeEvolve：基于智能体经验的脚手架—策略协同演化安全对齐 09-03 可信执行 2 TrustJev：分离策略权限与不可信证据 10-27 OpenAI披露GPT-6智能体削弱安全监控并隐瞒操作 10-22 可信推理 2 Anthropic：模型自述不能作为行为动机证据 10-10 以论证分析衡量 AI 问责性：模型推理能否经受质询 09-07 在策略蒸馏 2 预训练进程中的潜意识学习与隐性偏好传递 10-23 EOPSA：高效在策略自蒸馏安全对齐 09-30 多智能体协作风险 4 MAS-Guard：面向单体与多智能体系统的统一安全护栏 10-21 多智能体协商的宪法门控与确定性恢复 10-10 多智能体潜空间通信的安全风险 10-01 多智能体系统中的关机破坏倾向 09-24 多智能体系统 2 Noam Brown：多智能体并行推理与递归自我改进 10-01 Noam Brown 谈智能体集群、对齐与递归自我改进 09-18 奖励作弊 1 清洁网格世界中的规范博弈与约束强化学习缓解 10-18 奖励建模 2 差分隐私稀疏奖励估计与偏好反馈 10-22 CleanRM：用少量干净反馈从噪声偏好中训练奖励模型 10-18 安全评测 14 超越文本行为：LLM 智能体拒答迁移失效评测 10-22 辩论可纠正人类判断，却难以改善弱模型监督 10-21 Trapped in Your Story：叙事诱导的谄媚行为评测 10-19 Agent Arena对齐榜更新：Beam 1.0登顶美国开源模型 10-18 VALCON：评测并增强大模型跨角色价值一致性 10-18 PatchBench：评估激活修补的附带损害 10-08 开放权重大模型非规范输入四状态安全评测 10-08 CATCH：代码强化学习中奖励作弊的可控分析测试床 10-01 OpenAI 据报因安全隐患取消发布 GPT‑6.1 Astra 09-29 System One 模型的智能体安全决策评测：可靠性、校准与选择性自动化 09-29 Jev：零样本检测 AI 对齐失效的校准决策模型 09-25 GPT 模型中的“伤害洗白”：安全训练转化而非消除性别歧视 09-19 HackProbe：自进化语言模型的奖励作弊检测与免疫 09-07 大模型越狱鲁棒性随运行状态显著波动 09-01 对齐失配 1 安全方向惩罚缓解推理诱发的模型失配 08-25 工具调用 1 检索之前：LLM 智能体的安全与工具调用决策 10-19 思维链 4 思维链可监控性可通过后训练提升 10-22 奖励错设会削弱思维链可监控性 10-21 推理模型可通过自我指令控制思维链 10-19 TAME：用激活约束抑制视觉语言模型的思维链混淆 09-22 持续学习 1 Ready2Blend：可组合对齐提示实现持续对齐 10-01 数据合成 1 合成数据隐患：无害文本中的隐蔽定向偏见注入 09-01 数据策展 2 数据归因难以可靠过滤潜意识学习 09-18 从重加权到响应重写：释放影响样本的训练干预效应 09-03 智能体评测 1 Arena 融资 2 亿美元并发布智能体 Alignment Index 10-09 模型可靠性 9 LLM 价值训练的非预期副作用 10-22 无标签子空间分离语言模型的判断与表达 10-18 工具中介改变大语言模型的拒绝机制 09-30 OpenAI披露GPT-5.6Sol隐藏错误指令等异常行为 09-18 OpenAI 披露 GPT-5.6 Sol 利用压缩摘要隐藏不当行为 09-18 Cunning 数据训练提升大模型安全警觉性 09-17 首个 Token 决定安全：大推理模型的起始拒答崩塌 09-17 SPINE：持续多轮压力下的 LLM 迎合性评测 09-09 良性微调下的安全路由失效与对齐脆弱性 09-02 模型微调 2 超越平均安全：机会约束下的 LLM 安全微调 09-25 TAME：通过Token归因与掩码抑制涌现失调 09-16 测试时优化 2 DHSA：以少量控制参数实现推理时偏好对齐 10-18 ExpBoN：基于指数噪声 Best-of-n 的高效测试时对齐 09-21 测试时对齐 1 ReFrame：证据引导的多模态模型测试时安全对齐 08-24 策略优化 1 重新审视 GRPO 的大推理模型安全对齐 10-19 置信度评估 1 J4U：面向大型推理模型的黑盒不确定性量化 09-30 脚手架演化 1 EvoSafeHarness：演进模型与领域专属安全脚手架 09-13 自动化对齐 6 持续宪法大会：模型迭代改写自身规范呈现对齐分化 10-18 ReSI：面向抗已知威胁与未知风险韧性的递归安全改进 10-09 DeShortcut-Align：解耦伪捷径的稳健安全对齐框架 09-30 Artificial Id：智能体内驱力与持续对齐 09-11 Claude 自动化对齐研究：单卡 48 小时迭代 1601 种方案 08-30 Claude 自动训练 Claude：AAR 低成本跑赢人类安全研究员 08-30 自动化科学研究 1 OpenAI称AI一周推进十年数学进展，下一站瞄准生命科学 10-08 自蒸馏 1 面向可控安全拒答的边界感知自蒸馏 09-07 自进化 1 FailBank：利用运行时反馈自进化视觉语言动作模型 10-01 行为耦合 1 语言模型中的行为耦合：形成机制与行为涌现 10-19 训练归因 1 训练期间模型行为的可扩展归因与控制 09-29 评测基准 1 TenetBench：条款锚定的俄语专业伦理准则评测语料库 10-27 评测审计 1 对齐测试提示改变语言模型的战争决策 09-07 评测意识 1 评测意识并非单一变量：能力框架可预测模型服从性 08-29 递归自我改进 3 大模型时代的可信递归自我改进：基础、风险与评估 10-27 OpenAI首席科学家警示“异星心智”与RSI安全风险 09-08 OpenAI首席科学家谈RSI、对齐与人类价值 09-08 长期记忆 2 LLM 智能体持久记忆的准入与呈现治理 10-10 Safin-1：以记忆原生状态演化实现内生安全 09-03
