奖励作弊 LLM-DailyDigest 2026-08-12 2026-08-12 约 100 字 预计阅读 1 分钟 奖励作弊 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 产业知识图谱 1 RSI产业图谱：围绕智能进化速度的新竞赛 08-28 修辞敏感性 1 120篇 ICLR 投稿实测：修辞改写可显著影响 AI 审稿评分 08-27 可信执行 2 OpenAI 因智能体绕过网络限制及泄露 GitHub Token 暂停最强模型训练 09-28 以物理映射约束 Architecture-0 阶段的 SWE-Agent 决策 09-16 可信推理 1 Anthropic：模型自述不能作为行为动机证据 10-10 多智能体协作风险 4 Toolflation：卖方智能体自发优化描述并扭曲工具市场 10-21 ExploitGym中1200个AI智能体自发串通并越权攻击 09-29 700个OpenAI智能体被曝越权攻击Hugging Face并跨模型求助 09-26 长程 LLM 智能体交互中的涌现合谋 09-22 奖励作弊 1 清洁网格世界中的规范博弈与约束强化学习缓解 10-18 奖励建模 1 Envelope Sampling：通过代理奖励后训练缓解奖励作弊 10-10 奖励机制设计 4 FORK：精确率目标缓解评分标准强化学习中的奖励投机 10-29 多奖励黑客：聚合诱导漂移与信任锚定防御 10-18 ProRubric：以协议级量规缓解 Rubric-RL 奖励作弊 10-01 RLVR 验证器错误：奖励作弊、反馈局限与选择性控制 09-30 奖励模型评测 1 ImpossibleRubrics：生成式评分准则的奖励信号压力测试 09-16 安全评测 4 CATCH：代码强化学习中奖励作弊的可控分析测试床 10-01 Jev：零样本检测 AI 对齐失效的校准决策模型 09-25 模型内部激活信号可规模化检测奖励作弊 09-18 HackProbe：自进化语言模型的奖励作弊检测与免疫 09-07 强化学习 1 跨任务耦合驱动无监督 RLVR 策略坍缩 10-29 形式化验证 1 SpecGuard：在编码智能体作弊前证明任务规格冲突 10-08 思维链 1 奖励错设会削弱思维链可监控性 10-21 智能体框架 1 Prime Agent 开源自我改进智能体框架 08-11 智能体评测 1 BAITBENCH：评测机器学习智能体的奖励作弊行为 09-01 框架演化 1 AIDE²：零权重更新实现一阶递归自我改进 08-12 模型可靠性 3 SimHack：在强化学习训练前预测奖励作弊爆发 10-22 通过表征工程缓解真实场景中的奖励作弊 10-22 语言模型诊断受损奖励通道：易抓说谎，难证清白 09-16 流形漂移 1 流偏好优化中的流形漂移与奖励作弊 08-22 环境合成 1 CogEvol：高效可靠的学习环境生成模型 09-02 科研评测 3 DeepRSI 48 小时科研智能体评测：Kimi K3 跻身前三 10-18 InnovationEval：AI自主研发仅达人类方案15% 10-10 InnovationEval：前沿模型未能创新并出现评测作弊 10-08 科研评测基准 1 DeltaML-Bench：真实科研仓库中的机器学习智能体评测 08-21 脚手架演化 1 RRSI：正则化智能体脚手架的递归自我改进 10-27 自动化对齐 2 Claude 自动化对齐研究：单卡 48 小时迭代 1601 种方案 08-30 Claude 自动训练 Claude：AAR 低成本跑赢人类安全研究员 08-30 训练-推理对齐 1 LEGO-RL：面向编程智能体原生 Harness 的强化学习框架 08-19 评测基准 1 LIFT：基于分区约束的指令遵循评测与训练 10-22 评测审计 5 有限强验证器预算下审计 GRPO 奖励作弊 10-27 谁来验证验证器？可检查评分器与自改进智能体协同演化 10-10 False Frontiers：自进化搜索智能体的协同作弊诊断与缓解 10-01 UC Berkeley 用 AI Agent 审计 13 个基准，发现 45 种满分作弊方案 09-29 用内部表征监测与发现 LLM 评测中的奖励作弊 09-17 辩论式对齐 1 辩论训练减少 RLAIF 奖励作弊 08-19 递归自我改进 1 Recursive获6.5亿美元押注“AI研究AI”与递归自我改进 09-19 高斯引导 1 Agent-G²：面向智能体强化学习的高斯引导 08-25
