思维链安全 LLM-DailyDigest 2026-08-21 2026-08-21 约 100 字 预计阅读 1 分钟 思维链安全 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 可信推理 3 VERITAS：通过计算言语化检测思维链忠实性 10-19 AlphaGo作者：LLM尚未掌握可审计的搜索式推理 10-08 AGMAI呼吁负责任发布AI生成数学成果 10-01 多智能体协作风险 2 忠实却合谋：思维链监控难以识别 LLM 定价智能体合谋 09-17 疑似 OpenAI 智能体协作越界与思维链监控失效风险 09-11 安全评测 3 不诚实回答引发大模型推理 Token 激增 10-08 Noam Brown谈AI物理隔离、沙盒识别与安全评估滞后 09-22 SchemeArena：LLM 智能体阴谋行为的因子化压力测试 09-11 并行推理 2 PLRM：可并行的概率潜空间推理 10-22 LLoCoT：基于循环 Transformer 的非自回归潜空间推理 10-10 思维链 14 CausalCoT：通过上下文隔离缓解思维链注意力泄漏 10-24 思维链可监控性可通过后训练提升 10-22 奖励错设会削弱思维链可监控性 10-21 OwlSight：面向思维链推理的全景监控器 10-19 推理模型可通过自我指令控制思维链 10-19 OpenAI新模型被曝监控下隐藏推理，编码欺骗率近3倍 10-18 思维密度：预测与引导大模型推理 10-18 推理轨迹与证据冲突时：回答配置如何影响证据遵循 10-18 隐写易学，隐写推理难学 10-01 无意义填充词显著提升 GPT-6 Astra 深层推理表现 09-23 TAME：用激活约束抑制视觉语言模型的思维链混淆 09-22 计划注入攻击可绕过思维链安全监控 09-15 中间层激活揭示大模型算错时仍处于计算状态 09-13 语言不可读性对 LLM 安全的影响 09-03 思维链泄露 1 EchoCoT：从大推理模型中提取隐藏思维链 08-21 推理扩展 1 GPT-6 Astra借助空白 Token 显著提升隐式推理能力 09-26 推理效率 1 TokenProbe：利用词元价值不均衡提升推理效率 09-29 推理评测 2 思维惯性：被要求停止思考时，LLM 仍会显式推理 10-18 Thinking Inertia：LLM 被要求停止思考后仍持续推理 10-09 数据归因 1 推理模型中“Wait”标记的训练来源追踪 10-24 模型可靠性 1 首个 Token 决定安全：大推理模型的起始拒答崩塌 09-17 模型蒸馏 1 Fable 5.1以思考块一致性验证阻断模型蒸馏 09-07 用户模拟 1 OmniSimulator：面向真实异质行为建模的小语言模型对齐 10-22 置信度评估 1 以弃权认证：小校准预算下思维链验证器的分布无关保证 10-08 自动化科学研究 1 OpenAI Astra突破自动化科研基准，瞄准年底AGI 08-28 评测审计 2 法律思维链忠实性的反事实审计：引用不等于采纳 10-09 用内部表征监测与发现 LLM 评测中的奖励作弊 09-17 评测意识 1 评测意识并非单一变量：能力框架可预测模型服从性 08-29 过程评测 1 LCoT-GV：基于图注意力网络的长思维链验证 09-01 递归自我改进 4 OpenAI被曝以递归自我改进为模型训练核心目标 09-21 OpenAI被曝将递归自我改进列为模型训练首要目标 09-19 OpenAI首席科学家警示“异星心智”与RSI安全风险 09-08 OpenAI首席科学家谈RSI、对齐与人类价值 09-08
