人工智能可解释性 LLM-DailyDigest 2026-08-30 2026-08-30 约 100 字 预计阅读 1 分钟 人工智能可解释性 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 上下文压缩 1 有界键查询相似度下的注意力：空间复杂度与 Transformer 各向异性 10-27 世界模型评测 1 HarnessEval-W：智能体化视觉世界模型评测 08-19 临床协作 1 MARC v1：面向临床推理与协作的开源多智能体框架 08-16 信息分解 1 以信息分解形式化判定 AI 系统涌现 10-22 元认知 2 Imprint Reader：从权重更新解读到行为干预 09-30 评估与改进大语言模型的自我建模能力 09-01 决策协商 1 BoardroomAI：基于演化决策图的人类可操控多智能体协商 08-16 可信推理 7 最小对探测潜在推理：信息存在不等于可读或被使用 10-21 VERITAS：通过计算言语化检测思维链忠实性 10-19 Anthropic：模型自述不能作为行为动机证据 10-10 SLITE：基于语言学特征的可解释文本蕴含模型 09-22 LEAP：逐证据似然聚合实现可追溯概率预测 09-07 以论证分析衡量 AI 问责性：模型推理能否经受质询 09-07 基于输入移除的测试时 LLM 解释忠实性提升方法 09-07 可解释性效用 1 自然语言解释何时助益上下文学习：类型与忠实度比较 08-18 可解释性评测 1 CHIVE：用反事实实验评估大模型行为解释 08-18 在策略蒸馏 1 稀疏 Crosscoder 揭示在策略蒸馏的特征重加权机制 09-30 多智能体协作风险 2 Flag Game：群体智能体机制可解释性玩具模型 09-17 忠实却合谋：思维链监控难以识别 LLM 定价智能体合谋 09-17 多智能体系统 3 用于可控意见动力学的贝叶斯信念层 BCA 09-21 GlossoGen：复杂多智能体交互中的涌现语言 09-02 Hermon Moment：AI 自我超越与人类叙事 09-01 多模态学习 1 音视频模型中的注意力三角与语义泄漏 09-08 奖励建模 3 理由引导的人类奖励建模用于偏好强化学习 10-19 RewardExplainer：从反事实偏好反馈学习奖励模型解释 09-29 RewardVerse：评分标准引导的视频奖励建模 09-25 工具调用 1 Agentic LLM 如何决定调用工具：由抑制机制塑造的工具调用向量 10-08 思维链 13 CausalCoT：通过上下文隔离缓解思维链注意力泄漏 10-24 潜在思维链真的在推理吗？潜在推理的统一分类体系 10-18 CIA：衡量并提升思维链与模型内部推理的一致性 10-01 无意义填充词显著提升 GPT-6 Astra 深层推理表现 09-23 通过工具调用提取并刻画前沿模型的隐藏思维链 09-23 TAME：用激活约束抑制视觉语言模型的思维链混淆 09-22 中间层激活揭示大模型算错时仍处于计算状态 09-13 推理表征能否帮助人类评估大模型输出？ 09-09 思维链推理操作的内部表征几何机制 09-07 可读性不等于可解释性：思维链步骤的判断重要性与实际重要性 09-07 语言不可读性对 LLM 安全的影响 09-03 SHAPE：解析数学推理中思维链的形态 09-02 MIST：基于模型内部显著性的思维链 Token 压缩 09-01 技术趋势分析 1 基础模型冲击下，AI 博士生与学术研究何去何从 09-28 拒答评测 1 TRAPSBench：视觉语言模型能识别不确定性，却不会克制回答 08-16 拓扑压缩 1 LLM 长上下文流形的拓扑压缩与六度分隔 08-19 拓扑解释 1 E2-Explainer：用因果推断解析多智能体通信拓扑 08-16 探针效度 1 探针方向由提示词决定，而非模型属性 08-16 推理效率 1 分形吸引域揭示潜在推理减速机制 09-10 敏感性分析 1 基于交互作用评估与解释 LLM 提示敏感性 08-20 数学推理 2 数学家呼吁抵制 OpenAI 批量发布 AI 生成证明 10-09 共享回路预测 LLM 算术推理的跨格式泛化 09-07 数据归因 1 语言模型预训练中的任务无关数据影响度量 08-16 机制发现 4 将人类干预作为标签：定位与修正 LLM 智能体故障 10-18 Looped Transformer 如何通过隐状态路由共享计算 10-01 单层 MeMo 是随机化 Hamming 核分类器 09-30 Mechanist：自主发现 AI 智能机制的科学智能体 08-14 查询验证 1 TraceSQL：可追溯的无参考 Text-to-SQL 验证 08-19 模型可靠性 6 探针有效检测智能体破坏与未言明欺骗 10-09 LLM 在否定语句下如何改变预测 10-08 工具中介改变大语言模型的拒绝机制 09-30 模型拒绝候选时给出的理由是否真正影响决策？ 09-26 必要还是充分？用行为证据评估 LLM 解释可靠性 09-07 内部探针何时优于直接读取答案：失准读出与行为隐藏知识 09-07 模型微调 1 BrainLoRA：参数高效微调扩展脑编码 10-21 模型架构创新 1 混合语言模型中注意力记忆与循环状态控制的功能分工 09-07 模型评测 4 TIDE：基于模型行为树的细粒度诊断评测 10-22 SkillEval：基于认知诊断的可解释能力画像评测 10-22 超越评分：解析 LLM-as-a-Judge 的摘要评估机制 09-02 错误预测中的正确证据：修复 LLM 序列评分坍塌 09-01 模型验证 1 以模型检验为预言机自动测试 LLM 事后解释器 09-01 步骤归因 1 SkillShapley：智能体技能步骤的边界自适应 Shapley 归因 08-16 测试时优化 1 DHSA：以少量控制参数实现推理时偏好对齐 10-18 游戏推理 1 面向路径与支撑推理的混合定性模型 09-18 溯因推理 1 LLM 不为“跃迁”付出代价：机器溯因缺少物理成本 08-17 激活引导 1 Deep Noir：自主发现 Transformer 激活引导参数 09-19 状态读出 1 J64/R64：从原生 MoE 路由读出可解释推理状态 08-19 神经符号人工智能 5 功能梯度引导语言模型学习概率逻辑程序 10-09 面向工业配置的神经符号人工智能 09-25 基于原子命题图的可解释自然语言推断 09-16 从符号感知到逻辑演绎：语言模型几何推理框架 09-10 Moose：具备推理捷径感知的 EL++ 潜在概念学习 08-16 科研评测 1 SAEScientist-Bench：评测智能体自主开展 SAE 可解释性研究 09-09 稀疏自编码器 1 SAE 潜在空间中涌现的词性类别 09-26 程序进化 1 遗传编程实现可解释的 MILP 割平面选择 10-22 策略发现 1 ATLAS：从智能体轨迹中发现可解释策略 08-17 罕见病建模 1 大语言模型充当合成临床专家辅助纵向罕见病建模 08-18 置信度评估 3 U-Space：揭示语言模型不确定性的产生与演化 10-18 U-Space：定位语言模型推理中的不确定性来源 10-08 ConfLens：通过过早答案承诺检测捷径推理 09-30 自动化科学研究 3 SED-MCTS：通过结构经验蒸馏实现可解释的 PDE 解发现 10-10 陶哲轩警告黑箱AI解题或“污染”数学研究 09-07 AI4CDS：负责任的人机协同计算设计科学框架 09-07 表征审计 1 冻结 LLM 的几何约束“可解码但不可行动”鸿沟审计 08-19 规则规划 1 RuleMaze：多模态模型的规则约束视觉空间规划 08-21 视觉归因 1 SSI：多光谱图像的光谱—空间联合归因 10-23 视觉推理 2 S-Space：多模态语言模型的内部空间工作区 10-18 谁在谁的左边？相对位置推理中的空间证据追踪与角色绑定 09-30 论证补全 1 语义链接不确定性下的省略论证补全选择 08-20 评测基准 1 SymbolicArena：符号回归基准蒸馏与动态评测基础设施 09-30 评测审计 3 法律思维链忠实性的反事实审计：引用不等于采纳 10-09 面向查询条件归因的智能体行动审计 09-29 CLASH：口语讽刺检测中的词汇与韵律依赖反事实审计 09-16 语义表征 1 AI 语言表征中虚假与不可能性方向不同 08-16 辩论评判 1 事后辩论裁判理论 08-20 长期记忆 1 MARI：面向大模型推荐的结构化决策记忆蒸馏 10-10 预训练 1 解耦自回归预训练中的 Token 目标与上下文角色 09-29
