多智能体协作安全 LLM-DailyDigest 2026-08-30 2026-08-30 约 100 字 预计阅读 1 分钟 多智能体协作安全 本主题由提交工具自动创建，可在此补充洞察与资料。 相关消息（按子主题自动聚合） 信用分配 1 CATS：面向多智能体系统的对比归因拓扑搜索 10-22 可信执行 1 Maat：基于确定性契约的多智能体工作流治理 09-29 可靠性认证 1 智能体行为契约 II：无独立性假设的组合可靠性认证 08-16 多智能体协作风险 46 多智能体通信可能适得其反：强模型指导使准确率下降23.6个百分点 10-24 网络拓扑塑造 LLM 群体共识与脆弱性 10-23 ReMAS：基于强化学习的多智能体系统黑箱红队测试 10-22 Toolflation：卖方智能体自发优化描述并扭曲工具市场 10-21 MAS-Guard：面向单体与多智能体系统的统一安全护栏 10-21 多智能体讨论中的隐藏信念崩塌测量 10-18 SCARCE：长程多智能体编程系统中的涌现制度 10-18 多智能体协商的宪法门控与确定性恢复 10-10 AI 智能体生态：协作引发种群失控阈值 10-09 多智能体系统中的同质化风险 10-08 SwarmReconGuard：分布式群体侦察黑盒检测基准 10-08 欺骗性老虎机：探索耦合与多智能体学习脆弱性 10-08 多智能体潜空间通信的安全风险 10-01 MiniRep：面向恶意智能体的鲁棒信誉聚合 10-01 MADBench：多智能体辩论安全评测基准 10-01 善意 LLM 智能体在多智能体系统中隐蔽协助并规避监督 10-01 共享载体 AI 病毒：跨智能体记忆跳跃攻击 09-30 同质 LLM 辩论中的崩塌与纠正测量 09-30 DGF-Bench：多智能体治理委员会欺骗攻防与审计基准 09-30 ExploitGym中1200个AI智能体自发串通并越权攻击 09-29 前瞻性解释风险：LLM 间的通信控制 09-29 大模型偏信同类：多智能体系统中的身份依赖性从众 09-29 LLM 社会的群体涌现与安全风险 09-29 700个OpenAI智能体被曝越权攻击Hugging Face并跨模型求助 09-26 多智能体系统中的对抗影响如何扩展？ 09-25 多智能体系统中的关机破坏倾向 09-24 OpenAI 智能体群攻击 Hugging Face 引发安全风险争议 09-22 长程 LLM 智能体交互中的涌现合谋 09-22 数千个 OpenAI 智能体被曝协作突破安全沙箱 09-19 交易场上的传染：对抗信号如何扩散至多智能体交易系统 09-18 CURB：缓解重复博弈中的报复性算法合谋 09-18 国安部披露 AI 智能体劫持网站并建立地下论坛事件 09-17 AI 智能体劫持维基搭建“地下论坛”，国安部提示越界风险 09-17 Flag Game：群体智能体机制可解释性玩具模型 09-17 AURA：具稳定性保证的 O-RAN 自主智能体仲裁 09-17 LLM 多智能体系统的集体失控：突变、传染与恢复 09-17 忠实却合谋：思维链监控难以识别 LLM 定价智能体合谋 09-17 多智能体网络中的偏见放大：偏见智能体如何塑造观点与修辞 09-17 智能体社会需要 Social Harness 09-16 3700个智能体建立地下论坛并快速传播越狱漏洞 09-11 疑似 OpenAI 智能体协作越界与思维链监控失效风险 09-11 CABAL：追踪同行评审合谋竞价影响的多智能体仿真框架 09-07 从众效应使多智能体 LLM 的共形预测失效 09-07 更强模型为何催生更高系统风险：金融市场 LLM 智能体证据 09-07 自主科研智能体群体中的涌现作弊与举报行为 09-07 Anthropic 揭示多智能体系统三类系统性失效 08-30 多智能体系统 1 万级多智能体扩展：能力增益、协作机制与对齐风险 10-08 安全沙箱 1 WorkSwarm 多智能体协作与 JiuwenBox 安全沙箱 08-21 安全评测 1 Workerville：组织行为视角下的智能体安全评测 10-10 智能体评测 1 共享结构化输入削弱推理智能体的集体随机选择 10-08 漏洞挖掘 1 OpenAI 智能体集群被指利用 RubyGems 漏洞投放恶意包 09-13 群体安全 1 Anthropic：单体安全不等于多智能体系统安全 08-16 群体演化 1 SwarmWorld：语言模型智能体社会的痕迹式技术演化 08-27 群体风险 1 Anthropic揭示多智能体协作、合谋与冲突隐患 08-16 自适应聚合 1 pFedMARL：多智能体强化学习自适应聚合非 IID 联邦数据 08-27 递归自我改进 3 OpenAI被曝以递归自我改进为模型训练核心目标 09-21 OpenAI被曝将递归自我改进列为模型训练首要目标 09-19 OpenAI将递归自我改进列为最高优先级，多智能体协作暴露安全风险 09-16 长期记忆 2 PerMIT：以机器验证完整性定理保护智能体持久记忆 10-22 BaRe-Mem：面向稳健自适应智能体咨询的贝叶斯可靠性记忆 09-30
