POIROT：让 LLM 多智能体系统自己审计失败归因

查看 PDF HTML（实验性）

摘要：基于大语言模型（LLM）的多智能体系统（LLM-MAS）因难以检测和归因的涌现性故障而被排除在安全关键领域之外。当前的评估依赖于集中式评估器（人类或 LLM 评判者），其必须掌握领域知识并将整个交互历史置于单一上下文中。我们提出，执行任务的智能体自身即可对其故障进行归因。我们引入 POIROT（Phased Oversight via Introspection, Review and Opinion Tallying，即通过内省、审查与意见统计的分阶段监督），这是一种模块化协议，其中每个智能体在由系统架构推导出的危险空间内投出私密一票，这些投票被聚合为单一归因。在投票之前，增加了逐步增强智能体间交互的阶段，从独立的自我评估到共享自我评估并进行同行质询。我们逐阶段构建该协议，通过消融实验测量每个阶段的贡献，并将每种配置与单一 LLM 评估器进行比较。我们在 Who&When 基准以及 BLAME（Benchmark for Localising Agent Malfunctions Effectively，即有效定位智能体故障基准）上评估了一个专有 LLM 和两个开放权重 LLM，后者是用于临床康复和算法交易系统中故障归因的新基准。基于智能体的归因优于单一 LLM 评估器，但收益来自独立的自我评估，而非交互：共享评估会使智能体收敛于同一个（往往是错误的）罪魁祸首，而质询无法挽回损失。在不共享和质询的情况下，该协议在所有九种模型-基准配置中均优于评估器（最高提升 50 个百分点）。POIROT 和 BLAME 已作为开源发布。

提交历史

来自：Iñaki Dellibarda Varela [查看电子邮件]
[v1] 2026 年 6 月 1 日星期一 14:05:35 UTC（13,355 KB）
[v2] 2026 年 11 月 12 日星期四 09:53:46 UTC（7,396 KB）