arXiv cs.AI· Yuyang Cheng, Raghav Kaushik Ravi, Srivarshinee Sridhar, Sriparna Saha, Akash Ghosh, Chirag Agarwal·· 10 小时前AI 评分32
MEA：面向忠实模型解释的奖励驱动多智能体系统
MEA: A Reward-Driven Multi-Agent System for Faithful Model Explanations
AI 导读
研究者提出多智能体框架 MEA，由 Proposer 智能体按问题与模态选择并配置解释工具，Actor 智能体针对忠实度端到端优化，将输出转为基于模型行为的自然语言解释，覆盖表格、文本和视觉模态。
正文 · AI 翻译
摘要：近年来，大量机器学习（ML）模型被应用于高风险领域，但对于依据其预测采取行动的从业者而言，这些模型在很大程度上仍是不透明的。尽管事后解释方法为洞察此类模型行为提供了一种视角，但要有效运用这些方法，需要大多数领域专家所不具备的专业知识：驾驭高维输出、挑选最佳解释，以及综合来自不同工具的证据。为此，我们提出 MEA，一个多智能体框架，彻底消除了解释知识的门槛：Proposer 智能体根据问题和模态选择并配置解释工具，而 Actor 智能体则针对忠实性进行端到端优化，将输出转化为以模型行为为依据的自然语言解释，覆盖表格、文本和视觉模态。此外，我们引入了涵盖特征归因、反事实推理和虚假特征检测的多种问题类型，每种类型都配有基于扰动的忠实性指标。我们发现，前沿 LLM 会系统性地产生不忠实的解释。通过针对以模态自适应惩罚增强的忠实性奖励进行优化，MEA 在六个数据集上持续优于事后解释器、智能体式以及闭源基线，奖励驱动的优化相比未训练的主干模型带来了 +28%（表格）、+21%（文本）和 +34%（视觉）的忠实性提升。更广泛地说，我们的研究结果表明，AI 智能体本身可以作为机器学习可解释性的可扩展、可适配接口，开辟了一条通往自然语言可解释性的路径，其泛化能力超越了长期以来定义该领域的固定、单一用途工具。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.02480 [cs.AI] |
| （或 arXiv:2610.02480v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.02480 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yuyang Cheng [查看电子邮件]
[v1]
2026年10月1日星期四 20:57:29 UTC（2,914 KB）
[v2]
2026年11月3日星期二 19:52:45 UTC（2,914 KB）
来源：arXiv cs.AI · arxiv.org