arXiv cs.AI· Helena L\"ofstr\"om, Tuwe L\"ofstr\"om, Johan Hallberg Szabadvary·· 10 天前AI 评分21
当解释产生竞争：不确定性下的策略感知选择框架
When Explanations Compete: Policy-Aware Selection Under Uncertainty
AI 导读
该论文提出一个策略感知框架，用于在固定候选解释集中进行选择，候选解释由不确定性变化、预测方向和区间位置等属性刻画，并结合资格规则、可选双向 Pareto 筛选与策略排序。
正文 · AI 翻译
摘要：不确定性感知的解释方法通常会对同一预测产生若干备选方案。要在其中进行选择，需要一种在预测置信度、不确定性和应用约束之间取得平衡的策略。本文提出了一个框架，用于将此类策略应用于一组固定的已生成解释。候选方案由不确定性变化、预测方向以及（在可用时）相对于决策边界的区间位置来刻画。该框架将这些属性与资格规则、可选的双向帕累托筛选以及策略感知排序相结合。一个虚构的前列腺癌示例说明了不同的解释目的如何从同一候选集中导致不同的选择。我们以校准解释（Calibrated Explanations）实例化该框架，用于分类、阈值回归和普通回归。在 41 个基准数据集上，单特征解释的平均候选数量从 11.57 到 21.75 不等，而当包含合取时则从 $29.48$ 到 $69.53$ 不等。等权重策略和仅置信度策略产生 $28.7\%$ 的平均选择分歧率，同时倾向于相同的置信度方向。一项辅助的 $\delta$-CLUE 实验展示了与第二个生成器配合使用的情况。通过使选择策略显式化，该框架允许应用根据其预期用途来比较和优先排序解释。
| 评论： | 5 页，5 幅图，期刊 |
| 主题： | 人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2410.05479 [cs.AI] |
| （或 arXiv:2410.05479v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2410.05479 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Helena Löfström HeLo [查看电子邮件]
[v1]
2024 年 10 月 7 日星期一 20:21:51 UTC（937 KB）
[v2]
2026 年 10 月 6 日星期二 10:38:02 UTC（229 KB）
来源：arXiv cs.AI · arxiv.org