arXiv cs.AI· Hyunseung Hwang, Seungeun Lee, Lucas Rosenblatt, Steven Euijong Whang, Julia Stoyanovich·· 9 天前AI 评分26
SHAP 解释的多重性：表征与评估
Explanation Multiplicity in SHAP: Characterization and Assessment
AI 导读
研究发现，即使模型、输入实例和预测结果固定不变，SHAP 解释在重复运行间也会出现显著分歧，作者将这一现象称为"解释多重性"。团队提出双种子协议区分模型引发与解释器引发的变异，并结合幅度、排名和集合三类指标及 Dirichlet、Mallows 零模型进行评估。结果显示该现象普遍存在，小数据集上模型引发的分歧更大，大数据集上解释器引发的分歧更大，CTE 等改进采样方法也无法消除排名层面的多重性。
正文 · AI 翻译
摘要：SHAP 解释被广泛用于高风险场景中为决策提供依据，然而即使在模型、输入实例和预测都保持不变的情况下，重复运行之间也可能出现显著差异。此前的工作已记录了不同解释方法之间的分歧；我们表明，即使在同一训练模型和实例上对同一估计器进行重复运行，SHAP 内部也会出现显著分歧。我们将这一现象称为解释多重性，并开发了一套评估方法，用于在贴近部署实际的计算预算下刻画该现象，该方法结合了比较模型引发与解释器引发变异性的双种子协议、基于幅度、基于排序和基于集合的层级化指标，以及为观测到的分歧提供参考尺度的随机 Dirichlet 和 Mallows 零模型。在多个数据集、模型和采样策略上，我们发现解释多重性普遍存在，即使对于高置信度预测也依然存在。各来源的相对贡献取决于数据情形和模型：模型引发的分歧在较小数据集上通常更大，而解释器引发的分歧在较大数据集上更大。常用的 L2 距离可能低估这种不稳定性，而基于排序的指标则揭示了排名靠前特征（包括首要特征）的显著变化。CTE 等改进的采样方法并不能消除排序层面的多重性，K-Means 减少了运行间变异，但其压缩背景解释可能偏离经验分布参考。从业者应将单次运行的 SHAP 输出视为某一分布的一次实现，而非权威性产物。
| 评论： | 已被 NeurIPS 2026 接收，评估与数据集方向 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2601.12654 [cs.LG] |
| （或使用 arXiv:2601.12654v3 [cs.LG] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2601.12654 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Hyunseung Hwang [查看邮箱]
[v1]
2026年1月19日星期一 02:01:18 UTC（668 KB）
[v2]
2026年1月25日星期日 16:59:03 UTC（673 KB）
[v3]
2026年10月7日星期三 20:48:57 UTC（2,090 KB）
来源：arXiv cs.AI · arxiv.org