arXiv cs.AI· Christopher Musco, R. Teal Witter·· 6 天前AI 评分24
Leverage SHAP：通过杠杆分数采样实现可证明精确的 Shapley 值估计
Provably Accurate Shapley Value Estimation via Leverage Score Sampling
AI 导读
研究者提出 Leverage SHAP，对 Kernel SHAP 做轻量修改，仅需 O(n log n) 次模型评估即可给出可证明精确的 Shapley 值估计。该方法利用 Shapley 值估计与不可知主动学习之间的联系，采用杠杆分数采样。相比 SHAP 库中高度优化的 Kernel SHAP 实现，其误差降低约 50%。该工作已被 ICLR 2025 接收。
正文 · AI 翻译
摘要：Shapley 值最初在博弈论中提出，现已成为可解释机器学习中的核心工具，用于将模型预测归因于特定的输入特征。然而，精确计算 Shapley 值代价高昂：对于具有 $n$ 个特征的一般模型，需要进行 $O(2^n)$ 次模型评估。为解决这一问题，近似算法被广泛使用。其中最流行的一种是 Kernel SHAP 算法，它与模型无关，在实践中效果显著。在我们最初提交时，Kernel SHAP 尚无强有力的非渐近复杂度保证。我们通过引入 Leverage SHAP 来解决这一问题，它是对 Kernel SHAP 的轻量级修改，仅需 $O(n\log n)$ 次模型评估即可提供可证明准确的 Shapley 值估计。我们的方法利用了 Shapley 值估计与不可知主动学习之间的联系，采用了杠杆分数采样这一强大的回归工具。除理论保证外，我们发现与广泛使用的 SHAP 库 [Lundberg & Lee, 2017] 中高度优化的 Kernel SHAP 实现相比，Leverage SHAP 的误差约减少了 $50\%$。
| 评论： | 被 ICLR 2025 接收 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2410.01917 [cs.LG] |
| （或 arXiv:2410.01917v3 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2410.01917 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：R. Teal Witter [查看邮箱]
[v1]
2024年10月2日星期三 18:15:48 UTC（272 KB）
[v2]
2025年3月10日星期一 15:52:54 UTC（3,360 KB）
[v3]
2026年10月8日星期四 23:10:08 UTC（820 KB）
来源：arXiv cs.AI · arxiv.org