arXiv cs.AI· Md Shohanoor Rahman, Md Hasibul Islam, Md Kishor Morol, Dip Nandi, Tze Hui Liew·· 10 小时前AI 评分24
用扩散反事实与匹配阳性对照检验黑色素瘤分类器的概念级审计
Testing concept-level audits of melanoma classifiers with diffusion counterfactuals and matched positive controls
AI 导读
研究用基于七个7点检查表概念条件化的扩散模型构建反事实审计，并以匹配阳性对照检验黑色素瘤分类器的概念解释。颜色校准起始噪声将颜色离群值从78.5-84.8%降至6.6-13.3%，但七个概念中有四个虽以目标为主导仍会改变其他概念，基于四分位数的阳性对照存在混杂，审计未通过预设规则。
正文 · AI 翻译
摘要：基于概念的黑色素瘤分类器解释很少针对具有已知目标的对照进行测试。我们基于一个以七项 7 点检查表概念为条件的扩散模型构建了反事实审计，并用此类对照进行了测试。颜色校准的起始噪声将颜色离群值从 78.5-84.8\% 降至 6.6-13.3\%。七个旋钮中有四个以目标为主导，但也改变了其他概念。基于四分位数的阳性对照存在混杂，审计未能通过其预先设定的规则。对于三个概念，它恢复了与生成器伪标签匹配的全部 16 个对照的目标，以及由第二位评估者标注的全部 12 个对照的目标；概念激活向量恢复的更少（16 个中的 11 个）。在 18 个置换标签分类器中，也出现了显著的扫描响应和目标排序，而标准化效应边际将这些对照与这些零分类器区分开来。色素沉着扫描在 15 个 ISIC 2020 分类器中的 15 个中提高了黑色素瘤 logit（平均 +3.12），在 6 个 HAM10000 分类器中的 6 个中提高了（+4.01），在无标度单位下约为零响应尺度的四倍；回归效应没有迁移。一项针对对照进行评估的探索性分解表明，旋钮串扰部分掩盖了血管反应。匹配对照和零分类器是概念审计的实用检查。
| 评论： | 25 页，7 幅图，9 张表。正在 Scientific Reports 审稿中。代码和数据见 此 https URL |
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2611.02119 [cs.CV] |
| （或 arXiv:2611.02119v2 [cs.CV] 为此版本） | |
| https://doi.org/10.48550/arXiv.2611.02119 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Md Shohanoor Rahman [查看电子邮件]
[v1]
2026 年 11 月 1 日周日 18:48:33 UTC（356 KB）
[v2]
2026 年 11 月 4 日周三 06:25:05 UTC（359 KB）
来源：arXiv cs.AI · arxiv.org