arXiv cs.AI· Wolfgang Stammer, Sukrut Rao, Hevra Petekkaya, David Steinmann, Bernt Schiele·· 10 天前AI 评分24
AnyBottle：只保留真正需要的概念，构建紧凑任务专属概念瓶颈模型
AnyBottle: A Recipe to Only Keep the Concepts You Really Need
AI 导读
AnyBottle 提出一种构建紧凑、任务专属概念瓶颈模型（CBM）的方法，仅需冻结骨干网络和无监督概念池（如稀疏自编码器），由黑盒教师模型引导逐轮筛选概念，候选限定在师生分歧区域。该方法在六个视觉和两个文本数据集上，以更少概念实现比无标注基线更高的概念一致性，同时接近黑盒参考模型表现。
正文 · AI 翻译
摘要：概念瓶颈模型（CBM）通过将预测经由人类可解释的概念进行路由，使预测可被检查和干预，但最初需要概念标注。无标注的变体消除了这一要求，但通常使用大型概念词汇表，且在训练和推理时都是静态的，产生的瓶颈比任何任务或预测所需的都大，也更难检查。我们提出 AnyBottle，一种用于构建紧凑、任务特定 CBM 的单一配方。AnyBottle 仅假设一个冻结的骨干网络和一个无监督概念池，例如稀疏自编码器。然后，在同一骨干网络上训练的黑盒教师模型指导选择：每一轮添加最能解释瓶颈当前失败的概念，候选概念仅限于教师/学生分歧的区域。在此选择顺序上使用嵌套 dropout 进行训练，最终瓶颈可以从任意概念前缀准确预测，因此推理在早期就确信的输入上花费更少的概念，而在困难输入上花费更多。由于没有任何阶段是模态特定的，新的领域和任务只需替换骨干网络和概念池。在六个视觉和两个文本数据集以及两种教师范式上，AnyBottle 产生的瓶颈比无标注基线具有更少的概念和更高的概念一致性，同时保持接近黑盒参考。总体而言，AnyBottle 表明，无标注并不一定意味着大规模：一个小的、被发现的概念词汇表可以像一个大得多的固定词汇表一样具有表现力。
| 主题： | 人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.08552 [cs.AI] |
| （或 arXiv:2610.08552v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.08552 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Wolfgang Stammer [查看电子邮件]
[v1]
2026年10月6日星期二 15:40:06 UTC（9,930 KB）
来源：arXiv cs.AI · arxiv.org