arXiv cs.AI· Kangping Hu, Stephen Mussmann·· 3 天前AI 评分20
基于部分批次标签采样的批量贝叶斯主动学习
Batch Bayesian Active Learning with Partial Batch Label Sampling
AI 导读
研究者将主动学习的贝叶斯决策论框架扩展至批量场景,为 EPIG 算法推导出部分批次标签采样方法 ParBaLS。实验表明,ParBaLS EPIG 在基于大型预训练模型嵌入的贝叶斯逻辑回归上,于多种数据集和不同预算下均取得更优性能。代码已公开。
正文 · AI 翻译
摘要:在过去二十年中,人们提出了许多主动学习采集函数,使得实践者难以清楚选择使用哪一种。贝叶斯主动学习提供了具有可解释直觉的原则性目标,包括期望误差减少(EER)、期望预测信息增益(EPIG)以及基于分歧的贝叶斯主动学习(BALD)。这类方法的一个关键挑战是难以扩展到批量设置,从而导致计算挑战(BatchBALD)或性能急剧下降(top-$B$ 选择)。在这项工作中,我们扩展了主动学习的贝叶斯决策理论框架,为 EPIG 算法推导出部分批量标签采样(ParBaLS)。我们通过实验表明,在使用大型预训练模型嵌入上的贝叶斯逻辑回归时,ParBaLS EPIG 在不同预算的各种数据集上均表现出更优的性能。我们的代码可在 此 https URL 获取。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);机器学习(stat.ML) |
| 引用为: | arXiv:2510.09877 [cs.LG] |
| (或 arXiv:2510.09877v4 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2510.09877 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Kangping Hu [查看电子邮件]
[v1]
2025年10月10日星期五 21:28:42 UTC(474 KB)
[v2]
2026年1月31日星期六 18:11:47 UTC(551 KB)
[v3]
2026年5月8日星期五 20:11:15 UTC(3,066 KB)
[v4]
2026年10月12日星期一 20:36:44 UTC(3,469 KB)
来源:arXiv cs.AI · arxiv.org