arXiv cs.AI· Suryansh Talukdar, Jin Soung Yoo·· 10 小时前AI 评分20
OT-CAL：用最优传输引导自适应样本选择，加速视觉模型训练
OT-CAL: Optimal-Transport-Guided Adaptive Sample Selection for Efficient Visual Learning
AI 导读
OT-CAL 是一种自适应数据选择方法，用难度、可学习性、不确定性等五个信息量特征描述样本，通过最优传输匹配按样本与课程向量的接近程度分配选择权重，并利用被选样本更新课程向量形成无需人工调度的反馈循环。在三个标准视觉学习基准上，每个 mini-batch 只选 50% 样本时，OT-CAL 比 AdaSelection 提升 1.3–2.1 分，训练速度比全量数据训练快 1.18–1.24 倍。
正文 · AI 翻译
摘要：用于图像识别的深度神经网络通常使用小批量进行训练，先通过前向传播计算预测和损失，随后进行计算代价更高的反向传播以更新模型参数。然而，并非所有训练样本对学习的贡献都相同，这表明可以通过仅对信息量大的样本执行反向传播来减少计算量。难点在于样本的信息量在整个训练过程中会发生变化：困难的样本在早期可能很有价值，逐渐改善的样本在后期变得重要，而类别多样性在接近结束时越来越相关。现有方法往往依赖固定的选择规则或计算代价高昂的逐样本梯度计算。我们提出 OT-CAL，一种自适应数据选择方法，可在训练过程中自动调整其采样偏好。OT-CAL 使用五个信息量特征来表示每个样本，包括难度、可学习性和不确定性。课程向量描述当前偏好的样本特征，基于最优传输的匹配根据样本与该目标的匹配程度分配选择权重。随后使用所选样本更新课程向量，形成一个无需手动定义时间表的自适应反馈回路。在三个标准视觉学习基准上的实验表明，当在每个小批量中选择 50% 时，OT-CAL 相比 AdaSelection 将性能提升 1.3--2.1 个点，同时训练速度比全数据训练快 1.18--1.24 倍。
| 评论： | 9 页，3 幅图。提交至 IEEE BigData 2026 高效 AI 研讨会 |
| 主题： | 计算机视觉与模式识别 (cs.CV)；人工智能 (cs.AI) |
| 引用为： | arXiv:2610.41677 [cs.CV] |
| （或 arXiv:2610.41677v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.41677 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Suryansh Talukdar [查看电子邮件]
[v1]
2026 年 10 月 30 日星期五 12:45:02 UTC（162 KB）
来源：arXiv cs.AI · arxiv.org