arXiv cs.AI· Robert Bain, Marjan Rashidi, Elizabeth Chrastil·· 11 小时前AI 评分36
成对学习提升深度神经网络的数据效率
Pairwise Learning Increases Data Efficiency in Deep Neural Networks
AI 导读
研究者提出成对比较框架，将回归任务重构为聚合相对排序，在多种模型架构和数据集规模上提升数据效率。在 UTKFace（23k 图像）上，该方法无需额外监督即生成超 10 亿条训练比较，使家用硬件从零训练的轻量 ResNet10 达到 3.64 年 MAE，超过包括大规模预训练在内的此前模型。
正文 · AI 翻译
摘要：深度神经网络在小样本回归任务中常常表现不佳，会退化为低方差预测，从而忽略个体差异。在此，我们引入一种成对比较框架，将回归重新表述为聚合的相对排序。该方法在多种模型架构和数据集规模下均提升了数据效率。在 UTKFace 数据集（2.3 万张图像）上，成对学习无需额外监督即可生成超过十亿条训练比较。这种成对排序使得在家庭硬件上从零训练的轻量级 ResNet10 达到 3.64 年 MAE，超越了此前包括大规模预训练在内的模型。在分类任务中，成对监督在 STL10 上使用 500–2000 个标注样本时，始终优于其他条件完全相同的 10 类交叉熵模型，准确率最高提升 5.2%。总体而言，成对监督提升了数据效率，并在标注数据有限时实现强大的回归与分类性能，尤其在临床场景中。
| 主题： | 机器学习 (cs.LG)；人工智能 (cs.AI)；计算机视觉与模式识别 (cs.CV) |
| 引用为： | arXiv:2610.27669 [cs.LG] |
| （或 arXiv:2610.27669v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27669 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Robert Bain [查看邮箱]
[v1]
2026年10月20日 星期二 05:34:16 UTC（1,215 KB）
来源：arXiv cs.AI · arxiv.org