arXiv cs.AI· Danil Rudenko, Georgii Bulgakov, Nikolay Kartashev, Ivan Rubachev, Daniil Krasylnikov, Artem Babenko·· 6 天前AI 评分22
重新审视表格深度回归：目标函数与全局早停的局限
Revisiting Tabular Deep Regression: Objectives and the Limits of Global Early Stopping
AI 导读
一项系统性重评估发现，多数针对表格回归提出的目标函数相比调优后的 MSE 基线收益有限或不一致，而 quantile loss 在测试的多个神经骨干网络上取得一致的总体提升。
正文 · AI 翻译
摘要：尽管面向表格数据的深度学习模型近来受到了大量研究关注，但回归任务中目标函数的选择仍是一个研究不足的自由度。多条研究路线为标准的均方误差（MSE）提供了替代方案，但数据集、骨干网络和评估协议上的差异使得它们的实际收益难以比较。在本工作中，我们通过在大量已确立的表格数据集和多种神经骨干网络上对回归目标进行系统性重新评估来填补这一空白。我们的比较表明，许多被提出的目标相较于经过恰当调优的 MSE 基线仅带来有限或不一致的收益，而分位数损失在所测试的骨干网络上相较于 MSE 带来了一致的总体提升。随后我们识别出即使使用这一强目标仍然存在的一个局限：具有不同目标噪声水平的区域可能在不同训练轮次达到其最佳预测性能。因此，即使目标能够表示异方差的目标分布，单一的全局早停检查点也会在不同不确定性区域之间造成折中。受此局限的启发，我们引入了一种异方差感知的分位数损失扩展，它使用依赖于输入的标签平滑作为潜在补救措施，并在若干骨干网络上优于分位数损失。总体而言，我们的结果为表格深度学习的回归目标提供了一幅现代的经验图景，并凸显了不同不确定性区域之间最优停止时间的差异如何限制全局早停的有效性。代码可在 此 https URL 获取。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.13909 [cs.LG] |
| （或 arXiv:2610.13909v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.13909 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Nikolay Kartashev [查看邮箱]
[v1]
2026年10月9日星期五 17:49:32 UTC（605 KB）
来源：arXiv cs.AI · arxiv.org