arXiv cs.AI· Sanjeeb Dash, Soumyadip Ghosh, Joao Goncalves, Mark S. Squillante·· 2 天前AI 评分12
稀疏整数规划训练学习模型的分布鲁棒正则化
Distributionally Robust Regularization of Sparse Integer Programming Trained Learning Models
AI 导读
研究者将分布鲁棒优化（DRO）正则化扩展到混合整数稀疏规划，为可解释机器学习模型提供随稀疏参数变化的统计保证，避免交叉验证选择稀疏度的高昂计算成本。该方法在基于特征值规则集构建可解释二分类模型的场景中进行了演示。
正文 · AI 翻译
摘要：构建可解释的机器学习模型对于人类用户能够解释从训练数据中获得的所提出的统计关系至关重要。混合整数优化公式通常用于训练此类具有显式稀疏性约束的模型，旨在在稀疏性与预测准确性之间取得恰当的权衡。现有用于找到合适稀疏性选择的方法——例如通过交叉验证——在计算上代价高昂。对于凸模型训练公式，分布鲁棒优化（DRO）的最新进展提供了强大的泛化能力，同时规避了这一计算负担。我们描述了通过 DRO 将此类正则化扩展到混合整数稀疏程序，并提供了作为公式相关稀疏性参数的函数的统计保证。我们以使用特征值规则集构建可解释二分类模型为例，说明了该方法的使用。
| 主题： | 机器学习（stat.ML）；人工智能（cs.AI）；机器学习（cs.LG）；优化与控制（math.OC） |
| 引用为： | arXiv:2311.01994 [stat.ML] |
| （或 arXiv:2311.01994v2 [stat.ML] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2311.01994 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Mark Squillante [查看电子邮件]
[v1]
2023年11月3日星期五 15:45:34 UTC（55 KB）
[v2]
2026年10月15日星期四 15:23:55 UTC（723 KB）
来源：arXiv cs.AI · arxiv.org