arXiv cs.AI· Bastian Sch\"afer, Dominika Matus, Lennart Purucker, Ricardo Knauer, Erik Rodner, Frank Hutter, Anton Sokolov, Arnaud Liefooghe·· 6 天前AI 评分23
SelectArena:面向真实表格数据的现代特征选择基准
SelectArena: A Modern Benchmark for Feature Selection on Real-world Tabular Data
AI 导读
研究者推出 SelectArena 特征选择基准,在 71 个手工筛选的真实表格数据集上,用标准化评估协议和 SOTA 表格(基础)模型对比了 15 种常用特征选择方法,覆盖分类与回归任务。
正文 · AI 翻译
摘要:从表格数据集中选择特征(列)的子集是现实应用中普遍存在的挑战。行业专家希望最小化模型训练成本,气候科学家需要一个可解释的因素子集来理解极端天气事件,临床医生则因资金和时间限制需要在诊断测试中做出选择。在查阅科学文献以确定使用哪种特征选择方法时,各领域的实践者面对的是一个不具代表性的基准测试图景。尽管研究广泛,现有的特征选择基准测试提供的指导有限,因为它们依赖于过时的模型、临时的评估协议,或无法反映现实问题的人工生成数据。为弥合科学基准测试与现实应用之间的差距,我们推出了 SelectArena,一个现代的特征选择基准。我们在 71 个人工整理的现实表格数据集上,使用标准化评估协议和最先进的表格(基础)模型,比较了 15 种广泛使用的特征选择方法,涵盖分类和回归问题。我们的结果揭示了在预测性能、运行时间、稳定性和有效性之间明确的权衡。考虑预测性能和运行时间时,基于树的方法 CART 和 RFImportance 以及 F-Test 处于帕累托最优。F-Test、基于信息论和基于距离的方法在稳定性和有效性方面领先,其中 F-Test 在我们的各项指标中成为均衡的选择。基于搜索的方法速度慢、不稳定且性能低。SelectArena 将这些发现转化为实用指导,并作为一个可扩展平台支持未来的特征选择研究。
| 评论: | 9 页,6 幅图,2 张表 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.13644 [cs.LG] |
| (或 arXiv:2610.13644v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.13644 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Bastian Schäfer [查看电子邮件]
[v1]
2026 年 10 月 9 日星期五 14:21:47 UTC(2,238 KB)
来源:arXiv cs.AI · arxiv.org