arXiv cs.AI· Luyang Zhang, Jialu Wang, Bebei Li·· 3 天前AI 评分29
Pick the Mixture, Not the Samples：面向 LLM 的组合式数据选择
Pick the Mixture, Not the Samples: Combinatorial Data Selection for LLMs
AI 导读
研究者提出组合式数据选择（CDS）框架，将样本评分与子集选择分离，并建模样本间的非加性交互。基于跨域互补性发现，他们提出 Mixture-then-Select 两阶段算法：先决定各域采样数量，再按归因分数排序。该方法在真实指令微调数据池上超越强基线 20% 至 54%，且在不同模型和数据池规模下均保持稳健。
正文 · AI 翻译
摘要：面向 LLM 微调的数据选择面临真实训练中的两个事实：数据池来自许多不同的领域，而评估涵盖多样化的任务。因此，同一样本对不同任务的帮助不同，并且样本在训练过程中相互作用，使得某个子集的价值并非其各部分之和。当前的数据选择方法在很大程度上未处理这些现实问题。我们将其形式化为组合数据选择（Combinatorial Data Selection，CDS），这是一个将归因（如何对样本评分）与选择（选取哪个子集）分离，并对样本之间的非加性交互进行建模的框架。在一个真实的指令微调数据池上，我们发现存在显著的跨领域互补性（联合效用超过单个样本效用之和），同时领域内存在冗余。受此启发，我们提出 Mixture-then-Select，一种两阶段算法，首先决定从每个领域抽取多少样本，然后按归因分数对每个领域内的样本进行排序。理论上，与最优子集的差距与选择规模呈线性关系，且与数据池规模无关。实证上，Mixture-then-Select 比强基线高出 20% 至 54%，对归因方法具有鲁棒性，并适用于不同的模型和数据池规模。该框架还扩展到样本价格变化时预算约束下的数据购买问题。我们的发现表明，跨领域分配选择为现代 LLM 实现更高效、更有效的数据选择提供了一条有前景的路径。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.14028 [cs.LG] |
| （或 arXiv:2610.14028v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.14028 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Luyang Zhang [查看电子邮件]
[v1]
2026年9月30日星期三 18:01:37 UTC（214 KB）
来源：arXiv cs.AI · arxiv.org