arXiv cs.AI· Chao Deng, Shaolei Zhang, Ju Fan, Xiaoyong Du·· 3 天前AI 评分27
DataEvolver:通过多级自进化实现大语言模型自动数据准备
DataEvolver: Automatic Data Preparation for Large Language Models through Multi-Level Self-Evolving
AI 导读
DataEvolver 是一个通过多级自进化自动构建数据处理流水线的数据准备系统,在算子层面扩展算子库并优化逻辑计划以解决依赖冲突,在流水线层面将计划实例化为代码并利用试运行输出反馈迭代优化。在七个基准上,其数据质量显著提升,下游 LLM 性能相比原始数据训练平均提升约 10 分。
正文 · AI 翻译
摘要:高质量训练数据对大型语言模型(LLM)至关重要,通常需要大量且昂贵的人工整理。自动数据准备系统支持可复用的算子和任务驱动的工作流,但将这些工作流适配到所需的数据质量仍然具有挑战性。高质量示例为引导这种适配提供了实用的规范。我们提出了 DataEvolver,一个通过多级自进化自动构建流水线的数据准备系统。在算子层面,它扩展算子库并细化逻辑计划以解决依赖冲突。在流水线层面,它将这些计划实例化为代码,并利用试验输出反馈来细化流水线,使其满足种子指定的质量要求。在七个基准上的实验表明,DataEvolver 显著提升了数据质量,与在原始数据上训练相比,下游 LLM 性能平均提升约 10 分,凸显了 LLM 与数据迭代协同进化的新机遇。
| 主题: | 数据库(cs.DB);人工智能(cs.AI) |
| 引用为: | arXiv:2606.07001 [cs.DB] |
| (或 arXiv:2606.07001v3 [cs.DB] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2606.07001 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Chao Deng [查看邮箱]
[v1]
2026年6月5日星期五 07:44:34 UTC(4,148 KB)
[v2]
2026年6月10日星期三 07:54:44 UTC(4,148 KB)
[v3]
2026年10月13日星期二 06:09:34 UTC(4,149 KB)
来源:arXiv cs.AI · arxiv.org