德语模型：过滤后多轮重复训练优于大语料单轮
热点事件持续更新
德语模型：过滤后多轮重复训练优于大语料单轮
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
Ansar Aynetdinov 等作者对 500M 德语网页文档施加分层质量过滤，比较多轮重复训练高质量子集与在更大、过滤更少的语料上单轮训练的效果。结果显示，前者持续更优，且差距在 7 个 epoch 后依然存在。 研究团队开源了德语模型 Boldt 及清洗后的评测基准，称其在比同类模型少 10–360 倍 token 的训练量下取得 SOTA 结果。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 12:00
重复优于多样性：面向样本高效德语语言建模的高信号数据过滤报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- arXiv cs.CL重复优于多样性：面向样本高效德语语言建模的高信号数据过滤
对 500M 德语网页文档施加分层质量过滤后，多轮重复高质量子集的训练效果持续优于在更大、过滤更少的语料上单轮训练，且差距在 7 个 epoch 后依然存在。研究团队开源了德语模型 Boldt 及清洗后的评测基准，称其在比同类模型少 10-360 倍 token 的训练量下取得 SOTA 结果。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。