研究提出合成数据重写的缩放定律
热点事件持续更新
研究提出合成数据重写的缩放定律
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Nicholas Roberts 等作者提出一条“重写缩放定律”，用于预测使用合成数据重写训练时的损失。该定律以模型规模、训练 token 数、训练 token 中重写 token 的占比，以及自然数据被重复训练的轮数为输入，并把生成重写所消耗的算力计入其中。 作者称已对该定律进行拟合。相关结论来自 arXiv cs.CL 的论文，尚未见独立验证。
AI 根据报道生成 · 55 分钟前更新
最新进展10月26日 12:00
用计算与数据约束重写合成数据的 Scaling Law报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv cs.CL用计算与数据约束重写合成数据的 Scaling Law
研究提出一条重写 Scaling Law，用模型规模、训练 token 数、重写 token 占比和自然数据轮数预测损失，并计入生成重写所耗算力。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。