研究者以Epiplexity为在线信号选择与生成训练数据

Ellen Su等作者提出把Epiplexity（计算受限学习器可从数据中提取的结构信息量）用作在线训练信号，通过逐步最大化其增益来提升模型的分布外泛化能力。 方法分两种场景：EpiSelect针对自然数据，拟合各数据域训练损失曲线的缩放定律来预测Epiplexity增益，据此自适应调整各域采样权重；EpiGen针对无域结构的合成数据，用REINFORCE奖励生成器，提升学习器从合成数据中获得的Epiplexity变化。 作者称，这是将Epiplexity作为在线训练信号落地的两种方式，目标均是在训练中贪心地最大化其逐步增益。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。