无离线数据微调:冻结预训练先验替代在线克隆
热点事件持续更新
无离线数据微调:冻结预训练先验替代在线克隆
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Sami Nur Islam 等作者提出,在离线数据不可用时,停止在线行为克隆、冻结预训练的表达性先验,可避免预训练先验被迅速抹掉。研究称,继续在线行为拟合会导致表征坍缩与动作多样性丧失,使 critic 缺乏有效探索,并将这一失败归因于行为反馈循环。 在七个 OGBench 域上,该方法显著改善了 IFQL、FQL 与 QC 三种方法的无保留微调效果;冻结先验可保留离线覆盖度,让价值学习持续驱动改进。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
冻结而非克隆:不保留离线数据时用表达性策略微调报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv cs.AI冻结而非克隆:不保留离线数据时用表达性策略微调
研究指出,离线数据不可用时继续在线行为克隆会迅速抹掉预训练先验,导致表征坍缩与动作多样性丧失,使 critic 缺乏有效探索。在七个 OGBench 域上,停止在线行为拟合、冻结预训练表达性先验,可显著改善 IFQL、FQL 与 QC 的无保留微调效果。该失败被归因于行为反馈循环,冻结先验可保留离线覆盖度并让价值学习持续驱动改进。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。