跳到正文
热点事件持续更新

无离线数据微调:冻结预训练先验替代在线克隆

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Sami Nur Islam 等作者提出,在离线数据不可用时,停止在线行为克隆、冻结预训练的表达性先验,可避免预训练先验被迅速抹掉。研究称,继续在线行为拟合会导致表征坍缩与动作多样性丧失,使 critic 缺乏有效探索,并将这一失败归因于行为反馈循环。 在七个 OGBench 域上,该方法显著改善了 IFQL、FQL 与 QC 三种方法的无保留微调效果;冻结先验可保留离线覆盖度,让价值学习持续驱动改进。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv cs.AI
    冻结而非克隆:不保留离线数据时用表达性策略微调

    研究指出,离线数据不可用时继续在线行为克隆会迅速抹掉预训练先验,导致表征坍缩与动作多样性丧失,使 critic 缺乏有效探索。在七个 OGBench 域上,停止在线行为拟合、冻结预训练表达性先验,可显著改善 IFQL、FQL 与 QC 的无保留微调效果。该失败被归因于行为反馈循环,冻结先验可保留离线覆盖度并让价值学习持续驱动改进。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。