跳到正文
热点事件持续更新

ReLaDrift:用漂移模型做循环语言生成

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Yuki Otsuka 等作者提出 ReLaDrift 循环语言生成方法:用共享的 Drifting Model 从噪声生成初稿,再在连续隐空间中迭代精炼,使测试时计算量与生成质量之间可以权衡。 训练时随机采样轮数,只在最后一轮施加 drifting loss,并截断前序轮梯度,使反向传播只需一轮。作者称,在 Sudoku Hard 和 GSM8K 上,该方法与扩散模型、流式语言模型等迭代生成方法表现相当或更优。

AI 根据报道生成 · 47 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. arXiv cs.CL
    ReLaDrift:用漂移模型实现循环语言生成以支持测试时扩展

    ReLaDrift 提出用共享 Drifting Model 从噪声生成初稿,并在连续隐空间中迭代精炼,从而实现测试时计算与生成质量之间的权衡。训练时随机采样轮数、仅在最后一轮施加 drifting loss 并截断前序轮梯度,使反向传播只需一轮。在 Sudoku Hard 和 GSM8K 上,其表现与扩散及流式语言模型等迭代生成方法相当或更优。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。