跳到正文
热点事件持续更新

DTCA 改进扩散语言模型强化学习信用分配

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Hongze Chen 等作者提出 DTCA 框架,用于扩散语言模型强化学习中的 token 级信用分配。该框架通过衡量 token 提交后剩余掩码位置预测置信度的提升来估计 token 贡献,并按词性分组筛选去噪时间步、分配 token 级学习信号。 在 LLaDA-8B-Instruct 上,DTCA 在不同生成预算下均提升数学推理表现:MATH500 最高提升 9.0 分,GSM8K 提升 5.3 分。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.CL
    DTCA:面向扩散语言模型强化学习的去噪 Token 信用分配

    针对扩散语言模型迭代去噪过程中信用分配困难的问题,研究者提出 DTCA 框架,通过衡量 token 提交后剩余掩码位置预测置信度的提升来估计 token 贡献,并按词性分组筛选去噪时间步、分配 token 级学习信号。在 LLaDA-8B-Instruct 上,DTCA 在不同生成预算下均提升数学推理表现,MATH500 最高提升 9.0 分,GSM8K 提升 5.3 分。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。