跳到正文
热点事件持续更新

综述梳理离散扩散语言模型构建方法

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Volodymyr Kuleshov 等作者发表综述,系统梳理离散扩散语言模型的构建方法。这类模型通过并行去噪生成 token,突破主流 LLM 从左到右逐 token 自回归生成的限制;综述称其可实现每秒数千 token 的生成速度,并提供推理时算力扩展的新维度与内置纠错能力。 综述指出,过去两年离散扩散已扩展至数十亿参数,应用覆盖生物序列建模与自然语言,并已有开放权重和商业发布。文章涵盖其基础、核心算法与架构组件、在生物学和语言领域的应用,以及对未来 LLM 扩展规律的影响。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    如何构建现代扩散语言模型:离散扩散 LLM 综述

    一篇综述系统梳理了离散扩散语言模型的构建方法,这类模型通过并行生成 token 突破主流 LLM 从左到右逐 token 自回归生成的限制。并行去噪过程可实现每秒数千 token 的生成速度,并提供推理时算力扩展的新维度与内置纠错能力。过去两年离散扩散已扩展至数十亿参数,覆盖生物序列建模与自然语言,并有开放权重和商业发布。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。