跳到正文
arXiv cs.CL· Ryandito Diandaru, Ahmed Elshabrawy, Fadli Aulawi Al Ghiffari, Ikhlasul Akmal Hanif, Alham Fikri Aji·· 11 小时前AI 评分24

TimpaTeks:用扩散语言模型引导实现文本原地修改

TimpaTeks: Automatic In-place Text Sequence Modification via Diffusion Language Model Steering

AI 导读

TimpaTeks 将激活引导扩展到扩散语言模型,实现无需指令微调模型的文本原地修改,在 IMDB 影评情感和合成猫狗数据集的概念引导实验中验证可行。该方法在修改的同时降低句子困惑度并保留原句结构,且因原地去噪而非构造额外提示词条件输出序列,计算成本低于基于提示词的 DLM 引导。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:我们将激活引导扩展到扩散语言模型(DLM),并研究了一个由 DLM 推理机制引发的新问题:就地修改文本以体现不同的概念。我们提出 TimpaTeks,一种利用 DLM 的自动就地文本修改机制。在 IMDB 电影评论(情感)和合成的猫狗数据集(任意、更非常规的概念引导)上的实验表明,TimpaTeks 提供了一种可行的新机制,可就地引导扩散语言模型的输出。TimpaTeks 能够实现就地修改,同时降低句子困惑度,并在无需指令微调模型的情况下保留原始句子结构。TimpaTeks 的计算成本也低于基于提示的 DLM 引导,因为它就地执行去噪,而不是构建额外的提示条件输出序列。
评论: 16 页
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2606.08408 [cs.CL]
  (或 arXiv:2606.08408v2 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2606.08408

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Ikhlasul Akmal Hanif [查看电子邮件]
[v1] 2026 年 6 月 7 日星期日 02:13:17 UTC(1,871 KB)
[v2] 2026 年 10 月 16 日星期五 03:30:18 UTC(1,165 KB)

来源:arXiv cs.CL · arxiv.org