arXiv cs.CL· Ryandito Diandaru, Ahmed Elshabrawy, Fadli Aulawi Al Ghiffari, Ikhlasul Akmal Hanif, Alham Fikri Aji·· 11 小时前AI 评分24
TimpaTeks:用扩散语言模型引导实现文本原地修改
TimpaTeks: Automatic In-place Text Sequence Modification via Diffusion Language Model Steering
AI 导读
TimpaTeks 将激活引导扩展到扩散语言模型,实现无需指令微调模型的文本原地修改,在 IMDB 影评情感和合成猫狗数据集的概念引导实验中验证可行。该方法在修改的同时降低句子困惑度并保留原句结构,且因原地去噪而非构造额外提示词条件输出序列,计算成本低于基于提示词的 DLM 引导。
正文 · AI 翻译
摘要:我们将激活引导扩展到扩散语言模型(DLM),并研究了一个由 DLM 推理机制引发的新问题:就地修改文本以体现不同的概念。我们提出 TimpaTeks,一种利用 DLM 的自动就地文本修改机制。在 IMDB 电影评论(情感)和合成的猫狗数据集(任意、更非常规的概念引导)上的实验表明,TimpaTeks 提供了一种可行的新机制,可就地引导扩散语言模型的输出。TimpaTeks 能够实现就地修改,同时降低句子困惑度,并在无需指令微调模型的情况下保留原始句子结构。TimpaTeks 的计算成本也低于基于提示的 DLM 引导,因为它就地执行去噪,而不是构建额外的提示条件输出序列。
| 评论: | 16 页 |
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2606.08408 [cs.CL] |
| (或 arXiv:2606.08408v2 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2606.08408 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Ikhlasul Akmal Hanif [查看电子邮件]
[v1]
2026 年 6 月 7 日星期日 02:13:17 UTC(1,871 KB)
[v2]
2026 年 10 月 16 日星期五 03:30:18 UTC(1,165 KB)
来源:arXiv cs.CL · arxiv.org