arXiv cs.AI· Jieke Wu, Qijie Zhu, Weimin Wu, Zeqi Ye, Minshuo Chen, Han Liu·· 2 天前AI 评分20
D-DOIT：通过 Doob h-Transform 实现离散扩散模型的免训练适配
D-DOIT: Training-free Adaptation of Discrete Diffusion via Doob's h-Transform
AI 导读
D-DOIT 是一种面向离散扩散模型的免训练适配方法，通过 Doob's h-transform 对反向转移概率重新加权，仅需奖励值而非奖励梯度。它无需昂贵的未来 rollout，在每步采样候选状态并用奖励 oracle 重采样，可选的后期 best-of-K 精修进一步降低开销。在调控 DNA 设计和蛋白质逆折叠基准上，D-DOIT 优于免训练引导基线，并在蛋白质逆折叠中取得最高成功率。
正文 · AI 翻译
摘要：我们提出 D-DOIT（Discrete Doob-Oriented Inference-time Transformation），一种面向离散扩散模型、支持通用奖励的免训练且高效的适配方法。D-DOIT 将适配形式化为从奖励倾斜的目标分布中采样，并通过离散扩散反向核的 Doob h-变换实现这一传输，仅使用奖励值而非奖励梯度。与连续扩散不同，掩码离散扩散采样的是类别化的 token 揭示转移，而非连续状态更新。D-DOIT 推导出相应的离散 Doob h-变换，通过重新加权反向转移概率而非添加漂移修正来引导采样。为使该变换切实可行，D-DOIT 避免了昂贵的未来 rollout。在每个引导步骤中，D-DOIT 采样候选下一状态，使用模型预测头将每个候选补全为干净序列，用奖励预言机评估每个补全结果，并以与奖励成正比的概率重采样下一状态。可选的后期 best-of-K 精化仅在去噪接近结束时分支轨迹，从而提升样本质量，避免在整个轨迹上产生 $K$ 倍开销。在实证上，在调控 DNA 设计和蛋白质逆折叠基准上，D-DOIT 优于免训练引导基线。它提升了增强子活性和细胞类型特异性，同时保持序列自然度，并在蛋白质逆折叠中取得了最高成功率。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.04938 [cs.LG] |
| （或 arXiv:2610.04938v2 [cs.LG] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.04938 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Weimin Wu [查看电子邮件]
[v1]
2026年10月4日星期日 04:34:02 UTC（532 KB）
[v2]
2026年10月15日星期四 01:36:58 UTC（531 KB）
来源：arXiv cs.AI · arxiv.org