跳到正文
arXiv cs.AI· Desen Sun, Jason Hon, Jintao Zhang, Sihang Liu·· 3 天前AI 评分22

HybridStitch:面向高效扩散生成的 Token 自适应模型拼接

HybridStitch: Token-Adaptive Model Stitching for Efficient Diffusion Generation

AI 导读

HybridStitch 是一个免训练框架,通过 token 级反馈为每个更新选择提供模型的来源,在四个主要基准上实现图像生成提速 1.63–1.68 倍、扩散大语言模型(dLLM)吞吐量提升 1.15–1.58 倍。该方法让连续图像精修与离散语言承诺共享同一生成状态,并以模型专属 KV 缓冲为选定查询提供注意力上下文。dLLM 解码查询成本估计降低 50–66%,生成质量相当。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:迭代扩散生成在不同 token 位置需要不同的模型容量。此前的模型组合按去噪步骤或按起草与验证角色来分配容量。我们提出 HybridStitch,一个无需训练的框架,利用 token 级反馈来选择为每个采用的更新提供模型的来源。连续图像细化与离散语言承诺在共享的生成状态上运行,而模型特定的 KV 缓冲区为选定的查询提供注意力上下文。HybridStitch 在四个主要基准上实现了 1.63--1.68$\times$ 更快的图像生成和 1.15--1.58$\times$ 的扩散大语言模型(dLLM)吞吐量。估计的 dLLM 解码查询成本降低了 50--66%,且生成质量相当。
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2603.07815 [cs.CV]
  (或 arXiv:2603.07815v3 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2603.07815

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Desen Sun [查看邮箱]
[v1] 2026年3月8日星期日 21:34:50 UTC(2,851 KB)
[v2] 2026年10月13日星期二 17:09:25 UTC(263 KB)
[v3] 2026年10月14日星期三 04:33:47 UTC(263 KB)

来源:arXiv cs.AI · arxiv.org