RCSD：面向领域特定投机解码的强化与持续学习框架

RCSD: Reinforcement and Continual Learning for Domain-Specific Speculative Decoding

AI 导读

RCSD 提出一种投机解码训练框架，用推理中自然产生的接受与拒绝序列构建隐式偏好对，并配合掩码损失避免惩罚与目标模型对齐的 token，从而直接优化接受长度。在多个基准上，其平均接受长度比 HASS 提升 35%，实际负载下端到端推理速度达 HASS 的 1.35 倍，且不损害生成质量。

正文 · AI 翻译

查看 PDF HTML（实验性）

摘要：投机解码通过使用紧凑的草稿模型来提出候选 token，并由目标模型并行验证，从而加速大语言模型推理。传统训练依赖软标签蒸馏，这迫使草稿模型模仿目标的完整输出分布，包括高熵区域，而这些区域会降低接受率并增加早期拒绝风险。我们提出 RCSD（用于投机解码的强化与持续学习），这是一个使草稿模型优化与最大化接受长度的系统级目标对齐的训练框架。RCSD 利用投机推理过程中自然出现的被接受和被拒绝序列来构建隐式偏好对，并使用掩码损失以避免惩罚与目标对齐的 token。在多个基准上评估，RCSD 相比 HASS 将平均接受长度提高了 35%，并在实际工作负载上实现比 HASS 快 1.35 倍的端到端推理，同时不损害生成质量。

评论：	9 页，3 幅图
主题：	计算与语言（cs.CL）
引用为：	arXiv:2610.29527 [cs.CL]
	（或 arXiv:2610.29527v1 [cs.CL] 用于此版本）
	https://doi.org/10.48550/arXiv.2610.29527 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Lichen Pang [查看邮箱]
[v1] 2026 年 10 月 21 日星期三 10:16:23 UTC（685 KB）

来源：arXiv cs.CL · arxiv.org