arXiv cs.AI· Phillip Howard, Xin Su, Allen Roush, Manikandan Ravikiran, Runyan Tan, Amir Abdullah·· 10 天前AI 评分22
Refusal-Gated Decoding：高温采样下保持 LLM 拒绝行为
Refusal-Gated Decoding: Preserving Refusal Behavior Under High-Temperature Sampling
AI 导读
研究者提出 refusal-gated decoding（RGD），一种顺序解码方法，可在高温采样下保留模型的贪心解码拒绝响应，同时让其他提示词仍按其原始高温分布采样。
正文 · AI 翻译
摘要：近期基于截断的采样方法进展有助于缓解高温采样带来的神经文本退化等缺陷，从而在不牺牲连贯性的前提下实现更大的多样性。然而，通过高温提高词元概率分布的熵也被证明会削弱模型的拒绝响应。现有维持 LLM 拒绝行为的方法要么用单独的安全分类器替代模型自身的拒绝决策，要么对每个提示都改变其输出分布。为填补这一空白，我们提出拒绝门控解码（RGD）：一种高效的顺序解码方法，它在高温下保留模型的贪心解码拒绝响应，并对所有其他提示从其精确的直接高温分布中采样，同时仅带来极小的额外延迟。RGD 运行一个简短的贪心探测，复用提示的 KV 缓存，并在其与一组学习到的拒绝前缀不兼容时立即退出；如果探测保持兼容，则返回贪心响应，否则丢弃探测并从原始提示中采样。在 T=2.0 下的七个模型和三个基准数据集上，RGD 将贪心拒绝保留率从直接采样下的 91.9% 平均提升至 98.3%，同时在各温度下仅使非拒绝请求的中位延迟增加 2.2-4.3%。与将许多贪心非拒绝路由到贪心解码的提示筛选基线不同，RGD 使至少 98.1% 的贪心非拒绝保持在未改变的高温采样上，从而保留模型自然的高温采样行为。我们还提出了该方法的残差流变体，将这一延迟开销降至最多 0.5%，且提示路由准确率相当。我们的工作表明，通过高温采样释放更大多样性不必侵蚀模型的拒绝行为。
| 学科： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2607.20791 [cs.AI] |
| （或 arXiv:2607.20791v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.20791 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Phillip Howard [查看电子邮件]
[v1]
2026年7月22日星期三 23:33:51 UTC（206 KB）
[v2]
2026年10月5日星期一 22:35:13 UTC（353 KB）
来源：arXiv cs.AI · arxiv.org