arXiv cs.AI· Miao Li, Hanyang Jiang, Hengyu Fu, Baihe Huang, Yating Liu, Yuhang Cai, Changkun Guan, Zhongzhu Chen, Jiecheng Lu, Michael A. Boateng, Pascal Van Hentenryck·· 3 天前AI 评分22
PACS：面向扩散语言模型的可预测性感知 SFT 方法
Match the Canvas, Not Just the Answer: Predictability-Aware SFT for Diffusion Language Models
AI 导读
针对扩散语言模型（DLM）中随机掩码导致的训练-推理不匹配问题，研究者提出可预测性感知画布选择与监督方法 PACS，用模型自身的可预测性来选择每个样本的注意力可见输入长度，并在参考 token 被置信度引导揭示前对其进行监督。在推理与代码生成基准上，PACS 在对比的 SFT 方法中平均准确率最高，单项基准上较原始 SFT 提升最多 12.84 个百分点。代码将在论文发表后发布。
正文 · AI 翻译
作者：Miao Li、Hanyang Jiang、Hengyu Fu、Baihe Huang、Yating Liu、Yuhang Cai、Changkun Guan、Zhongzhu Chen、Jiecheng Lu、Michael A. Boateng、Pascal Van Hentenryck
摘要：扩散语言模型（DLM）通过根据模型不断变化的可预测性来解析 token，而非采用固定的从左到右顺序，从而实现灵活的并行生成。然而，这种灵活性引入了标准自回归教师强制中所没有的训练选择：当监督某个目标时，哪些参考 token 可见，以及分配多少生成空间。标准监督微调（SFT）通常通过随机掩码做出这些选择，且与推理过程相互独立。我们的分析表明，这种训练与推理之间的不匹配可能会误导监督。随机掩码可能掩盖预测错误，或惩罚解码本可解决的不确定性；而注意力可见的输入长度可能改变模型偏好的响应表述，即使底层解决方案并未改变。基于这些发现，我们提出了可预测性感知画布选择与监督（PACS），一种 SFT 方法。PACS 利用模型自身的可预测性为每个样本选择注意力可见的输入长度，并在参考 token 被基于置信度引导揭示之前立即对其进行监督。在推理和代码生成基准上，PACS 在对比的 SFT 方法中始终取得最高的平均准确率，在单个基准上相较原始 SFT 提升最高达 12.84 个百分点。代码将在论文发表后发布。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用格式： | arXiv:2610.18001 [cs.LG] |
| （或使用 arXiv:2610.18001v1 [cs.LG] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.18001 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：Miao Li [查看邮箱]
[v1]
2026年10月13日星期二 09:02:51 UTC（534 KB）
来源：arXiv cs.AI · arxiv.org