跳到正文
arXiv·· 12 天前AI 评分31

无需搜索的锐化:序列级幂分布的在策略蒸馏

Sharpen Without Search: On-Policy Distillation of Sequence-Level Power Distribution

AI 导读

语言模型可能给正确答案的概率高于任何单个错误答案,却仍常采样到错误答案,因为错误答案的概率总和更大。幂分布将完整答案的概率提升到大于 1 的幂次后重新归一化,从而锐化概率分布,采样可提升推理能力但需为每个查询评分大量候选。该研究提出通过训练让模型一次生成即可产出此类答案,实现序列级幂分布的在策略蒸馏。

来源:arXiv · arxiv.org