arXiv·· 12 天前AI 评分31
无需搜索的锐化:序列级幂分布的在策略蒸馏
Sharpen Without Search: On-Policy Distillation of Sequence-Level Power Distribution
AI 导读
语言模型可能给正确答案的概率高于任何单个错误答案,却仍常采样到错误答案,因为错误答案的概率总和更大。幂分布将完整答案的概率提升到大于 1 的幂次后重新归一化,从而锐化概率分布,采样可提升推理能力但需为每个查询评分大量候选。该研究提出通过训练让模型一次生成即可产出此类答案,实现序列级幂分布的在策略蒸馏。
来源:arXiv · arxiv.org