Hugging Face Daily Papers· Panagiotis Theodoropoulos·· 19 天前AI 评分34
小模型如何通过采样逼近前沿推理能力：Explore Broadly, Reason Sharply
Explore Broadly, Reason Sharply: Push Small Models toward the Frontier via Sampling
AI 导读
一种名为 power-sharpened sampling 的推理时采样方法被提出，用于替代强化学习后训练来提升大语言模型推理能力，无需参数更新或外部奖励即可放大基座模型中的高概率序列。该方法面临探索与利用的权衡：强锐化会限制探索、使采样陷入看似合理但错误的推理路径，弱锐化则导致答案分布过于分散。
来源：Hugging Face Daily Papers · huggingface.co