arXiv cs.CL· Adam Y. Ahmed, Abdullah G. Elafifi·· 10 小时前AI 评分34
小模型规模下的开放式推理测试时扩展研究
Test-Time Scaling for Open-Ended Reasoning at Small Model Scale
AI 导读
研究用语义聚类投票在 Qwen2.5-3B、Llama-3.2-3B、Gemma-2-2B 三个小模型上检验测试时扩展：投票让数学对照任务准确率提升 +10 至 +29 点，MATH-500 上提升 +8.5 点（95% CI [+4.0, +13.0]），但开放式文本最多只加 +0.30 judge 分。
正文 · AI 翻译
摘要：只有当模型的样本之间存在分歧时，对样本进行投票才有帮助。因此，对于开放式生成，关键问题不在于如何组合样本，而在于模型是否能生成值得组合的样本——这个问题在数学领域已由测试时扩展（test-time scaling）给出答案，但在自由文本领域尚未解决。我们在小规模上通过语义聚类投票来研究这一问题：这是一种无需评判器的聚合器，它按语义将小型指令模型的样本分组，并返回最大簇的代表样本，无需奖励模型或自我评判。在一个包含 250 个提示、答案可核查性分为三档的基准上，同样的模式在三个模型家族（Qwen2.5-3B、Llama-3.2-3B、Gemma-2-2B）和两个生成随机种子下均成立：投票在数学对照组上提升了准确率，该组样本虽有变化但仍可核查（三个模型分别提升 +10 至 +29 分），但在开放式文本上最多只增加 +0.30 个评判分。在使用主模型进行的更大规模 200 题 MATH-500 运行中，数学提升为 +8.5 分（95% CI [+4.0, +13.0]）。几乎每个开放式样本都落入同一个语义簇，因此可供选择的空间很小。这种坍缩与指令微调一致，而非模型规模，且提高解码温度并不能恢复可用的多样性，因为它带来的质量损失大于收益（净 -0.64 个评判分，95% CI [-0.93, -0.37]）。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2611.02208 [cs.LG] |
| （或 arXiv:2611.02208v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.02208 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Abdullah Elafifi [查看邮箱]
[v1]
2026 年 11 月 1 日周日 21:06:56 UTC（40 KB）
来源：arXiv cs.CL · arxiv.org