arXiv cs.CL· Siheng Xiong, Ali Payani, Faramarz Fekri·· 14 小时前AI 评分34
多路径规划聚合（MPPA）推进测试时扩展的帕累托前沿
Advancing the Pareto Frontier of Test-Time Scaling with Multi-Path Plan Aggregation
AI 导读
多路径规划聚合（MPPA）在共享冻结主干上分别用 LoRA 适配器学习规划与答案选择，规划器联合生成 K 个简短计划，各自引导冻结执行器生成解答，再由聚合器打分选出最终答案。在五个数学与科学基准、三个主干模型上，MPPA 用 3 个计划即超过 8 个直接采样加多数投票或同等学习聚合器的平均准确率，输出 token 减少 47–54%。
正文 · AI 翻译
摘要：测试时扩展旨在通过额外的推理时计算来提升推理能力，通常采用解采样配合多数投票来选择最终答案。然而，重复采样可能产生相关误差，从而限制了额外计算带来的精度提升。我们提出多路径计划聚合（MPPA），它在共享的冻结骨干网络上使用独立的 LoRA 适配器来学习规划和答案选择。规划器联合生成 $K$ 个简短计划，每个计划引导由冻结执行器生成的独立解；随后聚合器对生成的解进行评分并选择最终答案。联合规划鼓励与执行器能力相匹配的互补方法，而学习到的选择则利用推理证据来识别正确候选。交替优化通过监督微调和强化学习来改进规划与聚合。在五个数学和科学基准以及三个骨干网络上，与免训练和基于训练的基线相比，MPPA 改善了精度与 token 的权衡。在三个计划下，其平均精度高于八个直接采样解配合多数投票或相同学习聚合器的结果，同时输出 token 减少了 47--54%。使用任务提供的子任务进行评估进一步表明，在任务级或子任务级上，其最终任务精度均高于直接采样配合多数投票或学习聚合的结果。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2510.11620 [cs.CL] |
| （或 arXiv:2510.11620v3 [cs.CL] 为此版本） | |
| https://doi.org/10.48550/arXiv.2510.11620 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Siheng Xiong [查看邮箱]
[v1]
2025年10月13日星期一 17:02:41 UTC（269 KB）
[v2]
2025年10月16日星期四 21:41:15 UTC（270 KB）
[v3]
2026年10月26日星期一 07:08:48 UTC（211 KB）
来源：arXiv cs.CL · arxiv.org