arXiv cs.AI· Cong Hua, Qianqian Xu, Zitai Wang, Zhiyong Yang, Shilong Bao, Linchao Zhang, Qingming Huang·· 3 天前AI 评分24
Compare to Correct：面向 LLM 测试时扩展的成对引导 Logit 调整
Compare to Correct: Pairwise-Guided Logit Adjustment for LLM Test-Time Scaling
AI 导读
研究者提出 Pairwise-Guided Logit Adjustment（PGLA）框架，受社会选择理论中 Condorcet 原则启发，通过比较支持不同答案的推理路径之间的成对置信度，捕捉答案层面的比较优势，并将其与投票支持结合进一个 KL 正则化目标。
正文 · AI 翻译
摘要：基于采样的测试时扩展通过为同一查询聚合多条推理路径来增强 LLM 推理能力。现有方法使用答案频率或路径置信度来计算候选分数，这些方法并未明确刻画竞争答案之间的比较。受社会选择理论中孔多塞原则的启发，我们引入支持不同答案的路径之间的成对置信度比较，以捕捉答案层面的比较优势。我们通过 KL 正则化目标将这种比较证据与投票支持相结合。在理论上，我们证明这种比较优势等价于对传统投票 logits 的调整。通过这种方式，我们提出的成对引导 Logit 调整（PGLA）框架允许比较证据补偿较弱的投票支持，并纠正基于投票的排序错误。在 10 个具有挑战性的基准测试（包括数学推理、知识推理和代码生成）上，使用 7 个参数规模从 1.7B 到 32B 的模型进行的实验证明了这一即插即用项的有效性。使用外部奖励分数和在线采样的额外评估进一步证明了其适用性。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.18583 [cs.AI] |
| （或 arXiv:2610.18583v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18583 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Cong Hua [查看电子邮件]
[v1]
2026年10月13日星期二 15:46:15 UTC（5,637 KB）
来源：arXiv cs.AI · arxiv.org