跳到正文
arXiv cs.CL· Manh Nguyen, Sunil Gupta, Hung Le·· 12 小时前AI 评分34

无需训练的高效 Best-of-N 选择方法:Radial Consensus Score

Efficient Best-Of-N with Radial Consensus Score

AI 导读

研究者提出 Radial Consensus Score(RCS),一种无需训练、简单高效的 best-of-N 答案选择方法,通过计算答案嵌入的加权 Frechet 均值作为语义中心,按候选到中心的径向距离排序。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:使用大语言模型(LLM)解决复杂问题通常需要从多个候选回答中选出最佳答案(best-of-$N$),然而识别最可靠的答案仍然具有挑战性,尤其是当正确性并不与多数一致相符时。现有的基于投票或概率评分的方法依赖于表面信号(例如频率或 token 级似然),往往遗漏高质量的罕见答案,并忽略了候选表示的几何结构——在这种结构中,正确性可能表现为语义一致性而非表面一致。为解决这些局限,我们提出了 Radial Consensus Score(RCS),一种简单、高效且无需训练的最佳答案选择方法。RCS 通过计算答案嵌入的加权 Frechet 均值(语义中心)并对候选按其到该中心的径向距离排序来建模语义共识。这使得它能够在词汇碎片化的情况下恢复语义连贯的正确答案,即使没有任何单一表面形式在精确匹配投票下占据多数。重要的是,RCS 提供了一个灵活的框架,支持多种加权方案,能够整合任意信号(如语义一致性或模型置信度),并相应地调整中心的位置。在五个开放权重模型和各种基准上的大量实验表明,RCS 在每个采样预算下都能匹配或超越强基线,当正确答案在词汇上碎片化时增益最大。此外,RCS 可作为多智能体辩论中多数投票的有效直接替代方案,并在黑盒场景中依然有效。这些结果表明,几何共识可以作为基于投票的答案选择方法的一种可扩展且可靠的替代方案。代码公开于 this https URL。
主题: 计算与语言(cs.CL)
引用为: arXiv:2604.12196 [cs.CL]
  (或 arXiv:2604.12196v2 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2604.12196

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Manh Nguyen [查看邮箱]
[v1] 2026年4月14日 星期二 02:02:20 UTC(216 KB)
[v2] 2026年10月21日 星期三 22:40:59 UTC(213 KB)

来源:arXiv cs.CL · arxiv.org