arXiv cs.AI· Donghwan Kim·· 3 天前AI 评分22
LLM 集成增益从何而来？候选价值、多样性与聚合的分解
Where Do LLM Ensemble Gains Come From? Decomposing Candidate Value, Diversity, and Aggregation
AI 导读
研究将 LLM 集成增益（CIV）在非多样性对照下代数分解为额外候选对比（DSV）与候选上下文对比（CCV），且该分解依赖所选对照，CIV 本身则不然。
正文 · AI 翻译
摘要：LLM 集成的增益通常以单一基线来衡量，但归因于额外候选者的价值会随所用对照而变化。我们在四种匹配条件下研究 LLM 聚合器：Direct（无候选者）、Single-slot（多槽界面中一个候选者）、Duplicate（一个候选者重复）和 Multi-candidate（分别生成的候选者）。在任一非多样性对照下，总体候选者增益（CIV）在代数上分解为额外候选者对比（DSV）和候选者上下文对比（CCV）；该分解（而非 CIV）取决于所选的对照。在 MultiHopRAG 模型多样性（k=2）上，重复差距 Rep=-8.33 pp [-13.25, -3.75] 量化了相对于 Duplicate 和 Single-slot 所测增益之间的差异。在匹配的 FRAMES 更强面板扩展（n=200，k=3，聚合器输出限制 4096）上，配对 Delta Rep=+9.67 pp [+6.00, +13.50]；在面板内，Rep 改变符号（原始 -6.33；更强 +3.33）。在 FRAMES 证据聚合中，候选者上下文对比在两种非多样性对照下均保持强烈负值。我们的结果表明，为何集成评估在将增益归因于额外候选者之前应说明参照对照。
| 评论： | 14 页，6 张图 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.18786 [cs.CL] |
| （或 arXiv:2610.18786v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18786 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Donghwan Kim [查看电子邮件]
[v1]
2026 年 10 月 13 日星期二 17:36:51 UTC（104 KB）
来源：arXiv cs.AI · arxiv.org