arXiv cs.CL· Erfan Baghaei Potraghloo, Milad Heidari Sorkhehdizaj, Shahab Rahimirad, Aliasghar Pourghani, Seyedarmin Azizi, Souvik Kundu, Abolfazl Hashemi, Joseph Campbell, Vijay Gupta·· 10 小时前AI 评分31
粒子解码的序列级 Rényi 熵：为 LLM 自适应推理提供零成本不确定性信号
Free Lunch Uncertainty: Sequence-Level R\'enyi Entropy from Particle Decoding for Adaptive LLM Reasoning
AI 导读
研究者证明，用于 power sampling 的 Sequential Monte Carlo（SMC）解码在估计幂分布归一化常数时，可零边际成本读出模型补全分布的序列级 Rényi 熵（SRE），且在任意粒子预算下都有保证。
正文 · AI 翻译
摘要：在整个 LLM 补全上量化不确定性对于选择性预测和自适应计算至关重要。平均 token 熵和对数概率等零成本信号仅局限于 token 或单个补全，而自一致性需要许多额外的补全。我们表明，用于幂采样的序贯蒙特卡洛（SMC）解码已经估计了幂分布的归一化常数，这以零边际成本给出了模型补全分布的序列级 R'enyi 熵（SRE），并在每个粒子预算下都有保证。R'enyi 链式法则将这一读数扩展到任意阶的逐步熵族。我们证明，高于 1 的阶数与每一步最可能的 token 相关联，这解释了它们为何跟踪对数概率，而 1/2 阶成员则累积每步搜索工作量的对数。该成员在 13 个设置中的 10 个里是最佳的零成本选择性预测信号。在 MATH500 上，其 AUROC 在所有四个模型和长度四分位数内比对数概率高 0.022 至 0.044，并且当每个设置被留出时，选择的仍是同一阶数。8 粒子探测可识别出受益于更多粒子的问题，而两遍策略在三个随机种子上以少 34.2% 的粒子在 MATH500 上达到与 64 粒子相当的准确率。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2611.13414 [cs.LG] |
| （或此版本的 arXiv:2611.13414v1 [cs.LG]） | |
| https://doi.org/10.48550/arXiv.2611.13414 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Shahab Rahimirad [查看电子邮件]
[v1]
2026 年 11 月 10 日星期二 00:49:36 UTC（679 KB）
来源：arXiv cs.CL · arxiv.org