arXiv cs.CL· Jianguo Huang, Zhiyi Lyu, Fuxiang Zhang, Yanchen Deng, Deheng Ye, Bo An·· 11 小时前AI 评分38
UAA：面向高效 LLM 树搜索的不确定性感知预算分配框架
Uncertainty-Aware Budget Allocation for Efficient LLM Tree Search
AI 导读
研究者提出免训练的 UAA 框架，将价值与不确定性解耦：价值决定哪些候选值得扩展，由兄弟节点语义分散度估计的不确定性决定扩展多少，并通过不确定性感知剪枝与预算分配实现。在数学推理、逻辑推理和规划基准上，UAA 在精度相当的情况下最多减少 90% token 用量、延迟最多降低 9 倍，且可泛化到四种树搜索算法及开源与闭源 LLM。
正文 · AI 翻译
摘要：树搜索增强了大语言模型（LLM）的多步推理能力，但主流方法对每一步都以固定预算进行扩展，而不考虑扩展的边际效用。我们首先表明，在现有搜索算法中，从共享中间状态采样的后续内容在很大程度上是重复的，并会坍缩为少数几个不同的答案。关键的是，我们发现兄弟动作的语义离散度可以预测其下游后续内容的冗余程度，从而允许在扩展之前就确定子树的预算。信息论分析为此提供了依据：将每步预算视为估计某一步剩余答案熵的蒙特卡洛样本量，我们推导出一个随兄弟离散度增大而收缩的充分预算。据此，我们提出 $\textbf{Uncertainty-Aware Allocation}$（UAA），这是一个无需训练的框架，将价值与不确定性解耦：价值决定哪些候选有前景，而不确定性——由兄弟离散度估计且不产生额外模型开销——决定有多少候选值得扩展，具体通过不确定性感知剪枝和不确定性感知预算分配实现。在数学推理、逻辑推理和规划基准上，UAA 在精度相当的情况下将 token 用量最多减少 $90\%$，延迟最多降低 $9\times$，并泛化到四种树搜索算法以及开源和闭源 LLM。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.22858 [cs.CL] |
| （或 arXiv:2610.22858v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22858 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jianguo Huang [查看邮箱]
[v1]
2026年10月16日星期五 03:03:28 UTC（403 KB）
来源：arXiv cs.CL · arxiv.org