跳到正文
arXiv cs.AI· Tingxin Yang, Zefeng Wang, Mengyue Wang, Jinhe Bi, Xingcheng Zhou, Volker Tresp, Yunpu Ma·· 12 小时前AI 评分31

DeepLook:用不确定性引导分支与前瞻置信度实现高效推理

DeepLook: Uncertainty-Guided Branching with Lookahead Confidence for Efficient Reasoning

AI 导读

DeepLook 是一个免训练解码框架,通过监控片段级置信度、仅在不确定性瓶颈处分支,并用 Average Lookahead Confidence(ALC)对候选续写排序后再投票。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:测试时扩展提升了大语言模型的推理能力,但沿推理轨迹均匀分配计算量,即使在已经稳定的区段也是如此。受推理失败会表现出不确定性早期出现的观察启发,我们提出 DeepLook,一种免训练的解码框架,它监控片段级置信度,仅在不确定性瓶颈处分支,并按平均前瞻置信度(ALC)——即固定视野 rollout 上的平均置信度——对候选续写排序,然后完成并在剪枝后的子集上投票。在四个开放模型、四个竞赛数学基准上,DeepLook 在 16 个设置中的 12 个达到或超过 DeepConf-low 的准确率,同时生成的 token 减少 87.3%,表明模型自身的置信度足以判断在何处值得投入额外解码计算。在知识密集型 GPQA-Diamond 上,准确率优势消失,但 token 节省依然存在:连贯的幻觉同样获得高 ALC,因此内部置信度定位的是不稳定性,而非虚假性。代码见 this https URL。
注释: EMNLP 2026 Workshop UncertaiNLP
主题: 人工智能(cs.AI)
引用为: arXiv:2607.22602 [cs.AI]
  (或 arXiv:2607.22602v2 [cs.AI] 查看此版本)
  https://doi.org/10.48550/arXiv.2607.22602

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Zefeng Wang [查看邮箱]
[v1] 2026年6月12日星期五 16:51:29 UTC(451 KB)
[v2] 2026年10月21日星期三 06:46:53 UTC(461 KB)

来源:arXiv cs.AI · arxiv.org