arXiv cs.AI· Tingxin Yang, Zefeng Wang, Mengyue Wang, Jinhe Bi, Xingcheng Zhou, Volker Tresp, Yunpu Ma·· 12 小时前AI 评分31
DeepLook:用不确定性引导分支与前瞻置信度实现高效推理
DeepLook: Uncertainty-Guided Branching with Lookahead Confidence for Efficient Reasoning
AI 导读
DeepLook 是一个免训练解码框架,通过监控片段级置信度、仅在不确定性瓶颈处分支,并用 Average Lookahead Confidence(ALC)对候选续写排序后再投票。
正文 · AI 翻译
摘要:测试时扩展提升了大语言模型的推理能力,但沿推理轨迹均匀分配计算量,即使在已经稳定的区段也是如此。受推理失败会表现出不确定性早期出现的观察启发,我们提出 DeepLook,一种免训练的解码框架,它监控片段级置信度,仅在不确定性瓶颈处分支,并按平均前瞻置信度(ALC)——即固定视野 rollout 上的平均置信度——对候选续写排序,然后完成并在剪枝后的子集上投票。在四个开放模型、四个竞赛数学基准上,DeepLook 在 16 个设置中的 12 个达到或超过 DeepConf-low 的准确率,同时生成的 token 减少 87.3%,表明模型自身的置信度足以判断在何处值得投入额外解码计算。在知识密集型 GPQA-Diamond 上,准确率优势消失,但 token 节省依然存在:连贯的幻觉同样获得高 ALC,因此内部置信度定位的是不稳定性,而非虚假性。代码见 this https URL。
| 注释: | EMNLP 2026 Workshop UncertaiNLP |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2607.22602 [cs.AI] |
| (或 arXiv:2607.22602v2 [cs.AI] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2607.22602 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Zefeng Wang [查看邮箱]
[v1]
2026年6月12日星期五 16:51:29 UTC(451 KB)
[v2]
2026年10月21日星期三 06:46:53 UTC(461 KB)
来源:arXiv cs.AI · arxiv.org