DeepLook：不确定性引导分支的高效推理解码框架

Tingxin Yang 等作者提出免训练解码框架 DeepLook，通过监控片段级置信度、仅在不确定性瓶颈处分支，并用 Average Lookahead Confidence（ALC）对候选续写排序后再投票，以提升推理效率。 据作者介绍，该框架无需额外训练即可用于解码阶段，分支只发生在模型置信度较低的片段，而非全程展开多条路径。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。