跳到正文
arXiv cs.AI· Kaiwen Shi, Zheyuan Zhang, Weixiang Sun, Han Bao, Colby Nelson, Yanfang Ye·· 10 小时前AI 评分31

LProp:让 LLM 智能体通过证据条件信念修正传播潜在不确定性

LProp: Propagating Latent Uncertainty through Evidence-Conditioned Belief Revision in LLM Agents

AI 导读

研究者提出潜在空间估计器 Latent Uncertainty 及基于它的 LProp(潜在不确定性传播),利用潜在表示与新证据修正继承的答案分布,无需额外轨迹采样。在多项选择、是非、开放式问答和数学推理任务上,该方法多数指标优于基线,LProp 在全部八种传播设置中平均推理 token 用量最低。特征消融显示,继承的潜在内容比答案概率或单纯模型容量更能改善错误恢复。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:当 LLM 智能体将中间判断向下游传递而不附带不确定性时,后续决策可能会将暂定假设当作事实。有效的不确定性传播必须保留信息以便纠正,并随着新证据的到来更新继承的信念。然而,标量分数省略了修订所需的信息,而详细描述和反思则会带来额外成本。我们提出 Latent Uncertainty,一种潜在空间估计器,可在无需冗长描述的情况下保留与不确定性相关的信息。在此基础上,我们提出 LProp(Latent Uncertainty Propagation),它利用潜在表示和新证据修订继承的答案分布,而无需额外的轨迹采样。我们在多项选择、是/否、开放式问答和数学推理任务上评估了这两种方法。我们的方法在大多数指标上优于基线,而 LProp 在所有八种传播设置中实现了最低的平均推理 token 使用量。匹配特征消融进一步表明,继承的潜在内容在错误恢复方面优于仅依赖答案概率或模型容量。
主题: 人工智能(cs.AI)
引用为: arXiv:2611.23564 [cs.AI]
  (或 arXiv:2611.23564v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.23564

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Kaiwen Shi [查看电子邮件]
[v1] 2026年11月17日星期二 22:12:54 UTC(1,111 KB)

来源:arXiv cs.AI · arxiv.org