arXiv cs.AI· Brendan King, Farima Fatahi Bayat, Jean-Flavien Bussotti, Pouya Pezeshkpour, Estevam Hruschka·· 10 天前AI 评分24
Confidence Reasoning Graphs：面向 LLM 智能体的结构化置信度估计
Confidence Reasoning Graphs: Structured Confidence Estimation for LLM Agents
AI 导读
研究者提出 Confidence Reasoning Graphs（CRG），一种推理时框架，仅凭单条轨迹估计 LLM 智能体完成任务的成功概率，无需模型内部信号或训练数据。CRG 将任务声明分解为基于轨迹证据的子声明，逐项估计置信度后聚合为整体置信度。在三个智能体基准、三个骨干模型和三个智能体框架上，CRG 的置信度校准与风险感知决策均优于口头化、采样和白盒代理基线。
正文 · AI 翻译
摘要：在关键领域使用 LLM 智能体时，要就是否信任其输出或进行干预做出明智决策，需要对智能体的成功有校准的置信度。智能体的置信度估计之所以困难，是因为关于成功的证据分散在智能体轨迹中异构且相互依赖的各个步骤上。实际的智能体部署还带来更多挑战：前沿 LLM 往往对内部信号的访问有限，智能体 rollout 成本高昂，且训练数据可能不可用或很快过时。为应对这些挑战，我们提出了置信度推理图（Confidence Reasoning Graphs，CRGs），这是一个推理时框架，可从单条轨迹估计智能体完成任务的概率，无需特权模型访问或训练数据。CRG 不是将一次执行压缩为单一的整体判断，而是从“智能体完成了其任务”这一主张出发，将其分解为以轨迹证据为基础的语境化子主张，估计每个终端主张的置信度，最后将这些置信度聚合为总体置信度估计。在三个智能体基准、三个骨干模型和三个智能体框架上，CRG 产生的置信度校准优于言语化、基于采样和白盒代理基线，风险感知决策也更强。我们进一步发现，仅凭校准误差可能具有误导性：一个白盒代理基线看似校准良好，却只提供接近随机的区分能力。消融实验将 CRG 的改进归因于主张级置信度估计与聚合，而非仅图构建。最后，CRG 会暴露每个置信度估计所依据的主张和轨迹证据，使其能够在决策时接受审计。
| Comments: | 34 页，6 张图，11 张表 |
| Subjects: | 人工智能（cs.AI）；计算与语言（cs.CL） |
| Cite as: | arXiv:2610.07948 [cs.AI] |
| （或 arXiv:2610.07948v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07948 arXiv 颁发的 DOI 通过 DataCite（待注册） |
Submission history
来自：Brendan King [查看邮箱]
[v1]
2026 年 10 月 6 日星期二 08:22:14 UTC（2,026 KB）
来源：arXiv cs.AI · arxiv.org