arXiv cs.AI· Ponhvoan Srey, Quang Minh Nguyen, Xiaobao Wu, Anh Tuan Luu·· 11 小时前AI 评分31
面向大语言模型可靠真值对齐不确定性估计的 Truth AnChoring（TAC）方法
Towards Reliable Truth-Aligned Uncertainty Estimation in Large Language Models
AI 导读
研究提出 Truth AnChoring（TAC），一种轻量级事后校准方法，将 LLM 的原始不确定性估计（UE）分数映射为与事实正确性对齐的概率，在监督信号含噪且样本极少时仍能持续改善校准。
正文 · AI 翻译
摘要：不确定性估计（UE）旨在量化大语言模型（LLM）输出中的不确定性，以标记潜在的幻觉并支持可靠部署。然而，UE 指标在不同模型和数据集上的表现往往不稳定，限制了其实际效用。我们将这一现象形式化为代理失效，其产生的原因是 UE 指标源自模型行为，而非明确地以事实正确性为依据。我们表明，当 UE 分数与正确性之间的互信息较低时，该分数的区分能力必然接近随机水平。为解决这一问题，我们提出 Truth AnChoring（TAC），一种轻量级的后验校准方法，将原始 UE 分数映射为与真值对齐的正确性概率。即使在噪声较大且仅有少样本监督的情况下，TAC 仍能持续改善校准效果，提供了一种实用的校准协议。我们的发现凸显了将启发式 UE 指标视为关于事实正确性的不确定性的直接指标所存在的局限，并将我们的 TAC 定位为迈向更可靠的 LLM 不确定性估计的原则性一步。代码仓库见 此 https URL。
| 评论： | 已被 EMNLP Findings 2026 接收 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2604.00445 [cs.AI] |
| （或 arXiv:2604.00445v2 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2604.00445 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Ponhvoan Srey [查看邮箱]
[v1]
2026年4月1日 星期三 03:42:16 UTC（6,423 KB）
[v2]
2026年10月16日 星期五 14:40:44 UTC（6,432 KB）
来源：arXiv cs.AI · arxiv.org