arXiv cs.AI· Yedidia Agnimo, Anna Korba, Annabelle Blangero, Nicolas Chesneau, Karteek Alahari·· 3 天前AI 评分41
LLM 不确定性估计器与模型幻觉的对齐关系研究
How Do Uncertainty Estimators Align with Hallucination Occurrence in LLMs?
AI 导读
研究系统评估了 46 种不确定性估计器在内在幻觉与外在幻觉场景下的表现，覆盖四个 benchmark 和多个 LLM。结果显示不确定性与幻觉之间的关联差异很大且往往较弱，取决于幻觉场景和所评估的模型。这一结果对将不确定性直接作为幻觉信号的做法提出了质疑。
正文 · AI 翻译
摘要：大语言模型（LLM）会产生幻觉，但模型不确定性估计器能否可靠地揭示其何时产生幻觉？尽管不确定性估计器越来越多地被用于识别不可靠的生成内容，但其与幻觉之间的关系仍鲜为人知，且常被视为理所当然。我们系统地评估了 46 种不确定性估计器，涵盖互补的幻觉场景，既包括内在幻觉——即输出不受所提供上下文支持，也包括外在幻觉——即主张不受预期模型知识支持。在四个基准和多个 LLM 上，我们发现不确定性与幻觉之间的关联差异很大，且往往很弱，具体取决于幻觉场景和所评估的模型。这些结果对将不确定性用作幻觉的直接信号提出了质疑，并阐明了它在何时能提供有用信息。
| 评论： | 50 页，11 幅图，18 张表 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG）；机器学习（stat.ML） |
| 引用为： | arXiv:2605.27016 [cs.CL] |
| （或使用 arXiv:2605.27016v2 [cs.CL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2605.27016 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Yedidia Agnimo [查看邮箱]
[v1]
2026 年 5 月 26 日星期二 13:34:54 UTC（1,278 KB）
[v2]
2026 年 10 月 12 日星期一 08:14:23 UTC（1,124 KB）
来源：arXiv cs.AI · arxiv.org