arXiv cs.CL· Richard Zhe Wang·· 3 天前AI 评分31
从 LLM 内部状态检测金融问答中的自信幻觉
Confidently Wrong: Detecting Hallucinations in Financial Question Answering from LLM Internal States
AI 导读
研究在 FinQA 和 TAT-QA 上训练线性探针，从 Qwen3-8B、Llama-3.1-8B、Gemma-2-9B 的残差流内部激活中检测"自信幻觉"。
正文 · AI 翻译
摘要：金融应用中的大语言模型（LLM）最严重的失败在于它们自信地给出错误答案。含糊、不确定的回答会引发审视，而自信的错误则会在毫无预警的情况下悄然降低下游决策的质量。我们研究这类自信的错误答案（即自信幻觉）能否从模型内部激活中可靠地检测出来，以及这些激活是否携带超出其输出层置信度信号的信息。我们在残差流上训练线性探针，并在两个基于真实申报文件构建的成熟数值问答（QA）基准 FinQA 和 TAT-QA 上对其进行评估。行为置信度以同一问题的八个重采样答案之间的一致性来衡量，探针有效性则与基线（如 token 对数概率和模型对自身答案的 True/False 自评估）进行比较。我们的研究结果表明，在自信答案（即八个重采样全部一致的答案）中，FinQA 上有 15-23% 是错误的。在检测幻觉方面，探针相比输出层基线具有显著优势，在 Qwen3-8B、Llama-3.1-8B 和 Gemma-2-9B 上保持 0.68-0.77 的 AUROC，而最佳基线降至 0.55-0.63。我们的结果表明，探针可以成为一种经济高效的分诊机制，用于在高风险金融应用中将 LLM 答案路由至人工审核和质量控制流程。代码和数据可在 此 https URL 获取。
| Comments: | Accepted at the 7th ACM International Conference on AI in Finance (ICAIF '26), Milan, Italy, November 14-17, 2026. 8 pages, 2 figures, 5 tables |
| Subjects: | 计算与语言（cs.CL） |
| Cite as: | arXiv:2607.11414 [cs.CL] |
| （或 arXiv:2607.11414v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.11414 arXiv 颁发的 DOI（通过 DataCite） |
|
| 相关 DOI： | https://doi.org/10.1145/3858063.3858685
链接到相关资源的 DOI |
提交历史
来自：Richard Wang [查看邮箱]
[v1]
2026年7月13日星期一 11:22:25 UTC（114 KB）
[v2]
2026年10月13日星期二 21:03:09 UTC（114 KB）
来源：arXiv cs.CL · arxiv.org