通过因果鲁棒性度量大语言模型的机制不确定性

Measuring Mechanistic Uncertainty in Large Language Models via Causal Robustness

AI 导读

研究提出“机制不确定性”概念与“因果鲁棒性边际”，用 Jacobian Lens（Jlens）概念引导向量量化模型输出偏离所需的最小内部干预。在三个开源模型和五个问答数据集上，错误与不确定回答的边际更小，说明其对内部干预更敏感，且该指标可补充传统基于输出的不确定性方法。知识注入实验中，正确习得的事实训练后边际上升，表明因果鲁棒性可作为有机制依据的不确定性信号。

正文 · AI 翻译

查看 PDF HTML（实验性）

摘要：大语言模型（LLM）越来越多地被用于关键领域，而其易产生幻觉的特性使得可靠且可解释的不确定性量化变得至关重要。我们引入了机制不确定性这一概念，它通过支撑模型响应的内部机制的稳定性来刻画不确定性。我们提出了因果鲁棒裕度，将其定义为使模型输出偏离所需的最小内部干预，并使用 Jacobian Lens（Jlens）概念引导向量将其操作化。在三个开源模型和五个问答数据集上，我们表明错误和不确定的响应表现出更小的裕度，表明其对内部干预更为敏感，并且因果鲁棒裕度补充了传统的基于输出的不确定性方法。最后，在一项受控的知识注入实验中，正确学习到的事实显示出训练后裕度增加，这表明因果鲁棒性提供了一种有机制依据的不确定性信号。

学科：	计算与语言（cs.CL）；人工智能（cs.AI）
引用为：	arXiv:2610.22636 [cs.CL]
	（或 arXiv:2610.22636v1 [cs.CL] 为此版本）
	https://doi.org/10.48550/arXiv.2610.22636 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Aneesh Komanduri [查看邮箱]
[v1] 2026年10月15日星期四 20:46:06 UTC（416 KB）

来源：arXiv cs.CL · arxiv.org