arXiv cs.CL· Mehrdad Ghassabi, Pedram Rostami, Hamidreza Baradaran Kashani, Sadra Hakim, Audrina Ebrahimi·· 9 天前AI 评分18
面向波斯语医疗模型的单次前向不确定性头：声明级幻觉检测
Single-Pass Uncertainty Heads for Claim-Level Hallucination Detection in Persian Medical Language Models
AI 导读
研究将 LLM Uncertainty Head（LUH）框架适配到两个波斯语医疗模型 Gaokerena-V 和 Gaokerena-R，在冻结骨干的注意力图与 token 概率上训练轻量不确定性头，实现无需检索或重复采样的声明级幻觉检测。
正文 · AI 翻译
摘要：幻觉检测对医学语言模型尤为重要，但重复采样方法计算成本高昂。一种更快的替代方案是单次通过的不确定性头，它从冻结生成器的内部信号预测幻觉风险。现有的不确定性头使用特定于骨干网络的特征和分词方式，因此在骨干网络或语言变化时需要适配。我们在 168 道伊朗医学入学考试题上研究了两个波斯语医学模型 Gaokerena-V 和 Gaokerena-R。每题五次生成中，Gaokerena-V 仅在 14 道题上产生相同选项，Gaokerena-R 在 37 道题上产生相同选项，而 Med-Gemma 为 168 道，表明 Gaokerena 模型存在显著的响应变异性。因此，我们将 LLM 不确定性头（LUH）框架适配到这些模型，并直接以波斯语构建了两个配对的声明级幻觉数据集，每个骨干网络 1,600 条响应。轻量级头在冻结骨干网络的注意力图和 token 概率上训练。在留出的测试集上，这些头分别达到 0.4820 和 0.4652 的 PR-AUC，相当于各自随机基线的 2.30 倍和 2.66 倍，ROC-AUC 分别为 0.7852 和 0.7810。由此得到的检测器在推理时既不需要检索也不需要重复采样。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.03482 [cs.CL] |
| （或 arXiv:2610.03482v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.03482 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Mehrdad Ghassabi [查看电子邮件]
[v1]
2026 年 10 月 2 日星期五 15:50:46 UTC（11 KB）
[v2]
2026 年 10 月 5 日星期一 08:35:10 UTC（11 KB）
[v3]
2026 年 10 月 7 日星期三 18:13:33 UTC（12 KB）
来源：arXiv cs.CL · arxiv.org