arXiv cs.CL· Tiejin Chen, Xiaoou Liu, Michael Clifford, Ahmadreza Moradipari, Yitao Chen, Kyungtae Han, Nejib Ammar, Hua Wei·· 11 小时前AI 评分31
先检测再消歧：LLM 基于扰动保留的输入歧义检测方法
Detect Before You Disambiguate: Perturbation-Based Input Ambiguity Detection in LLMs
AI 导读
研究提出一种标签保持的扰动框架，用于在消歧之前检测 LLM 输入歧义，包含黑盒规则扰动库和白盒重要性引导两种检测器。在开放域、对话和视觉问答四个数据集上，该方法优于输出侧不确定性基线和基于 LLM 改写的扰动基线。论文已被 AACL-IJCNLP 2026 主会接收，代码已开源。
正文 · AI 翻译
摘要：大型语言模型（LLM）常常把歧义输入当作只有单一预期含义来回答。这存在问题，因为输入歧义是不确定性的上游来源：当一个提示允许多种有效解释时，关键问题在于模型究竟是否应当直接作答。现有的输入不确定性方法往往依赖 LLM 生成的陈述或澄清，但这类转换可能在歧义被测量之前就已经消除了输入的歧义。我们提出一个用于输入歧义检测的标签保持扰动框架，其中扰动保持接近原始输入，同时保持其标签。我们用两个检测器实例化这一原则：一个黑盒的基于规则的扰动库，以及一个利用模型内部信号的白盒重要性引导方法。在开放域、对话和视觉问答四个数据集上的实验表明，我们的方法优于输出侧不确定性基线和基于 LLM 改写的扰动基线。我们的结果凸显了在尝试消除歧义之前先检测歧义的重要性。我们的代码可在 \href{此 https URL}{\textcolor{purple}{此处}} 获取。
| 评论： | 被 AACL-IJCNLP 2026 Main 接收 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.36353 [cs.CL] |
| （或 arXiv:2610.36353v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.36353 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Tiejin Chen [查看邮箱]
[v1]
2026 年 10 月 26 日星期一 22:18:10 UTC（382 KB）
来源：arXiv cs.CL · arxiv.org