arXiv cs.CL· Jongwook Yoon, Jongwon Lim, Sungjib Lim, Woojin Cho, Yohan Jo·· 10 天前AI 评分22
LLM 在否定语境下如何改变预测？
How Do LLMs Change Predictions Under Negation?
AI 导读
研究评估了近期开源与闭源 LLM 的否定处理能力，发现 37-71% 的情况下模型在否定后仍重复原答案（如问"西班牙非首都"仍答"Madrid"）。机制分析显示，专门的注意力头和 MLP 神经元通过抑制原答案检索、同时提升同类候选答案来实现否定，这与人类利用原答案信息确定排除对象的处理方式不同，也是否定失败的关键原因。
正文 · AI 翻译
摘要：否定是人类语言的一个基本特征，然而大语言模型（LLM）在处理否定时仍不可靠。我们在否定基准上评估了近期开源和闭源的 LLM，发现它们在 37-71% 的情况下会对否定句给出相同的答案（例如，对“What is not the capital of Spain?”回答“Madrid”）。为了理解并解决这一脆弱性，我们从机制上考察了模型如何处理否定。我们的主要发现是，专门的注意力头和 MLP 神经元共同实现否定，方式是 (1) 抑制对原始答案（例如“Madrid”）的检索，同时 (2) 提升答案类别中一个受偏好的候选（例如“Paris”）。这与关于人类否定处理的解释形成对比，在后者中，关于原始答案的信息有助于确定应当排除什么。此外，我们发现这种与人类处理的差异是否定失败的一个关键来源：模型的机制依赖于抑制原始答案，而不是用它来确定应排除什么，因此当抑制过弱，或当对特定答案的偏好使其无法选择替代答案时，模型可能会重复原始答案。为了解决模型否定机制中的这一弱点，我们提出了一种训练目标，要求对更自信的原始预测产生更大的答案偏好偏移，并表明与标准微调基线相比，它能减少否定失败，同时对通用能力的退化更小。总之，我们的结果展示了机制分析如何能够揭示某种语言能力为何失败，并指导针对其底层局限的训练。
| 评论： | 审稿中 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.09571 [cs.CL] |
| （或 arXiv:2610.09571v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.09571 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jongwon Lim [查看邮箱]
[v1]
2026年10月7日星期三 07:12:16 UTC（1,480 KB）
来源：arXiv cs.CL · arxiv.org