arXiv cs.CL· Giang Son Nguyen, Wray Buntine, Dung D. Le, Wenya Wang·· 11 小时前AI 评分34
多语言 LLM 中的否定表征：一项因果分析
"Not" is Not Lost in Translation: A Causal Analysis of Negation Representations in Multilingual LLMs
AI 导读
研究者在六个开源模型上对英语、法语、越南语和中文做因果干预，发现多语言 LLM 的否定表征可被因果控制且跨语言高度共享：从一种语言提取的对比激活方向能在其他语言中诱导或移除否定，不同语言提取的方向也基本对齐。
正文 · AI 翻译
摘要：否定存在于每一种语言中，但其表层实现方式却差异极大。尽管如此，多语言大语言模型（LLM）仍能稳健地翻译否定，这引出了一个问题：它们是否在不同语言之间共享否定的底层表示。我们在六个开源模型中，针对英语、法语、越南语和中文研究这一问题，使用合成对比数据集以及由 FLORES-200 衍生的否定翻译数据集进行因果干预。跨模型来看，我们发现了强有力的证据，表明否定表示在因果上可控，且在很大程度上跨语言共享。特别地，我们表明，从一种语言中提取的对比激活方向可以在其他语言中诱导或移除否定，而从不同语言中提取的方向在很大程度上是对齐的。我们进一步发现，否定以稀疏特征的形式被表示：每个模型仅需一个稀疏自编码器（SAE）特征，就足以跨语言控制极性，同时对否定输入作出选择性响应。最后，稠密和稀疏干预都能泛化到另外四种语言以及由 FLORES 衍生的句子。我们发布数据和代码以支持未来工作：this https URL。
| 评论： | 29 页，20 张图 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.32281 [cs.CL] |
| （或 arXiv:2610.32281v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.32281 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Giang Son Nguyen [查看邮箱]
[v1]
2026 年 10 月 23 日星期五 07:38:41 UTC（1,034 KB）
来源：arXiv cs.CL · arxiv.org