arXiv cs.CL· Lucas Resck, Isabelle Augenstein, Anna Korhonen·· 11 小时前AI 评分29
用共识驱动的偏好优化缓解 LLM 跨语言文化不一致
Mitigating Cross-Lingual Cultural Inconsistencies in LLMs via Consensus-Driven Preference Optimisation
AI 导读
研究者提出 C-3PO 共识驱动对齐框架，将跨语言文化一致性指标 κ_S 在未对齐模型基础上提升 0.07–0.10，超过所有提示词与表征引导基线。该框架仅用多选题训练，也能改善开放式生成的一致性，并基本保留用户身份、文化中立性与内在文化知识。评估显示，印尼语、波斯语等低资源语言的不一致更明显。
正文 · AI 翻译
摘要：多语言大语言模型（MLLMs）在回答文化歧义问题时，往往在不同语言下给出不一致的答案，即使面对固定的用户人设也是如此——例如，对同一位英国用户，用英语回答时提到莎士比亚，用西班牙语回答时却提到塞万提斯。为了稳健地量化这种跨语言文化不一致性，我们引入了 Singleton Fleiss's $\kappa_S$，一种在数学上对幻觉具有鲁棒性的指标。为缓解这一问题，我们提出了跨语言文化一致偏好优化（C-3PO），一个共识驱动的对齐框架。C-3PO 将 $\kappa_S$ 相比未对齐模型提升 0.07--0.10，在按人设平均后高于所有提示和表示引导基线，同时基本保留了显式用户身份、文化中立性和内在文化知识；在未能保留的情况下，软共识变体可挽回大部分损失。尽管仅在多项选择题上训练，C-3PO 也提升了开放式生成中的一致性。实证评估表明，这种不一致性在印度尼西亚语和波斯语等低资源语言中更为明显。最后，对中间层的早期解码揭示，随着前向传播表示趋于稳定，MLLMs 会隐式地使输出向提示语言所对应的刻板文化个性化。
| 评论： | 25 页，14 幅图，17 张表 |
| 主题： | 计算与语言（cs.CL） |
| ACM 分类： | I.2.7; I.2.6 |
| 引用为： | arXiv:2605.12515 [cs.CL] |
| （或 arXiv:2605.12515v3 [cs.CL] 为本版本） | |
| https://doi.org/10.48550/arXiv.2605.12515 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Lucas Resck [查看邮箱]
[v1]
2026 年 4 月 2 日星期四 14:04:06 UTC（207 KB）
[v2]
2026 年 5 月 27 日星期三 15:20:41 UTC（239 KB）
[v3]
2026 年 10 月 16 日星期五 15:46:19 UTC（193 KB）
来源：arXiv cs.CL · arxiv.org