arXiv cs.AI· Juann Kim, Minku Kang·· 3 天前AI 评分22
跨语言迁移 evil 向量存在方向不对称性
Cross-Lingual Transfer of Evil Vectors Is Directionally Asymmetric
AI 导读
一项针对四个开源指令微调 LLM 的研究发现，evil persona 向量的跨语言迁移存在方向不对称性：从英语、西班牙语等高资源语言提取的向量能有效迁移到斯瓦希里语、泰卢固语等低资源输入并基本保持 MMLU 表现，而从低资源语言提取的向量难以可靠获得、即便在同语言内也几乎无法有效引导行为。几何分析显示，两种高资源语言的 evil 向量高度对齐，低资源向量仅与该共享方向弱对齐。
正文 · AI 翻译
摘要：人格向量是 LLM 残差流激活中的线性方向，可编码行为特征并实现对模型行为的细粒度控制。其中，邪恶人格向量与理解有害行为、越狱漏洞以及有害知识遗忘尤为相关。然而，该向量是否反映了一个真正的跨语言概念，而非其提取语言的产物，仍未经检验。我们在四种开源指令微调 LLM 上，对两种高资源语言（英语、西班牙语）和两种低资源语言（斯瓦希里语、泰卢固语）进行了系统的邪恶向量迁移研究，发现迁移具有方向不对称性。邪恶向量更难从低资源语言中可靠地获得，且所得向量在引导方面基本无效，即便在其自身语言内也是如此。相比之下，从高资源语言中提取的向量能有效迁移到低资源输入，同时大体上保持通用知识（以 MMLU 衡量）。几何分析进一步支持这一模式：两种高资源语言的邪恶向量高度对齐，而低资源向量与这一共享方向仅弱对齐。这些结果表明，存在一个共享的跨语言邪恶方向，一旦从高资源语言中可靠提取，便可复用于引导低资源语言中的行为，而无需额外收集每种语言的数据。
| Comments: | 被 EMNLP 2026 多语言表示学习研讨会（MRL）接收 |
| Subjects: | 计算与语言（cs.CL）；人工智能（cs.AI） |
| Cite as: | arXiv:2610.17880 [cs.CL] |
| （或 arXiv:2610.17880v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17880 arXiv 颁发的 DOI，经由 DataCite（待注册） |
提交历史
来自：Minku Kang [查看电子邮件]
[v1]
2026年10月13日星期二 07:36:59 UTC（1,007 KB）
来源：arXiv cs.AI · arxiv.org