arXiv cs.CL· Andrey Goncharov, Nikolai Kondusov, Alexey Zaytsev·· 11 小时前AI 评分31
在潜空间中引导语言以缓解非预期语码转换
Language steering in latent space to mitigate unintended code-switching
AI 导读
研究提出一种轻量级推理时方法“潜空间语言引导”，通过对平行翻译做 PCA 识别语言方向，并沿这些轴引导 token 嵌入以控制语言身份。该方法将下一 token 分布散度最多降低 55%，Code-Switching Index 降低 63–99%，且计算开销可忽略、仅需少量平行数据校准。单个主成分即可实现 95–99% 的语言分类准确率，论文已被 AINL 2026 接收。
正文 · AI 翻译
摘要：多语言大语言模型（LLM）常出现非预期语码转换等幻觉，降低了下游任务的可靠性。我们提出潜空间语言引导，这是一种轻量级推理时方法，通过对平行译文进行主成分分析（PCA）来识别语言方向，并沿这些轴引导 token 嵌入以控制语言身份。我们的方法缓解了语码转换（下一 token 分布散度最多降低 55\%，语码转换指数降低 63--99\%），同时保留广泛的语义方向，计算开销可忽略不计，且仅需极少的平行数据用于校准。此外，我们使用单个主成分评估语言分类（准确率 95-99\%），并进一步分析语言表示的分层演化。
| 评论： | 发表于 AINL 2026 |
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2510.13849 [cs.CL] |
| （或 arXiv:2510.13849v4 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2510.13849 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Andrey Goncharov [查看电子邮件]
[v1]
2025年10月11日 星期六 19:49:38 UTC（2,821 KB）
[v2]
2026年3月2日 星期一 12:36:21 UTC（2,810 KB）
[v3]
2026年4月15日 星期三 11:13:28 UTC（2,807 KB）
[v4]
2026年10月16日 星期五 17:02:53 UTC（2,820 KB）
来源：arXiv cs.CL · arxiv.org