arXiv cs.CL· Sripad Karne·· 10 天前AI 评分25
自动解释标签能泛化多远：一项跨语言、文字与改写的受控研究
How Far Do Auto-Interpretation Labels Generalize: A Controlled Study Across Languages, Scripts, and Rewordings
AI 导读
研究以塞尔维亚语双语书写系统为受控测试台，发现同一内容在不同语言、文字和措辞下激活的 SAE 特征集有显著重叠（平均 Jaccard 0.39，随机基线 0.13，最高 0.57），表明存在真正的跨语言语义特征。但自动解释标签往往跟不上：描述语义内容的标签在塞尔维亚语中漏掉同一含义的频率最高达英语的 4 倍，且漏掉塞尔维亚语西里尔文多于拉丁文，这一差距随网络深度增大，标签本身却不显示失效。
正文 · AI 翻译
摘要：稀疏自编码器（SAE）特征正越来越多地用于解释语言模型，自动生成的自然语言标签成为理解每个特征所代表含义的主要界面。我们追问这些标签是否具有泛化性：一个被标注为某概念的标签，是否真的能在不同语言和文字系统中追踪该概念？以塞尔维亚语的双文字制作为受控测试平台——同一种语言通过确定性音译同时用拉丁字母和西里尔字母书写——我们首先发现，相同内容在不同语言、文字和措辞下激活的 SAE 特征集存在大量重叠（平均 Jaccard 为 0.39，随机基线为 0.13，最高达 0.57），表明存在真正的跨语言语义特征。随后我们检验自动解释标签是否跟得上。它们往往跟不上：标签描述语义内容的特征在塞尔维亚语中漏掉相同含义的频率最高可达英语中的 4$\times$，且漏掉塞尔维亚语西里尔字母的情况多于塞尔维亚语拉丁字母——而这两种文字互为确定性音译。这一差距随网络深度增大而扩大，但标签却没有任何失败迹象。这些结果表明，自动解释标签反映的是特征在模型训练中见得最多的语言和文字上的行为，而非概念本身。
| Comments: | 已被 AACL-IJCNLP 2026（主会）接收 |
| Subjects: | 计算与语言（cs.CL） |
| 引用为： | arXiv:2606.00356 [cs.CL] |
| （或 arXiv:2606.00356v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2606.00356 由 DataCite 颁发 arXiv DOI |
提交历史
来自：Sripad Karne [查看电子邮件]
[v1]
2026年5月29日星期五 20:59:28 UTC（269 KB）
[v2]
2026年6月3日星期三 03:59:07 UTC（273 KB）
[v3]
2026年10月7日星期三 00:19:58 UTC（277 KB）
来源：arXiv cs.CL · arxiv.org