arXiv cs.CL· Ziliang Qiu, Renfen Hu, Yi Ding, Ted Underwood·· 10 小时前AI 评分42
用多维视角重新审视 LLM 同质化问题
Revisiting LLM Homogeneity Through a Multidimensional Lens
AI 导读
研究用覆盖语义、词汇、句法、结构、风格与呈现五个维度的 25 项可解释指标重新衡量 LLM 同质化，发现嵌入向量相似度与人类语义判断的相关性（ρ=0.417）低于句子级匹配（ρ=0.606），与形式判断则无显著相关（ρ=0.140）。
正文 · AI 翻译
摘要：对 LLM 同质化的担忧通常用嵌入相似度来量化，而这会把两段文本压缩成一个分数。我们以 25 个可解释指标重新审视同质化，这些指标横跨五个维度：语义、词汇、句法、结构以及风格与呈现。一项人类研究表明，感知到的相似性既取决于内容（回答说了什么），也取决于形式（回答如何说），然而嵌入相似度与人类意义判断的相关性低于句子级匹配（$\rho=0.417$ 对 $0.606$），且与形式判断的相关性不显著（$\rho=0.140$）。在 18 个当代 LLM 中，模型用不同的词说相似的话：它们共享全局语义和宽泛的语言特征，但在词汇特征、结构模式和交互惯例上仍保持差异。在 2024 至 2026 年的各版本中，模型变得更像自己，但并不更像彼此：在显著变化的指标中，模型内距离在 22 个指标中有 17 个下降，模型间距离在 21 个指标中有 14 个上升。在两个后训练流程中，模型特有的惯例在 SFT 期间出现，并被偏好优化选择性地重塑。这些结果表明，同质化是多维且不断演变的，仅凭嵌入相似度可能高估跨模型同质化，同时掩盖模型内与模型间趋势的分化。
| 评论： | 26 页，9 张图 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.01549 [cs.CL] |
| （或 arXiv:2611.01549v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.01549 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ziliang Qiu [查看电子邮件]
[v1]
2026 年 11 月 1 日星期日 04:20:16 UTC（736 KB）
来源：arXiv cs.CL · arxiv.org