arXiv cs.CL· Yihang Peng, Yi Jing, Dewen Liu, Weihan Meng, Ying Liu·· 2 天前AI 评分31
不是"是否"而是"何时":从语境适切性诊断中文 LLM 的写作口头禅
Not X, but When: Diagnosing a Mandarin LLM Writing Tic through Contextual Appropriateness
AI 导读
研究以中文纠正构式"不是 X,而是 Y"为切口,用基于 Gricean 语用学的决策树将用法分为实质性、可选与缺陷三类。五款商用模型使用该构式的密度是人类参照的 2.5 至 9.2 倍;307 条标注用例中仅 1.30% 属缺陷,52.8% 属"正确但非必要"的可选用法,说明模型在适切性上的不足远多于正确性。
正文 · AI 翻译
摘要:模型生成文本中反复出现的表达常被视为机器写作的特征,但其中大多数都发挥着正当功能。这类表达是否属于口头禅,取决于模型是否知道何时该使用它。这种对恰当性的判断是交际能力的核心,但对语言模型而言仍基本未被考察。我们通过汉语纠正构式“不是 X,而是 Y”来研究这一问题。基于格赖斯语用学和纠正性否定,我们引入一棵决策树,通过检验语境是否使 X 成为一个现成的备选项、以及否定 X 是否具有信息量,将用法分类为实质性、可选性或缺陷性。五个商业模型使用该构式的密度是人类参照的 2.5 至 9.2 倍。在 307 个标注用法中,仅 1.30% 为缺陷性,而 52.8% 为可选性,即正确但非必要,因此模型在恰当性上的不足远比在正确性上的不足更为频繁。若干奖励模型即便在质量匹配的变体中也偏好该构式,一个 LLM 评判器即便在语境并不许可时也偏好它,而监督微调和偏好优化都倾向于提高其在开放权重模型中的使用频率。我们希望这项工作能促进开发关注自身表达恰当性的模型。
| 学科: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.22249 [cs.CL] |
| (或 arXiv:2610.22249v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.22249 arXiv 颁发的 DOI,经由 DataCite(待注册) |
提交历史
来自:Yihang Peng [查看邮箱]
[v1]
2026年10月15日星期四 17:22:11 UTC(1,855 KB)
来源:arXiv cs.CL · arxiv.org