arXiv cs.CL· Iskar Deng, Shane Steinert-Threlkeld·· 11 小时前AI 评分18
从平行到分化：语言模型如何学习动作名词化构式
From Parallels to Divergence: Language Models' Learning of Action Nominal Constructions
AI 导读
研究用语法工程方法构建 96 种合成语言，覆盖小句语序、名词短语语序、对齐、补语系统和 ANC 策略等差异，每种语言从零训练 GPT-2-small，并用覆盖 34 种语法现象的定向最小对进行评测。结果显示模型在小句基本配置上与自然语言的类型学分布平行，但在补语系统和 ANC 策略上出现分化，还会学到自然语言中罕见甚至未见的组合。
正文 · AI 翻译
摘要：动作名词性构式（ANC）以名词形式表达事件，其论元标记遵循小句或普通名词短语中的模式。本文研究不同语法配置如何影响语言模型对 ANC 及相关构式的学习，以及这些学习偏好与自然语言中类型学分布的比较。我们采用语法工程方法构建合成语料，将来自自然语料库的共享语义输入与计算语法相结合。我们构建了 96 种目标语言，在小句词序、名词短语词序、配列、补语系统和 ANC 策略上各不相同。对于每种语言，我们从零开始训练 GPT-2-small 模型，并使用覆盖 34 种语法现象的目标最小对进行评测。结果表明，基本小句配置上存在类型学上的平行性，但在补语系统和 ANC 策略上存在分歧，模型还学到了自然语言中罕见或未见过的组合。这种部分一致性表明，自然语言的分布可能既反映了普遍的学习压力，也反映了模型学习实验未能完全捕捉的功能需求。
| 评论： | 41 页，含附录 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.22468 [cs.CL] |
| （或 arXiv:2610.22468v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22468 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：Iskar Deng [查看邮箱]
[v1]
2026 年 10 月 15 日星期四 17:43:47 UTC（566 KB）
来源：arXiv cs.CL · arxiv.org