研究比较指令微调模型与人类的句法趋同

Zandi Eberstadt 发表的研究比较了指令微调模型与人类的句法趋同：指令微调模型比人类产生更多句法重叠，但条件复用更少。研究基于 Blevins 等人的替换范式数据，在 16 个开源 Llama 和 Gemma 模型（1B-70B，含预训练与指令微调版本）上各测 1,901 个匹配位置，衡量相邻轮次对上下文无关文法（CFG）规则的复用。研究称，大语言模型是否像人类一样对用户表现出句法趋同、且覆盖广泛句法结构，仍是未决问题。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。