arXiv cs.CL· Rui He, Philipp Homan, Wolfram Hinzen·· 11 小时前AI 评分31
语言边界源于压力受限的处理动态:一项生成模拟、人类听者与 LLM 研究
Linguistic boundaries emerge from pressure-constrained processing dynamics
AI 导读
研究提出语言边界源于维持未解决依存、整合已完成关系与更新语义上下文三种需求的交互,结构完成允许但不决定边界闭合。无预设边界位置的生成模拟复现了类句子的段长分布与特征时间尺度;人类听者在未解决依存更少、整合成本与语义失配更高处更倾向标记边界。用大语言模型处理同一叙事时,句末出现局部内在维度升高、隐藏状态轨迹更直,随后表征更新更大。
正文 · AI 翻译
摘要:人类认知将连续的经验组织为有界单元,同时在这些单元之间保持连续性。语言要素也被组织为有界的结构单元,如词和短语,而句子标志着语法构建过程的最终边界。这些边界是如何产生的?我们提出,边界产生于相互作用的多种需求:维持未解决的依存关系、整合已完成的关系,以及更新语义语境;结构上的完成允许但不决定闭合。首先,在一个没有预定义边界位置或成分标签的生成式模拟中,这些需求产生了类似句子的片段长度分布和不同的特征时间尺度,结构上的完成允许但不决定闭合。在边界附近,未解决的依存负荷下降,整合成本达到峰值,累积的压力得到重置。然后,我们检验了相同的需求是否能预测人类听者在理解过程中的边界选择。听者更倾向于在未解决依存关系更少、整合成本和语义失配更高、且先前记忆负荷升高时标记边界,这一效应超出了句法和韵律线索。第三,在自然主义的自定步速阅读中,句末的阅读减慢与记忆负荷下降、整合成本和语义失配上升同时出现,与模拟结果大体一致。用大型语言模型处理相同的叙事文本时,在句子结尾处局部内在维度增加、隐藏状态轨迹更直,随后出现更大的表征更新。边界在处理需求之外解释了阅读时间和隐藏状态几何结构中的额外变异,但在下一词元惊奇度上解释的变异要少得多。总之,这些发现表明,语言边界是连续加工动态中转变的离散表现。
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2611.08085 [cs.CL] |
| (或 arXiv:2611.08085v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.08085 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Rui He [查看邮箱]
[v1]
2026年11月5日星期四 14:33:00 UTC(4,583 KB)
来源:arXiv cs.CL · arxiv.org