arXiv cs.CL· Herman Kamper·· 10 小时前AI 评分26
音素、音节与词:哪种语言单元的信息率最低?
On the information rate of phones, syllables and words
AI 导读
一项基于 960 小时英文有声书转写语料的研究比较了音素、音节、词、多词组合及中间切分单元的信息率,在 n-gram 与 Transformer 语言模型的有限建模预算下,词取得最低比特率,稍长的单元有时表现最佳。结果表明建模容量受限时,大于音节但短于长多词短语的单元在信息率上表示效率最高。
正文 · AI 翻译
摘要:哪些语言单元能最小化编码语音内容所需的比特率:音素、音节、词,或许更大的单元,还是介于两者之间的某种单元?这个问题对语音和语言系统的发展以及人类语言加工理论都有启示。我使用一个包含 960 小时英语有声书的转写语料库,比较了音素、音节、词、多词组合以及中间粒度分词的信息率。虽然所有单元在完美语言模型下是等价的,但在有限的建模预算下比较它们是有意义的;我使用了 $n$-gram 和 transformer 语言模型。最低的比特率通过词实现,稍长的单元有时表现最佳。结果表明,当建模能力有限时,比音节大但比长多词短语小的单元在信息率方面提供了最高效的表示。
| 评论: | 5 页,1 张表,2 张图 |
| 主题: | 计算与语言(cs.CL);音频与语音处理(eess.AS) |
| 引用为: | arXiv:2611.13990 [cs.CL] |
| (或 arXiv:2611.13990v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.13990 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Herman Kamper [查看邮箱]
[v1]
2026 年 11 月 10 日星期二 12:33:12 UTC(63 KB)
来源:arXiv cs.CL · arxiv.org