何时可以剪枝你的网络？多语言语音解析中中间神经元的研究

When Can You Prune Your Network? A Study of Intermediate Neurons in Multilingual Speech Parsing

AI 导读

研究提出一种更简单的端到端语音解析架构，移除中间神经网络单元后参数减少 12%，在 ASR 和解析任务上性能与先前方法相当或更优。实验表明，中间 NN 单元在预训练编码器冻结时有助于缩小表示差距。研究在法语及中低资源语言斯洛文尼亚语和 Naija 上进行了全面评估，并考察了训练数据规模和预训练语音编码器中间层的影响。

正文 · AI 翻译

查看 PDF HTML（实验性）

摘要：端到端语音解析是最近提出的一项任务，包括预测语音话语的转录和句法树。现有的语音解析架构通常使用中间神经网络。在这项工作中，我们研究了中间神经网络（NN）在解析中的有效性，特别是它们所起的作用。我们引入了一种更简单的端到端语音解析架构，其中我们移除了这些中间 NN 单元，将参数减少了 12%，同时在自动语音识别（ASR）和解析方面都达到了与先前方法相当或更好的性能。我们证明了当预训练编码器被冻结时，中间 NN 单元有助于减少表示差距。我们对法语以及中低资源语言斯洛文尼亚语和 Naija 语进行了全面的语音解析评估。我们进一步研究了训练数据大小和预训练语音编码器的中间层对语音解析的影响。

评论：	将发表于 Findings of EMNLP 2026
主题：	计算与语言（cs.CL）
引用为：	arXiv:2610.11520 [cs.CL]
	（或 arXiv:2610.11520v1 [cs.CL] 用于此版本）
	https://doi.org/10.48550/arXiv.2610.11520 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Maximin Coavoux [查看电子邮件]
[v1] 2026年10月8日星期四 08:53:41 UTC（356 KB）

来源：arXiv cs.CL · arxiv.org