arXiv cs.CL· Yaroslav Getman, Tam\'as Gr\'osz, Tommi Lehtonen, Mikko Kurimo·· 6 天前AI 评分22
从 210 万小时广播音频到芬兰语语音 SSL：置信度过滤与大规模架构分析
From 2.1M Hours of Raw Broadcast Audio to Finnish Speech SSL: Confidence Filtering and Architectural Analysis at Scale
AI 导读
研究团队从 210 万小时无约束广播音频出发，提出以 ASR 置信度作为预训练数据质量代理，相比基于 LID 的过滤在训练集更小的情况下取得 3-7% 的相对 WER 提升。研究还在匹配参数预算下对比了 Transformer、Macaron-Net、Conformer 和 E-Branchformer 四种架构，模型在 Base 规模和域外场景上优于此前的芬兰语 SSL 基线。
正文 · AI 翻译
摘要：广播档案为自监督学习（SSL）提供了规模和多样性，但包含大量噪声、非语音和多语言内容。先前的工作通常依赖语音活动检测或语言识别（LID）来提取语音，确保其存在而非质量。是否以及如何按质量过滤未标注语音以用于 SSL，尤其是在嘈杂的广播中，仍未得到充分探索。我们提出了一项大规模芬兰语 SSL 研究，从 210 万小时的无约束广播音频开始。我们提出将自动语音识别（ASR）置信度作为预训练数据质量的代理指标，并表明尽管训练集更小，但相比基于 LID 的过滤，相对 WER 提升了 3-7%。我们进一步通过评估 Transformer、Macaron-Net、Conformer 和 E-Branchformer 在匹配参数预算下的表现，解决了语音 SSL 中缺乏受控架构比较的问题。我们的模型改进了先前的芬兰语 SSL 基线，尤其是在 Base 规模和域外场景下。
| Comments： | 已被 SLT 2026 接收 |
| Subjects： | 计算与语言（cs.CL）；声音（cs.SD）；音频与语音处理（eess.AS） |
| 引用为： | arXiv:2610.13102 [cs.CL] |
| （或 arXiv:2610.13102v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.13102 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yaroslav Getman [查看电子邮件]
[v1]
2026年10月9日星期五 06:57:05 UTC（132 KB）
来源：arXiv cs.CL · arxiv.org