arXiv cs.CL· Tim Wenjie Hu, Evelyn Nafula Ouma, Benjamin Akera, John A. Quinn·· 12 小时前AI 评分31
用 GRPO 提升低资源语言语音识别:Whisper-large-v3 微调出 SunflowerASR
Group Relative Policy Optimisation Improves Multilingual Speech Recognition in Low-Resource Languages
AI 导读
研究者将 Group Relative Policy Optimisation(GRPO)用于非 LLM 的小型编码器-解码器 ASR 模型,以 Whisper-large-v3 为案例覆盖 51 种非洲语言,训练数据稀缺或音频含噪时收益最明显。
正文 · AI 翻译
摘要:使用教师强制训练的自回归编码器-解码器语音识别模型可能存在暴露偏差,从而限制其在推理时从自身预测错误中恢复的能力。近期研究表明,采用组相对策略优化(GRPO)的强化学习能够提升基于大语言模型的主要语种语音识别性能。我们将这一研究方向扩展到规模更小的非大语言模型编码器-解码器 ASR 模型,以 Whisper-large-v3 为案例,覆盖 51 种非洲语言。该方法在训练数据稀缺或输入音频存在噪声或退化时收益最为显著。我们得到的模型 SunflowerASR 在 AfriVox-v2(0.227)和 SimbaBench(0.372)基准上取得了已发表的最佳宏平均 WER,并已公开可用。
| 评论: | 5 页,3 幅图,已投稿至 ICASSP 2027 |
| 主题: | 人工智能(cs.AI);计算与语言(cs.CL) |
| 引用为: | arXiv:2610.30663 [cs.AI] |
| (或 arXiv:2610.30663v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.30663 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Tim Wenjie Hu [查看邮箱]
[v1]
2026 年 10 月 22 日星期四 03:24:38 UTC(959 KB)
来源:arXiv cs.CL · arxiv.org