arXiv cs.CL· Shashi Kumar, Yanis Labrak, Hasindri Watawana, Sergio Burdisso, Esa\'u Villatoro-Tello, Kadri Hacio\u{g}lu, Petr Motlicek, Andreas Stolcke·· 11 小时前AI 评分31
合成语音是唯一资源时，GRPO 比 SFT 更有效
When Synthetic Speech Is All You Have: Better Call GRPO
AI 导读
在银行等受监管领域，用合成语音适配 LLM 语音识别模型时，GRPO 比 SFT 效果更好：纯合成语音下 GRPO 将 WER 相对降低 40%（36.71%→22.09%），SFT 后再接 GRPO 可进一步降低 45%。增益来自行为而非表征，GRPO 通过改善停止校准减少插入错误，并让注意力更好地锚定音频以提升语音-文本对齐，早期层表征保持不变。
正文 · AI 翻译
摘要：面向银行等受监管领域、基于 LLM 的 ASR 受隐私问题制约：真实语音采集成本高昂且受法律限制，因此合成文本转语音（TTS）成为有吸引力的替代方案。然而合成语音与真实录音在声学上仍不匹配，针对这一差距的研究一直局限于监督微调（SFT）。我们转而采用强化学习，并表明分组相对策略优化（GRPO）能从相同的合成语音中提取远多于 SFT 的信息。仅使用合成语音、以 GRPO 对模型进行适配——这是一种无评论家方法，奖励低 WER 的假设——相比 SFT 将 WER 相对降低 40%（36.71%$\to$22.09%），而先 SFT 再 GRPO 的组合进一步将其推至 45%。我们将增益归因于行为而非表征：GRPO 通过改善停止校准减少插入错误，并通过更好地将注意力锚定到音频来改善语音到文本的对齐，同时保持浅层表征不变。当合成语音是主要资源时，应优先选择强化学习而非监督微调。
| 评论： | 7 页；已被 IEEE SLT 2026 接收 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2607.08409 [cs.CL] |
| （或 arXiv:2607.08409v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.08409 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Shashi Kumar [查看邮箱]
[v1]
2026 年 7 月 9 日星期四 12:34:56 UTC（448 KB）
[v2]
2026 年 10 月 20 日星期二 16:29:26 UTC（439 KB）
来源：arXiv cs.CL · arxiv.org