arXiv cs.CL· Shashi Kumar, Yanis Labrak, Sergio Burdisso, Esa\'u Villatoro-Tello, Petr Motlicek, Kadri Hacioglu, Andreas Stolcke·· 11 小时前AI 评分29
把伪标签当奖励而非目标：用于半监督 ASR 的组相对策略优化（GRPO）
Pseudo-Labels as Rewards, Not Targets: Group-Relative Policy Optimization for Semi-Supervised ASR
AI 导读
研究提出用 Group Relative Policy Optimization（GRPO）把伪标签当作奖励参考而非监督目标，在银行领域基于 Whisper 生成标签时相比 SFT 取得 29.3% 至 56.2% 的相对 WER 改善，且该优势在四种 Whisper 规模、四个教师模型族、三个领域和四种语言上均成立。
正文 · AI 翻译
摘要：将 ASR 适配到仅有未转写音频的领域，通常依赖伪标签：由强教师模型转写音频，再对学生模型进行微调。由于监督微调（SFT）将每个伪标签 token 都视为目标，学生模型会继承教师模型的错误。我们表明，将相同的伪标签用作组相对策略优化（GRPO）的奖励参考，对标签噪声更为鲁棒。在银行领域，GRPO 在 Whisper 生成的标签上相比 SFT 取得了 29.3% 至 56.2% 的相对 WER 提升，且该优势在四种 Whisper 规模、四个教师模型系列、三个领域和四种语言上均成立。SFT 几乎逐字复现了 100% 的教师错误，而 GRPO 仅传递 27%。Rollout 统计解释了原因：错误的伪标签词很少出现在同策略 rollout 中，因此组相对优势始终与干净转写对齐，而 SFT 则迫使这些词进入策略的支持集，并破坏了 GRPO 所依赖的奖励方差。
| 评论： | 提交至 ICASSP 2027 |
| 主题： | 计算与语言（cs.CL）；音频与语音处理（eess.AS） |
| 引用为： | arXiv:2610.32572 [cs.CL] |
| （或 arXiv:2610.32572v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.32572 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Shashi Kumar [查看邮箱]
[v1]
2026年10月23日星期五 13:00:46 UTC（63 KB）
来源：arXiv cs.CL · arxiv.org