跳到正文
arXiv cs.AI· Sergei Katkov, Antonio Liotta·· 3 天前AI 评分22

Whisper 个性化增益研究:LoRA 微调效果并非普遍有效

Understanding Personalization Gains in Whisper

AI 导读

研究对比了零样本 Whisper、池化 LoRA 和分组 LoRA 在 Common Voice、LibriSpeech 和 VoxPopuli 上的表现,发现 LoRA 增益集中在困难的 Common Voice 分组,在 VoxPopuli 上表现一致,但在低错误率的 LibriSpeech 上基本消失。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:Whisper 风格的 ASR 模型提供了强大的零样本转录能力,但其残余错误在不同数据集、录音条件和基于元数据的分组之间分布并不均匀。我们研究轻量级低秩适配(LoRA)何时能改进 Whisper,以及观察到的增益是否需要特定于分组的适配器。在 Common Voice、LibriSpeech 和 VoxPopuli 上,我们在匹配的组内划分下比较了零样本 Whisper、池化 LoRA 和特定于分组的 LoRA。我们发现适配并非普遍有益:增益集中在困难的 Common Voice 分组上,在 VoxPopuli 上保持一致,而在低错误的 LibriSpeech 上基本消失。关键在于,池化 LoRA 通常能匹配,有时甚至明显优于特定于分组的 LoRA。因此,在将相对于零样本的增益解释为个性化的证据之前,应针对匹配的池化适配进行检验。
评论: 14 页。发表于 SPECOM 2026
主题: 人工智能(cs.AI);计算与语言(cs.CL);机器学习(cs.LG)
引用为: arXiv:2610.17019 [cs.AI]
  (或 arXiv:2610.17019v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.17019

arXiv 颁发的 DOI,通过 DataCite(待注册)

期刊 参考: Lecture Notes in Computer Science, vol. 16934, pp. 3-16, Springer (2027)
相关 DOI: https://doi.org/10.1007/978-3-032-37867-5_1

链接到相关资源的 DOI

提交历史

来自:Sergei Katkov [查看电子邮件]
[v1] 2026 年 10 月 12 日星期一 15:59:09 UTC(47 KB)

来源:arXiv cs.AI · arxiv.org