arXiv cs.CL· Kiet Anh Hoang, Khanh Le, Bao Nguyen, Linh Pham, Dung Vo, Thai Tran, Mai Nguyen, Tri Nguyen, Vu Le·· 3 天前AI 评分22
基于预训练文本到文本模型与 Read-Tag-Write 策略的高效流式逆文本正则化
Towards Efficient Simultaneous Inverse Text Normalization with Pretrained Text-to-Text Language Model and Read-Tag-Write Policy
AI 导读
研究者提出一种高效的流式端到端逆文本正则化(ITN)系统,通过改造预训练文本到文本模型并引入 Read-Tag-Write 解码策略,实现流式处理。在越南语数据集上,其准确率与非流式基线相当,优于混合方法,同时满足实时延迟要求。
正文 · AI 翻译
摘要:流式逆文本归一化(ITN)对于将流式自动语音识别输出的口语形式转换为格式化书面文本至关重要。现有的流式 ITN 方法依赖于将神经标注与专家构建的有限状态转换器规则相结合的混合系统,限制了跨领域和跨语言的可扩展性。虽然端到端模型通过直接从数据学习提供了更优的可扩展性,但标准的编码器-解码器架构由于全局注意力而本质上非流式。在本文中,我们提出了一种高效的流式端到端 ITN 系统,通过调整预训练的文本到文本模型来利用其稳健的语言知识。为实现流式处理,我们引入了架构调整、专门的训练策略、Read-Tag-Write 解码策略以及推理优化。在越南语数据集上的实验表明,其准确率与非流式基线相当,优于混合方法,同时满足实时延迟要求。
| 评论: | Interspeech 2026 [Long Track],9 页 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.19492 [cs.CL] |
| (或 arXiv:2610.19492v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.19492 arXiv 颁发的 DOI 通过 DataCite(待注册) |
|
| 相关 DOI: | https://doi.org/10.21437/Interspeech.2026-1060
链接到相关资源的 DOI |
提交历史
来自:Khanh Le Duy [查看电子邮件]
[v1]
2026 年 10 月 14 日星期三 03:13:23 UTC(1,038 KB)
来源:arXiv cs.CL · arxiv.org