arXiv cs.AI· Wei-Tzu Lee, Keisuke Kamahori, Baris Kasikci·· 11 小时前AI 评分38
Murmur：基于分层分块的高效长上下文 ASR 推理系统
Murmur: Efficient Long-Context ASR Inference with Hierarchical Chunking
AI 导读
Murmur 是一个面向长音频 ASR 的分层分块推理系统，在两种长上下文 ASR 模型和四个中英文会议数据集上，将每条录音的端到端延迟平均降低 2.5 倍（1.9-2.9 倍），同时 tcpWER 平均下降 1.9 个点。
正文 · AI 翻译
摘要：长格式自动语音识别（ASR）既需要高准确率，又需要低推理延迟，但现有系统难以兼顾二者之间的权衡。基于分块的方法在并行窗口中处理音频以实现低延迟，但会丢失跨块上下文，并且需要脆弱的启发式规则来在边界处对齐说话人和时间戳。长上下文 ASR 模型通过单次处理转写全部内容以获得更高准确率，但运行速度慢数倍，且一次重复循环就可能破坏整个输出。本文首先分析上下文长度如何影响长上下文 ASR 模型的准确率，发现约五分钟的中间块大小可达到与单次处理相当的准确率，同时避免重复循环。在此基础上，我们提出 Murmur，一种基于分层分块的长格式 ASR 推理系统。长上下文模型并行解码中间目标块，而基于 30 秒草稿窗口的快速短窗口 ASR 通过无损、结构感知的推测解码加速每个块。短窗口 ASR 起草转写文本，简单格式规则起草时间戳和说话人标签，长上下文模型验证每个 token。在两个长上下文 ASR 模型和四个英语与普通话会议数据集上，Murmur 将每次录音的端到端延迟（包括说话人分离）相对单次解码平均降低 2.5 倍（1.9-2.9 倍），同时将 tcpWER 平均降低 1.9 个百分点。我们的代码可在 此 https URL 获取。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI）；音频与语音处理（eess.AS） |
| 引用为： | arXiv:2606.01483 [cs.LG] |
| （或 arXiv:2606.01483v2 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2606.01483 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Wei-Tzu Lee [查看电子邮件]
[v1]
2026年5月31日周日 22:54:57 UTC（20,900 KB）
[v2]
2026年11月4日周三 21:05:30 UTC（859 KB）
来源：arXiv cs.AI · arxiv.org