跳到正文
arXiv cs.AI· Cheng-Kuang Chang, Alexander H. Liu, Brian Kingsbury, Hilde Kuehne, Rogerio Feris, Samuel Thomas, James Glass, Kai-Wei Chang·· 3 天前AI 评分44

D2:从半双工骨干模型构建高能力全双工语音语言模型

D2: High-Capability Full-Duplex Spoken Language Models from Half-Duplex Backbones

AI 导读

研究者提出 Dialogue-to-Duplex(D2)框架,可将预训练半双工语音语言模型(HD-SLM)以细粒度时序转换为高能力全双工模型(FD-SLM),通过无解码器表征蒸馏适配流式音频编码器,并用监督微调学习全双工交互。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:全双工口语语言模型(FD-SLM)支持同时听与说,但在通用能力上往往落后于半双工口语语言模型(HD-SLM)。我们提出 Dialogue-to-Duplex(D2),一个将预训练 HD-SLM 在细时间粒度上转换为高能力 FD-SLM 的框架。D2 通过无解码器表示蒸馏使原始音频编码器适应流式处理,并通过监督微调学习全双工交互。我们系统研究了分块大小对全双工交互、通用能力和推理计算的影响。我们将 D2 应用于两种不同的 HD-SLM 架构:Qwen3-Omni 和 LLaMA-Omni 2。在 12.5Hz 更新率下,Qwen3-Omni-D2 实现了 99.2% 的轮次转换成功率、521 毫秒延迟、99.5% 的中断成功率,以及 70.1 的最先进 VoiceBench 分数。
评论: 17 页,包括参考文献和附录。演示:此 https URL
主题: 计算与语言(cs.CL);人工智能(cs.AI);音频与语音处理(eess.AS)
引用为: arXiv:2610.17124 [cs.CL]
  (或 arXiv:2610.17124v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.17124

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Cheng Kuang Chang [查看电子邮件]
[v1] 2026 年 10 月 12 日星期一 17:15:29 UTC(1,630 KB)

来源:arXiv cs.AI · arxiv.org