跳到正文
arXiv cs.AI· Kam Man Wu, Yu Zhang, Pengjun Fang, Mingfei Chen, Weijia Chen, Zeyue Tian, Qifeng Chen·· 14 小时前AI 评分29

AMBIT:用可执行 ScenePlans 与自蒸馏 Transfusion 实现空间音频生成与编辑

Spatial Audio Generation and Editing with Executable Plans and Self-Distilling Transfusion

AI 导读

AMBIT 是一个统一框架,原生支持一阶 Ambisonics(FOA)空间音频生成与编辑,通过可执行 ScenePlans 指定声源内容、活动状态与 3D 轨迹,并用共享 Transfusion 主干耦合自回归规划与整流流渲染。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:空间音频创作将声源决策与声场合成相协调。在编辑时,计划指定要更改和保留的内容,而参考音频则提供进一步的声学细节。我们提出 AMBIT,一个用于原生一阶 Ambisonics(FOA)生成与编辑的统一框架,包含三项相互关联的贡献。首先,一个共享的 Transfusion 主干通过可执行的 ScenePlans 将自回归规划与整流流渲染耦合,ScenePlans 指定声源内容、活动和 3D 轨迹。对于编辑,计划描述完整的目标场景,包括保留的声源;对比特征为所请求的更改提供依据,而完整参考潜变量则为保留提供残余声学细节。其次,一个 FOA 感知的连续 VAE 结合共享解码器全向恢复、非对称分组 KL 和空间协方差匹配,以保留内容和通道间结构。第三,联合 Transfusion 在线策略自蒸馏(OPSD)在学生生成的 prefix 上细化规划,并在学生计划下达到的采样状态处细化渲染,由目标条件教师监督共享学生的两种模式。在语音、音乐和声音上的评估表明,与对比基线相比,生成内容和空间质量、指令引导编辑期间的声学保真度以及未编辑声源的保留均有所改善。项目页面:此 https URL
评论: 28 页,2 幅图
主题: 声音(cs.SD);人工智能(cs.AI)
引用为: arXiv:2610.34415 [cs.SD]
  (或 arXiv:2610.34415v1 [cs.SD] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.34415

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Kam Man Wu [查看电子邮件]
[v1] 2026 年 10 月 25 日星期日 16:13:07 UTC(1,747 KB)

来源:arXiv cs.AI · arxiv.org