arXiv cs.AI· Kam Man Wu, Yu Zhang, Pengjun Fang, Mingfei Chen, Weijia Chen, Zeyue Tian, Qifeng Chen·· 14 小时前AI 评分29
AMBIT:用可执行 ScenePlans 与自蒸馏 Transfusion 实现空间音频生成与编辑
Spatial Audio Generation and Editing with Executable Plans and Self-Distilling Transfusion
AI 导读
AMBIT 是一个统一框架,原生支持一阶 Ambisonics(FOA)空间音频生成与编辑,通过可执行 ScenePlans 指定声源内容、活动状态与 3D 轨迹,并用共享 Transfusion 主干耦合自回归规划与整流流渲染。
正文 · AI 翻译
摘要:空间音频创作将声源决策与声场合成相协调。在编辑时,计划指定要更改和保留的内容,而参考音频则提供进一步的声学细节。我们提出 AMBIT,一个用于原生一阶 Ambisonics(FOA)生成与编辑的统一框架,包含三项相互关联的贡献。首先,一个共享的 Transfusion 主干通过可执行的 ScenePlans 将自回归规划与整流流渲染耦合,ScenePlans 指定声源内容、活动和 3D 轨迹。对于编辑,计划描述完整的目标场景,包括保留的声源;对比特征为所请求的更改提供依据,而完整参考潜变量则为保留提供残余声学细节。其次,一个 FOA 感知的连续 VAE 结合共享解码器全向恢复、非对称分组 KL 和空间协方差匹配,以保留内容和通道间结构。第三,联合 Transfusion 在线策略自蒸馏(OPSD)在学生生成的 prefix 上细化规划,并在学生计划下达到的采样状态处细化渲染,由目标条件教师监督共享学生的两种模式。在语音、音乐和声音上的评估表明,与对比基线相比,生成内容和空间质量、指令引导编辑期间的声学保真度以及未编辑声源的保留均有所改善。项目页面:此 https URL
| 评论: | 28 页,2 幅图 |
| 主题: | 声音(cs.SD);人工智能(cs.AI) |
| 引用为: | arXiv:2610.34415 [cs.SD] |
| (或 arXiv:2610.34415v1 [cs.SD] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.34415 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Kam Man Wu [查看电子邮件]
[v1]
2026 年 10 月 25 日星期日 16:13:07 UTC(1,747 KB)
来源:arXiv cs.AI · arxiv.org