arXiv cs.AI· Zhendong Mi, Pu Zhao, Ziyu Hu, Xiaodong Yu, Yanzhi Wang, Grace Li Zhang, Shaoyi Huang·· 9 天前AI 评分27
SpectralCache：通过谱特征缓存加速基于扩散的世界模型
SpectralCache: Accelerating Diffusion-Based World Models via Spectral Feature Caching
AI 导读
SpectralCache 是一种免训练谱缓存框架，通过复用扩散世界模型中稳定的奇异子空间、仅用线性外推估计低维奇异值来减少去噪过程中的重复 Transformer 计算。在 HunyuanWorld-Voyager-13B 上，它实现 5.22 倍加速，静态场景 WorldScore 保持 65.90，推理效率显著优于现有免训练缓存方法。
正文 · AI 翻译
摘要：基于扩散的世界模型能够生成高质量的交互式环境，但由于去噪过程中反复进行 Transformer 评估，会产生大量推理开销。现有缓存方法主要利用特征或 token 层面的时间冗余，而扩散特征底层的数学结构在很大程度上仍未被探索。在这项工作中，我们揭示出世界模型特征在相邻去噪步骤间表现出高度稳定的奇异子空间，而其奇异值遵循可预测的演化模式。基于这一观察，我们提出 SpectralCache，一种无需训练的光谱缓存框架，它复用稳定的奇异子空间，并仅通过线性外推估计低维奇异值。我们进一步利用相邻全计算特征之间的光谱一致性，通过奇异值缩放跳过选定的昂贵主干评估。在代表性世界模型上的大量实验表明，SpectralCache 在保持生成质量的同时持续提升推理效率。在 HunyuanWorld-Voyager-13B 上，SpectralCache 实现了 5.22 倍加速，同时在静态场景下保持 65.90 的 WorldScore，在推理效率上大幅优于现有的无需训练缓存方法。
| 学科： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI）；机器学习（cs.LG）；机器人学（cs.RO） |
| 引用为： | arXiv:2610.02660 [cs.CV] |
| （或使用 arXiv:2610.02660v1 [cs.CV] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.02660 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Zhendong Mi [查看邮箱]
[v1]
2026年10月2日星期五 01:28:43 UTC（6,259 KB）
来源：arXiv cs.AI · arxiv.org