arXiv cs.AI· Raluca Stevenson, David Bignell, Jennifer C. White, Tabish Rashid, Emanuele Aiello, Mariya Hendriksen, Junha Hyung, Sadegh Aliakbarian, Abdelhak Lemkhenter, Marko Tot, Katja Hofmann, Sarah Parisot·· 4 小时前AI 评分41
面向数据高效与实时推理的世界模型研究
Towards Data-Efficient, Real-Time World Models
AI 导读
研究团队用两阶段离散扩散方法替代下一 token 预测范式,并引入轻量级精炼 Transformer 做迭代掩码预测,在保持一定质量损失的前提下实现 79 倍模型加速。该模型仅用约一天(28 小时)的游戏数据即可训练出高质量、连贯的游戏画面生成能力,指向实时推理与数据高效的世界模型应用。
正文 · AI 翻译
作者:Raluca Stevenson、David Bignell、Jennifer C. White、Tabish Rashid、Emanuele Aiello、Mariya Hendriksen、Junha Hyung、Sadegh Aliakbarian、Abdelhak Lemkhenter、Marko Tot、Katja Hofmann、Sarah Parisot
摘要:最先进的世界模型已被用于生成与用户输入动作相符的游戏玩法序列。然而,高质量、一致的玩法生成往往以推理速度为代价,这使得实时交互游玩和构思颇具挑战。用于训练最先进模型的大量数据也使得这些模型的定制训练显得不切实际,限制了它们在创意领域的许多潜在用途。在这项工作中,我们展示了迈向高效世界模型的重要一步:同时实现快速的高质量推理和更高的数据效率。这是通过用基于两阶段离散扩散的方法替代下一 token 预测范式来实现的,并引入了一个轻量级精炼 transformer,执行迭代式掩码预测。在能够生成数分钟内高度一致且复杂序列的自回归世界模型(Kanervisto et al., 2025)基础上,我们实现了显著的模型加速(79 倍),而质量仅有适度折衷。此外,我们证明,该模型可以使用包含约一天(28 小时)游戏玩法数据的数据集进行训练,以复现高质量、一致的玩法。我们的结果表明,在实时推理和数据效率至关重要的场景中,朝着消除世界模型使用障碍的方向取得了进展。
| 评论: | 18 页,12 幅图,1 张表。包含补充材料 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2611.22497 [cs.AI] |
| (或 arXiv:2611.22497v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.22497 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Katja Hofmann [查看电子邮件]
[v1]
2026 年 11 月 17 日星期二 09:52:15 UTC(8,402 KB)
来源:arXiv cs.AI · arxiv.org