arXiv cs.CL· Jongwook Kim, Sangheon Yun·· 9 天前AI 评分24
4-Tensor 注意力模型：面向语义物理现实的下一状态预测
4-Tensor Attention Model for Semantic Physical Reality
AI 导读
研究者提出 4-tensor 注意力模型，用于预测场景的下一语义状态，面向视频生成与机器人规划。在 ROCStories 验证集上，其末句交叉熵在 H=2,L=2 时比自由运行的一维 Transformer 低 5.3%，H=4,L=2 时低 2.6%，H=4,L=3 时低 2.4%；H=4,L=2 下两者参数量接近，为 172.5M 与 175.9M。
正文 · AI 翻译
摘要：我们描述了一种 4-张量注意力模型，用于预测场景的下一个语义状态，以用于视频生成和机器人规划。一个状态窗口具有位置 (x, t) 和两条纤维，即语义纤维和时间上下文纤维，并且一个 softmax 在窗口上联合归一化注意力。帧和智能体的情境被写为这些状态；编码器、渲染器和规划器保持在更新之外。为了单独测试该更新，我们在 ROCStories 上训练，其中每个窗口在语义层提出相同的下一句任务。在验证集上，每个设置使用一个随机种子，三个匹配设置下的最后一句交叉熵对于 4-张量模型低于自由运行的一维 transformer：在 H=2、L=2 时低 5.3%，在 H=4、L=2 时低 2.6%，在 H=4、L=3 时低 2.4%。在 H=4、L=2 时，参数量几乎相同，分别为 172.5M 和 175.9M。在相同的两块 GPU 上，4-张量运行在 2.4 小时内完成，而基线运行在 45.2 小时内完成；基线通过自由运行解码训练，每个目标 token 进行一次顺序前向传递。
| 评论： | 36 页，4 幅图 |
| 主题： | 机器学习 (cs.LG)；计算与语言 (cs.CL) |
| MSC 分类： | 68T07, 68T50 |
| ACM 分类： | I.2.6; I.2.7; I.2.10 |
| 引用为： | arXiv:2610.11716 [cs.LG] |
| （或 arXiv:2610.11716v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.11716 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jongwook Kim [查看电子邮件]
[v1]
2026 年 10 月 8 日星期四 11:19:23 UTC（37 KB）
来源：arXiv cs.CL · arxiv.org