arXiv cs.AI· Aly Magassouba·· 3 天前AI 评分29
Screw Attention：在 Transformer 内部引入刚体代数
Screw Attention: Rigid-Body Algebra Inside a Transformer
AI 导读
研究者提出 Screw Attention，一种将两个物体间关系建模为空间变换而非图边的 Transformer 层，每对 token 携带相对位姿与关节 screw，消息沿该关系传输至接收方坐标系，注意力分数只看到坐标系不变量。
正文 · AI 翻译
摘要：学习到的操作策略从数据中重新发现了刚体力学以闭式形式给出的空间关系，这使得它们对几何变化很脆弱。我们提出 Screw Attention，一种 transformer 层，其中两个物体之间的关系是空间变换而非图边。每对 token 携带相对位姿，对于机器人关节还携带关节螺旋。消息沿此关系传输到接收者的坐标系中，而注意力分数只看到坐标系不变量。通过构造，消息对每个 token 处独立的坐标系变化具有等变性，且单层即可表达刚体力学的速度递推。在 LIBERO-Spatial 上，仅从物体位姿训练的 16k 参数策略达到 97.3% 成功率，高于同等规模的图网络、transformer 和扁平网络，以及参数多 27 倍的扁平网络。消融实验表明，增益来自传输正确的关系，并且该结构在任务需要其他任何东西都无法提供的坐标系间关系时收益最大。等变性使策略对机器人的描述方式具有鲁棒性，而其他所有学习网络在坐标系约定变化下都会崩溃。此外，该策略对位姿噪声和标定误差的容忍度至少与解析控制器相当。作为解析控制器上的门控残差使用时，它还能改进接触丰富的插入任务。代码和训练好的策略将发布。
| 评论： | 13 页，8 图，2 表 |
| 主题： | 机器人学 (cs.RO)；人工智能 (cs.AI) |
| 引用为： | arXiv:2610.00904 [cs.RO] |
| （或 arXiv:2610.00904v3 [cs.RO] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.00904 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Aly Magassouba [查看邮箱]
[v1]
2026 年 10 月 1 日星期四 01:33:45 UTC（1,015 KB）
[v2]
2026 年 10 月 2 日星期五 10:37:32 UTC（1,014 KB）
[v3]
2026 年 10 月 10 日星期六 20:48:48 UTC（1,014 KB）
来源：arXiv cs.AI · arxiv.org