arXiv cs.AI· Sumin Park, T. Konstantin Rusch·· 3 天前AI 评分22
QRR:一种具有相位旋转对称性的循环推理架构,在数独、迷宫和 Mini-ARC 上更快收敛
Looped Reasoning Finishes Earlier Than You Think
AI 导读
研究者提出 QRR(Quotient Recurrent Reasoner),一种具有精确逐 token 相位旋转对称性的规范等变循环架构,通过在对称方向上引入旋转自由度,使该方向上的运动不改变商表示且与推理相关动力学动态解耦。QRR 在商空间中实现稳定且更快的解根收敛,不形成主导的慢振荡瓶颈,并在数独、迷宫和 Mini-ARC 上匹配或超越近期循环推理模型。
正文 · AI 翻译
摘要:具有动态深度的循环推理可以被视为在学习到的动力学景观中向解吸引子的松弛过程。然而在实践中,潜在轨迹往往振荡、循环或漂移,而非干净地收敛到稳定不动点。这些非平稳动力学如何贡献于推理并约束收敛仍不清楚。我们表明,缓慢衰减的振荡模式可以将其收敛速率强加于耦合的潜在动力学,形成瓶颈。然而,不加区分地阻尼这些模式可能会破坏它们所支持的推理计算。这种张力促使我们采用一种架构方法:引入旋转自由度,沿这些自由度由对称性生成的旋转运动在构造上使与推理相关的商动力学保持不变。我们提出 QRR(Quotient Recurrent Reasoner),一种具有精确逐 token 相位旋转对称性的规范等变循环架构。沿这些对称方向的运动使商表示保持不变,并与推理相关动力学动态解耦。在实证上,QRR 在商空间中实现对解根的稳定且更快的收敛,而不形成占主导的慢振荡瓶颈,同时在 Sudoku、Maze 和 Mini-ARC 上匹配或超越近期的循环推理模型。
| 评论: | 25 页 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.18174 [cs.LG] |
| (或 arXiv:2610.18174v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.18174 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Sumin Park [查看电子邮件]
[v1]
2026 年 10 月 13 日星期二 11:20:24 UTC(388 KB)
来源:arXiv cs.AI · arxiv.org