Lattice Deduction Transformers：80万参数模型在 Sudoku-Extreme 上达 99.999% 准确率

查看 PDF HTML（实验性）

摘要：我们提出 Lattice Deduction Transformer（LDT），这是一种循环式 transformer，它通过在前向传播之间将潜在状态投影到一个格（lattice）上，来近似逻辑上可靠的推理。我们采用一种模拟基于搜索的约束求解器中推理过程的方式进行同策略训练，并基于抽象解释对候选解集合进行领域无关的近似，以此监督训练。一个 80 万参数的 LDT 在 Sudoku-Extreme 上以不到其估计训练 FLOPs 的 2% 超越了此前的小型循环推理器，解出了 422,786 个测试谜题中的 99.999%。该模型几乎总是可靠的：在 127 万次谜题评估中仅有 4 次给出错误答案，其余情况下要么返回正确答案，要么弃答。一个 180 万参数的 LDT 变体在 Maze-Hard 上达到 99.8% 的准确率。我们的代码可在此 http URL 获取。

主题：	机器学习（cs.LG）；人工智能（cs.AI）；计算机科学中的逻辑（cs.LO）
引用为：	arXiv:2605.08605 [cs.LG]
	（或 arXiv:2605.08605v2 [cs.LG] 查看此版本）
	https://doi.org/10.48550/arXiv.2605.08605 arXiv 颁发的 DOI，经由 DataCite

提交历史

来自：Liam Davis [查看邮箱]
[v1] 2026 年 5 月 9 日星期六 01:55:45 UTC（123 KB）
[v2] 2026 年 11 月 3 日星期二 20:31:41 UTC（139 KB）