arXiv cs.AI· Junyeob Baek, Mingyu Jo, Minsu Kim, Mengye Ren, Yoshua Bengio, Sungjin Ahn·· 2 天前AI 评分22
GRAM：将递归推理变为概率多轨迹计算的生成式递归推理模型
Generative Recursive Reasoning
AI 导读
研究者提出生成式递归推理模型 GRAM，将递归潜在推理从确定性单轨迹扩展为概率多轨迹计算，支持通过递归深度和并行轨迹采样进行推理时扩展。GRAM 以摊销变分推断训练，在结构化推理与多解约束满足任务上优于确定性循环和递归基线，并展现出无条件生成能力。
正文 · AI 翻译
摘要：未来的神经推理系统应如何实现扩展计算？递归推理模型（RRMs）通过使用共享转移函数进行迭代潜状态细化，为自回归序列扩展提供了一种有前景的替代方案。然而，现有的 RRMs 在很大程度上是确定性的，遵循单一潜轨迹并收敛到单一预测。我们引入了生成式递归推理模型（GRAM），这是一个将递归潜推理转变为概率多轨迹计算的框架。GRAM 将推理建模为随机潜轨迹，从而支持多种假设、替代求解策略，以及通过递归深度和并行轨迹采样实现的推理时扩展。这产生了一个潜变量生成模型，支持通过 $p_\theta(y \mid x)$ 进行条件推理，并在输入固定或缺失时通过 $p_\theta(x)$ 进行无条件生成。GRAM 使用摊销变分推理进行训练，在结构化推理和多解约束满足任务上优于确定性循环和递归基线，同时展示了无条件生成能力。此 https URL
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2605.19376 [cs.AI] |
| （或 arXiv:2605.19376v4 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2605.19376 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Junyeob Baek [查看电子邮件]
[v1]
2026年5月19日星期二 05:20:56 UTC（7,933 KB）
[v2]
2026年5月20日星期三 08:03:28 UTC（7,933 KB）
[v3]
2026年10月7日星期三 14:00:19 UTC（4,673 KB）
[v4]
2026年10月15日星期四 15:32:05 UTC（4,673 KB）
来源：arXiv cs.AI · arxiv.org