arXiv cs.AI· Yaomin Wang, Chaolong Ying, Xiaodong Luo, Tianshu Yu·· 3 天前AI 评分20
ReMAP：面向任意阶马尔可夫随机场可扩展 MAP 推理的无损残差神经提升
ReMAP: Lossless Residual Neural Lifting for Scalable MAP Inference in Arbitrary-Order Markov Random Fields
AI 导读
ReMAP 提出一种无损残差神经提升方法，用于任意阶马尔可夫随机场中的可扩展 MAP 推理，通过将 GNN 输出加到自由逐节点 logits 上，保持原问题的下确界、临界点、局部极值与 Hessian 惯性不变。
正文 · AI 翻译
摘要：有限马尔可夫随机场中的最大后验推断通常是 NP 难的。我们研究了一种逐实例优化器，它在乘积边缘分布下最小化精确的多线性能量。其规范参数化将 GNN 输出加到自由逐节点 logits 上。这种残差旁路是一种全局坐标变换，因此该提升保持了自由 logit 问题的下确界、临界点、局部极值（模去 GNN 参数纤维）以及 Hessian 惯性。联合梯度流随后诱导出预条件子 $I+JJ^{\top}$：GNN 无法扩大可行集，但可以增加耗散 $\|J^{\top}\nabla\ell\|_{2}^{2}$。对于两层分支，这种额外耦合是四跳局部的。我们还证明，非恒定多线性目标的每个有限临界点都是鞍点，并且唯一的 MAP 间隙 $\Gamma$ 使得一旦松弛间隙降至 $\Gamma$ 以下，条件期望舍入就是精确的；随后残差梯度流和联合梯度下降在小间隙区域内遵循显式的 $O(1/t)$ 和 $O(1/k)$ 速率，并在残差对齐下具有改进的界。在合成 MRF、UAI 2022 基准和物理小区标识（PCI）问题上的实验评估了这种残差几何在大规模下的表现。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2411.18954 [cs.LG] |
| （或 arXiv:2411.18954v5 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2411.18954 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yaomin Wang [查看电子邮件]
[v1]
2024年11月28日星期四 06:50:47 UTC（859 KB）
[v2]
2025年5月16日星期五 08:18:23 UTC（649 KB）
[v3]
2026年2月17日星期二 09:27:26 UTC（402 KB）
[v4]
2026年5月7日星期四 12:50:20 UTC（392 KB）
[v5]
2026年10月11日星期日 03:56:15 UTC（394 KB）
来源：arXiv cs.AI · arxiv.org