跳到正文
arXiv cs.AI· Pratik Jawahar, Riccardo Maggioni, Jonas Petersen, Matteo Cozzi, Gian-Alessandro Lombardi, Marek Gajewski, Camilla Mazzoleni, Federico Martelli·· 13 小时前AI 评分18

Certified Access:在保守物理结构 AI 记忆上的测试时计算

Certified Access: Test-Time Compute on Conservative Physics-Structured AI Memory

AI 导读

研究者提出一套针对潜动力学模型记忆的测试时计算理论框架,将可达性失败拆分为逃逸失败与到达失败,并分别用 Lorentz squeeze 与门控正则平移解决。在设计的解析测试台上,squeeze 所需能量随超出距离平方增长,而门控通道的能量代价等于两端势差、不随距离增长。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:测试时计算机制,例如重试、基于置信度的升级和非局部路由,通常作为黑盒附加组件部署到已训练的模型上。它们通常会增加前向传播或停止头,但没有从结构上说明额外的计算带来了什么,或者相对于模型的稳定性保证付出了什么代价。因此,我们提出了一个用于测试时计算的理论与实证框架,该框架基于一个作为记忆的潜在动力学模型。当编码器的潜在状态 $(q,p)$ 通过学习到的哈密顿量的阻尼辛(速度-Verlet)步进推进时,每一种扩展访问的机制都具有精确的相体积雅可比、有界的能量变化和精确的锁存传输定律。我们将可达性失败分为逃逸失败和到达失败。洛伦兹挤压通过注入有界、可重新吸收的能量来解决逃逸失败。门控规范平移(跨 $C_T$ 的一步通道)在 $\detJ=1$ 时精确解决到达失败。我们在一个设计的分析测试台上验证了该证书栈。使用挤压刚好到达 $C_T$ 之外所需的能量随超出距离的平方增长。门控通道的能量成本等于其端点之间的势差,在本文测量的匹配通道上该势差为零,因此在该测试台上不随距离增长。一个未经训练的状态替换映射会湮灭相体积并擦除存储的电荷,而门控通道会传输它。在一个学习到的物理结构记忆上,我们展示了校准的计算配给,并评估了非局部路由相对于无物理基线的扩展极限。主要贡献是证书栈的形式化和验证,而非基准性能。
评论: 已被第40届神经信息处理系统大会(NeurIPS 2026)接收;研讨会:长上下文基础模型
主题: 人工智能(cs.AI);高能物理 - 唯象学(hep-ph)
引用为: arXiv:2610.39073 [cs.AI]
  (或 arXiv:2610.39073v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.39073

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Pratik Jawahar [查看电子邮件]
[v1] 2026年10月29日星期四 00:05:45 UTC(482 KB)

来源:arXiv cs.AI · arxiv.org