arXiv cs.CL· Abraham Chachamovits·· 2 天前AI 评分12
来自 Bethe-Ansatz 的早期 Token 相关性：面向并行提议的边际保持构造
A Bethe-Ansatz Source of Early Token Correlations: A marginal-preserving construction for parallel proposals
AI 导读
研究者从周期性 XXZ 链构造出坐标 Bethe-Ansatz 概率律，并与相同一、二位点矩下的最大熵成对投影对比。在八位点三激发扇区中，对称性使全概率律差异降为一维，由连续三位点矩 δ 决定，该差异在 Δ=(3+√3)/2 处变号并恰好消失。
正文 · AI 翻译
摘要：并行 token 提议需要一个联合分布律，而不仅仅是准确的 token 边缘分布。我们从周期 XXZ 链构造坐标 Bethe ansatz 分布律，并在相同的一站点和二站点矩下将其与最大熵成对投影进行比较。在一个八站点、三激发扇区中，对称性使完整的概率律差异变为一维，由一个连续的三站点矩 $\delta$ 决定。沿 Bethe 分支，该间隙改变符号，并在 $\Delta=(3+\sqrt3)/2$ 处恰好消失，此时本征态分布律变为成对形式。非线性双 token 读出保留了各自的 token 边缘分布，却暴露出距离 $2|\delta|$；直接三 token 读出保留了所有单 token 和双 token 边缘分布，却暴露出 $4|\delta|$。在 $\Delta=1.5$ 处，这些确定性二值距离分别为 $0.02654573$ 和 $0.05309145$。我们给出了精确的目标对齐公式，并证明在构造目标的整个无限制开邻域内，投机接受前缀具有严格优势。这些是有限分布律的存在性结果，而非实测的语言模型或墙钟时间收益。
| 评论： | 6 页，2 张表。附属文件复现了数值结果 |
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.16781 [cs.CL] |
| （或 arXiv:2610.16781v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16781 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Abraham Chachamovits [查看电子邮件]
[v1]
2026 年 10 月 12 日星期一 13:38:31 UTC（16 KB）
[v2]
2026 年 10 月 14 日星期三 20:07:58 UTC（22 KB）
来源：arXiv cs.CL · arxiv.org