arXiv cs.CL· Jun Liu·· 12 小时前AI 评分18
基于全连接量子玻尔兹曼机的量子语言模型 FC-QBM-LM 提出
Wave Is All You Need: A Quantum Language Model Based on Fully Connected Quantum Boltzmann Machine
AI 导读
研究者提出基于全连接量子玻尔兹曼机(FC-QBM)的自注意力机制,并据此构建语言模型 FC-QBM-LM,该机制通过语义量子态的酉演化隐式完成位置编码与自注意力计算,数学上等价于经典自注意力。
正文 · AI 翻译
摘要:本工作提出了一种基于全连接量子玻尔兹曼机(FC-QBM)的自注意力机制,并进一步以该机制为核心引擎构建了全连接量子玻尔兹曼机语言模型(FC-QBM-LM)。该机制通过对语义量子态进行酉演化,隐式地实现了位置编码和自注意力计算,无需将连续语义流分解为离散矩阵进行显式矩阵乘法,且测量结果天然满足归一化条件。具体而言,本工作严格推导了基于 FC-QBM 的自注意力机制的计算原理,并证明该机制在数学上等价于经典自注意力机制。本文深入推导了 FC-QBM-LM 训练与生成的数学原理,并据此开发了相应的两种算法。最终构建了一个 8 量子比特的 FC-QBM-LM,并在唐诗语料库上进行训练。在 8 量子比特设置下,量子层仅用 44 个参数便实现了完整的位置编码与自注意力计算流程。在无噪声场景下,模型表现出良好的收敛性。此外,本工作提出的以 Y 轴旋转门结尾的量子电路,比以 X 轴旋转门结尾的对应电路具有更好的收敛性。在小样本条件下以及八种不同噪声强度水平下,模型展现出较强的噪声鲁棒性,保留了其无噪声收敛性能的 99% 以上。在五言绝句生成实验中发现,该模型初步展现出三种核心能力:联想与发散思维、跨意象的内容生成以及符合人类习惯的词序。
| 评论: | 44 页,6 幅图,2 张表,2 种算法 |
| 主题: | 量子物理(quant-ph);统计力学(cond-mat.stat-mech);计算与语言(cs.CL);机器学习(cs.LG) |
| 引用为: | arXiv:2610.34492 [quant-ph] |
| (或 arXiv:2610.34492v1 [quant-ph] 为本版本) | |
| https://doi.org/10.48550/arXiv.2610.34492 arXiv 颁发的 DOI 经由 DataCite(待注册) |
提交历史
来自:Jun Liu [查看邮箱]
[v1]
2026 年 10 月 25 日星期日 18:35:48 UTC(1,454 KB)
来源:arXiv cs.CL · arxiv.org