arXiv cs.AI· Hansheng Ren·· 12 小时前AI 评分20
Halo 架构:用有理算术实现无限深度推理,从模糊浮点到精确计算
From Fuzzy to Exact: The Halo Architecture for Infinite-Depth Reasoning via Rational Arithmetic
AI 导读
研究者提出 Halo 架构,基于有理数域(Q)并配备定制 Exact Inference Unit(EIU),用精确算术替代 LLM 依赖的浮点运算。该架构通过 Dual-Ring Topology 解决有理算术位宽指数增长问题:Micro-Ring 用 Diophantine Approximation 约束内存复杂度,Macro-Ring 通过周期性状态坍缩保证逻辑一致性。
正文 · AI 翻译
摘要:当前大语言模型(LLMs)的主流扩展范式建立在一个“模糊”浮点运算的基础之上。为缓解这一近似基础所固有的不稳定性,现代架构搭建了一套由结构与数值启发式方法构成的复杂脚手架——复杂残差、Pre-RMSNorm、注意力缩放和梯度裁剪——仅仅为了防止数值崩溃就消耗了大量算力。
我们提出向“精确”的范式转变。我们引入了 Halo 架构,它以有理数域(Q)为基础,并由定制的精确推理单元(EIU)驱动。为解决有理数运算中位宽指数增长的问题,Halo 采用双环拓扑,统一了两种互补的控制机制:(1)微环(连续性维持),通过丢番图逼近严格限制内存复杂度;(2)宏环(符号对齐),通过周期性状态坍缩来强制逻辑一致性。
这一稳定的双环基础使得对数值脚手架的“大拆除”成为可能,将 Transformer 块还原为其“干净”的代数形式(Tabula Rasa)。此外,我们验证了“效率悖论”:梯度噪声的消除(sigma -> 0)允许采用宏学习率,有可能将总收敛时间缩短几个数量级。Halo 表明,通用智能需要在严格的数学框架下实现连续场与离散链的混合。
| 评论: | 根据下一代算术会议(CoNGA)评审过程中收到的反馈进行了修订。增加了对精度升级终止和丢番图逼近误差界的正式分析;扩展了相关工作 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);硬件架构(cs.AR) |
| 引用为: | arXiv:2601.18702 [cs.LG] |
| (或 arXiv:2601.18702v5 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2601.18702 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Hansheng Ren [查看电子邮件]
[v1]
2026年1月26日星期一 17:24:34 UTC(974 KB)
[v2]
2026年2月1日星期日 07:13:30 UTC(989 KB)
[v3]
2026年2月7日星期六 17:53:30 UTC(995 KB)
[v4]
2026年2月16日星期一 07:24:47 UTC(1,107 KB)
[v5]
2026年10月20日星期二 19:26:19 UTC(1,123 KB)
来源:arXiv cs.AI · arxiv.org