Sable：面向大语言模型位精确推理的小域 Sumcheck 论证系统

查看 PDF HTML（实验性）

摘要：我们提出 Sable，一种论证系统与单 GPU 证明器，用于证明一个已承诺的、整数量化的 transformer 从给定提示逐位生成了给定的 token 序列。Sable 固定了一个不含浮点步骤的整数函数 F_O，其中每个舍入、归一化、softmax 和采样决策都由其输入决定，并用一个约束系统来证明它，该系统所涉及的关系可证明地永不会在 31 位 KoalaBear 素数下发生模回绕。该证明将 zerocheck 和 LogUp-GKR 查找批处理为每个域一次 sumcheck，并在一个由 Reed-Solomon 码、BLAKE3 Merkle 树和混合长度 BaseFold 打开构建的多线性承诺中承诺每个见证张量和权重。证明器在一块 GPU 上逐层流式处理模型。在一块 NVIDIA RTX PRO 6000 Blackwell GPU 上，Sable 在 92.5 秒内为 4,096 个 token、在 398 秒内为 16,384 个 token 证明了 Qwen2.5-32B 的全部 64 层，并覆盖 Qwen3-32B 和混合专家模型 Qwen3-30B-A3B（4,096 个 token 分别用时 121.8 秒和 84.7 秒）。一份证明的耗时是服务时间的 41 到 50 倍，按公开 GPU 价格计算，每 4,096-token 请求为 6.4 美分，且每参数每 token 的耗时比 zkLLM 少 40 到 64 倍。在 WikiText-2 上，F_O 的贪心 token 在 86.3% 的位置上与 BF16 模型一致；在 Qwen3 上，F_O 在 MMLU 上与 BF16 相差 1.6 个百分点以内，在 GSM8K 上相差 1.7 个百分点以内。一个带有编译核心的验证器在单个 CPU 核心上于 19 到 56 秒内检查一份证明。在随机预言机模型中，该交互式证明具有 2^-103 的逐轮可靠性误差。该证明不是零知识的，因此该系统面向开放权重模型。代码：this https URL

学科：	密码学与安全（cs.CR）；人工智能（cs.AI）；机器学习（cs.LG）
引用为：	arXiv:2611.14083 [cs.CR]
	（或 arXiv:2611.14083v1 [cs.CR] 用于此版本）
	https://doi.org/10.48550/arXiv.2611.14083 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Tomer Solberg PhD [查看电子邮件]
[v1] 2026年11月10日星期二 13:47:29 UTC（82 KB）