arXiv cs.AI· Pierre Peign\'e, Ky Nguyen, Paul Wang·· 12 小时前AI 评分31
前沿 AI 训练零知识验证的提案与挑战
Proposals and challenges for zero-knowledge verification of frontier AI training
AI 导读
针对前沿 AI 训练算力治理，研究者提出一种结合预承诺规范、节点间网络观测与中间计算实时 Merkle 承诺的密集预训练设计，并给出带原生 BF16/FP32 预编译的参考 zkVM，可在被挑战位置逐位核验已承诺计算。
正文 · AI 翻译
摘要：前沿 AI 规则的提案通常以累计训练算力作为识别高影响模型的主要标准。近期的治理分析认为零知识证明很有前景，但在前沿规模下目前尚不实用 [26, 4]。我们认为这一障碍反映的是当前范式，而非根本性限制。我们的前沿稠密预训练设计结合了预先承诺的规范、节点间网络观测，以及对中间计算的实时 Merkle 承诺。我们的参考零知识虚拟机（zkVM）提供了带有原生 BF16/FP32 预编译的简洁证明层。我们从可迁移性、可靠性和成本三个方面，对 zkVM、定制电路和直接交互式审计进行了定性比较。公共随机信标是另一个独立的审计选择方案。
在被质疑的位置，证明会逐位检查所承诺的计算是否符合声明的 BF16/FP32 语义。私有训练规范旨在实现模型架构的保密性。创世证明覆盖初始化；随后，训练中的步骤证明会在整个运行过程中验证选定的步骤。事前证明将政策相关的主张作为每个已证明步骤上的运行不变量来强制执行。它们共同构成了一份可供治理审计的训练记录。检测概率公式根据采样预算和被篡改的计算占比，量化了采样保证。我们给出了数值示例，并解释了采样无法覆盖的内容。
然而我们指出，权重走私可能会复用或合并别处训练得到的权重，而不将这部分工作计入当前运行。我们进而论证，具有全局训练预算的制度比具有单次运行 FLOP 上限的制度更为稳健。这一优势取决于是否计入所有贡献的训练。我们为外部贡献者梳理了尚待解决的研究与工程问题。
| 评论： | 71 页，2 张图 |
| 主题： | 人工智能（cs.AI）；系统与控制（eess.SY） |
| 引用为： | arXiv:2606.05433 [cs.AI] |
| （或使用 arXiv:2606.05433v3 [cs.AI] 引用此版本） | |
| https://doi.org/10.48550/arXiv.2606.05433 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Paul Wang [查看邮箱]
[v1]
2026 年 6 月 3 日星期三 20:57:28 UTC（380 KB）
[v2]
2026 年 8 月 22 日星期六 05:46:47 UTC（381 KB）
[v3]
2026 年 10 月 21 日星期三 16:10:51 UTC（426 KB）
来源：arXiv cs.AI · arxiv.org