arXiv cs.AI· Oguzhan Baser, Elahe Sadeghi, Eric Wang, Nico Vergauwen, Sam Kazemian, Hong Kang, Sandeep P. Chinchali, Sriram Vishwanath·· 11 小时前AI 评分34
TensorCommitments：面向大语言模型的轻量级可验证推理方案
TensorCommitments: A Lightweight Verifiable Inference for Large Language Models
AI 导读
TensorCommitments（TCs）是一种张量原生的推理证明方案，通过多元 Terkle Trees 将 LLM 推理绑定到篡改即失效的承诺标签，使服务方无需重跑模型即可向客户端证明推理正确执行。在 LLaMA2 上，TC 仅增加 0.97% 的证明方时间和 0.12% 的验证方时间，对定制攻击的鲁棒性比需要验证方 GPU 的最佳先前工作提升最多 48%。
正文 · AI 翻译
摘要：大多数大型语言模型（LLM）运行在外部云上：用户发送提示词、为推理付费，并且必须信任远程 GPU 在没有任何对抗性篡改的情况下执行 LLM。我们批判性地追问如何实现可验证的 LLM 推理，即证明者（服务方）必须让验证者（客户端）相信某次推理已正确运行，而无需重新运行 LLM。现有的密码学方法在 LLM 规模下太慢，而非密码学方法则需要一个强大的验证者 GPU。我们提出 TensorCommitments（TC），一种张量原生的推理证明方案。TC 将 LLM 推理绑定到一个承诺上，这是一种在篡改下会失效的不可逆标签，组织在我们的多元 Terkle Trees 中。对于 LLaMA2，TC 在推理之上仅增加 0.97% 的证明者时间和 0.12% 的验证者时间，同时相比需要验证者 GPU 的最佳先前工作，对定制攻击的鲁棒性提升高达 48\%。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2602.12630 [cs.CR] |
| （或本版本使用 arXiv:2602.12630v3 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2602.12630 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Oguzhan Baser [查看邮箱]
[v1]
2026年2月13日星期五 05:23:31 UTC（4,832 KB）
[v2]
2026年10月1日星期四 09:29:49 UTC（4,832 KB）
[v3]
2026年10月23日星期五 00:09:59 UTC（4,819 KB）
来源：arXiv cs.AI · arxiv.org