RadarAI· X:UCSD Hao AI Lab (@haoailab)·· 3 小时前AI 评分47
UCSD Hao AI Lab 推出 vstack 与 veriserve 可验证 LLM 基础设施
AI 导读
UCSD Hao AI Lab 提出面向编码智能体的 5 阶段形式化验证工作流 vstack,并发布可验证 PD 分离式服务引擎 veriserve。
正文 · AI 翻译
Hao AI Lab· @haoailab · X·2026-11-12 03:14· 50 分钟前AI 评分43
AI 导读
UCSD Hao AI Lab 提出 vstack,一套面向编码智能体的 5 阶段形式化验证工作流,并发布可验证 PD 分离式服务引擎 veriserve。
正文 · 原文
迈向可验证的 LLM 基础设施 🚀
假设编码智能体能够从零构建一个快速推理引擎,而一名工程师并行编排 10,000 个智能体:我们如何知道它们编写的引擎实际上是否正确?与经验验证和形式化验证相比,让智能体审查其他智能体大多是在浪费 token。
我们推出 vstack,一套面向编码智能体的 5 阶段形式化验证工作流,以及 veriserve,一个可验证的 PD 分离式服务引擎:在生产服务引擎中揭示了 3 类真实的 RDMA 和缓存竞态,并以一个 226 模块、516,973 条义务的 TLAPS 安全性证明为 veriserve 的 KV 页生命周期设计模型提供支撑,在 GB200 上平均 p50 TPOT 开销为 +0.18%。
博客:haoailab.com/blogs/verifiable…
veriserve:github.com/hao-ai-lab/veriser…
vstack:github.com/hao-ai-lab/vstack
来源:Hao AI Lab · x.com
来源:RadarAI · aihot.news
