跳到正文
arXiv cs.AI· Tuan Truong Vu, Cheng Tan·· 11 小时前AI 评分38

Racer:用符号等价性检查猎捕 GPU Kernel Bug

Racer: Hunting GPU Kernel Bugs with Symbolic Equivalence Checking

AI 导读

Racer 是一个 PTX 级符号等价性检查引擎,通过在符号输入上执行 kernel 及其参考实现、将每个输出单元转为精确代数表达式,从而区分浮点误差与逻辑 bug,单次检查即可覆盖整个输入空间。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:GPU 内核对当今 AI 服务的性能至关重要,但相同的算子却被反复重写:针对每一代 GPU、每一种数值格式、每一种服务场景和每一种内核语言都要重写一次。每次重写都必须保持其所替代实现所计算的功能不变。如今,这一义务几乎完全依赖于差分测试:在随机采样的张量上运行新内核和一个可信参考实现,然后在容差范围内比较它们的输出。这种方法存在盲区,增加测试用例也无法消除。例如,一个逻辑错误产生的误差可能小于为容纳正确的优化内核所需的容差。
我们提出符号等价性检查,它在符号输入上执行内核及其参考实现,将每个输出单元转化为精确的代数表达式,然后检查成对的表达式是否对所有输入都一致。由于这些表达式是精确的,符号等价性检查能够区分浮点误差与逻辑错误,而一次检查即可覆盖整个输入空间。
我们实现了 Racer,一个 PTX 层面的符号等价性检查引擎,并采用三项技术使该方法对生产内核切实可行:(1) 形状归约以控制检查成本,(2) 锁步 CTA 调度器以处理并发,以及 (3) 惯用模板,并对其他情况下无定论的结果进行精确数值反驳。在来自 41 个收集目标、共 2,408 个生产内核中,Racer 在 23 个库中发现了 82 个真实缺陷,包括 76 个此前未知的缺陷和迄今已确认的 41 个。
主题: 符号计算(cs.SC);人工智能(cs.AI)
引用为: arXiv:2610.28429 [cs.SC]
  (或 arXiv:2610.28429v1 [cs.SC] 为本版本)
  https://doi.org/10.48550/arXiv.2610.28429

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Cheng Tan [查看邮箱]
[v1] 2026年10月20日星期二 15:58:33 UTC(114 KB)

来源:arXiv cs.AI · arxiv.org