跳到正文
RadarAI· X:Rohan Paul (@rohanpaul_ai)·· 1 天前AI 评分38

微软与清华论文:GPU kernel 库故障 60.33% 源于编译器与环境

微软清华研究:GPU kernel 库故障多源于编译器与环境

AI 导读

微软与清华论文分析 7 个 GPU kernel 库的 300 条已关闭 GitHub issue,发现 60.33% 的故障源自编译器、构建系统或运行时环境,39.67% 源自 kernel 库本身。最大单一原因是驱动、CUDA、框架与软件包之间的不兼容,共 76 个 issue,占 25.33%。这类故障会导致 LLM 训练与推理任务崩溃、挂起或静默输出错误结果,且难以定位。

正文 · AI 翻译

Rohan Paul· @rohanpaul_ai · X·2026-11-11 13:25· 59 分钟前AI 评分41

AI 导读

微软与清华论文分析 7 个 GPU kernel 库的 300 条已关闭 GitHub issue,发现 60.33% 的故障源自编译器、构建系统或运行时环境,39.67% 源自 kernel 库本身。最大单一原因是驱动、CUDA、框架与软件包之间的不兼容,共 76 个 issue,占 25.33%。这类故障会导致 LLM 训练与推理任务崩溃、挂起或静默输出错误结果,且难以定位。

正文 · 原文

微软与清华的一篇新论文发现,LLM 系统中大多数 GPU kernel 库故障源自编译器、构建和环境不匹配,而非 kernel 代码本身。

LLM 训练与服务依赖 FlashAttention、Triton 和 CUTLASS 等 GPU kernel 库。当它们出故障时,任务可能崩溃、挂起或静默产生错误输出,且原因难以追踪。

团队阅读了其中 7 个库的 300 条已关闭 GitHub issue 报告,包括讨论和修复内容。他们按用户看到的现象和根本原因对每条 issue 进行了标注。

在这 300 条 issue 中,60.33% 可追溯到编译器与构建系统或运行时环境,39.67% 可追溯到 kernel 库。最大的单一原因是驱动、CUDA、框架与软件包之间的软件不兼容,共 76 条 issue,占 25.33%。

来源:Rohan Paul · x.com

来源:RadarAI · aihot.news