IBM 将 Spyre 的 torch.compile 后端迁至 Inductor

IBM 将 Spyre 加速器的 torch.compile 后端从自研 sendnn 编译栈迁移到 PyTorch 开源 Inductor，IBM 称编译器体积因此缩小约 7 倍。新流程分两阶段：torch-spyre 仓库中的 Inductor 扩展把 torch.compile 图降为中间表示 SuperDSC，再由专有编译器 DeepTools 翻译成 Spyre 硬件指令。IBM 表示，该接入点目前是通过对 Inductor 的 GraphLowering.codegen() 打 monkey-patch 实现的，而非一等扩展钩子。 此前 IBM 已通过 torch-spyre 把 Spyre 接入 PyTorch 的 device、allocator、stream 与编译器抽象，使其成为原生 PyTorch 设备。IBM 称，事件记录与等待目前仍是内部操作，用户可调用的 PyTorch 事件记录与等待尚在计划中；现阶段用户只能用 stream.synchronize() 或 torch.accelerator.synchronize() 等待完成，这会阻塞宿主线程。IBM 同时表示，这一集成不会自动带来算子覆盖、性能分析、分布式集合通信、CUDA 专有扩展或针对具体模型的 kernel 质量，这些仍属后端工作。 IBM 另公布 torch-spyre 的 MLIR 数据流后端设计：以 KTIR 承接 Inductor 已确定的并行划分，再由开源 Dataflow Scheduler 拆分为程序并扩展为嵌套、双缓冲、多实例的数据流流水线。IBM 称 Dataflow Scheduler 第一版已就绪，其调度决策目前由局部启发式而非搜索或代价模型做出；下一步是补全矩阵乘法支持并加入代价模型驱动的性能优化，目标是端到端运行大语言模型。

AI 根据报道生成 · 1 小时前更新

1. 10月21日 00:00 · 2 篇报道
   IBM 介绍 Torch-spyre 的 MLIR 数据流后端设计
   PyTorch Blog：从 KTIR 到 SpyreCode：IBM Spyre 的 MLIR 数据流后端
2. 10月13日 20:45 · 2 篇报道
   IBM 分享 torch-spyre 基于 Inductor 的后端实现
   PyTorch Blog：IBM 如何用 Inductor 扩展 Spyre 加速器的 torch.compile 后端
3. 10月8日 20:45 · 1 篇报道
   IBM 介绍 torch-spyre 将 Spyre 接入 PyTorch 的实现
   RadarAI：IBM 如何将 Spyre 打造为原生 PyTorch 设备