跳到正文
热点事件持续更新

IBM 两人团队借 AI 一周集成 SGLang 到 Spyre

2 篇报道2 个报道来源2 小时前更新

先了解这件事

AI 综述

IBM 两人团队借助 AI 编程智能体,在不到一周内用约 1,500 行代码的插件将 SGLang 集成进 IBM Spyre 加速器,插件已随上游 SGLang 开源。 据 PyTorch Blog 报道,SGLang 在 Spyre 上的吞吐量约为基于 torch-spyre 的 PyTorch 参考推理实现的 3.6 倍,在 Granite 3.3 8B 和 Gemma 4 26B A4B 的实测负载上与 vLLM 持平。 该插件的示例运行需预先安装并配置 Spyre 运行时、torch-spyre、SGLang 插件及其兼容补丁。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月12日
  1. PyTorch Blog
    借助 AI 编程智能体,不到一周将 SGLang 集成进 IBM Spyre

    两人团队借助 AI 编程智能体,在不到一周内用约 1,500 行代码的插件把 SGLang 集成进 IBM Spyre。SGLang 在 Spyre 上的吞吐量约为基于 torch-spyre 的 PyTorch 参考推理实现的 3.6 倍,在 Granite 3.3 8B 和 Gemma 4 26B A4B 的实测负载上与 vLLM 持平。

  2. RadarAI
    借助 AI 编程智能体,IBM 团队不到一周将 SGLang 集成进 Spyre

    IBM 两人团队借助 AI 编程智能体,在不到一周内用约 1,500 行代码的插件将 SGLang 集成进 IBM Spyre 加速器。SGLang 在 Spyre 上的吞吐量约为 torch-spyre 参考 PyTorch 推理实现的 3.6 倍,在 Granite 3.3 8B 和 Gemma 4 26B A4B 实测负载上与 vLLM 持平。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。