跳到正文
热点事件观察中

ExecuTorch 推出 WebGPU 后端,PyTorch 模型可在浏览器内运行

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

PyTorch/ExecuTorch 团队发布 ExecuTorch WebGPU 后端,让 PyTorch 模型无需转换成其他框架格式,就能在浏览器中通过 GPU 运行。团队称所有计算都在标签页本地完成,数据不会离开设备;该后端仍处于早期开发阶段。每个模型的 Hugging Face 仓库都附有 .pte 文件、模型卡和完整的导出步骤。 同一篇 PyTorch 博客还介绍了另一项工作:PyTorch 团队用 SGLang-TorchTPU 在单台四芯片 TPU v7 主机上服务 Meta 的 816B 参数 MoE 模型 Muse Spark Open,把 62 层解码或验证步骤合并为一个 Pallas megakernel,单请求每输出 token 提速 1.94 倍。相关代码开源于 SGLang-TorchTPU 的 haolin/ms-v11 分支。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. PyTorch Blog
    PyTorch 团队用 SGLang-TorchTPU 在 TPU v7 上优化 Muse Spark Open 推理

    PyTorch 团队在单台四芯片 TPU v7 主机上,用 SGLang-TorchTPU 服务 Meta 的 816B 参数 MoE 模型 Muse Spark Open,把 62 层解码或验证步骤合并为一个 Pallas megakernel,单请求每输出 token 提速 1.94 倍。

本事件热度走势

可比范围当前
3
可比范围峰值
911月11日 05:00
近 24 小时变化
-49%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。