ExecuTorch 推出 WebGPU 后端,PyTorch 模型可在浏览器内运行
热点事件观察中
ExecuTorch 推出 WebGPU 后端,PyTorch 模型可在浏览器内运行
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
PyTorch/ExecuTorch 团队发布 ExecuTorch WebGPU 后端,让 PyTorch 模型无需转换成其他框架格式,就能在浏览器中通过 GPU 运行。团队称所有计算都在标签页本地完成,数据不会离开设备;该后端仍处于早期开发阶段。每个模型的 Hugging Face 仓库都附有 .pte 文件、模型卡和完整的导出步骤。 同一篇 PyTorch 博客还介绍了另一项工作:PyTorch 团队用 SGLang-TorchTPU 在单台四芯片 TPU v7 主机上服务 Meta 的 816B 参数 MoE 模型 Muse Spark Open,把 62 层解码或验证步骤合并为一个 Pallas megakernel,单请求每输出 token 提速 1.94 倍。相关代码开源于 SGLang-TorchTPU 的 haolin/ms-v11 分支。
AI 根据报道生成 · 2 天前更新
最新进展11月11日 00:45
PyTorch 团队用 SGLang-TorchTPU 在 TPU v7 上优化 Muse Spark Open 推理报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- PyTorch BlogPyTorch 团队用 SGLang-TorchTPU 在 TPU v7 上优化 Muse Spark Open 推理
PyTorch 团队在单台四芯片 TPU v7 主机上,用 SGLang-TorchTPU 服务 Meta 的 816B 参数 MoE 模型 Muse Spark Open,把 62 层解码或验证步骤合并为一个 Pallas megakernel,单请求每输出 token 提速 1.94 倍。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 911月11日 05:00
- 近 24 小时变化
- -49%
02.557.510
12:0011月12日12:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。