Google 与 Meta 开源 PyTorch 原生 TPU 后端 TorchTPU

Google 与 Meta 的 PyTorch 团队合作开源 TorchTPU，为 Google TPU 提供原生 PyTorch 后端，使 PyTorch 模型和算子可直接在 TPU 上运行，现有工作负载基本只需把 .to("cuda") 改为 .to("tpu")。该项目由 Google 于 2025 年中启动，代码以 Apache 2.0 许可发布在 GitHub，PyPI 最新公开版本为 0.2.0，需在 TPU VM 上运行，目前支持 Python 3.11+。 Google 称，TorchTPU 已在生产环境中用于部分最大 Google Cloud 客户的推理和训练工作负载。项目包含面向 TPU 的 ATen kernel 实现、XLA 计算编译缓存，支持数据并行和张量并行分布式训练，并集成 torch.compile() 图模式执行。 目前存在若干限制：在 TPU 上调用 torch.compile 时会自动设置 dynamic=False，因为支持 SymInt 所需的有界动态性尚未默认启用；由于一个 TPU 只能被一个用户空间进程访问，RL 共置无法开箱即用地支持，团队称正在研究放宽或绕过该限制的方法。

AI 根据报道生成 · 17 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。