Google 开源 TorchTPU，挑战 NVIDIA AI 生态主导地位

PANews 10月21日消息，据 Google Cloud 官方博客，Google 在 PyTorch Conference 2026 上宣布开源 TorchTPU。该项目由 Google 与 Meta PyTorch 团队联合开发，代码已发布在 GitHub。TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生硬件选项，现有代码只需少量修改即可迁移。vLLM、SGLang、TorchTitan、VeRL、Ray 等框架已经接入。在 Hugging Face Transformers v5 中，传入 device_map="tpu" 即可把模型部署到 TPU。

PANews 10月21日消息，据 Google Cloud 官方博客，Google 在 PyTorch Conference 2026 上宣布开源 TorchTPU。该项目由 Google 与 Meta PyTorch 团队联合开发，代码已发布在 GitHub。TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生硬件选项，现有代码只需少量修改即可迁移。vLLM、SGLang、TorchTitan、VeRL、Ray 等框架已经接入。在 Hugging Face Transformers v5 中，传入 device_map="tpu" 即可把模型部署到 TPU。测试显示，TorchTitan 训练 Qwen 3 8B 的 MFU（模型算力利用率）最高为 52%，规模可扩展到 8,192 颗 Ironwood TPU。Google 还与 Red Hat、IBM 发布了 llm-d 1.0，LiteRT 也加入了 PyTorch 生态。