Google 開源 TorchTPU，挑戰 NVIDIA AI 生態主導地位

PANews 10月21日消息，據 Google Cloud 官方博客，Google 在 PyTorch Conference 2026 上宣佈開源 TorchTPU。該項目由 Google 與 Meta PyTorch 團隊聯合開發，代碼已發佈在 GitHub。TPU 由此成為與 GPU、CPU 並列的 PyTorch 原生硬件選項，現有代碼只需少量修改即可遷移。vLLM、SGLang、TorchTitan、VeRL、Ray 等框架已經接入。在 Hugging Face Transformers v5 中，傳入 device_map="tpu" 即可把模型部署到 TPU。

PANews 10月21日消息，據 Google Cloud 官方博客，Google 在 PyTorch Conference 2026 上宣佈開源 TorchTPU。該項目由 Google 與 Meta PyTorch 團隊聯合開發，代碼已發佈在 GitHub。TPU 由此成為與 GPU、CPU 並列的 PyTorch 原生硬件選項，現有代碼只需少量修改即可遷移。vLLM、SGLang、TorchTitan、VeRL、Ray 等框架已經接入。在 Hugging Face Transformers v5 中，傳入 device_map="tpu" 即可把模型部署到 TPU。測試顯示，TorchTitan 訓練 Qwen 3 8B 的 MFU（模型算力利用率）最高為 52%，規模可擴展到 8,192 顆 Ironwood TPU。Google 還與 Red Hat、IBM 發佈了 llm-d 1.0，LiteRT 也加入了 PyTorch 生態。