Google 发布 TorchTPU，让 PyTorch 应用无需重写即可跑在 TPU 上

Google 宣布开源 TorchTPU，这是其长期开发的 PyTorch 适配版本，可让 AI 应用运行在 Google 自研的 TPU 芯片上。已有 PyTorch 应用只需修改配置，无需重写代码，即可迁移到 TPU 及 Google Cloud。Google 称其与 Meta、Hugging Face、vLLM 开发方 Inferact、SGLang 开发方 RadixArk 等直接合作，确保 TorchTPU 的代码库与这些主流开发工具兼容。此外 Google 还推出 TPU agent suite 帮助开发者迁移应用并修复错误，并更新了在手机、笔记本和嵌入式设备上运行 AI 的 LiteRT 工具，使其更好地支持 PyTorch 应用。 对使用 PyTorch 构建和部署模型的开发者与初创团队而言，迁移到 TPU 的门槛从重写代码降为修改配置，多了一种除 Nvidia GPU 之外的硬件和云平台选择。不过原文也指出，这并不意味着开发者会立即大规模放弃 Nvidia 硬件。