Google 与 Meta 合作介绍了 TorchTPU:让 PyTorch 程序把 Google 的 TPU 视作可用计算设备,减少过去迁移到另一套执行方式的适配工作。TPU 是 Google 的专用 AI 加速芯片。
项目支持 即时执行与编译模式,并对接 PyTorch 的分布式机制。官方给出的迁移目标,是把设备选择由 cuda 改为 tpu 等少量调整后,先让现有工作负载运行起来。
这不代表改一个设备名就能获得最佳性能。原文明确指出,模型的张量形状、切分方式和算子可能仍偏向 GPU,需要结合 TPU 调整。项目也仍在积极开发中。
代码已公开在 google-pytorch/torch_tpu,仓库标注 Apache 2.0 许可。对准备采用 Google Cloud TPU 的团队,这是一个值得用自有模型评估的后端选择;对普通电脑用户,它不会把本机硬件变成 TPU。本站未运行性能或兼容性测试。