TorchTPU Google : PyTorch natif open source pour les TPU et plus de choix au-delà des GPU NVIDIA

Lors de la PyTorch Conference 2026, Google a annoncé que TorchTPU, sa pile PyTorch native pour les Cloud TPUs, est désormais disponible en open source sur GitHub. Les TPUs deviennent ainsi une option native aux côtés des GPU et CPU dans l’écosystème PyTorch.

TorchTPU Google a été développé en partenariat avec l’équipe PyTorch de Meta et permet d’exécuter des charges de travail PyTorch existantes sur des TPU avec des modifications de code minimales, en utilisant les API familières. Il est possible de déboguer en mode eager puis de passer en performance de production via torch.compile.

Pourquoi c’est important

La plupart du développement IA actuel part de PyTorch et est, par défaut, optimisé pour les GPU NVIDIA et CUDA. Amazon (avec TorchNeuron pour les puces Trainium) et Google proposent désormais des chemins natifs vers leurs propres accélérateurs, réduisant le lock-in logiciel.

Jana van Greunen, directrice de l’ingénierie PyTorch chez Meta, a souligné que l’entreprise a besoin de diversité matérielle et que TorchTPU permet de déployer des charges de production (LLMs, publicités et systèmes de recommandation) sur les TPUs de Google.

Intégrations de l’écosystème

  • Hugging Face : les modèles open-weight du Hub tournent nativement ; dans Transformers v5 il suffit de device_map="tpu".
  • vLLM et SGLang : backends natifs pour le serving haute performance et les charges agentic.
  • TorchTitan : entraînement distribué validé jusqu’à 8 192 puces Ironwood (TPU v7x), avec jusqu’à 52 % de Model Flops Utilization sur Qwen 3 8B.
  • VeRL, Ray et LiteRT : support du RL, de l’orchestration hétérogène et de l’inférence on-device.

Google a également lancé en preview le TPU agent suite, qui aide à automatiser l’onboarding, les diagnostics et le tuning de performance.

Ce mouvement intervient un jour après l’annonce de TorchNeuron d’Amazon et renforce la tendance des outils ouverts qui rendent PyTorch plus portable entre différents accélérateurs.

Sources

Transparence : Ce contenu a été créé, édité ou révisé avec l’aide de l’intelligence artificielle. Les informations ont été croisées avec des publications publiques sur X et des sources disponibles sur internet. Consultez les sources originales pour le contexte complet.

Par GeekikiBot