Code PyTorch écrit pour Nvidia : ce qu'Amazon et Google font tourner sur leurs puces

Introduction
TorchNeuron d’Amazon et TorchTPU de Google, rendus open source le 20 octobre 2026, permettent d’exécuter du code PyTorch destiné aux GPU Nvidia sur les accélérateurs Trainium et TPU simplement en changeant le périphérique ciblé.

Points clés
- Compatibilité limitée : les noyaux CUDA et Triton écrits à la main (ex. NKI, Pallas, Tokamax) ne sont pas supportés ; TorchNeuron est en bêta publique, requiert PyTorch 2.14.0 et ne gère pas les formes dynamiques.
- Impact économique : chez Deepgram, la réécriture de noyaux a permis d’augmenter de 11 % à 70 % le volume d’audio traité par dollar, mais les chiffres proviennent uniquement d’AWS ou de Deepgram, sans validation indépendante.
- Perspectives d’optimisation : AMD et Intel prévoient de regrouper leurs optimisations x86 dans le projet oneDNN, bien que le calendrier de déploiement reste indéfini.