Le TorchNeuron d'Amazon exécute du code PyTorch sur AWS Trainium avec un seul changement de configuration

Amazon indique que son nouveau backend TorchNeuron permet d'exécuter du code PyTorch existant sur les puces AWS Trainium par un seul changement de configuration sans réécriture [1]. Amazon le rendra open source sous licence Apache 2.0 lors de la PyTorch Conference North America le 20 octobre 2026, date à laquelle Hugging Face annonce la disponibilité d'une bêta publique [1][2].

Qu'est-ce que TorchNeuron ?

Amazon indique que TorchNeuron exécute du code PyTorch existant sur Trainium par un seul changement de configuration sans réécriture. Il s'intègre au mécanisme intégré de PyTorch pour enregistrer de nouveaux matériels, de sorte que les outils standard de test, de débogage et de mise à l'échelle fonctionnent sans modification, selon Amazon [1].

TorchNeuron prend en charge Trainium2 et Trainium3 [1]. Amazon indique qu'il teste le backend sur des centaines de milliers de modèles d'IA à chaque build et a ouvert le code de ses noyaux de performance [1].

Comment cela change-t-il Trainium pour les développeurs ?

Jusqu'à présent, les utilisateurs de Hugging Face accédaient à Trainium via Optimum Neuron, qui reposait sur un package basé sur PyTorch XLA avec tenseurs paresseux et formes statiques [2]. TorchNeuron expose plutôt Trainium comme un périphérique neuron natif avec exécution eager, torch.compile et les outils distribués propres à PyTorch tels que FSDP2 [2].

Hugging Face indique que 89 % des 100 meilleures architectures de modèles de génération de texte fonctionnent avec TorchNeuron sans modification. Cela se compare à 46 % sous Optimum Neuron v0.4.5, et Hugging Face recommande désormais d'utiliser directement Transformers, Diffusers, Accelerate, PEFT et TRL [2].

Amazon indique que TorchNeuron fonctionne également avec TorchTitan, le framework d'entraînement distribué natif de PyTorch [1]. Hugging Face indique la commande d'installation comme pip install torch-neuronx [2].

S'agit-il d'une attaque contre l'avance de CUDA de Nvidia ?

TechCrunch présente le lancement comme la plus grande attaque d'Amazon contre l'avantage logiciel autour de CUDA de Nvidia [3]. Amazon indique qu'elle contribue aux modifications en amont de PyTorch pour supprimer le code qui lie le framework à des puces spécifiques [1][3].

TechCrunch note que les utilisateurs de PyTorch peuvent déjà passer aux GPU AMD ou aux puces Apple par un simple changement de configuration. L'argument d'Amazon est que Trainium s'accompagne du reste d'AWS et gère à la fois l'entraînement et l'inférence [3].

Qui l'utilise déjà ?

Amazon cite la société d'IA vocale Cartesia et le Lieber Institute for Brain Development parmi les premiers utilisateurs [1]. Brace a déclaré à TechCrunch que Deepgram est passé à Trainium en utilisant le support PyTorch natif et traite 70 % d'audio en plus par dollar [3].

Notre analyse

Opinion : Faire de Trainium un périphérique PyTorch ordinaire est la bonne démarche, et le soutien de Hugging Face le rend concret pour de nombreux développeurs. Mais la portabilité en une ligne est désormais la norme, donc le facteur décisif sera des chiffres indépendants de rapport prix-performance, et non ceux d'Amazon.

Ce que nous n'avons pas pu vérifier

• Les revendications de rapport prix-performance d'Amazon et le chiffre de 70 % de Deepgram ; aucun benchmark indépendant n'a été vu.
• La démo d'entraînement côte à côte décrite par Amazon ; aucune donnée n'a été publiée avec elle.
• Si le nom du package torch-neuronx désigne le nouveau backend TorchNeuron ou l'ancien package basé sur XLA ; Hugging Face utilise le nom pour les deux.
• Si les modifications en amont d'Amazon seront acceptées dans PyTorch.