TorchNeuron de Amazon ejecuta código de PyTorch en AWS Trainium con un solo cambio de configuración

Amazon afirma que su nuevo backend TorchNeuron permite que el código PyTorch existente se ejecute en chips AWS Trainium con un único cambio de configuración y sin reescritura [1]. Amazon lo publicará como código abierto bajo la licencia Apache 2.0 en la PyTorch Conference North America el 20 de octubre de 2026, cuando Hugging Face indica que estará disponible una beta pública [1][2].

¿Qué es TorchNeuron?

Amazon afirma que TorchNeuron ejecuta código PyTorch existente en Trainium con un único cambio de configuración y sin reescritura. Se integra en el mecanismo integrado de PyTorch para registrar nuevo hardware, por lo que las herramientas estándar de prueba, depuración y escalado funcionan sin cambios, según Amazon [1].

TorchNeuron es compatible con Trainium2 y Trainium3 [1]. Amazon afirma que prueba el backend con cientos de miles de modelos de IA en cada compilación y ha publicado como código abierto sus núcleos de rendimiento [1].

¿Cómo cambia Trainium para los desarrolladores?

Hasta ahora, los usuarios de Hugging Face accedían a Trainium mediante Optimum Neuron, que dependía de un paquete basado en PyTorch XLA con tensores perezosos y formas estáticas [2]. TorchNeuron, en cambio, expone Trainium como un dispositivo neuron nativo con ejecución eager, torch.compile y las propias herramientas distribuidas de PyTorch como FSDP2 [2].

Hugging Face afirma que el 89% de las 100 principales arquitecturas de modelos de generación de texto funciona con TorchNeuron sin modificaciones. Esto se compara con el 46% bajo Optimum Neuron v0.4.5, y Hugging Face recomienda ahora usar directamente Transformers, Diffusers, Accelerate, PEFT y TRL [2].

Amazon afirma que TorchNeuron también funciona con TorchTitan, el marco de entrenamiento distribuido nativo de PyTorch [1]. Hugging Face indica el comando de instalación como pip install torch-neuronx [2].

¿Es un ataque a la ventaja de CUDA de Nvidia?

TechCrunch presenta el lanzamiento como el mayor intento de Amazon hasta la fecha contra la ventaja de software de CUDA de Nvidia [3]. Amazon afirma que contribuye con cambios upstream a PyTorch para eliminar código que vincula el marco a chips específicos [1][3].

TechCrunch señala que los usuarios de PyTorch ya pueden pasar a GPUs de AMD o chips de Apple con un simple cambio de configuración. La propuesta de Amazon es que Trainium viene con el resto de AWS y gestiona tanto el entrenamiento como la inferencia [3].

¿Quién lo usa ya?

Amazon menciona a la empresa de IA de voz Cartesia y al Lieber Institute for Brain Development entre los primeros usuarios [1]. Brace declaró a TechCrunch que Deepgram pasó a Trainium usando el soporte nativo de PyTorch y procesa un 70% más de audio por dólar [3].

Nuestra lectura

Opinión: Convertir Trainium en un dispositivo PyTorch ordinario es la medida correcta, y el apoyo de Hugging Face lo hace real para muchos desarrolladores. Pero la portabilidad en una línea es ya lo mínimo, por lo que el factor decisivo serán los números independientes de relación precio-rendimiento, no los de Amazon.

Lo que no pudimos verificar

• Las afirmaciones de Amazon sobre precio-rendimiento y la cifra del 70% de Deepgram; no vimos evaluaciones independientes.
• La demostración de entrenamiento lado a lado que describe Amazon; no se publicaron datos con ella.
• Si el nombre del paquete torch-neuronx se refiere al nuevo backend TorchNeuron o al paquete anterior basado en XLA; Hugging Face usa el nombre para ambos.
• Si los cambios upstream de Amazon serán aceptados en PyTorch.