AmazonのTorchNeuron、1回の設定変更でPyTorchコードをAWS Trainium上で実行

Amazonは新しいTorchNeuronバックエンドにより、既存のPyTorchコードをAWS Trainiumチップ上で設定変更1回で書き換えなしに実行可能と述べる [1]。Amazonは2026年10月20日のPyTorch Conference North AmericaでApache 2.0ライセンスの下でオープンソース化し、Hugging Faceは同日にパブリックベータが利用可能になるとする [1][2]。

TorchNeuronとは何か

AmazonはTorchNeuronにより既存のPyTorchコードをTrainium上で設定変更1回で書き換えなしに実行可能と述べる。PyTorchのハードウェア登録機能に組み込まれるため、標準的なテスト、デバッグ、スケーリングツールは変更なく動作するとAmazonは説明する [1]。

TorchNeuronはTrainium2とTrainium3をサポートする [1]。Amazonはビルドごとに数十万のAIモデルでバックエンドをテストし、パフォーマンスカーネルをオープンソース化したと述べる [1]。

開発者にとってTrainiumはどう変わるか

これまでHugging FaceユーザーはPyTorch XLAベースのパッケージとレイジーテンソル、静的形状に依存するOptimum Neuron経由でTrainiumを利用していた [2]。TorchNeuronはTrainiumをネイティブneuronデバイスとして公開し、eager実行、torch.compile、FSDP2などのPyTorch分散ツールを直接利用可能にする [2]。

Hugging Faceは上位100のテキスト生成モデルアーキテクチャの89%がTorchNeuronでそのまま動作すると述べる。これはOptimum Neuron v0.4.5の46%と比較され、Hugging FaceはTransformers、Diffusers、Accelerate、PEFT、TRLを直接利用するよう推奨する [2]。

AmazonはTorchNeuronがPyTorchのネイティブ分散学習フレームワークTorchTitanでも動作すると述べる [1]。Hugging Faceはインストールコマンドをpip install torch-neuronxと記載する [2]。

Nvidia CUDA優位性への挑戦か

TechCrunchは今回の発表をAmazonによるNvidia CUDAのソフトウェア優位性への最大の挑戦と位置づける [3]。AmazonはPyTorch上流に変更を貢献し、フレームワークを特定チップに縛るコードを除去すると述べる [1][3]。

TechCrunchはPyTorchユーザーが既にAMD GPUやAppleチップへ設定変更で移行可能と指摘する。Amazonの主張はTrainiumがAWSの他のサービスと一体で、学習と推論の両方を扱える点にある [3]。

既に利用している企業は

Amazonは音声AI企業CartesiaとLieber Institute for Brain Developmentを初期ユーザーとして挙げる [1]。BraceはTechCrunchに対し、DeepgramがネイティブPyTorchサポートでTrainiumに移行し、1ドルあたり70%多い音声を処理すると述べた [3]。

Our read

意見: Trainiumを通常のPyTorchデバイスにするのは適切な動きで、Hugging Faceのサポートにより多くの開発者にとって現実的になる。ただし1行での移植性は既に前提条件であり、決定的要因はAmazon独自の数字ではなく独立した価格性能比となる。

確認できなかった点

• Amazonの価格性能比主張とDeepgramの70%数値。独立したベンチマークは確認できなかった。
• Amazonが述べる並行学習デモ。公開されたデータはなかった。
• torch-neuronxパッケージ名が新TorchNeuronバックエンドか旧XLAベースパッケージかを指すか。Hugging Faceは両方に同名を使用する。
• Amazonの上流変更がPyTorchに受け入れられるか。