AWSは10月20日（現地時間）、AWS Trainium向けのオープンソースのネイティブPyTorchバックエンド「TorchNeuron」のパブリックベータ版をリリースした。AIサイエンティストや研究者は、Trainium上でネイティブにPyTorchを使用してモデルの実験や構築を行える。
TorchNeuronでは、eager execution、torch.compile、標準のPyTorch APIとの完全な互換性を維持したまま、.to('neuron')に切り替えるだけでTrainium上でPyTorchコードを有効にできる。また、Neuron Kernel Interface(NKI)と統合されており、カスタムオペレーターの利用やTrainiumハードウェア向けのパフォーマンス最適化が可能だ。
Amazon EC2 Trainium2インスタンスおよびAmazon EC2 Trainium3インスタンス向けに、GitHubリポジトリを通じてオープンソースとして提供されている。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
