米Amazon Web Servicesは、同社の独自AIチップに向けたSDKの新版「AWS Neuron 2.20」を9月16日（現地時間）に公開した。このSDKは、Amazon Web Services傘下のイスラエルAnnapurna Labsが設計した学習向け半導体「Trainium」と推論向け半導体「Inferentia」を利用したソフトウェア開発に必要になるものだ。
今回の新版では、「Neuron Kernel Interface（NKI）」という新しいAPIがベータ版という位置付けで使えるようになった。NKIを利用すると、PyTorchやGoogle JAXよりも抽象度が低い、半導体に近い層でプログラムを作れるようになる。
また、分散処理で学習を高速化する「NxD Training」というライブラリのベータ版も使えるようになった。同じくベータ版という扱いだが、Google JAXにも対応するようになった。さらに、大規模言語モデル「Llama 3.1（8B、70B、405B）」で、より大規模な学習とより長い問いあわせに対応し、Ricky Linux 9.0に対応するドライバを収録するなどの改良が加わっている。
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
