米NVIDIAは大規模言語モデルの学習用データを生成するモデル「Nemotron-4 340B」を14日（現地時間）に公開した。Nemotron-4 340Bは、NVIDIAのWebサイトと、Hugging FaceのWebサイトの両方で公開している。ライセンスはNVIDIA独自の「NVIDIA Open Model License」で、商用利用も可能になっている。
Nemotron-4 340Bには基本となる「base」に加えて、学習用データを生成する「instruct」、データを評価する「reward」の3種類のモデルを揃えている。利用者はbaseモデルを基に改良を加えて、自前のデータで学習させることで、独自のinstructモデルとrewardモデルを構築することもできる。
またNemotron-4 340Bは、NVIDIAが開発した大規模言語モデル向けのPuthonライブラリである「TensorRT-LLM」を使って開発されている。利用者はPythonのコードを書き換えながら、NVIDIAが提供する大規模言語モデル開発向けコンテナ環境である「NVIDIA NeMo」も利用することで、独自のモデルを効率よく開発できる。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
