ServiceNow、Hugging Face、NVIDIAは、パフォーマンス、透明性、およびコスト効率の新たな基準を設定するコード生成用のオープンアクセス大規模言語モデル ファミリーである「StarCoder2」のリリースを発表した。
「StarCoder2」は、ServiceNowが運営する「BigCode コミュニティ」と「機械学習コミュニティ」がモデルとなっており、Hugging Faceとのパートナーシップにより開発された。619種類のプログラミング言語にてトレーニングされており、アプリケーションのソース コード生成、ワークフロー生成、テキスト要約などの特殊なタスクを実行するために、さらにトレーニングを行うことや、エンタープライズ アプリケーションに組み込むことが可能。これにより、開発者は、コード補完、高度なコード要約、コード スニペット検索などの機能を使用して、生産性を向上させることができる。
また同サービスには、3つのモデルサイズがある。1つは、ServiceNowによってトレーニングされた30億パラメータのモデル、2つ目はHugging Faceによってトレーニングされた70 億パラメータのモデル。そして、3つ目は、NVIDIA により「NVIDIA NeMo」を使用して構築され、NVIDIA アクセラレーテッド インフラストラクチャ上でトレーニングされた150億パラメータのモデル。より小さなバリエーションは、推論時に必要となる計算量がより少ないパラメータであるため、計算コストを節約しながら強力なパフォーマンスを提供する。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
