数十種類のLLMを無料で試せる「GitHub Models」、GitHubが新サービスのベータ公開

　米GitHubは、開発者向けにさまざまな大規模言語モデル（LLM：Large Language Model）を提供する新サービス「GitHub Models」を限定パブリックベータとして1日（現地時間）に公開した。現在のところ、GitHub Modelsのページを開くと、利用できるLLMが並んでいるが、実際に使おうとすると待機リストへの登録を求められる。一般公開は数カ月後を予定しているという。

　GitHub Modelsでは、世界の有力AI企業が開発した数十種類のLLMを開発者が無料で試せる。管理画面を開けて、好きなLLMを選び、パラメーターや温度（Tempperature）などを調節しながら、プロンプトを投げかけることで、どのような答えが返ってくるのかを試すことができる。

　返答に満足したら、そのLLMをクラウドで動かしたまま、GitHub Codespacesに接続し、LLMを利用したアプリケーションの開発をすぐに始めることができる。デスクトップでVisual Studio Codeなどの開発環境を使っているユーザーに向けて、環境を整備する方法も簡単にまとめて表示してくれる。クラウドで動かしているLLMに接続しながら開発を進めることで、端末によってはLLMが上手く動かないという問題を回避できる。

　アプリケーションが完成したら、簡単な操作でそのアプリケーションを配置できる。具体的には、開発開始時に選択したLLMをAzure AIで動かして、アプリケーションがそこに接続して利用するように設定できる。そしてGitHubは、このサービスで開発者が送り込んだプロンプトやLLMによる回答をLLMを提供する企業に渡すことはなく、モデルの学習に使うこともないとしている。

　現在のところ、GitHub Modelsで利用できる大規模言語モデルは24種類。内訳はイスラエルAI21 Labsの「Jamba-Instruct」、カナダCohereの「Command R」「Command R+」「Embed v3 English」「Embed v3 Multilingual」、米Meta Platformsの「Llama-3-70B-Instruct」「Llama-3-8B-Instruct」「Llama-3.1-405B-Instruct」「Llama-3.1-70B-Instruct」「Llama-3.1-8B-Instruct」、フランスMistral AIの「Mistral Large」「Mistral Large (2407)」「Mistral Nemo」「Mistral Small」、米OpenAIの「GPT-4o」「GPT-4o mini」「Text Embedding 3 (large)」「Text Embedding 3 (small)」、米Microsoftの「Phi-3 medium instruct (128k)」「Phi-3 medium instruct (4k)」「Phi-3 mini instruct (128k)」「Phi-3 mini instruct (4k)」「Phi-3 small instruct (128k)」「Phi-3 small instruct (8k)」となっている。そして一般公開までに、さらに多くのモデルを使えるようにしていくとしている。