SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

DeveloperZine(デベロッパージン)- エンジニアの意思決定を支える技術情報メディア ProductZine

CodeZine編集部では、現場で活躍するデベロッパーをスターにするためのカンファレンス「Developers Summit」や、エンジニアの生きざまをブーストするためのイベント「Developers Boost」など、さまざまなカンファレンスを企画・運営しています。

LM Studio×AnythingLLMで構築する「ハイブリッドAI」活用術

LM Studioをサーバモードで起動する

LM Studio×AnythingLLMで構築する「ハイブリッドAI」活用術 第3回

WINGSプロジェクト 小林 昌弘[著] / 山田 祥寛[監修]

 前回は、LM Studioをデスクトップアプリとして導入し、手元の開発機(Mac Studioなど)でモデルをロードして対話する基本的な手順と、ハードウェアのスペック、モデルの選定、量子化が推論性能に与える影響について解説しました。GUI上で実際にモデルを動かし、レスポンスの出力速度などを体感できたことで、「ローカルLLMがどの程度動くのか」という具体的な感覚を掴んでいただけたかと思います。しかし、個人のデスクトップ環境でチャットを試す段階を越えると、次に直面するのは「これをいかにシステムの一部、あるいはチームで共有するサーバーとして組み込むか」という、実運用上の課題です。第3回では、LM Studioを単なるデスクトップアプリとして利用するのではなく、外部アプリケーションからAPI経由で呼び出せる「ローカル推論サーバー」として稼働させる手順を中心に解説します。

読者ターゲット

  • クラウドAIのコストやセキュリティ制限に悩み、代替案を模索しているエンジニア
  • 社内ドキュメントやログを、安全かつ効率的にAIに扱わせたい開発者
  • 自社向けのAI環境を構築したい人

LM Studioを「ローカル推論サーバー」として起動する

 ローカルLLMを実務や社内システムに組み込むには、デスクトップアプリの画面から直接操作するだけでなく、プログラムや外部アプリケーションからHTTP経由でリクエストを送受信できる「推論サーバー」として稼働させる必要があります。

 LM Studioには、GUIから簡単にローカルサーバー機能を有効にする方法に加え、サーバー環境でGUIを使わずに運用するための専用CLIツールも用意されています。ここでは、検証に適したGUIでの起動方法と、サーバー運用を見据えたCUI(ヘッドレス)での起動方法を順に見ていきます。

GUI版でサーバを起動する

 前回までの手順でチャットができる状態になっていれば、図1の手順で簡単にサーバーを起動できます。

GUIからのサーバー起動手順
図1:GUIからのサーバー起動手順
  1. 左メニューから「ModelServer」を選択する
  2. Developerメニューから「Local Server」を選択する
  3. 開いた画面のステータス状態を「ON」に変更する

 この時点では、まだモデルはロードされていません。サーバー画面上部でモデルを選択するか、APIからモデルを指定してリクエストを送信すると、自動的にロードされる仕組みになっています。

 ただし、モデルのロードには時間がかかることがあります。そのため、モデルがロードされていない状態で最初のリクエストを送信すると、応答が返るまでに時間がかかる点に注意してください。

 もう1点、注意が必要です。初期状態では、サーバーを起動したPCからのアクセスに制限されています。他の端末からもアクセスできるようにするには、図2のように「ローカルネットワークで提供」にチェックを入れます。

ローカルネットワークでの提供設定画面
図2:ローカルネットワークでの提供設定画面

利用できるモデルを確認する

 サーバーを起動したら、API経由で利用可能なモデルを確認してみましょう。リスト1のように、curlコマンドを実行します。

bash:[リスト1]利用可能なモデル一覧を取得するcurlコマンド

$ curl http://127.0.0.1:1234/api/v1/models 
{
  "models": [
    {
      "type": "llm",
      "publisher": "google",
      "key": "google/gemma-4-e4b",
      // 
      "variants": [
        "google/gemma-4-e4b@4bit"
      ],
      "selected_variant": "google/gemma-4-e4b@4bit"
    },
    {
      // (省略)
    }
  ]
}

 このエンドポイントを呼び出すと、LM Studioで利用可能なモデルの一覧を取得できます。モデルのキーや量子化バリエーションなども確認できるため、外部アプリケーションやスクリプトから、利用可能なモデルを動的に確認する際に役立ちます。

簡単なチャットができるか確認する

 続いて、API経由で簡単なチャットができるか確認してみましょう。

 「/v1/chat/completions」は、OpenAIのChat Completions APIと互換性のあるエンドポイントです。LM StudioではこのAPIを利用することで、OpenAI向けに開発されたアプリケーションやライブラリを、設定などを変更してローカルLLMに接続できます。

bash:[リスト2]OpenAI互換APIによるチャットリクエストの実行例
$ curl http://127.0.0.1:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "google/gemma-4-e4b",
    "messages": [
      {
        "role": "user",
        "content": "日本の首都を教えてください。"
      }
    ],
    "temperature": 0.7
  }'

 実行すると、リスト3のようなレスポンスが返されます。

json:[リスト3]APIレスポンスの出力例
 {
    "id": "chatcmpl-b4b3s4d68dgtkgvb1y7hzr",
    "object": "chat.completion",
    "created": 1792375359,
    "model": "google/gemma-4-e4b",
    "choices": [
      {
        "index": 0,
        "message": {
          "role": "assistant",
          "content": "日本の首都は**東京(とうきょう)**です。",
          "reasoning_content": "",
          "tool_calls": []
        },
        "logprobs": null,
        "finish_reason": "stop"
      }
    ],
    "usage": {
      "prompt_tokens": 22,
      "completion_tokens": 222,
      "total_tokens": 244,
      "completion_tokens_details": {
        "reasoning_tokens": 205
      }
    },
    "stats": {},
    "system_fingerprint": "google/gemma-4-e4b"
}         

 このように、OpenAI互換APIの形式でレスポンスが返されるため、対応するクライアントアプリケーションやライブラリを利用すれば、既存のコードを大幅に変更せずにローカルLLMへ接続できます。ただし、利用できる機能やレスポンスの詳細は、APIの実装やモデルによって異なる場合があります。

 また、レスポンスにはusageフィールドが含まれており、入力・出力のトークン数などを確認できます。こうした情報は、利用状況の集計や管理に役立ちます。

LM Studioの画面からこれらの動作を確認する

 ここまでのAPIリクエストの処理状況は、LM Studioの「Server Logs」から図3のように確認できます。

サーバーログの確認画面
図3:サーバーログの確認画面

 API接続時に予期しないエラーが発生したり、応答が遅延したりした場合は、まずサーバーログを確認しましょう。リクエストの受信状況やエラーなどを確認することで、問題の原因を調査する手がかりが得られます。

次のページ
CUI(ヘッドレス)で利用する

この記事は参考になりましたか?

LM Studio×AnythingLLMで構築する「ハイブリッドAI」活用術連載記事一覧

もっと読む

この記事の著者

WINGSプロジェクト 小林 昌弘(コバヤシ マサヒロ)

< WINGSプロジェクト について> 有限会社 WINGSプロジェクト が運営する、テクニカル執筆コミュニティ(代表 ...

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

山田 祥寛(ヤマダ ヨシヒロ)

静岡県榛原町生まれ。一橋大学経済学部卒業後、NECにてシステム企画業務に携わるが、2003年4月に念願かなってフリーライターに転身。Microsoft MVP for Visual Studio and Development Technologies。執筆コミュニティ「WINGSプロジェクト」代表。主な著書に「独習シリーズ(Java・C#・Python・PHP・Ruby・JSP&サーブレットなど)」「速習シリーズ(ASP.NET Core・Vue.js・React・TypeScript・ECMAScript、Laravelなど)」「改訂3版JavaScript本格入門」「これからはじめるLaravel実践入門」「はじめてのAndroidアプリ開発 Kotlin編 」他、著書多数。

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

イベント

CodeZine編集部では、現場で活躍するデベロッパーをスターにするためのカンファレンス「Developers Summit」や、エンジニアの生きざまをブーストするためのイベント「Developers Boost」など、さまざまなカンファレンスを企画・運営しています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー