LM Studioをサーバモードで起動する
LM Studio×AnythingLLMで構築する「ハイブリッドAI」活用術 第3回
前回は、LM Studioをデスクトップアプリとして導入し、手元の開発機(Mac Studioなど)でモデルをロードして対話する基本的な手順と、ハードウェアのスペック、モデルの選定、量子化が推論性能に与える影響について解説しました。GUI上で実際にモデルを動かし、レスポンスの出力速度などを体感できたことで、「ローカルLLMがどの程度動くのか」という具体的な感覚を掴んでいただけたかと思います。しかし、個人のデスクトップ環境でチャットを試す段階を越えると、次に直面するのは「これをいかにシステムの一部、あるいはチームで共有するサーバーとして組み込むか」という、実運用上の課題です。第3回では、LM Studioを単なるデスクトップアプリとして利用するのではなく、外部アプリケーションからAPI経由で呼び出せる「ローカル推論サーバー」として稼働させる手順を中心に解説します。
読者ターゲット
- クラウドAIのコストやセキュリティ制限に悩み、代替案を模索しているエンジニア
- 社内ドキュメントやログを、安全かつ効率的にAIに扱わせたい開発者
- 自社向けのAI環境を構築したい人
LM Studioを「ローカル推論サーバー」として起動する
ローカルLLMを実務や社内システムに組み込むには、デスクトップアプリの画面から直接操作するだけでなく、プログラムや外部アプリケーションからHTTP経由でリクエストを送受信できる「推論サーバー」として稼働させる必要があります。
LM Studioには、GUIから簡単にローカルサーバー機能を有効にする方法に加え、サーバー環境でGUIを使わずに運用するための専用CLIツールも用意されています。ここでは、検証に適したGUIでの起動方法と、サーバー運用を見据えたCUI(ヘッドレス)での起動方法を順に見ていきます。
GUI版でサーバを起動する
前回までの手順でチャットができる状態になっていれば、図1の手順で簡単にサーバーを起動できます。
- 左メニューから「ModelServer」を選択する
- Developerメニューから「Local Server」を選択する
- 開いた画面のステータス状態を「ON」に変更する
この時点では、まだモデルはロードされていません。サーバー画面上部でモデルを選択するか、APIからモデルを指定してリクエストを送信すると、自動的にロードされる仕組みになっています。
ただし、モデルのロードには時間がかかることがあります。そのため、モデルがロードされていない状態で最初のリクエストを送信すると、応答が返るまでに時間がかかる点に注意してください。
もう1点、注意が必要です。初期状態では、サーバーを起動したPCからのアクセスに制限されています。他の端末からもアクセスできるようにするには、図2のように「ローカルネットワークで提供」にチェックを入れます。
利用できるモデルを確認する
サーバーを起動したら、API経由で利用可能なモデルを確認してみましょう。リスト1のように、curlコマンドを実行します。
$ curl http://127.0.0.1:1234/api/v1/models
{
"models": [
{
"type": "llm",
"publisher": "google",
"key": "google/gemma-4-e4b",
//
"variants": [
"google/gemma-4-e4b@4bit"
],
"selected_variant": "google/gemma-4-e4b@4bit"
},
{
// (省略)
}
]
}
このエンドポイントを呼び出すと、LM Studioで利用可能なモデルの一覧を取得できます。モデルのキーや量子化バリエーションなども確認できるため、外部アプリケーションやスクリプトから、利用可能なモデルを動的に確認する際に役立ちます。
簡単なチャットができるか確認する
続いて、API経由で簡単なチャットができるか確認してみましょう。
「/v1/chat/completions」は、OpenAIのChat Completions APIと互換性のあるエンドポイントです。LM StudioではこのAPIを利用することで、OpenAI向けに開発されたアプリケーションやライブラリを、設定などを変更してローカルLLMに接続できます。
$ curl http://127.0.0.1:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "google/gemma-4-e4b",
"messages": [
{
"role": "user",
"content": "日本の首都を教えてください。"
}
],
"temperature": 0.7
}'
実行すると、リスト3のようなレスポンスが返されます。
{
"id": "chatcmpl-b4b3s4d68dgtkgvb1y7hzr",
"object": "chat.completion",
"created": 1792375359,
"model": "google/gemma-4-e4b",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "日本の首都は**東京(とうきょう)**です。",
"reasoning_content": "",
"tool_calls": []
},
"logprobs": null,
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 22,
"completion_tokens": 222,
"total_tokens": 244,
"completion_tokens_details": {
"reasoning_tokens": 205
}
},
"stats": {},
"system_fingerprint": "google/gemma-4-e4b"
}
このように、OpenAI互換APIの形式でレスポンスが返されるため、対応するクライアントアプリケーションやライブラリを利用すれば、既存のコードを大幅に変更せずにローカルLLMへ接続できます。ただし、利用できる機能やレスポンスの詳細は、APIの実装やモデルによって異なる場合があります。
また、レスポンスにはusageフィールドが含まれており、入力・出力のトークン数などを確認できます。こうした情報は、利用状況の集計や管理に役立ちます。
LM Studioの画面からこれらの動作を確認する
ここまでのAPIリクエストの処理状況は、LM Studioの「Server Logs」から図3のように確認できます。
API接続時に予期しないエラーが発生したり、応答が遅延したりした場合は、まずサーバーログを確認しましょう。リクエストの受信状況やエラーなどを確認することで、問題の原因を調査する手がかりが得られます。
この記事は参考になりましたか?
- LM Studio×AnythingLLMで構築する「ハイブリッドAI」活用術連載記事一覧
-
- LM Studioをサーバモードで起動する
- LM StudioでローカルLLMを起動し、マシン性能と設定の「リアル」を検証する
- ローカルLLMで企業向けAI環境の構築をはじめよう――「Mac Studio」を採用する理...
- この記事の著者
-
WINGSプロジェクト 小林 昌弘(コバヤシ マサヒロ)
< WINGSプロジェクト について> 有限会社 WINGSプロジェクト が運営する、テクニカル執筆コミュニティ(代表 ...
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
-
山田 祥寛(ヤマダ ヨシヒロ)
静岡県榛原町生まれ。一橋大学経済学部卒業後、NECにてシステム企画業務に携わるが、2003年4月に念願かなってフリーライターに転身。Microsoft MVP for Visual Studio and Development Technologies。執筆コミュニティ「WINGSプロジェクト」代表。主な著書に「独習シリーズ(Java・C#・Python・PHP・Ruby・JSP&サーブレットなど)」「速習シリーズ(ASP.NET Core・Vue.js・React・TypeScript・ECMAScript、Laravelなど)」「改訂3版JavaScript本格入門」「これからはじめるLaravel実践入門」「はじめてのAndroidアプリ開発 Kotlin編 」他、著書多数。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか?
この記事をシェア
