本連載では、APIコールの遅延やトークンの過剰利用、出力内容の制御など、LLMアプリケーションを開発・運用する課題に焦点をあて、ライブラリやAPI Gatewayを用いたその解決方法について解説します。今回は第一回で整理した内容をベースにした、ハンズオンでの実践編です。
この記事は参考になりましたか?
- LLMアプリケーションのアーキテクチャ入門連載記事一覧
-
- LLMアプリケーションのベストアーキテクチャを探る──ハンズオン実践編
- LLMアプリケーションのベストアーキテクチャを探る──トークンの過剰利用や複雑な構成、入出...
- この記事の著者
-
川村 修平(カワムラ シュウヘイ)
SIerやクラウドベンダーを経て、Kong株式会社でポストセールスエンジニアを務める。コミュニティ活動では、CloudNative Daysというコミュニティでオブザーバビリティチームに所属。著書:Web API開発実践ガイド、OCIで学ぶクラウドネイティブ 実践×理論ガイド、その他技術同人誌
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
