完璧よりも、早さを。生成AIプロダクトの開発初期のポイント

AIプロダクトの開発ストーリーから学ぶプロダクトマネジメント実践入門 第4回

　このシリーズのこれまでの記事では、プロダクトマネジメントと仮説検証プロセスに焦点を当て、生成AIを使用した製品開発の初期段階について説明しました。第4回となる今回は、AI製品を作る上でのエンジニアリングの側面を見ていきましょう。特に、この記事ではOpenAIのChatGPT APIを使用した生成AIサービスの開発に焦点を当てます。

生成AIを活用したAI製品開発の基礎知識

　技術的な側面に入る前に、生成AIとその機能についてしっかりと理解することが重要です。

　生成AIは、その名前が示すように、コンテンツを生成できるAIの一種です。これには、テキスト、画像、ビデオ、またはあらゆる種類のデータを含まれます。生成AIの最も有名な例は敵対的生成ネットワーク（GAN）ですが、この記事では主にChatGPT APIを用いたプロダクト開発に焦点を当てます。

　OpenAIによって開発されたChatGPT APIは、文字通りChatGPTを開発者が簡単に自分のアプリケーションやサービスに統合するためのAPI、インターフェースです。また、ChatGPTは、人間のようなテキストを生成できる大規模言語モデル「GPT」を用いた会話形式のテキスト生成に特化したサービスです。これにより、チャットボットやコンテンツ作成、言語翻訳など、さまざまなアプリケーションで大規模言語モデルを使用することができます。

ChatGPT APIを使う時の3つのポイント

• プロンプトの作成と改善：ChatGPT APIでは、あらかじめOpenAIが提供している、GPT-3やGPT-4のような言語モデルをもとにテキストの生成を行います。そのため、生成結果を適切に出力するために、プロンプトやAPIに投げるパラメータの調整が大事になります。
• パフォーマンスと待機時間：ChatGPT APIによって非常に大規模な言語生成モデルを手軽に利用できますが、複雑なプロンプトを与えた場合や、ネットワーク遅延やサーバーの負荷によっては生成に時間がかかるなどのパフォーマンスが低下することもあります。そのため、応答時間やパフォーマンスの要件を理解したり、ユーザーの体感の待ち時間を減らす工夫をしたりする必要があります。
• 生成結果の品質：適切なプロンプトを与えたとしても、ユーザーの入力や言語モデルが生成する結果のばらつきによって、適切な出力をするとは限りません。その場合、サービス側で正規表現によるフォーマットの成形や、辞書による単語の置換などを行う必要があります。

　基本的にはOpenAIが提供しているChatGPT APIなどを利用することで、大規模な計算処理やモデルの作成などを意識することなく、大規模言語モデルをサービスに組み込めます。初期のプロダクト開発では「できるだけ少ない労力でユーザーに使ってもらうことでフィードバックを取ることが目的」なので、特別なユースケースではない限りは、このようなAPIを用いてすぐに使える仕組みを組み合わせることが大切です。