はじめに
株式会社LegalOn Technologiesでフロントエンドエンジニア、プロダクトマネージャー(PdM)を兼務している渡辺凌央と申します。LegalOn Technologiesでは、AI契約審査プラットフォーム「LegalForce」に ChatGPT APIを活用した契約書の修正をサポートする「条文修正アシスト」機能を搭載しました。
本記事では、本機能の開発と提供の際にハードルとして感じた「ユーザー体験」「信頼性」「精度」「セキュリティ」の4点について、それぞれの注意点や工夫を紹介します。また、プロンプトインジェクションの対策やその際の注意点、パラメータのチューニングなど具体的な方法も提案していくので、ぜひ ChatGPT APIを活用したプロダクト開発の参考になれば幸いです。
対象読者
- ChatGPT APIを活用した機能を開発予定のプロダクトマネージャーやソフトウェアエンジニア
- ChatGPT APIの利用を検討している方
ChatGPT APIの概要
OpenAI社が提供している「ChatGPT」は、大規模言語モデルを応用して開発された、自然な文章を生成する人工知能(AI)です。OpenAI社がChatGPTを公開してからは、世界各国のユーザーが活用するようになりました。また、ChatGPTを活用して、新たなサービスや機能を生み出す企業も増えてきており、自社サービスと連携させるためのChatGPT APIも公開されています。
ChatGPT APIを自社サービスに搭載する場合、例えばOpenAI社が提供しているOpenAI APIや、Microsoft社が提供しているAzure OpenAI Serviceなどがあります。提供されるモデルが異なるほか、利用規約やデータの取り扱い、サポート体制などに違いがあります。
ここからは、自社サービスにChatGPT APIを活用した機能を開発する際、注意して欲しい4つのハードルについてご紹介します。