ChatGPTを最大限に活用するためのプロンプトの極意
話題はChatGPTにおけるプロンプトの重要性へと移る。「1年ほど前からLLMが流行り始め、『プロンプトを制する者がChatGPTを制す』というトレンドもあるが、実際のところはどうか？」というのが、吉田氏の投げかけた質問だ。
波々伯部氏は、「開発系の業務に使うのであれば、プロンプトのスキルは必須でしょう。一方、私のように純粋なユーザーの場合、必須とまでは言えません」と見解を話す。たとえばChatGPTでブログを書くようなケースであれば、毎日同じことを繰り返すオペレーションのため、プロンプト化したほうが効率的だ。しかし顧客を目の前にして行う作業では、「今からプロンプトを書くので待っていてください」とは言いづらい。また、ケースバイケースの問いに答える場面においては、プロンプトがすべてを解決してくれるわけではない……というのが波々伯部氏の意見だ。
一方、「アプリ開発の際には、プロンプトをテンプレート化するのが定番」と続けたのは大嶋氏。アプリにおいては、ユーザーからの問いかけに対し、1回で返答を完結させる必要がある。そのためにプロンプトをテンプレート化しておき、ユーザーが穴埋めするだけでそこそこの返答が返ってくるように整えておくというのだ。
しかしこの方法は万能ではない。「昨今ではさまざまなLLMが登場し、ChatGPTのアップデートも激しい。こうした変化の大きな環境では、絶対的に有効なプロンプトは存在することなどあり得ません」と大嶋氏は警鐘を鳴らす。プロンプトのテクニックに凝りすぎると、それぞれのモデルに合わせたチューニングが大変になる。
「OpenAIの主要APIも、去年6月、11月、そして今年1月と、それぞれ変わっています。特定のバージョンに依存し過ぎていると、突然プロダクトが動かなくなるなど、障害発生とも呼ぶべき状況に陥ってしまう」とサルドラ氏は補足する。
さらに三宅氏は、「たとえ単体テストがなくなっても、今度はプロンプトのメンテナンスを恒久的に行うようでは、あまり業務が楽になった感はありません。たとえばマイクロソフトにはプロンプトを評価するツールがありますが、これも万能ではありません」と説く。「プロンプトはあくまでもシンプルに保ち、RAGによってデータ精度を高めたほうが、よほど効率は上がると信じています」。
