ビジネスと開発が一体となって進めたスクラム開発 モデル選定はガードレールで
今回の実装は3つのステップからなる。1つ目はAIによるやりとりの要約。チャットエリアから要約したいメッセージを選び、「要約する」ボタンをクリックする。ここで自動車保険や火災保険など保険種別ごとに必要な情報がもれなく入るようにしている。2つ目は人間が介在して要約結果を確認する。そして3つ目は「経緯登録」ボタンをクリックすることで基幹システムへ登録を済ませる。
このフローに変えた結果、1回のオペレーションにかかる時間は従来の1/3にまで短縮できた。
開発プロセスは、ビジネスと開発が一体となるスクラム開発で、スプリントは1週間単位で回している。小林氏は「毎日顔を合わせ、作ったものをすぐ見せてフィードバックをもらう。このスピード感が私たちの武器です」と言う。
しかし展開は慎重に行う。新しいオペレーションモデルができたら、いきなり全国展開するのではなく、モデル拠点で先行導入を行う。ここで業務要件と開発した新機能の間にどのような乖離があるかを検証し、マニュアルを整備したうえで、全国の拠点に展開する。なおリリース制御には、コードをデプロイしながらも機能のオン／オフを切り替えられる「Feature Flag」を活用し、ロールアウトの安全性とスピードを両立させている。
現場からは「浮いた時間で、お客さまへより迅速で丁寧な対応ができるようになった」と好評だ。さらに経緯入力内容が簡潔・標準化され、進捗の状況把握や担当者間の共有・引継ぎにも良い効果をもたらした。
当初はAmazon Bedrock経由でClaude Sonnetを利用しており、ある月の実績ではコストは6万3000円ほど。後にコストと精度・速度のバランスを再検討し、現在ではVertex AI経由のGemini 2.5 Flash-Liteを利用している。同程度の利用量で比較すると、月間のコストは約5000円ほどに収まった。なお要約機能はマイクロサービス化しているため、モデルを変更しても裏側の接続先を変えるだけでスムーズに移行できた。
このモデル選定では「品質下限」と「コスト上限」のガードレールを先に決め、両方を満たす領域だけを採用することにした。まず開発フェーズでは、コスト度外視で最高性能のモデルで実現可能性と最高精度を確認する。そして次のフェーズでは、その精度を維持できるラインまでプロンプトをチューニングして、徐々に安価なモデルへと置き換えていくという手法を採り、モデル選定を最適化した。
