AIソリューションの成否は「AI以外のチューニング」がカギ！ AIソリューション構築のプロが解説

【15-D-2】ML/ GenAIのソリューション化に向けたAI以外のチューニング

　生成AIをWebアプリケーションに機能として組み込んで活用しようという動きが加速しつつある。だが、そのようなAIソリューション構築場面において、エンジニアはMLOpsや学習コスト、推論時間、正答率などに注目しがちだが、本来はインフラやアプリケーションのチューニングが重要になる。ソリューションの要件に従い、継続的な学習のための基盤から非同期処理などを組み合わせたユーザーを待たせない推論など、AIソリューション構築時に考慮すべきポイントについて、ARISE analyticsの坂本一樹氏が語った。

AI本体はAIソリューション全体からみると一部でしかない

　ARISE analyticsは2017年にKDDIとアクセンチュアによって設立された、データアナリティクスに特化した合弁会社である。KDDIの保有する4000万を超える契約データとアクセンチュアが持つアナリティクススキルを生かして、KDDI事業におけるデータ活用の推進、法人のお客様へのデータやAIの活用支援、KDDIグループのDX推進支援などを行っている。

　坂本氏は同社サービスデザインユニットでソリューションインテグレーションチームのリードを務めている。坂本氏の役割はAIエンジニアと相対して、ソリューションに落とし込むこと。「AIのプロではなく、AIをソリューションに組み込むプロ」と坂本氏は言う。

株式会社ARISE analytics Solution Integration Team Lead 坂本一樹氏

　ChatGPTが2022年11月にリリースされて以来、今はAIソリューションというと猫も杓子も生成AIと言われるようになっている。確かに生成AIは世界中で使われており、リアルタイムで回答もしてくれ、アップデートもそれなりにあり、課金すれば追加でサービスが受けられ、目立ったバグもない。

　それだけにAIソリューションを作ろうとなると、「MLOpsは作れるのか」「学習コストはどうなのか」「推論時間はどのくらいかかるのか」「正答率は本当によいのか」ということに、気を取られてしまうエンジニアも多い。

　だが、AIソリューション全体からするとAI本体の話は、ほんの一部でしかない。つまりAI以外のチューニングがカギを握る。AI以外のチューニングとは「システムとして当たり前のチューニングにAIを巻き込むこと」と坂本氏は語る。そのためには「疎結合」「同期、非同期、イベント駆動」「再現性」をしっかり考えることが不可欠だと坂本氏は言う。

図1.AIソリューションにおけるAI本体はほんの一部

　AIモデルは「検証」「開発」「運用」というステップを経て商用化に至る。検証時は1％でも高く精度向上を目指すことが重要になる。その理由について坂本氏は、「そもそも成果が出ないと次の開発に進めないため」と明かす。例えば正答率50％のAIだと、システムとしては使いにくい。つまりAIの精度を高めることが、AIの価値につながるからだ。

　その一方で、開発のステップに入ると、AIは推論部分だけなので、それ以外の各種チューニングが欠かせない。例えばユーザーが入力するデータにバリデーションをかけたり、データ加工したりする必要がある。そのような加工が施されたデータはDBに集められ、そこでAIによる推論を行う。後はデータ整形をし、レスポンスを返す。こういういろいろな処理に加え、「エラーハンドリングについても考慮することが求められる」と坂本氏。「開発フェーズでは検証フェーズとは異なり、一気にチューニングするものが増える」（坂本氏）という。