デロイト トーマツ コンサルティング、各企業に向けた「特化型LLM」開発サービス提供開始

　デロイト トーマツ コンサルティングは、大規模言語モデル（LLM）に、個別企業や特定ドメイン（事業活動領域）特有の語彙や文脈、ニュアンスを学習させる「ファインチューニング」を行うことでカスタマイズする、「特化型LLM」の開発サービス提供を4月4日に開始した。

　「特化型LLM」では、複数ベンダーの有力LLMを検証しつつ、クライアントニーズに最適な特化型LLMの開発を行う。ベースとなるLLMは、クローズドモデルとオープンモデルも含めパラメータ数やバージョンによる差異を比較・検証することによってノウハウを蓄積している。

　ファインチューニングについても、LLM自体のウェイトを書き換えるフルファインチューニングと、メモリの消費量を押さえつつ効率的に学習するPEFT（Parameter-Efficient Fine Tuning）を比較することで、最適な手法を見出しているという。

　広く普及しているChatGPTといった汎用LLMは、インターネット上の公開文章などで訓練されているため、一般的な言語パターンを理解しているものの、個々の業務・事業への理解が深いとはいえず企業における適用範囲が限定的になったり、専門用語への理解が不可欠な金融や医療などの業界での導入が進んでいなかったりといった課題も抱えている。また、プライバシーやデータセキュリティの観点から、クラウド提供型の汎用LLMの利用が困難な業種・業界もある。デロイト トーマツ コンサルティングでは、顧客環境でのオンプレミス運用が可能な「特化型LLM」の提供によって、企業のLLMの活用を促進する。

　さらに、現在主流の生成AIを用いた企業のデータ利活用アプローチであるRAG（Retrieval Augmented Generation）を、「特化型LLM」とともに実装することで、DB検索や回答生成の精度向上を目指す。また、すでに汎用LLMとRAGを実装している企業に対しても、「特化型LLM」との使い分けや組み合わせによって、企業のニーズに最適なシステムを提案していく。