NTTは、大規模言語モデル（以下、LLM）の普及に伴う電力消費やコスト増加といった問題の解決に向け、軽量でありながら高性能な日本語処理性能を持つLLM「tsuzumi 2」の提供を10月20日に開始する。
従来のLLMは、電力消費や運用コストの増大、機密情報の取り扱いにおけるセキュリティリスクといった課題を抱えていた。同社は、軽量かつ日本語処理能力を持つLLMとして2023年に「tsuzumi」を発表している。
今回発表された「tsuzumi 2」では日本語性能が向上し、知識、解析、指示遂行、安全性といった基本的なベンチスコアでそのほかのAIモデルに匹敵している。
また、RAGとFine Tuningにより、企業や業界に特化したモデルの開発効率が向上しており、とくにユーザーからの要望が多かった金融・医療・公共分野の知識が強化されている。
同社内で行われた、RAGによる問い合わせ回答正答率の評価では、先進的なモデルと並んで高いスコアを記録した。
さらに「tsuzumi 2」は、1GPUでも動作可能な軽量モデルでコストパフォーマンスに優れており、低コストでオンプレミスやプライベートクラウドでの運用が行える。加えて、機密性の高い情報を安全に取り扱うことも可能だ。
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
