国立情報学研究所、LLMの研究開発を行う「大規模言語モデル研究開発センター」を開設

　情報・システム研究機構 国立情報学研究所（NII）は、大規模言語モデル（LLM：Large Language Models）の研究開発を行う、「大規模言語モデル研究開発センター」を、4月1日に開設した。

　NIIでは、国内の研究機関だけでなく、民間企業などの幅広い人材が参加するLLM勉強会「LLM-jp」を2023年5月に立ち上げ、オープンな生成AIの研究開発を推進してきたが、文部科学省の「生成AIモデルの透明性・信頼性の確保に向けた研究開発拠点形成」事業を実施する拠点として、研究所内に新たな専門のセンターを設立し、新進気鋭のAI研究者がLLMの研究開発に邁進可能な体制の構築に至っている。

　今回、開設された「大規模言語モデル研究開発センター」では、以下の研究開発を実施する。

• 研究開発用LLM構築
• 透明性・信頼性確保に向けた研究開発
• LLMの高度化に向けた研究開発

　「研究開発用LLM構築」としては、コーパス整備、計算環境整備、評価用ベンチマーク作成などを行うとともに、研究開発用のLLM構築を行う。

　「透明性・信頼性確保に向けた研究開発」としては、生成AIの挙動原理を解明すること、またデータ改変やデータバイアスなどの影響を抑制する技術を開発することで、生成AIの透明性・信頼性を確保する。

　「LLMの高度化に向けた研究開発」としては、ドメイン適応、モデル自体の軽量化といった、生成AIモデルの高度化に資する研究開発を行う。

　さらに、「LLM-jp」における研究開発をさらに発展させ、今夏頃の完成を目指して1750億パラメータ（GPT-3級）のLLMを構築するとともに、LLMの透明性・信頼性の確保に向けた先端的な研究開発といった、オープンかつ日本語に強い大規模モデルの構築に関連する研究開発を推進していく。