NTTは7月9日、特化型AIの基盤モデル変更に伴う再学習を不要にする新たな学習の取り組みとして「ポータブルチューニング」技術を確立したと発表した。
近年の特化モデルは、高性能かつ多様なAI基盤モデルをベースに、個別のデータセットでチューニングを行って高精度化することが一般的になっている。
一方、基盤モデルは知識の最新化等で定期的に更新されるため、合わせて特化モデルを追随させるための再学習が必要となり、その計算コストや人的コストが課題になっている。
コストを抜本的に削減するためのアプローチとして、既存の学習結果を様々な基盤モデルに転移させる「学習転移」があるが、実用上は高い精度を達成するため追加学習が必要になるなど課題があった。
そこで今回の研究では、学習転移に適した新たな学習の枠組みとして「ポータブルチューニング」を導出した。

この枠組みは従来と異なり、基盤モデルから独立した「報酬モデル」を導入している。報酬モデルを特化学習することで、基盤モデルの更新があっても追加学習は不要になる。
同技術によって、特化モデルの再学習コスト削減は勿論、再学習を行った場合に期待される効果を事前にシミュレーションするといった応用も想定される。
この記事は参考になりましたか?
- この記事の著者
-
CodeZine編集部(コードジンヘンシュウブ)
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です