Google DeepMindは、6月3日、最新モデルである「Gemma 4 12B」を発表した。
本モデルは、1億5000万ダウンロードを超えるGemma 4ファミリーの一つで、
エージェント型マルチモーダルインテリジェンスをノートパソコンに直接搭載するために設計された。エッジコンピューティングに対応したE4Bと、より高度な26B Mixture of Experts(MoE)の中間に位置づけられる。
マルチモーダルエンコーダが不要で、画像と音声の入力はLLMバックボーンに直接送られるという斬新な統合アーキテクチャを採用。16GBのVRAMや統合メモリだけでローカルで動作する小型サイズである点が大きな特徴だ。レイテンシを低減するマルチトークン予測(MTP)ドラフト機能も搭載されている。
この音声入力と視覚入力を直接統合する独自のアーキテクチャによって、標準的なベンチマークにおいて大型の26B MoEモデルに匹敵するパフォーマンスを発揮しながら、メモリ使用量は半分以下に抑えられている。
詳細はブログポストを参照のこと。
- 関連リンク
この記事は参考になりましたか?
- この記事の著者
-
CodeZine編集部(コードジンヘンシュウブ)
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
