Googleは6月10日（現地時間）、DiffusionGemmaをオープンな実験的モデルとしてApache 2.0ライセンスの下で公開した。
DiffusionGemmaは、従来の自己回帰型LLMがトークンを逐次処理するのに対し、テキスト全体のブロックを並列で生成することで、GPU上で最大4倍速い推論を実現する。モデル規模は26B Mixture of Experts構造で、推論時には3.8Bパラメータのみをアクティブ化することで、高性能な家庭用GPUでも18GB VRAMで処理が可能となっている。
さらに、256トークン同時生成が可能な双方向アテンションや、モデル自身による逐次的なアウトプット修正機能が搭載され、インライン編集や非線形テキスト構造生成・コード補完など高速かつ対話的なワークフローに適している。一方で品質面では従来のGemma 4より劣るため、品質重視の場合はGemma 4の利用が推奨されている。
同モデルは、Hugging Face等からモデルに適用される重み付けのダウンロードが可能で、MLX、vLLM、Hugging Face Transformersなど各種開発ツールに対応。NVIDIAのRTX 4090や5090など消費者向けGPUおよびエンタープライズ向けハードウェアに最適化されている。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
