Liquid AIは2026年8月20日（現地時間）、大規模言語モデルLFM2.5ファミリーに対応した「DSpark」ドラフトモデルのチェックポイントを公開した。対象は「LFM2.5-1.2B-Instruct」「LFM2.5-2.6B」「LFM2.5-8B-A1B」の3種類であり、出力品質を変えずに推論速度を大幅に向上させることが特徴だ。
DSparkはスペキュレーティブデコーディング手法を採用しており、軽量なドラフトモデルが候補トークンを生成し、ターゲットモデルがそれらすべてを1回のフォワードパスで検証する。この手法により、従来はメモリ帯域がボトルネックとなっていた推論のデコード処理が最適化される。ベンチマークではGPU（NVIDIA H100）上で最大3.18倍、Apple M4 Max搭載MacBook Proのオンデバイスで最大2.87倍のスループット向上が確認された。
またDSparkモデルは、「llama.cpp」および「SGLang」に初日から対応しており、LFM2.5ターゲットモデルとの統合もオープンソースとして提供される。さらなる特徴として、LFM2.5-2.6Bでは関数呼び出し時のレイテンシが平均57％短縮され、エッジデバイスでも高いインタラクティビティが期待できる。
本ドラフトモデルは、約3億パラメータのシンプルなアテンション層とマルコフヘッドで構成されている。各モデルのチェックポイントはHugging FaceでsafetensorsとGGUF形式で利用可能で、llama.cppやSGLang環境で簡単に利用可能となっている。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
