初めてのAI開発の導入に役立つGPU「NVIDIA DGX Spark」とは?
──DGX Sparkはこれまで出てきた課題の解決になるとのことですが、まずは概要や特徴を教えてください。
高橋:DGX Sparkはローカル環境でAI開発するニーズに応えるべく、新たにNVIDIAが開発した製品です。GB10 Grace Blackwellスーパーチップという弊社が開発しているCPU・GPUを搭載したシステムです。
AIモデルを扱う時、大きなモデルがメモリに乗りきらないというケースがあります。その点、DGX Sparkは128GBユニファイドメモリを搭載しており、より大きなAIモデル、より多くのパラメーター数を扱うことができます。さらに、2台を連結させてクラスタリングできるよう、ConnectX-7ネットワークを搭載しています。加えて、DGX OSやNVIDIA AIソフトウェアスタックを搭載しているため開発環境をスケールさせることにも役立ちます。
なおDGX Sparkは普通のPCのようにディスプレイやマウス・キーボードを接続してスタンドアロンで使用することも可能ですし、ネットワークに接続してPCやワークステーションのプライベートAIクラウドのような形で使うことも可能です。
──DGX OSやAIソフトウェアスタックについてもう少し詳しく教えてください。
高橋:DGX OSはLinux(Ubuntu)ベースのOSで、NVIDIAが提供するフレームワークはもちろん、サードパーティー提供のフレームワークもお使いいただけます。DGX Station、DGX Cloudなどでも使われていますので、DGX SparkとDGXシリーズの製品間でワークロードをシームレスに移動することができます。

AIソフトウェアスタックですが、例えばAI WorkbenchはAI開発プロジェクトで開発、管理、展開を統合的に使えるツールです。またNIM(NVIDIA Inference Microservices)は、AIモデルをデプロイするためのマイクロサービス群です。
DGX Sparkだけではなく、今後リリースされる予定のNVIDIA製品も含めて、DGXシリーズの製品と同じ環境(OS)で開発を進めていけるのが特徴です。
──2台接続できるとのことですが、どんな時に必要になるのでしょうか?
高橋:DGX Sparkは基本的には1人のユーザーで使うことを想定した設計になっています。1台では足りない場合に2台接続して使います。足りないというのは、モデルサイズが大きくてメモリが足りないケースです。
また、DGX Sparkは128GBのユニファイドメモリがあり(OSやツール領域を除くと約100GBほど)、FP4データフォーマットで2000億パラメーターくらいのAIモデルが使えます。これでも足りなければ、2台接続して4000億パラメーターくらいを扱えます。

──DGX Sparkでエンジニアの世界はどう変わるでしょうか?
高橋:これまですぐ手元で試すことができずにAI開発に遅れを生じさせていたのであれば、DGX Sparkでより迅速にトライアルを回すことができます。開発スピードを加速させ、成果物の品質をより向上させることができると考えています。