NVIDIAは、KubernetesネイティブのGPUリソースを効率的に活用するためのスケジューラー「KAI Scheduler」をオープンソース化し提供することを明らかにした。
KAI Schedulerはもともと、GPUのリソースを効率的に活用するプラットフォームである「Run:ai」のスケジューラー機能として開発された。
これは変動するGPU需要に対応し、AIツールとフレームワークをシームレスに接続するのに役立つ。
フェアシェア値を継続的に再計算し、クォータとリミットをリアルタイムで調整することによって、自動で効率的にGPU割り当てを実現する。
また、従来さまざまなAIツールやフレームワークを結びつけるには複雑な作業が発生しがちだった。KAI Schedulerは、ツールやフレームワークを自動的に検出して接続する組み込みのpodgrouperを搭載することで、構成の複雑さを軽減し開発を加速する。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
