Microsoftは、6月3日、Microsoft Foundryにおけるマネージドコンピューティング機能「Foundry Managed Compute」を発表した。
これは、仮想マシンやKubernetesなどの運用の負担なく、柔軟なGPU容量でオープンソースのAIモデルをカスタマイズして提供できるマネージドプラットフォーム。
オープンモデルを本番環境で実行する際には、GPU VMの調達、Kubernetesのセットアップと運用、ネットワークと認証の設定など、煩雑なスタックの構築が必要だった。Foundry Managed Computeはこの手間を解消し、開発者がインフラストラクチャではなくモデルの開発に集中できるようにサポートする。
Foundry Managed Computeは、Hugging Faceのパートナーシップにより数千ものオープンソースモデルにアクセス可能。教師ありファインチューニングや強化学習でモデルをカスタマイズしたり、別の場所でトレーニングしたモデルの重みを安全にデプロイしたりできる。
Foundryには3種類のデプロイが用意されていて、Foundry Managed Computeはその一つ。Foundryで管理されるランタイム、プライベートネットワーク、および他のデプロイの種類と同じSDKを使用して、専用GPUでオープンソースモデルをホストする。
開発者は、モデル、デプロイメントテンプレート、アクセラレータファミリー（A100、H100、MI300X）の3つを選択するだけで、Foundryが適切な数のGPUをプロビジョニングしてくれる。
Foundry Managed Computeは現在プレビューリリースとなっており、アクセスには専用ページからサインアップが必要。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
