AWSは11月18日(現地時間)、AWS Lambda Managed Instances(LMI)上で実行するEvent Functionsにおいて、Amazon EC2 GシリーズのGPUインスタンスのサポートを一般提供開始した。機械学習の推論、メディア処理、レンダリング、科学技術計算といったGPUを使うワークロードを、サーバーレスで実行できる。
GPU対応の関数はコンテナ(OCI)イメージとしてデプロイし、プロビジョニングやスケーリング、イベント連携はLambdaが担う。GPUドライバやCUDAバージョンの調整、クラスタの運用は不要で、Amazon S3やAmazon SQSなど200以上のイベントソースから直接起動できる。
学習よりも推論、大規模な基盤モデルよりもカスタムモデルの実行に最適化されている。コンテナイメージは最大32GB、アクセラレータメモリは3〜48GB、実行環境あたりの同時リクエストは最大48に対応し、非同期およびイベントソースマッピングによる呼び出しでは最大90分のタイムアウトを利用できる。
提供開始時点ではG4dn、G5、G6、G6f、Gr6、Gr6f、G6eに対応する。料金は、EC2インスタンス料金に、GPUインスタンスの管理料金9.75%と、100万リクエストあたり0.20ドルのLambdaリクエスト料金が加わる。
- 関連リンク
この記事は参考になりましたか?
- この記事の著者
-
CodeZine編集部(コードジンヘンシュウブ)
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか?
この記事をシェア
