米Google Cloudは、Cloud Tensor Processing Unit(TPU)プラットフォームにおいて11月9日(現地時間)に、「Cloud TPU v5e」が前世代である「Cloud TPU v4」と比較して、プライスパフォーマンスが2.3倍向上したこと、および「Cloud TPU v5e」の一般提供を発表した。
Cloud TPU v5eとCloud TPU v4のMLPerf Training 3.1ベンチマークにおけるプライスパフォーマンス比較は、9月にMLPerf Inference 3.1ベンチマークを用いて行われた、LLM推論におけるCloud TPU v4との比較をベースにしている。プライスパフォーマンスの向上によって、より少ない費用でモデルの精度を向上し続けられる。
また、Cloud TPU v5eの一般提供によって、単一ホスト推論およびマルチスライストレーニングテクノロジにもCloud TPUを利用可能になり、コスト効率、スケーラビリティ、多用途性がもたらされ、トレーニングと推論の両ワークロードにCloud TPUプラットフォームを使用できるようになった。
この記事は参考になりましたか?
- この記事の著者
-
CodeZine編集部(コードジンヘンシュウブ)
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です