Google Cloudが第7世代TPU「Ironwood」を発表、推論性能はチップあたり4倍以上向上

　Google Cloudは11月7日、第7世代Tensor Processing Unit（TPU）「Ironwood」の一般提供開始と、Arm NeoverseベースのCPU「Axion」を採用した新仮想マシン群の発表を行った。これらは、AI推論時代に対応するためのシステム拡充だ。

　Ironwoodは、大規模モデルのトレーニングや強化学習から、低レイテンシなAI推論まで対応できるよう最適化された新世代のTPU。多数のアクセラレータを単一の巨大なクラスターとして統合するスーパーポッド構成や、高帯域HBM共有メモリによる超高速アクセスにより、大規模な計算環境を実現している。今回の第7世代は、第5世代比でチップあたり10倍、第6世代比でもトレーニングや推論の性能がチップあたり4倍以上向上した。

　また同時に、AI向けハードウェアと連携する仮想マシン「Axion N4A」およびベアメタル版「C4A metal」も発表された。N4Aは同等のx86 VMと比べて最大2倍の価格性能を実現し、高度なマルチサービスやデータ分析、AIアプリケーション用途に適している。C4A metalはAndroid開発など特殊ワークロードに特化した物理サーバーを提供するものだ。

　同社はIronwoodについて今後数週間以内に一般提供を開始する予定としている。また、N4A、C4A metalについてもプレビュー版を提供中または近日中に提供開始予定だ。