ネットワーク経由でCloud TPUにリモートアクセスする代わりに、Cloud TPU VMを使用することによって、それぞれのTPUホストマシンに独自のインタラクティブな開発環境を設定可能となり、単一のTPU VMを使用して機械学習モデルを1行ずつ記述してデバッグし、それをCloud TPU Podスライスでスケールアップして、超高速なTPU相互接続を利用できる。
作成するすべてのTPU VMに対するルートアクセス権が提供されるため、TPUアクセラレータとのタイトなループ内で、必要なコードをインストールして実行可能となるほか、ローカルストレージを使用して、入力パイプラインでカスタムコードを実行し、Cloud TPUを研究や本番のワークフローと簡単に統合できるようになる。
Cloud TPUとTensorFlow、PyTorch、JAXとの統合に加えて、VM上でlibtpu共有ライブラリを介して、独自の統合作成も可能になっている。
Cloud TPU VMは、us-central1リージョンとeurope-west4リージョンでプレビュー提供が開始されており、単一のCloud TPUデバイスとCloud TPU Podスライスを使えるほか、TPU v2またはTPU v3アクセラレータハードウェアを選べる。TPUホストマシンごとに1時間あたり1.35米ドルで、プリエンプティブルサービスを利用できる。