米Googleは、機械学習ライブラリの最新版「TensorFlow 2.4」を、12月14日(現地時間)にリリースした。
「TensorFlow 2.4」では、tf.distributeモジュールにおいて、ParameterServerStrategyとカスタムトレーニングループを使用した、モデルの非同期トレーニングを実験的にサポートする。パラメータサーバトレーニングクラスタは、ワーカーとパラメータサーバで構成され、変数はパラメータサーバ上に作成され、各ステップでワーカーによる読み取り・更新が、同期なしでワーカー間で独立して行われる。
なお、今バージョンから、同期データ並列処理を使用した分散トレーニングを実装するMultiWorkerMirroredStrategyと、Keras mixed precision APIが安定版となった。
そのほか、任意のオプティマイザで動作するトレーニングコードを記述できるtf.keras.optimizers.Optimizerにおけるリファクタリング、NumPy APIの実験的なサポート(tf.experimental.numpy)、プロファイラにおけるマルチワーカーのサポート、AndroidのTFLite内部をトレースしてパフォーマンスのボトルネックを特定可能なTFLiteプロファイラが追加され、CUDA 11およびcuDNN 8をサポートしている。
- 関連リンク
この記事は参考になりましたか?
- この記事の著者
-
CodeZine編集部(コードジンヘンシュウブ)
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です