Android MLプラットフォームによって、Android向けにデバイス組み込みの推論バイナリが提供され、アプリのapkサイズを減らせるほか、デバイス性能に応じたパフォーマンスが自動設定される。また、Google Playを通じて定期的に更新されるので、Androidのリリースサイクル外で利用できる。
Android MLプラットフォームの中核を成す「TensorFlow Lite for Android」は、モデル内のメタデータを使用してハードウェアアクセラレーションを自動的に有効にし、それぞれのAndroidデバイスにおいて可能な限り最高のパフォーマンスを実現する。
モデルごとのテストによって、パフォーマンス、精度、安定性を考慮して特定のデバイスの許可リストを作成可能で、許可リストは実行時にハードウェアアクセラレーションをオンにするタイミングを決定するために用いられる。なお、許可リストによるアクセラレーションは、2021年後半に利用できるようになる。
TensorFlow Lite for Androidは現在、開発者向けの早期アクセスが提供されている。