Googleは7月9日、Webブラウザ内で直接AIを実行するためのLiteRTのJavaScriptバインディング「LiteRT.js」を発表した。
信頼性の高いオンデバイス推論ライブラリ「LiteRT」をWebに導入することで、MLおよびAIモデルを完全にローカルで実行できる。これによりプライバシー保護やサーバーコストの観点からもメリットを享受できるだけでなく、リアルタイムエクスペリエンスのための超低遅延が実現する。
JavaScriptベースのカーネルに依存していた従来のWeb AIソリューションとは異なり、LiteRT.jsは、すべての最適化を施したネイティブのクロスプラットフォームランタイムをWebAssemblyを通じてWeb開発者に直接提供する。
LiteRT.jsは、 CPU向けのXNNPACK、 GPU向けのML Drift、そして近日公開予定のNPU向けWebNNなど、LiteRTの最先端のハードウェアアクセラレーションを活用して、.tfliteモデルをブラウザで直接実行することで、高いパフォーマンスを発揮する。
今回の初回リリースには、新しいLiteRT.js npmパッケージや、実際の導入例を示すデモ集など、開発を始めるために必要なツール群が含まれている。
詳細はブログポストより確認できる。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
