相較于服務器端機器學習 (ML)，設(shè)備端機器學習有其獨特的優(yōu)勢，如支持離線使用、延遲更低、隱私性更高和推理成本更低，因此 Android 中設(shè)備端機器學習的使用迅速增長。

在構(gòu)建基于設(shè)備端 ML 的功能時，Android 開發(fā)者通常有兩種選擇: 要么使用生產(chǎn)就緒型 SDK (包含經(jīng)過預訓練和優(yōu)化的 ML 模型)，例如機器學習套件；要么在需要加強控制時，設(shè)置專屬的自定義 ML 模型和功能。

Android 自定義 ML 堆棧是一組用于在 Android 上部署自定義 ML 功能的基本 API 及服務，我們將為您介紹一些關(guān)于該堆棧的更新。

Google Play 服務中的 TensorFlow Lite 現(xiàn)已成為 Android 的官方 ML 推理引擎

在 2021 年 GoogleI/O 大會上，我們首次宣布在 Google Play 服務中推出早期預覽版的 TensorFlow Lite，作為獨立 TensorFlow Lite 的替代方案。從發(fā)布至今不斷發(fā)展，現(xiàn)在每個月通過數(shù)萬個應用為數(shù)十億用戶提供服務。近期，我們在 Google Play 服務中發(fā)布了 TensorFlow Lite 的穩(wěn)定版本，并且將其打造為 Android 的官方 ML 推理引擎。

在 Google Play 服務中使用 TensorFlow Lite 不僅可讓您縮減二進制文件大小，還能通過自動更新獲得性能提升，來確保您從 Android 自定義 ML 堆棧中輕松集成新 API 和服務，因為這些 API 和服務將在我們的官方推理引擎上進行構(gòu)建。

如果您目前計劃將 TensorFlow Lite 綁定到應用中，請查看文檔進行遷移:

https://www.tensorflow.org/lite/android/play_services

TensorFlow Lite 委托現(xiàn)在可通過 Google Play 服務分發(fā)

我們在幾年前發(fā)布的 GPU 委托和 NNAPI 委托，可以讓您充分利用 GPU、DSP 或 NPU 等專用硬件的處理能力。現(xiàn)在，GPU 和 NNAPI 委托都可以通過 Google Play 服務分發(fā)。

我們也深知部分開發(fā)者希望在高級用例中直接使用自定義委托，因此正積極與硬件合作伙伴協(xié)作，致力于通過 Google Play 服務來擴大對其自定義委托的訪問。

借助 Acceleration Service 選擇最合適的 TensorFlow Lite 委托，在運行時實現(xiàn)最佳性能

在 Android 中，由于硬件差異，為每位用戶確定最佳委托頗為復雜。為幫助您應對這一挑戰(zhàn)，我們正在構(gòu)建新的 API，以便您在運行時為 TensorFlow Lite 模型安全地優(yōu)化硬件加速配置。

我們計劃在明年年初公開發(fā)布 Acceleration Service，現(xiàn)階段用戶可通過申請獲取早期預覽版:

持續(xù)打造 Android 自定義 ML 堆棧

我們致力于為 Android 的高性能自定義設(shè)備端 ML 提供必備資源。

• Google Play 服務中用于高性能設(shè)備端推理的 TensorFlow Lite

• 用于獲取硬件加速的 TensorFlow Lite 委托

我們將于不久后發(fā)布 Acceleration Service，幫助您在運行時選擇最佳委托。

如需閱讀并了解關(guān)于 Android 自定義機器學習堆棧的最新資訊，您可以訪問官方網(wǎng)站:

?