作者 / Android 機器學習平臺團隊
相較于服務器端機器學習 (ML),設備端機器學習有其獨特的優勢,如支持離線使用、延遲更低、隱私性更高和推理成本更低,因此 Android 中設備端機器學習的使用迅速增長。
在構建基于設備端 ML 的功能時,Android 開發者通常有兩種選擇: 要么使用生產就緒型 SDK (包含經過預訓練和優化的 ML 模型),例如機器學習套件;要么在需要加強控制時,設置專屬的自定義 ML 模型和功能。
Android 自定義 ML 堆棧是一組用于在 Android 上部署自定義 ML 功能的基本 API 及服務,我們將為您介紹一些關于該堆棧的更新。
Google Play 服務中的 TensorFlow Lite 現已成為 Android 的官方 ML 推理引擎
在 2021 年 GoogleI/O 大會上,我們首次宣布在 Google Play 服務中推出早期預覽版的 TensorFlow Lite,作為獨立 TensorFlow Lite 的替代方案。從發布至今不斷發展,現在每個月通過數萬個應用為數十億用戶提供服務。近期,我們在 Google Play 服務中發布了 TensorFlow Lite 的穩定版本,并且將其打造為 Android 的官方 ML 推理引擎。
在 Google Play 服務中使用 TensorFlow Lite 不僅可讓您縮減二進制文件大小,還能通過自動更新獲得性能提升,來確保您從 Android 自定義 ML 堆棧中輕松集成新 API 和服務,因為這些 API 和服務將在我們的官方推理引擎上進行構建。
如果您目前計劃將 TensorFlow Lite 綁定到應用中,請查看文檔進行遷移:
https://www.tensorflow.org/lite/android/play_services
TensorFlow Lite 委托現在可通過 Google Play 服務分發
我們在幾年前發布的 GPU 委托和 NNAPI 委托,可以讓您充分利用 GPU、DSP 或 NPU 等專用硬件的處理能力。現在,GPU 和 NNAPI 委托都可以通過 Google Play 服務分發。
我們也深知部分開發者希望在高級用例中直接使用自定義委托,因此正積極與硬件合作伙伴協作,致力于通過 Google Play 服務來擴大對其自定義委托的訪問。
借助 Acceleration Service 選擇最合適的 TensorFlow Lite 委托,在運行時實現最佳性能
在 Android 中,由于硬件差異,為每位用戶確定最佳委托頗為復雜。為幫助您應對這一挑戰,我們正在構建新的 API,以便您在運行時為 TensorFlow Lite 模型安全地優化硬件加速配置。
我們計劃在明年年初公開發布 Acceleration Service,現階段用戶可通過申請獲取早期預覽版:
https://developer.android.google.cn/ml/early-access
持續打造 Android 自定義 ML 堆棧
我們致力于為 Android 的高性能自定義設備端 ML 提供必備資源。
概括而言,Android 的自定義 ML 堆棧目前包括以下內容:
-
Google Play 服務中用于高性能設備端推理的 TensorFlow Lite
-
用于獲取硬件加速的 TensorFlow Lite 委托
我們將于不久后發布 Acceleration Service,幫助您在運行時選擇最佳委托。
如需閱讀并了解關于 Android 自定義機器學習堆棧的最新資訊,您可以訪問官方網站:
https://developer.android.google.cn/ml歡迎您持續關注我們,及時了解更多開發技術和產品更新等資訊動態。
?點擊屏末|閱讀原文|即刻了解 Android 自定義機器學習堆棧的最新資訊
原文標題:最新進展 | Android 自定義機器學習堆棧
文章出處:【微信公眾號:谷歌開發者】歡迎添加關注!文章轉載請注明出處。
-
谷歌
+關注
關注
27文章
6142瀏覽量
105115
原文標題:最新進展 | Android 自定義機器學習堆棧
文章出處:【微信號:Google_Developers,微信公眾號:谷歌開發者】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論