電子發燒友網報道(文/周凱揚)如今各行各業似乎都傍上了AI,物聯網也不例外。但AIoT的進程也已經開啟了好幾年,除了智能音箱、智能機器人這樣的產品以外,似乎也沒有冒出任何爆款,反倒是手機憑借著龐大的應用生態,Killer App頻出。可無論是芯片原廠,還是下游廠商仍在不遺余力地宣傳AI功能,這讓人百思不得其解了,物聯網真的抱穩了AI這條大腿嗎?我們不妨從物聯網上實現AI的幾種方式來分析一下。
AIoT芯片
隨著邊緣端對AI需求的增加,其實不少廠商在不改變芯片架構的情況下,也為邊緣AI開發提供了一系列工具。就拿意法半導體為例,他們旗下的STM32產品就全部兼容NanoEdge生態,支持生成異常檢測、異常值檢測、分類和回歸四種ML庫,可以完成常見的能源管理和壽命預測等工作。至于對性能要求更高的深度學習應用,就得用到他們的STM32Cube.AI了,對MCU的要求也提升至Cortex-M33以上的內核。這種方式對于芯片原廠來說,無需對設計做出大改,也有助于建立起自己的AI開發工具鏈生態,還可以針對不同芯片的性能進行調整。EFR32MG24無線SoC / Silicon Labs也有的廠商開始在芯片上添加AI加速單元,比如Silicon Labs的BG24和MG24兩個SoC,就加入了AI/ML硬件加速器,為Cortex-M33卸載處理機器學習算法的工作。從其規格書上來看,該加速器是一個矩陣矢量處理器,所以更適合用于密集的矩陣浮點乘加運算,比如BG24這種藍牙無線SoC,就可以更輕松地完成藍牙AoA的室內定位工作。這種方案與當下數據中心、HPC市場的做法并無二致,對于AI/ML這種專用性極強的負載來說,確實不該拿來拖累通用計算的性能,而且這一思路也考慮到了對不同AI框架的兼容性。未來很有可能會出現更多的異構方案,比如在集成Arm NPU的同時,加入各種硬件加速器內核。但無論是在原有芯片基礎上加入AI算法,還是集成AI加速器,除了存在建立生態系統的挑戰外,也都會帶來不可忽視的功耗增加,這對于一些持續供電的IoT產品的影響可以忽略,但對于可穿戴產品來說無疑意味著續航的降低。像蘋果的一系列產品就秉承著類似的設計,諸如Airpods、Apple Watch都是在以功能性作為最高優先級,續航普遍不高。當然了,這里提到的引入AI降低續航都是以IoT產品的功能性和高品質服務作為優先,畢竟如果你從功耗上發力AI功能的話,還是能大大改善續航的。就拿華為的智能音箱Sound Joy為例,在藍牙模式下播放音樂就更加省電,但若是切換成支持語音控制的智能模式后,續航就會變短,所以華為也利用了動態調壓節能的算法進一步提升續航。因此對于這類功能繁多的IoT產品來說,如何利用AI來完成功能的開關和功耗調整,才是未來增加續航的大方向。
輕量級AI框架
不僅是芯片廠商,AI框架的開發者們也注意到了IoT龐大的邊緣AI市場,紛紛在推出輕量化或可擴展性強的框架,比如TensorFlow Lite、Caffe2等。這類框架可以在內存極小的設備上運行ML模型,也不需要任何操作系統、庫的支持。由于走了輕量化的路線,所以與工作站或數據中心這種場景跑的AI框架還是存在差異的,但也足以完成常見的對象檢測、手勢識別、超分辨率等工作,TinyML已經成了每個物聯網公司研究的方向。TensorFlow Lite支持的部分示例應用 / Google而且這些框架的開發者也會預先給到優化后的模型,同時還能根據部署場景,完成不同模型之間的轉換,比如將Tensorflow轉換成TensorFlow Lite、TensorFlow Lite Micro部署在移動端或邊緣端等等。雖然這類輕量級模型已經解決了運行的問題,但后續的重新訓練、優化還是需要廠商自己去完成的。至于性能上的差異,不同的芯片之間勢必會存在偏差,比如手機上運行這些AI模型肯定會比尋常的嵌入式設備要快得多。好在大部分這些輕量化AI框架都是開源的,所以廠商也得以對其做出專門的優化,并對現有的一些流行的AI模型進行移植,同時也能在這個過程中打造其專有框架和工具鏈,做好差異化。這些輕量化AI框架面臨的挑戰也不是沒有,比如支持數據類型少、不支持模型訓練等,也都是限制了它們產出爆款應用的因素。
傳感器AI
大家都知道,一旦將數據處理盡可能放在靠前的流程中,不僅能降低功耗和延遲,也能極大地提升AI運算的效率,省去交給云端處理這一繁瑣的步驟。在大部分IoT場景中,數據傳輸流程的頭部往往都是傳感器,所以無論是何種傳感器,制造商們都開始探討集成AI的方案。ISPU傳感器 / 意法半導體比如,意法半導體就推出內嵌智能傳感器處理單元(ISPU)的MEMS傳感器,直接將AI處理單元集成在傳感器上,打造一個智能傳感器。這樣的傳感器本身定制化程度也高,可直接對ISPU進行C語言編程,也支持運行多個AI算法。更重要的是,這類將AI集成在傳感器方案顯著降低了功耗,在計算完成后才將有效的數據傳給待機狀態的MCU處理,真正實現了在MCU之前的數據智能處理。而且這種傳感器的設計也可以用上哈佛架構,甚至可以直接進行模擬運算,再轉換成數字信號,實現更高的效率,最后再讓馮諾依曼架構的CPU來完成工作。
寫在最后
我們自然也不能忽視掉在云端進行AI處理的方案,固然這是一種將性能放大到極致的路線。可如果將未經處理的數據一股腦交給云端處理的話,徒增上云成本不說,延遲也會大大增加;全部交給端測來完成AI計算的話,功耗續航都得做出讓步,甚至還是難以跑出可觀的性能。這也就是為何亞馬遜、阿里巴巴等廠商紛紛部署IoT的邊緣計算的原因,即便邊緣端接手了主要的AI計算工作,卻依然可以將數據交給云端進行管理、存儲和分析,而且這不一定是一個實時連接的過程,只需間歇性的同步也能完成任務。更何況功能、固件升級這樣的任務主要還是交給云端來實現的,在有效的分析和訓練下,云端可以將優化過后的模型傳給邊緣端。所以由此看來,物聯網要想真正跨入AI時代,端云協同才是最佳方案。
聲明:本文由電子發燒友原創,轉載請注明以上來源。如需入群交流,請添加微信elecfans999,投稿爆料采訪需求,請發郵箱huangjingjing@elecfans.com。
更多熱點文章閱讀
- 車載大屏產業鏈分析,主要玩家都有誰?
- 谷歌3D全息電話亭,顛覆現有視頻通話!宛如真人面對面
- 富士康Model B/V正式發布,ALL IN電動車代工,全產業鏈布局格局顯現
- 半導體TOP 10廠商股價集體腰斬,臺積電再傳危機信號
- 2026年交付!索尼造車終于塵埃落定,本田成代工廠
原文標題:談談物聯網抱穩的AI大腿
文章出處:【微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
物聯網
+關注
關注
2903文章
44293瀏覽量
371369 -
AI
+關注
關注
87文章
30200瀏覽量
268447
原文標題:談談物聯網抱穩的AI大腿
文章出處:【微信號:elecfans,微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
AI嵌入式蜂窩模塊將主導物聯網市場
據知名市場調查機構Counterpoint Research最新發布的報告,AI嵌入式蜂窩模塊在物聯網領域的應用正迎來爆發式增長。該報告預測,到2030年,AI嵌入式蜂窩模塊將占據
什么是物聯網技術?
什么是物聯網技術?
物聯網技術(Internet of Things, IoT)是一種通過信息傳感設備,按約定的協議,將任何物體與網絡相連接,實現智能化識別、定位、跟蹤、監管等功能的
發表于 08-19 14:08
梯云物聯|AI提高物聯網感知能力:讓電梯更智能、安全!
在當今日新月異的科技浪潮中,人工智能(AI)與物聯網(IoT)的深度融合正在為各行各業帶來革命性的變化。特別是在電梯行業中,AI技術的引入不僅極大地提升了
4G物聯網開關求助
阿里云物聯網平臺 合宙模塊780E 724 或者移遠4G模塊開發一款物聯網開關,有的APP ,可以直接做固件或者固件帶硬件。有可以做的大師可以聯系我有樣品參考
發表于 05-19 15:28
梯云物聯:電梯物聯網如何又快穩的發展?這5關鍵要素不可忽視!
隨著物聯網技術的飛速發展,電梯物聯網作為智能化時代的產物,正逐漸展現出其巨大的潛力和價值。電梯物聯網
電梯物聯網AI攝像頭:物聯網時代下的智能安全新篇章與技術發展|梯云物聯
在物聯網技術如日方升的今天,電梯物聯網AI攝像頭正成為智能安全領域的一顆璀璨明珠。隨著技術的不斷發展,它以其獨特的智能化、高效化特點,為電梯
NanoEdge AI的技術原理、應用場景及優勢
NanoEdge AI 是一種基于邊緣計算的人工智能技術,旨在將人工智能算法應用于物聯網(IoT)設備和傳感器。這種技術的核心思想是將數據處理和分析從云端轉移到設備本身,從而減少數據傳輸延遲、降低
發表于 03-12 08:09
生成式AI在物聯網的行業應用及機遇
“生成式AI將給物聯網帶來極大的機遇。”Yasser Alsaied表示,“客戶要想構建一個物聯網解決方案,需要涉及網關、攝像頭、傳感器、軟
發表于 12-19 14:27
?401次閱讀
評論