為什么人們需要更低功耗的人工智能?麻省理工學院(MIT)副教授Vivienne Sze此前在接受采訪時表示,人工智能應用正在向智能手機、微型機器人、互聯網連接設備和其他功率和處理能力有限的設備轉移,意味著數據處理不再需要在云端、倉庫服務器機架上進行,從云上卸載計算使我們能夠擴大人工智能的影響范圍,通過減少與遠程服務器通信造成的延遲來加快響應時間。
現在,人工智能的本地化部署有了一個專屬名稱——邊緣智能,也可叫做邊緣人工智能。隨著5G、人工智能和網絡安全三大領域相互滲透,智慧工廠和自動駕駛兩大典型的物聯網應用引發數據爆發式增長,傳統云端處理、邊端執行的模式已經出現明顯的瓶頸,終端硬件搭配AI模型和軟件算法已經是大勢所趨,成為人工智能發展的下一個關鍵階段。
本文我們將重點討論傳統人工智能面臨的挑戰,以及邊緣智能會帶來哪些好處。同時,也會為大家推薦貿澤電子上在售的,適用于部署邊緣智能的元器件,推動產業大升級。
邊緣智能的四大典型優勢
自上世紀50年代人工智能概念被提出以后,產業發展至今經歷了數次的高潮和寒冬。雖然有低谷,但人類對人工智能技術的探索從沒有停止過。2006年至今,我們經歷了人工智能產業新一輪發展大潮,在此過程中,“算力+算法+數據”正式被定義為人工智能產業的三駕馬車,云計算平臺作為算力提供源,大幅提升了人工智能算法模型的體量。
根據前瞻產業研究院的統計數據,從2016年到2020年全球人工智能產業市場規模實現了數倍的增長,從2016年的593億美元快速增長到了2020年的2,335億美元。市場的高速增長不僅給企業帶來巨大的投資回報,同時也賦予社會發展肉眼可見的便利性。
圖1:全球人工智能市場規模
(圖源:前瞻產業研究院)
然而,在電信業務、政府、安防、金融四大傳統人工智能應用領域取得突破之后,全球人工智能發展遇到了新的阻力,發生了巨大的變化。根據市場分析機構IDC的預測,未來人工智能發展不再僅僅是云端集中式,會更加注重落地和實踐,趨向廣泛化、縱向化,打通人工智能技術和廣泛行業的最后一公里。
在這種大趨勢下,傳統人工智能應用框架出現了明顯的技術瓶頸,包括數據瓶頸、泛化瓶頸、能耗瓶頸、預義鴻溝瓶頸、可解釋性瓶頸和可靠性瓶頸等。在這么多瓶頸背后,一個相同的原因是此前的人工智能應用框架里,所有應用都是以云計算為依托,數據都必須返回到云端,給處理效率、信息安全、部署成本帶來了極大的挑戰。
圖2:傳統人工智能應用框架
(圖源:前瞻產業研究院)
隨著人工智能落地到越來越多的細分場景里,完全依賴云計算的人工智能越來越不適應,業界提出的解決方案便是邊緣智能。當然,邊緣智能和傳統的云端智能絕不是替代關系,而是更好的補充。通過下方邊緣計算產業聯盟(ECC)發布的邊緣計算參考架構能夠看出,邊緣智能和云端智能并不割裂,只是應用程序和邊緣端緊密結合。
圖3:邊緣計算參考架構
(圖源:邊緣計算產業聯盟(ECC))
從系統框架來看,邊緣智能方案大致可以分為基礎資源層、虛擬化層、邊緣虛擬服務層,實際上就是云端智能的下沉,一般而言,具體的業務切分由規則引擎來負責。如下圖4所示,當計算資源遷移到邊緣端之后,邊緣智能方案將獨立擁有操作系統以及相關的硬件資源,這也就是為什么我們上面提到,邊緣智能的核心要義是應用程序和邊緣端深度融合。
圖4:基于規則引擎的邊緣智能方案
(圖源:論文《一種基于規則引擎的邊緣計算技術研究及實施方案》)
計算和任務處理直接在邊緣端進行,這讓邊緣智能方案具備四大突出的技術優勢。
實時性好
首先是實時數據處理、提高響應速度。相較于傳統海量數據無差別上云而言,邊緣智能由于更靠近用戶終端裝置,可以加快數據的處理與傳送速度,減少延遲。這種實時性對自動駕駛、工業機器人等應用有重要價值。
帶寬需求小
其次是減少互聯網帶寬依賴。根據IDC的統計數據,2021年,全球創造了82.5ZB的數據,未來五年全球數據規模還將以21.2%的年復合增長率快速發展,到2026年達到216ZB。如果這些數據全部送到云數據中心去處理,那么將會對網絡帶寬造成巨大的傳輸壓力。而邊緣智能以卸載的方式將大部分邊緣端產生的巨量數據及時處理,幫助減輕網絡帶寬的壓力。
功耗低
第三是降低系統功耗。根據工信部數據,2021年中國數據中心耗電量2,166億千瓦時,占社會用電量比例達2.6%,相當于1.3個上海市的總社會用電量。通過云邊結合的方式,數據中心可以更加專注在AI大模型的訓練和運轉,邊緣智能方案極為強調能耗比,將有助于降低整體功耗。
安全性好
最后,邊緣智能能夠更好地保護用戶的數據隱私和數據安全。邊緣智能方案在終端就可以對數據進行清洗、預處理、聚合、篩選等操作,數據不用完全返回云端再做處理,或者最終傳輸到云端的數據為脫敏數據,降低了隱私、機密數據泄露的風險,提升了數據的安全性。
憑借上述這些突出的技術優勢,邊緣智能在智能駕駛、智慧工廠、智慧能源和智能家居等領域應用廣泛,提升了人工智能的應用深度和廣度,豐富了“AI+”的實際應用。當然,想要打造高效穩定的邊緣智能方案,離不開電子元器件的支持。作為全球知名先的電子元器件分銷平臺,貿澤電子銷售的電子元器件遍及各種邊緣智能解決方案,助力打造低碳智能的數字新世界。下面,我們就來為大家推薦幾款具有代表性、可用于邊緣智能的元器件產品。
?
上述內容已經提到,邊緣智能是云端智能的下沉,也就是說將人工智能的模型置于邊緣端。目前,云端配合最理想的方式是:將機器學習的訓練模型放置在云端,通過云端大算力的優勢提升訓練的效率;將機器學習的推理、決策和執行模型放置在邊緣,需要的計算和存儲資源相對較小,保障了部署的靈活性,并降低系統反應的時間。
因此,我們通過Microchip機器學習整體解決方案能夠看到,在邊緣一側,元器件會涉及到更善于終端推理的FPGA,更利于系統集成和部署的MCU/MPU,以及其他幫助工程師打造邊緣機器學習方案的模擬器件和安全器件。目前,Microchip這份完整的機器學習方案已經在貿澤電子全面上線,接下來我們就來系統地看一下這份方案,以及方案里面的具體器件。
圖5:Microchip機器學習整體解決方案
(圖源:Microchip)
綜合而言,Microchip機器學習整體解決方案是一個包括軟件和硬件工具套件、參考設計以及硅平臺的系統方案,非常適合用于需要具有高級性能的簡單易用的應用。也就是說,無論你是AI和機器學習方面的新手,還是尋求高性能、經驗豐富的工程師大牛,都能夠在Microchip機器學習整體解決方案里找到適合自己的軟硬件組合。
在硅器件方面,Microchip廣泛的硅器件產品組合包括MCU、MPU和FPGA。為幫助工程師使用這些器件,Microchip準備了全面豐富的軟件工具包,允許工程師朋友使用流行的ML框架,包括TensorFlow、Keras、Caffe和ONNX涵蓋的許多其他框架,以及TinyML和TensorFlow Lite中的框架。這些豐富的開發套件組合起來,構成了Microchip硅器件背后的開發生態系統。
比如,在使用Microchip的MCU或MPU器件時,MPLAB開發生態系統將與Microchip的開發板以及機器學習設計合作伙伴提供的軟件套件和解決方案無縫集成,提供MPLAB X集成開發環境(IDE)、MPLAB XC C編譯器、MPLAB Data Visualizer等開發工具,顯著提升開發者的開發效率。
在使用Microchip的FPGA器件時,該公司先進的VectorBlox加速器軟件開發套件(SDK)可以讓開發者輕松編程高能效神經網絡。VectorBlox加速器SDK還附帶了基于PolarFire視頻套件構建智能AI相機平臺的說明,讓開發者可以更加方便地評估不同的卷積神經網絡(CNN)。
此外,圍繞豐富的硅器件,Microchip還提供了豐富的評估套件,包括帶有TDK InvenSense 6軸MEMS運動傳感器的SAM D21機器學習評估套件和帶Bosch IMU的SAM D21機器學習評估套件。
通過全面的軟硬件組合,以及Microchip經過驗證的參考設計和經驗豐富的合作伙伴網絡,可以幫助廣大機器學習開發者降低風險、縮短上市時間、降低功耗和應用成本。開發者可以借助這些資源設計各種應用程序,用于數據中心、自動駕駛汽車、安全和監控、電子圍欄、增強和虛擬現實耳機頭顯、無人機、機器人、衛星圖像和通訊中心等領域。
上面我們對Microchip機器學習解決方案進行了全面介紹,接下來我們通過一款具體的方案,看一下Microchip方案在機器學習方面的出色性能。在此,我們為大家展開介紹上面提到的帶有TDK InvenSense 6軸MEMS運動傳感器的SAM D21機器學習評估套件,貿澤電子上該評估套件的物料號為EV18H79A,大家可以通過搜索此物料號,在貿澤電子平臺快速找到這款評估套件,并且通過該評估套件的詳情頁就可以看到我們上述提到的Microchip機器學習整體解決方案。
圖6:EV18H79A
(圖源:貿澤電子)
EV18H79A SAMD21機器學習評估套件基于Arm Cortex-M0+的32位MCU打造,帶有板載調試器(nEDBG)、ATECC608A CryptoAuthentication安全元件IC和完全認證的ATWINC1510 Wi-Fi網絡控制器。作為一款面向機器學習應用的多功能傳感器開發工具,EV18H79A上集成了Microchip MCP9808高精度溫度傳感器、光傳感器以及帶有TDK InvenSense ICM-42688-P、高精度6軸MEMS的附加板,幫助開發者收集數據以訓練和創建機器學習模型。
此外,為了讓開發者更快上手EV18H79A SAMD21機器學習評估套件,Microchip還提供了用戶指南和項目示例,進一步幫助大家縮短開發周期。
?
可用于AIoT應用的ESP-EYE開發板
我們都知道,人工智能和物聯網融合而成的AIoT是邊緣智能典型的應用場景,當然也可以說,邊緣智能是AIoT落地的重要推動技術。那么,接下來我們為大家推薦一款來自制造商Espressif Systems(樂鑫科技)、可用于AIoT場景的ESP-EYE開發板。
圖7:ESP-EYE
(圖源:貿澤電子)
ESP-EYE是專注于AIoT智能物聯網領域的圖像識別與語音處理開發板,板載ESP32系列芯片,集成200萬像素攝像頭、數字麥克風,擁有8MB PSRAM和4MB閃存的豐富存儲,支持Wi-Fi圖像傳輸與MicroUSB調試與供電。基于以上豐富的配置和功能,開發者可以基于ESP-EYE實現語音喚醒、人臉檢測、人臉識別等交互功能,可廣泛應用于智能物聯網領域的應用開發。
同時,為了幫助開發者提升開發效率,Espressif Systems為ESP-EYE準備了全面的用戶指南,讓大家可在Linux、MacOS、Windows操作系統中完成軟件燒寫,并實現上述AIoT相關功能,可協助用戶開發高度集成的AI解決方案。
?
邊緣智能未來發展趨勢
作為傳統云端智能的重要補充和延伸,邊緣智能具有無窮的魅力,是未來人工智能領域發展的重要方向,相關廠商也將以芯片和軟件技術為抓手,積極推動邊緣智能的發展。
面向未來,邊緣智能將呈現四大明顯的發展趨勢。首先是核心芯片集成度更高、算力更強,整體方案更加智能;其次是系統架構更加靈活,更容易開發和部署;第三是邊緣智能方案的能效比將不斷提升,使得更多的AI負載將卸載到邊緣端;最后是邊緣智能的生態將更加成熟,圍繞核心硬件將會有更加豐富的配套工具和開發環境。
而在邊緣智能技術不斷提升的過程中,電子元器件始終都將是整個方案最核心的部分之一,貿澤電子將持續為行業帶來前沿的元器件產品,助力實現更好的邊緣智能方案。
評論
查看更多