在云計算接手了大部分計算任務的當下,邊緣計算也在萌芽。與計算資源和服務都放在數據中心的云計算相比,如果在算力和延遲得以保證的情況下,邊緣端的計算反而能給用戶帶來更好的體驗。為此,一眾半導體公司開始探索邊緣計算芯片,為AI/ML等技術提供邊緣端的計算助力。
谷歌Edge TPU
Edge TPU / 谷歌
Edge TPU是谷歌專為邊緣推理打造的ASIC芯片,這也是谷歌除了Cloud TPU和Google Cloud兩大云端產品外,主打邊緣計算的產品。在隱私/機密以及低延遲、小帶寬等因素的限制下,不少應用并不適合上云,所以為邊緣端提供AI推理計算就成了解決需求的思路。而Edge TPU的大小甚至不及一個硬幣,無疑可以用于廣泛的AI邊緣部署。
Coral加速器模組 / 谷歌
谷歌更是搭建了一個本地AI平臺Coral,提供一系列硬件、軟件工具和預編譯的模型,幫助開發者構建具備本地AI能力的設備。以Coral加速器模組為例,這是一個MCM模組,可以用于高速推理機器學習模型。該模組內置了Edge TPU ML加速器,并集成了電源管理,支持PCIe 2.0x1或USB 2.0的接口,INT8精度下的最高算力可達4 Tops,功耗達到2W。最重要的是其大小只有15x10x1.5mm。
此外,谷歌已經開始在手機芯片Tensor中集成TPU,而Tensor中的TPU已經達到了5W的功耗。考慮到谷歌除了手機以外,已經開始進軍智能穿戴和智能家居等一系列物聯網市場,在谷歌自己的AI生態下,想必也會進一步擴展Edge TPU的性能表現。
九天睿芯 ADA200
考慮到馮諾依曼架構在功耗與速度上的劣勢,現在不少半導體公司都開始探索存算一體的全新架構。九天睿芯也是其中一個參與者,其ADA系列芯片甚至加入了感知這一維度,做到了模擬感知前處理+模數混合存內計算的感存算一體架構,直接在內存中進行混合信號計算。
ADA100 / 九天睿芯
根據九天睿芯官網的描述,ADA100系列是主打超低功耗低算力的傳感器處理芯片,等效算力達到1Gops,最低功耗只有20μW,與其他數字芯片相比可以說是降維打擊了,適用于可穿戴等AIoT設備。ADA100已于去年11月量產,將于今年批量出貨。
ADA200 / 九天睿芯
而ADA200系列則是九天睿芯主打的中低算力芯片,其算力范圍在1到2 Tops之間,可以用于低功耗無線攝像頭、AR/VR和手機平板這類對算力要求更高一截的場景,該芯片預計今年年底量產。
AIStorm Mantis
在AI掀起的潮流下,不少廠商打上了傳感器的主意。這點在TWS耳機、智能眼鏡等小型智能化設備中尤為明顯,畢竟如果在CMOS圖像傳感器或MEMS音頻傳感器上提供足夠的邊緣算力,就可以省去集成各類AI加速器的煩惱。
比如在傳統的CMOS圖像傳感器方案中,像素陣列傳輸給源極跟隨器,在經過ADC、ISP和MIPI SerDes,將其輸出給數字AI,再經過MCU、GPU、DSP或FPGA的處理才能生成事件,如此數字化的過程使得延遲、功耗和成本都高出了一截。
Mantis AIS SoC / AIStorm
為了解決這個問題,初創企業AIStorm的解決方案就是將AI集成到傳感器中。以他們的Mantis AIS SoC為例,該方案可將傳感器變為一個模擬電荷域AI的輸入層,Mantis直接接受傳感器數據而無需數字化,再用ANN網絡中的模擬神經元完成乘加等運算,最終生成一個決定輸出。
Mantis用不到多先進的工藝,現有的產品只用到了高塔半導體的180nm節點和Dongbu的90nm節點,卻依然可以在始終開啟的情況下做到15 μW的功耗。雖然Mantis圖像傳感器只有96x96的像素分辨率,但這對于某些小型化應用來說已經足夠,何況AIStorm面向的市場也僅僅只是簡單低成本的物聯網設備。此外,AIStorm也在開發支持QVGA和全高清分辨率的升級版本。
去年AIStorm也宣布與樓氏電子達成合作,一同開發低功耗高性能的音頻解決方案,直接為模擬域接收音頻數據,讓TWS之類的小型音頻設備在極低功率水平下也能完成AI降噪、算法聲音增強等高級信號處理任務。
小結
從以上這些邊緣計算芯片可以看出,傳統的架構在邊緣端已經不再是主流。無論是延遲敏感還是高算力要求的應用,都在推進邊緣計算芯片在架構上做出創新。在這些芯片賦能的多接入邊緣計算下,邊緣計算將為云端計算分擔一部分任務,更好地服務終端用戶。
谷歌Edge TPU
Edge TPU / 谷歌
Edge TPU是谷歌專為邊緣推理打造的ASIC芯片,這也是谷歌除了Cloud TPU和Google Cloud兩大云端產品外,主打邊緣計算的產品。在隱私/機密以及低延遲、小帶寬等因素的限制下,不少應用并不適合上云,所以為邊緣端提供AI推理計算就成了解決需求的思路。而Edge TPU的大小甚至不及一個硬幣,無疑可以用于廣泛的AI邊緣部署。
Coral加速器模組 / 谷歌
谷歌更是搭建了一個本地AI平臺Coral,提供一系列硬件、軟件工具和預編譯的模型,幫助開發者構建具備本地AI能力的設備。以Coral加速器模組為例,這是一個MCM模組,可以用于高速推理機器學習模型。該模組內置了Edge TPU ML加速器,并集成了電源管理,支持PCIe 2.0x1或USB 2.0的接口,INT8精度下的最高算力可達4 Tops,功耗達到2W。最重要的是其大小只有15x10x1.5mm。
此外,谷歌已經開始在手機芯片Tensor中集成TPU,而Tensor中的TPU已經達到了5W的功耗。考慮到谷歌除了手機以外,已經開始進軍智能穿戴和智能家居等一系列物聯網市場,在谷歌自己的AI生態下,想必也會進一步擴展Edge TPU的性能表現。
九天睿芯 ADA200
考慮到馮諾依曼架構在功耗與速度上的劣勢,現在不少半導體公司都開始探索存算一體的全新架構。九天睿芯也是其中一個參與者,其ADA系列芯片甚至加入了感知這一維度,做到了模擬感知前處理+模數混合存內計算的感存算一體架構,直接在內存中進行混合信號計算。
ADA100 / 九天睿芯
根據九天睿芯官網的描述,ADA100系列是主打超低功耗低算力的傳感器處理芯片,等效算力達到1Gops,最低功耗只有20μW,與其他數字芯片相比可以說是降維打擊了,適用于可穿戴等AIoT設備。ADA100已于去年11月量產,將于今年批量出貨。
ADA200 / 九天睿芯
而ADA200系列則是九天睿芯主打的中低算力芯片,其算力范圍在1到2 Tops之間,可以用于低功耗無線攝像頭、AR/VR和手機平板這類對算力要求更高一截的場景,該芯片預計今年年底量產。
AIStorm Mantis
在AI掀起的潮流下,不少廠商打上了傳感器的主意。這點在TWS耳機、智能眼鏡等小型智能化設備中尤為明顯,畢竟如果在CMOS圖像傳感器或MEMS音頻傳感器上提供足夠的邊緣算力,就可以省去集成各類AI加速器的煩惱。
比如在傳統的CMOS圖像傳感器方案中,像素陣列傳輸給源極跟隨器,在經過ADC、ISP和MIPI SerDes,將其輸出給數字AI,再經過MCU、GPU、DSP或FPGA的處理才能生成事件,如此數字化的過程使得延遲、功耗和成本都高出了一截。
Mantis AIS SoC / AIStorm
為了解決這個問題,初創企業AIStorm的解決方案就是將AI集成到傳感器中。以他們的Mantis AIS SoC為例,該方案可將傳感器變為一個模擬電荷域AI的輸入層,Mantis直接接受傳感器數據而無需數字化,再用ANN網絡中的模擬神經元完成乘加等運算,最終生成一個決定輸出。
Mantis用不到多先進的工藝,現有的產品只用到了高塔半導體的180nm節點和Dongbu的90nm節點,卻依然可以在始終開啟的情況下做到15 μW的功耗。雖然Mantis圖像傳感器只有96x96的像素分辨率,但這對于某些小型化應用來說已經足夠,何況AIStorm面向的市場也僅僅只是簡單低成本的物聯網設備。此外,AIStorm也在開發支持QVGA和全高清分辨率的升級版本。
去年AIStorm也宣布與樓氏電子達成合作,一同開發低功耗高性能的音頻解決方案,直接為模擬域接收音頻數據,讓TWS之類的小型音頻設備在極低功率水平下也能完成AI降噪、算法聲音增強等高級信號處理任務。
小結
從以上這些邊緣計算芯片可以看出,傳統的架構在邊緣端已經不再是主流。無論是延遲敏感還是高算力要求的應用,都在推進邊緣計算芯片在架構上做出創新。在這些芯片賦能的多接入邊緣計算下,邊緣計算將為云端計算分擔一部分任務,更好地服務終端用戶。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
mcu
+關注
關注
146文章
17019瀏覽量
350373 -
AI芯片
+關注
關注
17文章
1860瀏覽量
34919 -
邊緣計算
+關注
關注
22文章
3070瀏覽量
48660
發布評論請先 登錄
相關推薦
Orin芯片與邊緣計算結合
Orin芯片,作為英偉達推出的一款高性能AI處理器,與邊緣計算的結合,無疑將為智能計算領域帶來革命性的變化。 一、Orin芯片的創新特點 O
邊緣計算架構設計最佳實踐
。 邊緣網關 :作為中間層,聚合多個邊緣設備的數據,執行初步處理與過濾,有時還承擔設備管理、協議轉換等功能。 邊緣計算平臺 軟件環境 :運行
邊緣計算網關是什么?有什么應用場景
數據傳輸所需的時間,提高響應速度,并減輕核心網絡和數據中心的負載。 邊緣計算網關的應用場景很廣泛,主要包括以下幾個方面: 1. 工業物聯網(IIoT):在工業環境中,邊緣
邊緣計算是什么意思?邊緣計算的應用
邊緣計算(Edge Computing)是一種分布式計算范式,它將計算任務從數據中心遷移到網絡邊緣設備(如智能手機、物聯網傳感器等)上進行處
支持大模型部署和運行的邊緣計算SoC芯片
電子發燒友網報道(文/李彎彎)如今,AI在邊緣側的應用越來越廣泛,這其中少不了AI SoC芯片的支持,邊緣計算AI SoC是一種集成了人工智能(AI)和
PLC邊緣計算網關如何選擇?
隨著工業自動化和物聯網技術的快速發展,PLC作為工業自動化的核心設備,其數據采集與處理能力日益受到重視。PLC邊緣計算網關作為連接PLC與云端服務的橋梁,不僅承擔著數據收集、傳輸和初步處理的角色
邊緣計算單元多接入能力怎么算
和負載特征等。通過綜合考慮這些因素,可以更準確地評估邊緣計算單元的多接入能力,并采取相應的優化措施來提高系統的性能和可靠性。
邊緣計算網關與邊緣計算的融合之道
隨著物聯網、大數據和人工智能的飛速發展,數據處理和分析的需求呈現出爆炸式增長。傳統的中心化數據處理模式已難以滿足實時性、低延遲和高帶寬的需求,邊緣計算應運而生,成為解決這一難題的關鍵技術。而邊緣
邊緣計算和云計算的區別和聯系
邊緣計算和云計算是兩種不同的計算模型,它們在應用場景、架構、數據處理等方面有著顯著的差異。本文將詳盡、詳實、細致地闡述邊緣
評論