邊緣計算的快速發展使得計算能力加速向邊緣遷移，AI也逐步從中心節點向更貼近數據源和業務現場的邊緣側拓展，邊緣與云的關系已經呈現出既有分工又彼此合作的局面。在邊緣側，當邊緣智能與邊緣計算和人工智能相結合，能有效地執行實時、小數據的處理，開展AI模型的推理，并將結果回傳至云端，這種“云—邊—端”協同的邊緣智能架構，解決了目前AI應用中存在的海量數據處理、實時響應以及數據安全等問題，為AI在更多行業的應用奠定了基礎。

邊緣智能：拓展AI應用邊界

邊緣人工智能 (Edge AI) 主要是指在用戶設備上處理人工智能算法。具體來講，Edge AI依靠的是設備自身的硬件來處理與機器學習和深度學習相關的數據和過程。Edge AI帶來的好處主要有3個方面：一是減少延遲以改善用戶體驗；二是減少必要的帶寬，從而降低互聯網服務的成本；三是提高數據的安全性和隱私性。

IDC預測，到2025年，全球將有414億臺物聯網設備，期間將產生73147EB數據，其中約四分之一屬于實時生成的。要想完全在云端對這些數據進行處理和AI分析很可能超過系統和通信鏈路的處理極限，再加上網絡帶寬、數據安全等限制，要實現AI向多行業的滲透，困難重重。

隨著人工智能向邊緣側的轉移，AI行業的應用得到了極大擴展。根據德勤的分析，現在的AI計算已經在制造業、政府、零售、電信、醫療等不同應用場景下獲得應用。很顯然，邊緣智能在拓展AI邊界過程中發揮了重要作用，它能顯著提升AI針對現場多樣化業務場景的適應性，從而更好地支撐業務運營、為客戶創造更多的價值。

制造業是國民經濟的基礎性產業，同時也是推動智能化發展最迫切的行業之一。根據IDC的預測，未來幾年，邊緣智能支出在生產過程智能化、智能供應鏈與物流、數據安全與合規等應用場景將保持20%以上的年均復合增長率。以產品質檢為例，傳統的產品質檢主要依靠人工目視或傳統的基于模式匹配技術的機器視覺，漏檢、誤檢率高。采用Edge AI技術后，不僅顯著提升了機器視覺的檢測能力和適用性，產品質量也能得到有效控制。

在智慧城市建設中，AI應用已經滲透到城市管理、交通、民生等諸多方面，隨著智慧城市向精細化和社區化下沉，邊緣智能在智慧交通、應急響應、城市安全等場景下的應用日漸增多。IDC的預測是，在未來幾年，邊緣智能支出在城市運維管理場景這一市場將保持25%的增速。

5G支持的人工智能和創新應用對網絡延遲有很高的要求，邊緣智能在此過程中將發揮重要作用。比如電信運營商通過建設具備GPU的MEC邊緣數據中心，就可以為行業用戶提供邊緣計算服務，降低企業自建邊緣計算中心的成本。

對許多應用而言，邊緣側顯然是進行機器學習處理的理想位置。在制造業、政府、零售、電信、醫療等重點領域，敏捷聯接、實時業務、數據優化、應用智能、安全與隱私保護已經成為核心需求，邊緣智能是實現行業數字化轉型的關鍵。隨著邊緣智能技術和解決方案的不斷完善，在汽車、消費電子、服裝、鋼鐵、化工等信息化基礎良好的行業，AI場景化應用也將逐步落地。IDC的預測是，到2024年，制造業、政府、零售、電信、醫療五大行業在邊緣智能應用上的支出將達到159億美元，占整體邊緣智能市場支出的49%。

邊緣人工智能面臨的挑戰

過去幾年，人工智能正在成為許多組織商業計劃中不可或缺的一部分。正如谷歌首席執行官Sundar Pichai宣稱的那樣，人工智能對人類的影響將遠遠超過火和電。IDC更是看好邊緣計算及邊緣智能在未來幾年的發展前景，據其分析，到2024年，全球AI市場支出將達到1100億美金，邊緣智能將占到AI市場支出的29.5%。

良好的發展前景并非意味著前進道路一片坦途，在Edge AI的發展過程中，仍存在諸多技術挑戰：

糟糕的數據質量

全球主要互聯網服務提供商的數據質量差是Edge AI研發的主要障礙。最近的一份Alation報告顯示，以IT公司為主的受訪者中，其中有87%的員工認為，數據質量差是他們所在企業未能部署Edge AI基礎設施的重要原因。

潛在的安全威脅

邊緣計算的分散性增加了較多的安全風險。以物聯網為例，那些提供數據的物聯網設備多且分散，這使得Edge AI基礎設施比較容易受到各種網絡攻擊。

受限的機器學習能力

在邊緣計算硬件平臺上，機器學習常常需要強大的計算能力的支持。在Edge AI基礎設施中，計算性能僅限于邊緣或物聯網設備的性能。在大多數情況下，大型復雜的邊緣人工智能模型必須在部署到邊緣人工智能硬件之前進行簡化，這樣才能提高其準確性和效率。

邊緣AI芯片：邊緣智能的靈魂

AI計算極度占用處理器資源，它需要成百上千個不同類型的 (傳統) 芯片來執行所需的運算。因此，幾年前的AI計算幾乎都是在數據中心、企業核心設備或電信邊緣處理器上遠程執行而不是在設備本地。

Edge AI芯片正在改變這一切。理由是：Edge AI芯片的體積更小，價格相對便宜，耗電量以及產生的熱量也小得多。因此，可以將它們集成到手持設備和機器人等設備中，在本地執行密集型人工智能計算。此外，Edge AI芯片還能減少或消除向遠程位置發送大量數據的需要，從而在可用性、速度、數據安全性和隱私性方面帶來好處。

利用Edge AI芯片，可極大地增強企業的自身能力，能夠深入分析來自聯網設備的數據，并將分析結果轉換為行動，同時避免將大量數據發送至云端產生的高昂成本、復雜問題和安全挑戰

根據德勤的分析數據，2020年，Edge AI芯片的銷量預計超過了7.5億片，并創造26億美元的收入。其中，消費類設備市場可能占到Edge AI芯片市場的90%以上。無論是從銷售數量還是從其美元價值來看，這些Edge AI芯片的絕大多數將進入高端智能手機領域。在目前使用的所有消費類Edge AI芯片中，智能手機占到70%以上。當然，智能手機并不是唯一使用Edge AI芯片的設備，其他如平板電腦、可穿戴設備、智能音箱也在使用這些芯片，只是目前這些設備對Edge AI芯片銷量影響要比智能手機小得多。

德勤還提出，至2024年，邊緣人工智能芯片銷量預計將超過15億片，甚至可能遠遠超過這一數據，年銷量增長率預計達到20%以上，是半導體行業整體長期預測9%的復合年均增長率的兩倍還多。德勤還指出，雖然消費端的人工智能芯片市場比企業市場大得多，但增長速度可能低于企業市場。在企業市場，機器人、攝像頭、傳感器和其他物聯網設備中將是AI芯片未來的重要應用場景。

作為邊緣智能的靈魂，Edge AI芯片的重要性不言而喻，邊緣設備只有通過AI芯片獲得了自主計算的能力，才能稱之為是真正的邊緣智能。

現在的AI 芯片主要有兩種，即云端AI芯片和邊緣AI芯片。按照功能劃分，可分為訓練芯片和推斷芯片，市場上的邊緣AI芯片很多屬于邊緣推斷芯片。雖然邊緣AI芯片市場興起時間不長，但參與者眾多，其中包括NVIDIA、Intel、NXP、Xilinx、ST、Maxim等跨國企業，也有以寒武紀為代表的國內企業。

01 NVIDIA EGX邊緣AI平臺

NVIDIA是全球GPU的龍頭，在AI訓練市場擁有強大的領先優勢。面向邊緣計算市場，NVIDIA有兩款性能出眾的EGX邊緣AI平臺產品，一個是用于較大型商業通用服務器上的EGX A100聚合加速器，另一個是用于微型邊緣服務器的微型EGX Jetson Xavier NX。這兩款產品均擁有安全、高性能的AI處理能力。搭載了EGX A100的服務器可以管理機場中的數百臺攝像頭，而EGX Jetson Xavier NX則可用于管理便利店中的少量攝像頭。

EGX A100是首個基于NVIDIA Ampere架構的邊緣AI產品。它結合了NVIDIA Ampere架構所具有的突破性計算性能以及NVIDIA Mellanox ConnectX-6 Dx SmartNIC所具備的網絡加速和關鍵性安全功能，能將標準型和專用型的邊緣服務器轉變為極具安全性的云原生AI超級計算機。其中，NVIDIA Ampere架構是NVIDIA的第8代GPU架構，為在邊緣運行AI推理和5G應用等各類計算密集型工作負載提供了卓越的性能。

NVIDIA為EXG建立了龐大的合作伙伴生態系統，他們中有的是邊緣服務器制造商，有的是混合云平臺企業，比如Atos、Dell、富士通、GIGABYTE、HPE、IBM、浪潮、聯想、Cisco等都是NVIDA生態系統上的重要一員。

02 Xilinx邊緣智能解決方案Versal AI Edge

不久前剛剛并入AMD公司的Xilinx，在過去幾年里一直忙于擴展其Versal AI Core、Versal Premium和Versal Prime芯片系列，以滿足客戶在云、數據中心、網絡等領域的計算需求。現在，Xilinx正在將其業務拓展到蓬勃發展的邊緣計算市場，并在2021年向業界介紹了其最新Xilinx Versal AI edge芯片系列中的七款新產品。這七款Versal Edge AI芯片預計將于2022年上半年面世，其目標是幫助客戶實現各種實時工作負載，從自動駕駛汽車到機器人應用、工業應用、智能視覺系統、醫療用途、無人駕駛無人機，甚至外科手術機器人。

據Xilinx的信息，新的Versal AI Edge芯片系列每瓦性能是GPU的4倍，計算密度是其上一代芯片Xilinx Zynq UltraSCALE+MP SOC的10倍，同時還提供了更低的延遲和靈活的體系結構，新的Versal AI Edge系列將采用7nm工藝。所有七款Versal AI Edge芯片均采用雙核Arm Cortex-A72 CPU和雙核Arm Cortex-R5F處理器，以滿足實時應用要求。

Versal AI Edge系列始于VE2002芯片，該芯片耗電6至9瓦，提供14個頂級INT4或7個頂級INT8性能，總內存為95MB。其余VE2102、VE2202、VE2302、VE2602、VE2802等5個芯片的功耗、性能、內存均按不同梯度升高。VE1752耗電50至60瓦，同時提供166個INT4或124個INT8性能以及253MB內存。在內部架構上，VE2002包含八個AI/ML引擎塊，VE2101、VE2202、VE2302、VE2602、VE2802依次包含12個、24個、34個、152個、304個引擎塊。VE1752雖然也配備了304個引擎塊，但它們全部是AI引擎。

結語

2017年8月，英特爾以153億美元收購了位于特拉維夫的視覺安全技術公司Mobileye。緊接著，百度開始大規模生產第二代昆侖人工智能芯片，這是一種用于邊緣計算的超快微芯片。在微芯片之外，谷歌的Edge TPU、NVIDIA的Jetson Nano，以及亞馬遜、微軟、英特爾和華碩，均投入到Edge AI芯片的開發熱潮中，以增強其邊緣計算的實力。其中，亞馬遜的AWS DeepLens是世界上第一款支持深度學習的攝像機。

據IDC預測，到2024年，全球企業在邊緣應用上的支出將達到2500億美元，其中與AI技術相關的支出將達到326億美元，占整體邊緣市場支出的13%。十年前，我們可能無法想象Edge AI會達到今天的水平。現在，它已成為行業乃至客戶服務設備的一部分。

審核編輯：郭婷