近來，對實(shí)時決策、降低數(shù)據(jù)吞吐量以及注重隱私的需求，已將人工智能處理的很大一部分工作轉(zhuǎn)移到邊緣。這一轉(zhuǎn)變催生了大量邊緣人工智能應(yīng)用，每種應(yīng)用都有著不同的要求，面臨著不同的挑戰(zhàn)。

據(jù)預(yù)測，2025年人工智能SoC市場規(guī)模將達(dá)到500億美元（資料來源：Pitchbook Emerging Tech Research），邊緣人工智能芯片預(yù)計將在這一市場中占據(jù)重要地位。

人工智能處理向邊緣轉(zhuǎn)移及提高能效勢在必行

人工智能處理向邊緣轉(zhuǎn)移標(biāo)志著一系列應(yīng)用（從物聯(lián)網(wǎng)傳感器到自主系統(tǒng)）進(jìn)入了實(shí)時決策的新時代。這一轉(zhuǎn)移有助于：減少延遲，這對即時響應(yīng)起到?jīng)Q定性作用；通過本地處理提高數(shù)據(jù)隱私保證；支持離線功能，確保在遠(yuǎn)程或具有挑戰(zhàn)性的環(huán)境中不間斷運(yùn)行。由于這些邊緣應(yīng)用在電池供電的設(shè)備上運(yùn)行，能效有限，因此能效在這一變革中會成為焦點(diǎn)。

邊緣人工智能工作負(fù)載本質(zhì)多元

確保邊緣人工智能處理能效的關(guān)鍵難題之一是工作負(fù)載本質(zhì)多元。不同應(yīng)用的工作負(fù)載大不相同，帶來獨(dú)特挑戰(zhàn)。總體而言，所有人工智能處理工作負(fù)載可大致分為TinyML、ML-DSP及深度學(xué)習(xí)工作負(fù)載。

TinyML：聲音分類、關(guān)鍵詞識別及人體存在檢測等任務(wù)需要在傳感器附近進(jìn)行低延遲、實(shí)時處理。此處涉及的工作負(fù)載稱為TinyML，牽涉到在資源有限的邊緣設(shè)備上運(yùn)行輕量級機(jī)器學(xué)習(xí)模型。TinyML模型專為特定硬件定制，支持順利執(zhí)行人工智能任務(wù)。定制硬件處理器和高度優(yōu)化的軟件庫對于滿足TinyML嚴(yán)格至極的功耗要求至關(guān)重要。

深度學(xué)習(xí)：相較而言，深度學(xué)習(xí)應(yīng)用程序是一種計算密集型工作負(fù)載。此類應(yīng)用程序涉及運(yùn)行復(fù)雜的計算，通常出現(xiàn)在高級計算機(jī)視覺、自然語言處理及其他經(jīng)典和生成式人工智能密集型任務(wù)中。深度學(xué)習(xí)具有計算密集型特性，通常需要專門的硬件，如神經(jīng)處理單元 (NPU)。NPU采用多層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，能夠高效地處理各種復(fù)雜的計算任務(wù)。NPU可為高級人工智能任務(wù)提供所需的計算能力，而且能效很高。

ML-DSP：介于上述兩類工作負(fù)載之間的是ML-DSP工作負(fù)載，涉及DSP處理、過濾及清理信號，然后才能執(zhí)行人工智能感知任務(wù)。雷達(dá)屬于此類工作負(fù)載，是一種涉及點(diǎn)云圖像分析的常見應(yīng)用。

工作負(fù)載決定采用的架構(gòu)

為了應(yīng)對邊緣人工智能工作負(fù)載的多面性及其帶來的能效挑戰(zhàn)，人們開發(fā)了各種架構(gòu)和硬件引擎。為各工作負(fù)載選擇有針對性的架構(gòu)和硬件是為了在提供最佳計算性能的同時最大限度地降低功耗。就此而言，TOPS/Watt（每秒萬億次運(yùn)算/瓦）是常用的能效指標(biāo)。選擇合適的架構(gòu)來處理TinyML、ML-DSP及深度學(xué)習(xí)工作負(fù)載，是滿足所需能效指標(biāo)的關(guān)鍵。

標(biāo)量處理架構(gòu)最適合TinyML工作負(fù)載，此類負(fù)載通常涉及用戶界面管理、基于時間數(shù)據(jù)制定決策以及非密集型計算需求。矢量處理架構(gòu)非常適合同時處理多個數(shù)據(jù)元素的運(yùn)算，及在人工智能感知之前涉及信號處理的工作負(fù)載。張量和矩陣處理架構(gòu)是涉及復(fù)雜矩陣運(yùn)算、圖像識別、計算機(jī)視覺及自然語言處理等深度學(xué)習(xí)任務(wù)的理想選擇。能夠以盡量高的能效高效處理涉及大型矩陣和神經(jīng)網(wǎng)絡(luò)的任務(wù)。人工智能處理器通常結(jié)合利用這些架構(gòu)來高效處理各種任務(wù)。請參閱下圖。

CEVA產(chǎn)品可應(yīng)對各種人工智能工作負(fù)載

CEVA提供一系列產(chǎn)品，希望滿足TinyML、ML-DSP 及深度學(xué)習(xí)工作負(fù)載的需求。我們的產(chǎn)品包括CEVA-BX、SensPro2及NeuPro-M，品質(zhì)優(yōu)越，既能支持搭載人工智能功能的邊緣設(shè)備，也能確保能效。

CEVA-BX處理器高度靈活，能夠根據(jù)具體應(yīng)用配置和優(yōu)化，包括音頻、語音處理及人工智能相關(guān)的工作負(fù)載。其架構(gòu)旨在實(shí)現(xiàn)性能和能效平衡，因此適用于廣泛的邊緣計算應(yīng)用。

CEVA的SensPro2是一種高度可配置且獨(dú)立的矢量DSP架構(gòu)，針對浮點(diǎn)和整數(shù)數(shù)據(jù)類型進(jìn)行標(biāo)量和矢量處理。專為計算機(jī)視覺和其他傳感器中的并行高帶寬數(shù)據(jù)應(yīng)用而設(shè)計。能夠高效處理多達(dá)5 TOPS的人工智能工作負(fù)載，集成多達(dá)1,000個MAC。SensPro2是需要高帶寬數(shù)據(jù)和人工智能處理能力的視覺和雷達(dá)系統(tǒng)的合適選擇。

CEVA的NeuPro-M是一款神經(jīng)處理單元(NPU)IP，涵蓋在CEVA深度學(xué)習(xí)人工智能處理器NeuPro系列中。NeuPro-M旨在處理當(dāng)今大多數(shù)經(jīng)典和生成式人工智能網(wǎng)絡(luò)模型，包括Transformer。專門針對低功耗、高效率處理優(yōu)化，包括一個矢量處理單元(VPU)和許多其他異構(gòu)處理引擎，如稀疏性、壓縮和激活邏輯。隨著人工智能網(wǎng)絡(luò)模型快速發(fā)展，NeuPro-M憑借內(nèi)置VPU，可以為邊緣人工智能應(yīng)用提供經(jīng)得起未來考驗的功能。NeuPro-M目前無法處理的更新、更復(fù)雜的人工智能網(wǎng)絡(luò)層，可以利用VPU得到高效管理。

CEVA的音頻人工智能處理器、傳感器中樞 DSP、NeuPro-M NPU IP以及相關(guān)軟件工具和開發(fā)套件可滿足所有邊緣人工智能處理工作負(fù)載的需求。

本文作者：Moshe Sheier, Vice President of Marketing, CEVA

關(guān)于CEVA

CEVA是排名前列的無線連接和智能傳感技術(shù)以及集成IP解決方案授權(quán)商，旨在打造更智能、更安全、互聯(lián)的世界。我們?yōu)閭鞲衅魅诤稀D像增強(qiáng)、計算機(jī)視覺、語音輸入和人工智能應(yīng)用提供數(shù)字信號處理器、人工智能處理器、無線平臺、加密內(nèi)核和配套軟件。許多世界排名前列的半導(dǎo)體廠商、系統(tǒng)公司和OEM利用我們的技術(shù)和芯片設(shè)計技能，為移動、消費(fèi)、汽車、機(jī)器人、工業(yè)、航天國防和物聯(lián)網(wǎng)等各種終端市場開發(fā)高能效、智能、安全的互聯(lián)設(shè)備。

我們基于DSP的解決方案包括移動、物聯(lián)網(wǎng)和基礎(chǔ)設(shè)施中的5G基帶處理平臺；攝像頭設(shè)備的高級影像技術(shù)和計算機(jī)視覺；適用于多個物聯(lián)網(wǎng)市場的音頻/語音/話音應(yīng)用和超低功耗的始終開啟/感應(yīng)應(yīng)用。對于傳感器融合，我們的Hillcrest Labs傳感器處理技術(shù)為耳機(jī)、可穿戴設(shè)備、AR/VR、PC機(jī)、機(jī)器人、遙控器、物聯(lián)網(wǎng)等市場提供廣泛的傳感器融合軟件和慣性測量單元 (“IMU”) 解決方案。在無線物聯(lián)網(wǎng)方面，我們的藍(lán)牙(低功耗和雙模)、Wi-Fi 4/5/6/6E (802.11n/ac/ax)、超寬帶(UWB)、NB-IoT和GNSS 平臺是業(yè)內(nèi)授權(quán)較為廣泛的連接平臺。