智能終端AI芯片產(chǎn)業(yè)呈現(xiàn)快速擴(kuò)張之勢(shì)，未來(lái)可期。

2017年，華為率先發(fā)布麒麟970芯片，集成寒武紀(jì)的深度學(xué)習(xí)內(nèi)核。同年，蘋果發(fā)布雙核架構(gòu)神經(jīng)網(wǎng)絡(luò)引擎（NeuralEngine）的A11Bionic芯片。2018年，華為和蘋果相繼發(fā)布7nm工藝的麒麟980和A12。2019年，華為和蘋果推出麒麟990和A13，AI處理性能進(jìn)一步提升。目前AI處理能力已逐漸向中端產(chǎn)品滲透，除追求性能提升外，大部分終端AI芯片專注于基于推斷計(jì)算的應(yīng)用場(chǎng)景進(jìn)行優(yōu)化，少數(shù)的終端AI芯片具備訓(xùn)練能力。根據(jù)ABIRe-search預(yù)測(cè)，2024年，終端AI芯片市場(chǎng)規(guī)模將增長(zhǎng)至710億美元，2019年至2024年間的年復(fù)合增長(zhǎng)率將達(dá)31%。

AI算力從云端向終端遷移

傳統(tǒng)意義上，大多數(shù)對(duì)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理都是在云端或基于服務(wù)器完成的。隨著終端處理器性能的不斷提升，很多人工智能的推理工作，如模式匹配、建模檢測(cè)、分類和識(shí)別等逐漸從云端轉(zhuǎn)移到終端側(cè)。

這主要有三點(diǎn)原因。首先，AI能力的端側(cè)遷移是用戶使用場(chǎng)景所需的必然結(jié)果。數(shù)據(jù)由云走向邊緣。IDC數(shù)據(jù)統(tǒng)計(jì)，未來(lái)幾年內(nèi)邊緣側(cè)數(shù)據(jù)將達(dá)到總數(shù)據(jù)量的50%，這些數(shù)據(jù)由終端采集和產(chǎn)生，也需要端側(cè)AI芯片就近分析處理。其次，AI能力的端側(cè)遷移亦是提升人工智能用戶體驗(yàn)的重要方式。在端側(cè)，人工智能關(guān)鍵優(yōu)勢(shì)包括即時(shí)響應(yīng)、隱私保護(hù)增強(qiáng)、可靠性提升，此外，還能確保在沒(méi)有網(wǎng)絡(luò)連接的情況下用戶的人工智能體驗(yàn)得到保障。最后，AI處理能力的端側(cè)遷移是人工智能數(shù)據(jù)隱私保護(hù)的需要。

終端AI芯片不斷演化

AI芯片也被稱為AI加速器或計(jì)算卡，即專門用于處理人工智能應(yīng)用中涉及的各類算法的AI加速計(jì)算模塊（其他非AI加速計(jì)算任務(wù)仍由CPU負(fù)責(zé)）。作為AI技術(shù)的三大核心要素之一，芯片承載著AI應(yīng)用部署的堅(jiān)實(shí)基礎(chǔ)——計(jì)算能力。AI芯片算力的高速發(fā)展，是工業(yè)場(chǎng)景和自動(dòng)駕駛等高實(shí)時(shí)性AI終端應(yīng)用的有力保障。同時(shí)，芯片的算力和功耗之間的兼顧和優(yōu)化，是AI芯片未來(lái)發(fā)展的主題。各種類型的智能終端AI芯片還將在多種多樣的人工智能應(yīng)用場(chǎng)景中進(jìn)行差異化競(jìng)爭(zhēng)。

AI終端芯片技術(shù)現(xiàn)狀

從通用芯片、專用芯片和異構(gòu)結(jié)合三個(gè)維度，對(duì)基于人工智能場(chǎng)景的終端芯片的技術(shù)現(xiàn)狀進(jìn)行分析。

通用芯片方面，智能終端常用的通用AI處理芯片主要是CPU、GPU、FPGA三種，在傳統(tǒng)CPU（CentralProcess-ingUnit）中，僅有單獨(dú)的ALU（邏輯運(yùn)算單元）模塊是用來(lái)完成指令數(shù)據(jù)計(jì)算的，其他各種模塊的存在是為保證指令能串行有序執(zhí)行。這種通用結(jié)構(gòu)對(duì)于傳統(tǒng)的編程計(jì)算模式非常適合，但是對(duì)于需要海量數(shù)據(jù)運(yùn)算的深度學(xué)習(xí)的計(jì)算需求，無(wú)法提供足夠的AI專用計(jì)算支撐。

GPU依靠通用靈活的強(qiáng)大并行運(yùn)算能力，契合當(dāng)前人工智能中廣泛采用的深度學(xué)習(xí)所需要的密集數(shù)據(jù)和多維并算處理需求。按照比例來(lái)說(shuō)，在CPU上約有20％的晶體管是用作計(jì)算的，而在GPU上有80％的晶體管可用作計(jì)算。高效的算數(shù)運(yùn)算單元和簡(jiǎn)化的邏輯控制單元，把串行訪問(wèn)拆分成多個(gè)簡(jiǎn)單的并行訪問(wèn)，同時(shí)進(jìn)行運(yùn)算。如向量相加，可讓CPU串行循環(huán)對(duì)每一個(gè)分量做加法，也可讓GPU采用大量并行線程對(duì)應(yīng)各個(gè)分量同時(shí)相加。

FPGA（FieldProgram-mableGateArray）即現(xiàn)場(chǎng)可編程門陣列，依靠電路級(jí)別的通用性，加上可編程性，適用于開發(fā)周期較短的IoT產(chǎn)品、傳感器數(shù)據(jù)預(yù)處理工作以及小型開發(fā)試錯(cuò)升級(jí)迭代工作等。FPGA可靈活支持各類深度學(xué)習(xí)的計(jì)算任務(wù)，適合在推斷環(huán)節(jié)支撐海量的用戶實(shí)時(shí)計(jì)算請(qǐng)求。FPGA的可編程性是關(guān)鍵，讓智能終端及其應(yīng)用設(shè)計(jì)公司能提供與其競(jìng)爭(zhēng)對(duì)手不同的解決方案。

專用芯片方面，ASIC（ApplicationSpecificIn-tegratedCircuit，專用集成電路）細(xì)分市場(chǎng)需求確定后，以TPU為代表的ASIC定制化芯片，將在確定性執(zhí)行模型的應(yīng)用需求中發(fā)揮作用。ASIC的特點(diǎn)是需要大量的研發(fā)投入，如果不能保證出貨量，其芯片成本難以下降，而且芯片的功能一旦流水線生產(chǎn)后則無(wú)更改余地，若市場(chǎng)深度學(xué)習(xí)方向一旦改變，ASIC前期投入將無(wú)法回收，具有較大的市場(chǎng)風(fēng)險(xiǎn)。但ASIC性能高于FPGA，在高出貨量下，其芯片成本可遠(yuǎn)低于FPGA。

異構(gòu)結(jié)合方面，AI處理芯片還可通過(guò)統(tǒng)籌多芯片任務(wù)處理，提高任務(wù)處理效率，幫助AI應(yīng)用程序?qū)?shù)據(jù)進(jìn)行分類及排序處理。這樣的處理模式并非完全依賴于專用AI芯片，芯片廠家可通過(guò)采用異構(gòu)的芯片構(gòu)架實(shí)現(xiàn)。由于AI場(chǎng)景眾多，神經(jīng)網(wǎng)絡(luò)自定義層繁復(fù)，單種處理器硬件已無(wú)法滿足所有需求，通過(guò)軟硬結(jié)合解決方案，如在已有芯片平臺(tái)加入神經(jīng)網(wǎng)絡(luò)處理引擎（NeuralPro-cessingEngine，NPE）來(lái)調(diào)動(dòng)處理器中已有的CPU、GPU及其他計(jì)算模塊，可以實(shí)現(xiàn)面向人工智能任務(wù)的異構(gòu)計(jì)算。通過(guò)軟硬結(jié)合的開放型異構(gòu)計(jì)算可滿足AI的多場(chǎng)景需求、面向整個(gè)手機(jī)平臺(tái)所需的通用性和靈活性，也可更好地利用終端原有計(jì)算資源完成AI計(jì)算。

智能終端AI芯片展望

雖然我國(guó)智能終端芯片廠商在核心技術(shù)方面仍然依賴于國(guó)外廠商，但機(jī)遇與挑戰(zhàn)并存。依托國(guó)家政策并抓住發(fā)展機(jī)遇，我國(guó)相關(guān)AI芯片業(yè)的前景可期。同時(shí)，當(dāng)前各廠商AI芯片不受制于傳統(tǒng)CPU芯片和軟件應(yīng)用生態(tài)（如英特爾X86芯片），這對(duì)自主AI芯片的發(fā)展十分有利。

當(dāng)前，國(guó)家政策持續(xù)利好。繼2017年國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》后，《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）》又吹響了前進(jìn)的號(hào)角。同時(shí)從芯片資本市場(chǎng)來(lái)看，國(guó)家集成電路產(chǎn)業(yè)投資基金（二期）的募資工作已經(jīng)完成，規(guī)模在2000億元左右，撬動(dòng)的社會(huì)資金規(guī)模可達(dá)6000億元左右。

面向未來(lái)，在技術(shù)發(fā)展策略層面，需要積極構(gòu)建生態(tài)圈，支持國(guó)內(nèi)AI芯片企業(yè)自有指令集的研發(fā)。在產(chǎn)業(yè)應(yīng)用方面，政府、事業(yè)單位和國(guó)有企業(yè)應(yīng)優(yōu)先使用國(guó)產(chǎn)AI芯片，為國(guó)產(chǎn)芯片操作系統(tǒng)生態(tài)提供支持。同時(shí)，鼓勵(lì)我國(guó)智能終端AI芯片、框架和自主操作系統(tǒng)深度耦合全生態(tài)發(fā)展，研發(fā)與深度學(xué)習(xí)框架結(jié)合的AI芯片，構(gòu)建芯片、操作系統(tǒng)和應(yīng)用一體的軟硬結(jié)合技術(shù)體系。

責(zé)任編輯：ct