全新的iPhone X集成了用于人臉識別的神經(jīng)引擎，但這僅僅是一個開始。嵌入式神經(jīng)引擎和專用智能處理器在邊緣設備上實現(xiàn)了人工智能(AI)，打破了對于云的依賴。邊緣處理的好處包括減少延遲，全網(wǎng)絡覆蓋，增加了隱私和安全性，并減少了與云端的通信，從而降低了成本。正因為具備上述優(yōu)勢，移動設備可以利用人工智能去實現(xiàn)不久前還只能出現(xiàn)在科幻小說中的場景。

過去的機器現(xiàn)在是實時數(shù)據(jù)處理中心

我在參加我們的年度研討會時，有機會親密接觸到了嵌入式世界中的AI技術。曾經(jīng)是純機械的機器，比如汽車、無人機和機器人，現(xiàn)在正變得智能起來，具備了可視、感知、跟蹤、分類、檢測、識別等能力。現(xiàn)在，這些設備使用計算機視覺和傳感器融合來收集和處理數(shù)據(jù)，并進行實時決策。在某些情況下，比如無人駕駛汽車和無人機，決策是至關重要的，云端處理的延時可能導致難以接受的響應時間。通過片上智能化，這些機器更準確地被定義為了數(shù)據(jù)中心。

圖1：AI的邊緣化必須實時和低功耗地處理大量信息。

無人駕駛車輛就是一個很好的例子，它需要大量的視覺和其它傳感器，以及衛(wèi)星定位信息和各種連接解決方案。它還必須有一個“大腦”完成數(shù)據(jù)融合和分析。同時基于云的處理和信息也將在自動駕駛功能中發(fā)揮作用，因此必須有一個可以瞬間做出決策的車載處理器。即使出現(xiàn)零星的情況，操作車輛也不會有危險是非常關鍵的。因此，處理器能夠處理密集的深度學習計算是必要的，而不是一個可選的功能。

圖2：汽車上的AI邊緣處理要求高水平的車載智能。

神經(jīng)網(wǎng)絡的邊緣處理正在成為主流

在智能手機領域，蘋果通常是一個新增特性被作為主流必備還是利基市場(niche-market )配件的試金石。隨著蘋果新旗艦iPhone X的發(fā)布，手機上配有一個專門的神經(jīng)引擎是人工智能邊緣處理的一件大事。如同先前的預測，這意味很快每個帶有攝像頭的設備將包括一個視覺DSP，或其它專門的神經(jīng)網(wǎng)絡處理器。

iPhone X里的神經(jīng)引擎實現(xiàn)了Face ID技術，允許用戶注視手機從而解鎖他們的iPhone。超快的響應時間加上隱私和安全級別的考慮需要所有的識別處理必須在手機上完成。以現(xiàn)在設備上具備的AI能力，肯定會不斷推出更多令人興奮的AI功能。

谷歌也在其最新的旗艦手機Pixel 2中增加了類似的功能，通過稱之為像素視覺核心(Pixel Visual Core)的處理器實現(xiàn)。在競爭激烈的智能手機領域，谷歌必須實現(xiàn)差異化。方法之一是為Pixel智能手機的相機搭載出眾的軟件。但是，圖像增強所需的密集計算，單鏡頭背景虛化效果，提高照片的動態(tài)范圍，這些功能在目前大部分領先的智能手機自帶的標準處理器上不能高效地運行。因此，谷歌決定為這些功能添加第二個芯片，通過添加AI功能可能是另一個主要差異化的體現(xiàn)。華為最近也宣布了在麒麟970中集成了神經(jīng)引擎，另外還有許多其它公司也加入到競賽中。

基于視覺DSP的引擎如何實現(xiàn)片上智能化？

雖然邊緣處理的好處顯而易見，它同時也帶來了挑戰(zhàn)。難題是如何將可以在巨型服務器上完成的數(shù)據(jù)運算，放入到一個很小的手持設備中，同時電量還被消耗在許多其它處理任務上。這就是視覺DSP對于能否成功實現(xiàn)邊緣AI處理至關重要的原因。精簡和高效，但強大的矢量化性能，讓DSP處理器成為完成神經(jīng)引擎工作負載的最佳選擇。

另一個挑戰(zhàn)是如何將現(xiàn)有的神經(jīng)網(wǎng)絡移植到嵌入式DSP環(huán)境里。這可能會消耗大量的開發(fā)時間，代價變得非常昂貴。但是自動化工具鏈可以支持“按鍵操作”，一站式服務將網(wǎng)絡的分析和優(yōu)化轉(zhuǎn)換到嵌入式環(huán)境中。對這樣的工具而言，覆蓋大量最先進的網(wǎng)絡是非常重要的，以確保任何網(wǎng)絡都可以很容易地優(yōu)化并運行在嵌入式設備上。

圖3：Faster RCNN——CEVA完整的自動網(wǎng)絡生成器可以有效的降低帶寬和保持比特精度。

一旦移植和優(yōu)化過程完成后，通常會對輸入數(shù)據(jù)進行下采樣，從而以最少的信息丟失完成更快速的處理。例如在CEVA的全自動網(wǎng)絡生成器Faster RCNN的流程中，我們有兩個處理階段，區(qū)域建議(proposal regions)和區(qū)域分類(classify regions)。

圖4：Faster RCNN處理流

CEVA-XM家族處理器是超低功耗的視覺DSP，非常適合完成此類工作。通過添加CEVA-CNN硬件加速器(HWA)可以更進一步提升性能，加速神經(jīng)網(wǎng)絡處理(例如Faster RCNN)。從圖5中可以看到，CEVA的第五代視覺處理器CEVA-XM6，相比前一代CEVA-XM4性能有了顯著改善。添加CEVA-CNN硬件加速器則使性能又向前邁進了一大步。

圖5：使用CEVA-XM視覺DSP家族后Faster RCNN的性能。

基于深度學習的人工智能為手持設備帶來了無盡的機會：通過圖像增強獲得DSLR質(zhì)量的照片，增強和虛擬現(xiàn)實應用，環(huán)境感知、避讓和導航、檢測、跟蹤、識別、分類、分割、映射、定位、視頻增強等等。我們手掌中擁有這樣的力量，看起來智能手機的通話功能就微不足道了。

圖6：AI支撐的可視化智能應用。

未來智能實驗室是人工智能學家與科學院相關機構聯(lián)合成立的人工智能，互聯(lián)網(wǎng)和腦科學交叉研究機構。由互聯(lián)網(wǎng)進化論作者，計算機博士劉鋒與中國科學院虛擬經(jīng)濟與數(shù)據(jù)科學研究中心石勇、劉穎教授創(chuàng)建。

未來智能實驗室的主要工作包括：建立AI智能系統(tǒng)智商評測體系，開展世界人工智能智商評測；開展互聯(lián)網(wǎng)（城市）云腦研究計劃，構建互聯(lián)網(wǎng)（城市）云腦技術和企業(yè)圖譜，為提升企業(yè)，行業(yè)與城市的智能水平服務。