南京創新周未來城市論壇

地平線創始人兼CEO余凱在南京創新周未來城市論壇上以《邊緣AI芯片趨勢》為主題發表了演講。

在演講中，余凱認為當下邊緣計算在中國最值得關注的落地應用場景有兩個：一是智慧城市，二是汽車的智能化。在未來 5G 所牽引的萬物互聯的時代，以上兩個落地場景帶來的一定是數據的爆炸性增長，由此帶來的是設備的智能一定離不開邊緣人工智能處理器及其軟件操作系統和上層應用。

中國未來的科技發展進入了一個打空間戰的階段，不僅僅是上層的應用要繼續做好，下層的計算處理器、操作系統同樣要夯實。支撐起中國未來科技發展的不光是需要企業，也需要整個生態，需要企業、高校人才等方方面面地整體互動。

從2015年的7月14日成立，地平線已經有快四年的歷史了。在成立這個公司的時候，地平線的核心創始團隊包括我自己其實在過去從來都沒有真正地摸過芯片，基本上是一群干軟件算法的人，我自己在機器學習算法、軟件算法這個領域工作了有20多年，為什么會去思考換一個跑道，從軟件算法到芯片？其實有一個很重要的原因——在2015年的時候，深度學習已經開始為大家所關注（但是AlphaGo還沒有發生，人工智能的也遠沒有到街頭巷尾），我們隱約感覺到真正的人工智能要走出學校，走出像百度谷歌這樣的大公司，走向普惠化。能夠讓很多的行業受惠，其實只做軟件是不夠的，比如底層芯片就是非常重要的一塊。基于以上考慮，我們在2015年成立了地平線，這在之后的幾年內都應該是中國唯一一家從事AI芯片的創業企業，可能在世界上也是最早的一家。

去年我看過一個報道說有40多家AI芯片企業在中國，今年應該有更多。適當的泡沫是好的，只要這個方向值得去嘗試，泡沫退去的時候終歸有一些企業能夠占有一席之地，比如2000年4月份的互聯網泡沫，退去之后留下來的還有谷歌、BAT這樣的企業，他們都是在泡沫之前產生的企業。所以只要有好的企業、好的方向，適度的泡沫是可以的。

在移動互聯網時代很多用戶的數據在云端被分析，大量的數據模型為各類公司提供了極大的便利。為什么中國的AI今天能夠相對在國際上取得比較領先的優勢？很大程度上是因為移動互聯網有大量的數據產生，這樣的產業場景和規模可以培育很多人工智能人才。但我們下一步5G到物聯網的時代，更多的數據不是產自于人，而是來自于汽車、攝像頭、溫度傳感器、無人機等等，更多實時的數據、射頻的數據、傳感器的數據都會被產生。尤其從去年開始5G加速到來，這會進一步地推動這樣的邊緣計算的趨勢。

移動互聯網構造的是人和人之間的網絡，人和信息之間的網絡，那么5G推動的是什么？答案是物。由于5G帶來的是萬物的連接，萬物的連接導致的是數據的進一步規模化的爆炸，同時我們的主干網并不能夠支撐這樣的數據傳輸規模，所以會在終端到邊緣產生我們所說的數據堰塞湖，這樣的數據堰塞湖會大量的發生在終端，因此邊緣服務器端人工智能計算會成為未來的一大需求。很多研究報告都在提到這樣的變化，基本上到2025年，邊緣人工智能計算的將會達到是云計算同樣數量級的規模。未來，邊緣計算將會走出世界級的企業。

邊緣計算與云計算是相對的，如果說云計算的根據地是城市，邊緣計算就相當于農村，擁有廣袤的土壤。

云、邊、端三類計算方式，當下還是云計算占據主流的，但物聯網、5G會繼續推動邊緣服務器以及智能終端計算的發展。我們統稱的邊緣計算實際上包括終端和邊緣的基站服務器，除去云計算之外的這兩個都是叫邊緣計算。當下邊緣計算在中國最值得關注的落地應用場景有兩個：一是智慧城市，二是汽車的智能化。在智慧城市方面，現在少部分在服務器端做計算復雜，但是在今年以及未來的四五年的時間100%的數據都會在攝像頭端被分析和計算，這會極大的推動邊緣人工智能芯片的發展。而在智能駕駛方面，汽車智能化隨之而來的是傳感器在車端的部署，這一定意義上促使汽車也成為了四個輪子上面的超級計算機。

一個直觀的數據是，基本上的共識每輛自動駕駛汽車產生的數據會高達1000個TB，如果是2000輛的4級、5級的自動駕駛汽車，產生的數據將相當于百萬的搜索引擎所檢索的所有的數據，是非常龐大的數據量。

邊緣計算有哪些特性？

那么邊緣計算有什么特點？隨之而來的是什么樣的好處？

首先，它具有實時性，比如對于汽車的安全性，如果前面有小孩子橫穿馬路，你要把這個信號傳到云端，算完以后變成指令再傳回來，可以想象發生什么問題，如果這個網絡帶寬并不是有保障呢？安全性對更可靠、及時的本地計算提出了需求。此外，像美國的一些家長不讓小孩子玩帶語音識別的玩具，為什么？因為這些數據都要傳到云端識別，包括今天講小米音響，阿里的百度的都有這些問題。隱私保護將是越來越受到關注的一個問題，而邊緣計算在這些場景下有很多好處。

我們以自動駕駛為例，邊緣計算雖然發生在邊緣，可是它對算力的要求一點都不低，比如今天講到的車載AI計算主要是面向從2級到3級的輔助駕駛和半自動駕駛的算力，這基本上是10TOPS的算力。但自動駕駛的等級每往前增長一級對于算力要求增長一個數量級，到5級自動駕駛會是1000個TOPS，也就是1000個萬億次，實際上達到了人類大腦的算力了，持續半個世紀的摩爾定律已經遇到了瓶頸，也就是說單靠物理去不斷提升這種算力是越來越走不通。站在2019年的當口，我們面向未來如何繼續推動邊緣算力的成長？去迎接未來在人工智能的邊緣計算的挑戰。

過去，在2015年每1000美金能夠買到的算力基本上和老鼠的大腦相當，可是我們需要推動更復雜的計算進程，使得到2025年、2030年的時候每1000美金我們能夠買到的算力是達到1000 TOPS，就是1000個萬億次的算力，即達到人類大腦的能力。那如何去實現這一點？我們在有的場合提到過：通過場景驅動、軟硬結合創造新的摩爾定律。可以想像，如果我們能夠去做到這一點，那么到2025-2030年的時候，基本上每1000美金能夠買到的算力其實接近天河二號的算力，今天天河二號的算力光一年的電費就要8千萬人民幣。自動駕駛需要這樣級別的算力，這聽起來是難以想象的事情，但其實在過去的30年里，發生的事情并不是那么地讓人吃驚——回顧30年整個算力增長100萬倍，差不多是2的20次方，因為每一個五年大概算力翻一倍。

工業時代電力是基礎的賦能力量，但在數字經濟時代，數據量、存儲能力、云計算的規模則會是很基礎的賦能能力。在大數據和人工智能驅動的經濟時代，我們能夠有效地利用人工智能的計算，實際上是一個非常重要的基礎的驅動力。

在過去的幾年里如何衡量人工智能的能力？一直是存在一個誤解，因為傳統芯片的性能我們一般說它的功耗、算力、面積，但是在人工智能芯片的真實應用場景里，我們不應該遵循這種傳統的簡單的衡量方式，而應該采取更加務實的計算方式，就是去考核AI芯片的真實性能。真實性能首先第一點從技術出發，單位功耗能實現的算力，但是我們還要去看架構設計以及算法是不是能充分利用硬件資源，也就是有效利用率。此外，人工智能算法實際上是統計機器學習算法，統計機器學習算法好和壞會導致什么樣的差別？會決定單位算力能夠完成什么樣的人工智能任務。最終來講，我們考核的是單位功耗里人工智能的性能，單位價格下人工智能的性能，這些才是真正的AI芯片的真實性能。

以上標準現在越來越成為一個業界的主流認知，即通過場景驅動定義的軟件框架，然后軟件框架結合硬件的架構設計，使得軟件和硬件的結合繼續推動在邊緣計算里的人工智能的算力。這是我們所追求的新的摩爾定律，它也要求我們有能力進行全棧式的技術開發，包括人工智能應用對算法、芯片架構、編譯器等等的協同優化。

同樣的硬件架構，編譯器的性能實際上可以影響整個效率，比如有地平線編譯器的自動優化的話，每一秒鐘原來可以處理9楨的圖像，現在可以提升到每秒鐘24楨，計算的資源的利用率從30%多提升到85%，這就是軟件和硬件的協同推動的效率提升，例如地平線推出的車載人工智能計算平臺——Matrix，可以有效應對高級別自動駕駛的需求。和市面上主流產品相比，地平線其實在功耗，在效率上面有強大的競爭優勢，比如一個3瓦的功耗計算實際上能夠處理的效率，比如一秒鐘能夠處理多少楨圖像，和目前主流處理器有顯著的提升，地平線的核心競爭力就是軟件和硬件的高度協同。目前，Matrix自動駕駛計算平臺已經在國外的一個世界非常知名的自動駕駛企業的車上進行了部署，今年同樣在國外會部署超過1000臺這樣的4級、5級自動駕駛車輛。在4級、5級自動駕駛里，地平線產品的計算能力極具國際競爭力，在實際部署中也是先人一步的。

基于地平線Matrix自動駕駛計算平臺地平線還打造了NavNet眾包高精建圖與定位方案，我們可以用單個的前置攝像頭通過計算實現類似于激光雷達的三維點云生成，并且是實時計算。今年，NavNet眾包高精建圖與定位方案將在韓國部署上萬輛汽車去做眾包高精地圖，這也驗證了地平線國際化的策略。通過眾包方式構建高精度地圖，成本和精度都有很大優勢。

在未來 5G 所牽引的萬物互聯的時代，以上兩個落地場景帶來的一定是數據的爆炸性成長。設備的智能一定離不開邊緣人工智能處理器及其軟件操作系統和上層應用。地平線的定位是一個做產業發展的賦能者，我們有一句話叫“只造武器不打仗”，即上不碰應用，下不碰數據，做OEM、出行運營商、集成商的賦能者。

目前，邊緣計算芯片在實際中的應用還有很多。比如工地，人臉識別大家都看了很多了，但是地平線反而是反其道而行之，注重人臉隱私保護，攝像機本身處理視頻時就已經把人臉全部模糊掉了，同時我們還做了一件事情就是檢測工人是不是戴了安全帽，我們發現這一點最近在很多國際廠商那邊非常受歡迎，因為他們并不接受中國無處不在的人臉識別，他們希望在傳過來的時候就把人臉抹掉。這是邊緣計算帶來的好處，因為你可以把這些計算放在前端的小的設備里。

地平線是一個技術驅動的企業，所以我們和國內的高校，很多頂尖高校特別是南京的東南大學、南京大學都建立了非常緊密的合作關系，包括聯合實驗室。中國未來的科技發展進入了一個打空間戰的階段，不僅僅是上層的應用要繼續做好，下層的計算處理器，計算的操作系統同樣要夯實。支撐起中國未來科技發展的不光是需要企業，也需要整個生態，需要企業、高校人才等方方面面地整體互動。

目前，基于自主研發的 AI 芯片及算法，地平線已在全球范圍內賦能包括奧迪、長安、理想、禾賽科技、首汽約車、SK電訊在內的眾多智能駕駛合作伙伴。未來，地平線將持續發力，聚焦邊緣 AI 芯片+工具鏈組成的基礎技術平臺的搭建和打磨，為推動客戶實現人工智能與行業的深度整合及落地應用提供“加速劑”。