2019年6月28日,由<電子發燒友>主辦,深圳市機器人協會、深圳市人工智能行業協會和華強智慧網聯合主辦的“2019年人工智能技術峰會”在深圳成功舉行。本次峰會以“加速人工智能技術落地”為主題,包括一場高峰論壇和兩場技術分論壇:圖像與語音識別技術、大數據與AI技術應用論壇。大會匯聚了人工智能產業鏈上下游領先企業——國際一流IP供應商、EDA供應商、芯片/算法獨角獸企業、知名的系統和平臺供應商、系統集成商、投資機構以及來自垂直應用領域的新銳企業等等。本次大會還獲得了深圳半導體行業協會、深圳市物聯網協會、深圳灣、尋材問料、CIOE光博會、華強PCB和華強芯城等單位與機構的大力支持。
超過一千名專業觀眾參加了大會,近30位企業高管、行業專家縱論產業發展之道,從不同領域、不同產業環節出發,對2019年人工智能在中國市場的進一步落地,進行了探討及預測。并有數家公司在會上發布最新產品,還有豐富的AI技術/方案等落地資源,實現了供應商與需求方之間的有效對接。
<電子發燒友>總經理張迎輝在致辭中表示,中國的華南地區一直是高科技應用落地的主要地區,深圳則是這塊科技創新熱土的重要基地。在過去兩年中,人工智能語音識別音箱出貨量過億,成為第一代人工智能產品爆品,它宣告人工智能技術落地正式全面啟動。從此深圳的新產品的出現,可能將不再是一件件單品,而是帶有人工智能技術的多品類產品應用落地。他強調,人工智能創新技術呈現出無限的商機,未來的科技企業,誰能在人工智能技術發展的路上走得更快更強,誰就將會成為接下來的科技霸主。
<電子發燒友>分析師張慧娟就人工智能調研成果進行了主題報告。結合全球領先科技企業的布局,以及國內市場的落地應用情況,分析認為人工智能將在2-3年內在國內市場形成更大規模的落地效應,包括新興領域和傳統行業。在人工智能落地的動力與瓶頸方面,提到數據問題應該受到足夠的重視,不論是硬件架構還是數據資源的調取方面。隨著人工智能從云到端的發展,端側芯片競爭會更為激烈,背后考驗的還有軟件支持、生態、服務等因素。報告最后談到了智能終端人機交互的趨勢,以及5G與AI融合后可能帶來的改變。
以下是高峰論壇演講嘉賓的精彩觀點:
Arm中國:連接無處不在,智能無處不在
Arm中國市場部負責人梁泉在演講中談到,人工智能會繼續賦能邊緣設備發展,應用于每個IoT終端節點。現在,90%的AI智能設備都基于Arm?IP,Arm?IP極大驅動了人工智能和機器學習技術的發展。
Arm中國市場部負責人梁泉
回顧計算發展的歷史,梁泉表示,經歷了主機計算時代、個人計算和軟件、互聯網、移動和云計算這四次浪潮,第五次浪潮將是一個由數據驅動的計算時代。Arm生態系統在這波浪潮中將迎來巨大的機遇,推動經濟增長及社會進步,但是,只有把當前的先進技術轉化為堅實的業務,第五次浪潮才會成為現實。
根據Arm之前的預測,到2035年,全球將有一萬億設備實現互聯。飛速發展的物聯網已成為人類文明史中推進速度最快的新興經濟體系,全球累計物聯網設備產生的新產值已達到30萬億美元,而在接下來的20年內,預計累計中國物聯網相關設備及產值就將達到60萬億元以上。
如何滿足嵌入式平臺日益增長的智能處理需求?梁泉指出,分布式計算成為未來方向。邊緣處理在帶寬、電源、成本、延遲、可靠性和安全性方面提供了好處。并非所有數據都需要發給數據中心去處理,在數據被搜集和使用的節點也應該具有這一能力。這意味著不僅要在筆記本電腦處理器中啟用這種邊緣處理能力,還要在性能、功耗和內存方面有限的小型嵌入式設備上實現這種計算水平。Arm希望與合作伙伴共建面向未來的智能生態,實現這些優勢。
去年6月Arm把中國業務分拆,成立由中資51%控股的Arm中國,并推出本土工程團隊的第一個成果——周易人工智能平臺。周易平臺采用完全自主開發的AI處理器和軟件框架,讓芯片廠商能夠在現有的技術能力上,快速部署人工智能計算的算力,在同等的成本功耗情況下,能做到人工智能應用所需要的算力。它的核心包含兩部分,一是Tengine軟件框架,二是AIPU(人工智能處理單元),主要處理卷積神經網絡、深度神經網絡為代表的AI計算。從優化端側芯片開發的角度看,周易平臺降低了兩個門檻:一方面是SoC集成AI功能的設計門檻,另一方面是上層軟件的開發門檻。
梁泉表示,未來的智能生態,所有基礎革命都必須通過開放生態系統把成本功耗降下來,又能通過共同的標準和體系讓大家協作,在同一個開發環境中,把應用服務做好。
Wave Computing:創新架構設計應對數據中心至邊緣端計算挑戰
隨著神經網絡、AI應用場景和方案的不斷創新和多元化,以及5G網絡發展為邊緣計算帶來的發展機會,Wave Computing中國總經理熊大鵬博士認為兼顧效率、通用性、靈活性、可擴展性與成本的AI深度學習計算加速的新架構技術,將會是下一個對AI產業發展至關重要的技術進步。
Wave Computing中國總經理熊大鵬博士
Wave?Computing最新推出的面向邊緣和端側AI計算的TritonAI 64 IP平臺,基于DataFlow處理器,是基于CGRA的DPU技術,針對邊緣和端側市場,做了一定的優化,在性能功耗和通用性方面能夠達到更好的平衡。
熊大鵬博士表示,CPU、GPU等芯片不適合對巨量數據進行處理、傳輸和存儲的要求。此外,人工智能應用場景非常豐富,從小到幾十個Gops的輕量級推理,大到上百個Tops的重量級多網絡并發推理;從追求PPA的專用網絡的應用場景,到網絡變化無窮的應用場景,該平臺都能很好的支持。
采用非馮諾依曼架構,通過軟件實時動態地控制成千上萬個異步的處理器來構成具有特定功能的、并行處理的、數據驅動的計算流水線,能夠充分使用芯片的算力,最大程度減少數據存儲、傳輸和交換,實現更佳的效率、通用性和可擴展性。熊大鵬博士表示,這一方案基本上能將芯片算力資源的利用效率保證在75%-80%以上。
基于DataFlow技術架構芯片DPU的解決方案不僅適用于數據中心,在邊緣計算方面也有獨特的價值。一方面,AI對邊緣處理的能力要求越來越高;另一方面,AI不再只是單一模型的處理,需要同時支持多個不同的神經網絡,對處理器的通用性和能效的要求更高。
Wave Computin于去年6月收購了IP提供商MIPS,致力于將通用計算技術和深度學習的AI數據流核的計算技術融合在一起,加速數據中心至邊緣終端計算的AI算法。
Cadence:如何在邊緣側/端側快速部署神經網絡?
Cadence公司Tensilica事業部產品管理總監Megha Daga指出,神經網絡推斷將會無處不在,例如智能語音助手、人臉識別、安防監控等等,現在多數的AI推斷都需要傳給云端去處理,但未來,邊緣側/端側AI推斷會成為趨勢。
Cadence公司Tensilica事業部產品管理總監Megha Daga
這樣可以帶來三方面好處:首先是低延時,盡管云端具備強大的算力,但是當越來越多的算力都移到邊緣或端側,能夠省去了數據傳輸的時間,延遲會大大縮小;其次,針對需要離線推斷的場景,可支持設備在不接入網絡的情況下進行推斷;第三,人們對隱私安全非常注重,數據在端側處理,能夠進一步提升安全性。
但是,在邊緣側或端側進行運算有些特別的要求,特別是對于多數都是使用電池供電的嵌入式設備,有低功耗方面的需求;同時還要求具備很高的運算能力;此外,還要求設備能夠實現可配置、可擴展,從而適應不同的場景。諸如此類要求,都對設備提出了很高的要求。
致力于加速邊緣側/端側神經網絡推理,Cadence去年推出專門針對人工智能領域的全新處理器IP——Tensilica?DNA?100。無論小至0.5還是大到數百TeraMAC(TMAC),均可實現高性能和高能效,性能有望達到100TMACs(萬億矩陣積累操作)。
與具有類似尺寸的MAC引擎的競爭解決方案相比,DNA 100具有高達4.7倍的性能優勢。這主要通過它的稀疏計算架構而實現,這意味著它只計算非零激活和權重,并實現了更高的硬件MAC利用率。
Megha Daga表示,神經網絡的特點是固有的權重和激活的稀疏性,這會導致其他處理器中的MAC通過加載和乘零而不必要地消耗性能。而Tensilica ?DNA 100處理器的專用硬件計算引擎消除了這些問題,允許利用這種稀疏性來提高效率和減少計算量。神經網絡的再訓練有助于增加網絡的稀疏性,并通過處理器的稀疏計算引擎實現最大性能。
例如汽車動力這種擁有大量傳感器的應用中,包括了攝像頭、激光雷達和超聲波等,對于推理性能的需求非常急迫。有了神經網絡加速器后,就可以實現標準DSP負責信號處理的主要任務,處理感知和決策制定等任務被移交給神經網絡加速器。
軟件方面,Cadence提供了一個完整的軟件棧和神經網絡編譯器,包括網絡分析器和優化器以及所需的設備驅動程序,可以進一步降低開發難度,縮短開發周期。目前,Tensilica DNA 100已開始供貨。
太谷計算:IoT+AI如何賦能智慧安防?
智能化城市的開發目標,正在從原來的單個需要,轉向對整個生活形態或生態鏈的“全應用場景”模式。按四個維度劃分,人工智能在城市應用場景覆蓋:社會管理場景,覆蓋AI+安防、AI+交通、AI+能源;公共服務場景,覆蓋AI+醫療、AI+政務、AI+服務機器人;產業運作場景,覆蓋AI+農業、AI+樓宇、AI+零售;個人應用場景,覆蓋AI+生活娛樂、AI+教育、AI+移動設備。
太古計算總經理陳偉認為,升級安防場景有助于搭建更高效的城市治安系統。他指出,傳統安防系統的監控中心,基本上只能實現事后視頻取證的功能,并不能及時通過監控發現問題,因此,亟需對安防系統增加事前預警功能。
太古計算總經理陳偉
那么,如何能夠實現事前預警?陳偉指出了行為監控的重要性。基于AI神經網絡的視覺分析算法,太古計算的智能AI行為識別系統可以利用拍攝回來的視頻畫面,結合人體姿態特征,識別出人的各種動作,賦予監控系統智能分析的能力,同時該系統還可以實現廣播系統和消防報警系統的相互聯動。因為增加了對視頻中人的動作識別,達到提前預警的目的,該系統可以廣泛應用于社會治安、小區、工廠、酒店、學校、醫院、養老機構、公園、廣場、旅游區、監獄、客運公交、地鐵、機場、海關、施工工地等領域。
陳偉介紹,傳統的行為識別技術多是基于移動偵測技術、伴線技術、圖像比對、學習人形或物體、軌跡分析等多種技術糅合在一起,實現對場景的分析,當場景發生變化時,判斷為出現異常。
太古計算這款智能AI行為識別系統,基于骨架的行為識別及檢測,是以LSTM(Long-Short Term Memory)的循環神經網絡(RNN)與卷積神經網絡(CNN)為基礎框架搭建而成。由于是根據運動軌跡定義各種異常行為,因此無需針對場景進行分析。這樣帶來的好處是誤報率降低,識別精準度、識別能力、識別效率提升。
陳偉表示,智能AI行為分析技術具有實用性強、應用場景多等特點,是很多企業看好的方向。隨著數據的積累,智能AI行為分析技術的不斷突破,有望在各個行業的應用場景落地。
地平線:從算法到芯片一站式方案,構建AI生態
現今邊緣側的數據量越來越大,AI若想真正普惠大眾,挑戰在于數據。據國際 IDC 數據公司(IDC)白皮書《數據時代 2025》預測,2025 年,超過 25% 的數據將成為實時數據,其中 95% 生產自 IoT 終端,并且絕大部分不能直接創造價值,需要進一步提煉才能更好地發揮數據價值。地平線智能芯片解決方案事業部總經理張永謙就此談到了邊緣計算如何賦能行業落地。
地平線智能芯片解決方案事業部總經理張永謙
5G網絡時代,多接入邊緣計算成為必由之路,邊緣計算的好處是實時計算,減少反應延遲,可靠性高,離線正常運作,安全合規滿足隱私要求,高性價比,節省存儲運輸成本。張永謙提到,未來,AI計算將是分布式的,邊端云協同,在一個更大的范圍內尋找AI解決方案最優解。
同時,他還指出,AI芯片的真實性能要從四個維度來衡量:每瓦的峰值算力和每美元的峰值算力(由芯片架構、前后端設計和芯片工藝共同決定),峰值算力的有效利用率(由算法和芯片架構決定),以及有效算力轉化為 AI 性能的比率(主要是速度和精度兩個方面,由算法決定),結合這四點得到的才是有效的AI性能。
從算法演進時間軸,可以看到地平線AI芯片的表現高于典型AI芯片,原因是地平線AI芯片將算法和芯片協同優化,首重效率,兼顧靈活性,高效架構設計服務經典和未來算法。
地平線于2017年底成功流片量產了中國首款邊緣人工智能處理器——專注于AIoT的“旭日(Sunrise)”系列處理器和專注于智能駕駛的“征程(Journey)”系列處理器,并已實現大規模商用。目前,地平線第二代芯片已流片成功,具備強大的語音和視覺融合計算能力。AI需要生態鏈的支撐,張永謙表示地平線希望與生態合作伙伴一同推動邊緣人工智能在智慧樓宇、智慧安防、智能零售、智能社區等領域的發展。
今年4月的上海車展上,地平線首次對外明確了地平線的戰略選擇——AI on Horizon,做AI時代最底層的賦能者。地平線將充分發揮自身在人工智能軟硬件方面的核心優勢,聚焦在邊緣AI芯片+工具鏈組成的基礎技術平臺的搭建和打磨,賦能產業合作伙伴,向行業提供“超高性價比的AI芯片、極致功耗效率、開放的工具鏈、豐富的算法模型樣例和全面的賦能服務”。
瑞芯微:在AI峰會之際正式發布AI計算棒
瑞芯微在今年正式進軍人工智能芯片市場。瑞芯微在2019年1月正式推出AI開發平臺Toybrick。瑞芯微電子高級產品經理邱建斌在演講中介紹,硬件上,瑞芯微提供多系列開發平臺和參考設計滿足不同用戶群體。軟件上,提供穩定可靠的系統平臺、豐富的開發工具、AI教學案例和開源的社區。
瑞芯微電子高級產品經理邱建斌
瑞芯微推出TB-RK3399Pro開發板,采用高性能AI處理芯片RK3399Pro,提供一站式AI解決方案。集成多路USB接口,PCIe接口,雙MiPi CSI接口,HDMI、DP、MIPI和eDP顯示接口等。預裝Android和Linux雙操作系統。
此外,瑞芯微還推出了Toybrick AI計算棒TB-RK1808S0,它的內部搭載算力3.0T ops RK1808 NPU。多種開發模式,支持二次開發,進行深度定制。主要面向AIOT應用。在此次AI峰會上,瑞芯微也帶來了好消息,宣布這款計算棒正式上市。
計算棒強化了邊緣側的AI推理能力,也使得AI應用更加簡化。實際流程中,把模型送到計算棒上,進行推理,再把結果返回到開發平臺,再進行展示即可。可廣泛應用于人臉識別閘機,計算機視覺,智能零售,車載產品,工業電腦,智能家居設備,醫療健康和穿戴設備等。
在瑞芯微的AI開發平臺,可進行模型轉換,稱做RKNN功能,目前已經支持TENSORFLOW,CAFFE,ONNX,DARKNET等深度學習架構。除了客戶已有的算法可以在平臺進行評估,瑞芯微還提供人體骨骼關鍵點,人臉特征關鍵點等AI SDK,客戶可以快速評估性能,未來還有條型碼,二維碼等識別。
整體而言,瑞芯微AI芯片的應用場景非常廣泛,包括新零售,計算機視覺,人臉識別閘機,車載產品,工業電腦,AIOT,醫療健康,智能穿戴等等。
RT-Thread:AIoT操作系統如何智能?
AI與物聯網密不可分,由于語音、視覺、圖形、數據分析向智能化轉移,物聯網設備的AI處理成為必須。上海睿賽德電子科技RT-Thread COO鄒誠分析說,從操作系統來看,AIoT還主要以linux和安卓系統為主,占比80%。而RTOS操作系統占比20%,以M4F和ARM,RISC-V處理器為主。RT-Thread是國內目前合作和支持芯片廠商最多、社區開發者最多、組件最豐富、應用領域最廣的IoT OS。
上海睿賽德電子科技RT-Thread COO鄒誠
鄒誠介紹,RT-Thread操作系統推出兩代架構,新一代RT-Thread4.0將最大限度的兼容之前的組件和軟件包生態。憑借兩代架構,RT-Thread將在70%以上的AI領域具備競爭力。
在RT-Thread4.0之前,內核的網絡協議,驅動等都跑在一個內核里面。下一代微內核架構,更多運用在M4,M7,R9,11,RISC-V等處理器上,這個架構是把驅動等放在用戶態,內核態放內核調度,IPC等。
為什么要推出微內核,鄒誠表示,微內核架構啟動時間快,更低功耗和內存資源占用,構建音視頻框架,集成AI平臺以及圖形化IDE。在高端智能設備領域,微內核架構更有競爭力。IOS,安卓也用的微內核架構。
與linux操作系統相比,RT-Thread具有低成本如RAM和Flash只需linux的五分之一,低功耗、快啟動、小體積、實時性和快上市等特點。成為MCU,無線SoC,AI/AP領域芯片廠商的選擇。
現在,超過40家公司支持RT-Thread,幾乎所有主流的MCU芯片都支持,無線SOC領域例如芯之聯、RDA、博通集成等也有合作;AIAP領域,已經有多家芯片選用,例如國科微、全志、瑞芯微、SIFIVE等。
最近搭載RT-Thread的智能音箱方案開始出貨,這個方案基于MCU,并在DSP上跑降噪和語音識別,采用RT-Thread優化了整個方案的性能。
RT-Thread還具有開源組件豐富(軟件包生態)、擁有高附加值組件如GUI、音頻框架、Flash日志文件系統等,優秀的軟件架構設計,高度可伸縮,良好的應用生態環境,如支持POSIX,CMSIS,Webnet,腳本運行環境等擁有豐富的開發工具包,易用和便捷開發。
鄒誠認為,物聯網時代的碎片化等特征,使得終端開發的復雜性增加,產品對功耗和上市時間要求皆高。RT-Thread致力于解決這些痛點,朝著物聯網操作系統更簡化、更智能發展。
阜時科技:AI時代生物特征識別是怎樣的?
在此次AI峰會上,阜時科技對人臉識別與指紋識別兩種識別方式進行了剖析。阜時科技人工智能與機器視覺技術聯合實驗室研究員許家妙談到,生物特征識別是根據生理特征(人臉、指紋、虹膜等)和行為特征(姿態、動作、情感等)實現身份認證的技術。人臉識別應用于閘機、門禁考勤、支付、在線辦事等等行業。
阜時科技人工智能與機器視覺技術聯合實驗室研究員許家妙
以智慧影院為例,通過人臉注冊,專注度分析,收費評估,專注度匯總等步驟,最終可通過大數據給影片打分。現如今,人臉識別已經出現在無人超市,智能售貨機等應用,此外還可以進行整容妝容模擬等。
不過,如果采用2D人臉識別,其面臨一些挑戰。例如低分辨率,計算力限制,人臉反欺騙等。在丹麥有案例通過豬臉識別,監測豬的喂養情況還需要考慮細粒度分類問題。
相比之下,3D人臉識別更加精確。3D活體檢測可以有效地分辨出偽造圖片,視頻和面具等。許家妙介紹說,阜時科技的3D結構光人臉識別,相比傳統2D識別,能夠提供更精細的結構信息,能夠進一步改善識別精度。
在指紋識別領域,阜時科技推出了基于LCD的屏下指紋芯片。目前,屏下指紋大多數基于OLED屏,它具有透光性,厚度較薄等特點。據悉,阜時的LCD屏下指紋,已經與國內公司達成合作,將于今年底量產。
生物特征識別在算法、硬件和法律法規方面仍然面臨著挑戰,也是芯片廠商需要為之不斷努力的方向。近幾年人臉的隱私保護受到關注,人臉反應出的基因信息等如何得到保護,同時不影響人臉認別的精度,這些都是人臉識別行業將要研究的課題。
圓桌論壇:AI產業鏈暢談加速人工智能落地
AI產業已經受到矚目,當務之急就是各種落地應用。本次圓桌論壇由電子發燒友AI分析師張慧娟主持,在這個環節,諸位嘉賓就“加速人工智能落地”的話題進行了熱烈的討論。他們分別是:Wave Computing中國區總經理熊大鵬,太古計算機董事長陳偉,RT-Thread COO鄒誠,華為云專家,平安智慧城市李鎬煒博士。
從產業政策到AI產業存在的痛點,再到AI有哪些落地的方向等,嘉賓們都給出了分析。
熊大鵬認為在政府的推動下各種AI應用開始推廣,其中與視頻和圖像有關的AI應用很多。AI計算架構和軟件開發平臺還處于碎片化,目前業界的共識是兩種思路,即與應用相結合,或者通用性不針對特定應用。Wave Computing比較擅長后者。他同時指出,計算內部數據的存儲是阻礙AI發展的一個關鍵點,好比人腦通過某些思考可以很快地發現答案,片上存儲容量的突破能夠加速信息的即時處理,避免數據在處理器和存儲器之間頻繁進行傳輸而耗時。
陳偉認為包括算法積累,算力提升以及5G到來,目前只是第一階段的進程。往后發展到類人腦,需要芯片、算法、終端廠商的共同發展。
RT-Thread COO鄒誠談到AI在智慧城市已經開始發力、語音模組、攝像頭AI還沒有上規模。AI芯片廠商面臨的問題是場景的碎片化和芯片的專用性以及市場空間等,這影響著芯片廠商的現實生存和發展。
華為云專家認為,創新周期在縮短,有了云平臺,算法可以直接跑在云端。同時落地周期又相對較長,一個項止的落地可能要經歷商業咨詢,頂層設計,部署IoT傳感器,數據中臺,部署AI,人才培訓等一系列過程,因此落地項目很重要,建議通過示范項目找落地點。
平安智慧城市李鎬煒博士直言,人工智能的算力,能否從不太精準的數據中分離出有價值的信息,這將是一個挑戰和機會。他同時指出AI從信息安全角度如何落地,AI的安全、合規性也是相當重要的問題。
與會嘉賓們一致認為,AI是數字經濟的發動機,也是彎道超車的機會,當然,現階段還是要加強算法和算力研發的力度,培養大量的人才,并建立良好的AI生態。
精彩花絮
評論
查看更多