【導讀】行家一伸手,便知有沒有。英國Imagination最新神經網絡加速器PowerVR 2NX NNA性能領先最接近競爭對手2倍,不管你是DSP+硬件、VPU+硬件還是神經網絡DSP。預計它將是海思下一代麒麟芯片的不二之選。
人工智能今天已經提升到國家未來戰略競爭力高度,這是因為未來它將滲透到各行各業的關鍵設備,并成為這些設備的核心競爭力。比如,今天華為就已經憑借著人工智能技術將Mate 10智能手機的競爭力超越了蘋果最新發布的iPhone8。未來最接近人腦運算模式的神經網絡處理單元將成為下一代設備機器學習和深度學習的最佳選擇。
Imagination公司 PowerVR 產品與技術營銷資深總監 Chris Longstaff說:“由于功耗、帶寬、性能、可靠性、安全和延遲方面的考慮,下一代人工智能設備不太可能用軟件和云計算來實現,必須用硬件來實現機器學習和深度學習。神經網絡一定會成為下一代人工智能SoC的關鍵處理單元。未來它將像CPU、GPU和視頻編解碼器一樣在SoC中無處不在。”
包括卷積神經網絡(CNN)、循環神經網絡(RNN)和長短期記憶網絡(LSTM)在內的神經網絡正推動各個人工智能產業的爆發性技術進展。英國知名GPU IP供應商Imagination最近在深圳宣布推出完整、獨立式的硬件IP神經網絡加速器,它通過神經網絡(NN)專用的PowerVR架構實現,可提供業界領先的性能、功耗和面積效率。
Chris Longstaff指出:“PowerVR 2NX NNA神經網絡加速器的性能、功耗和面積效率領先最接近競爭對手2倍,不管對手采用的是DSP+硬件、GPU+硬件還是神經網絡DSP。”
今天,為移動、監控、汽車與消費系統市場開發SoC的公司將能以非常低的功耗、在最小的芯片面積中集成新款PowerVR 2NX NNA神經網絡加速器,來實現神經網絡的高性能運算。
他舉例說明,今天無人機的飛行速度超過每小時150英里,如果沒有硬件處理單元,采用云計算來實現防撞功能,那么它就需要10-15米的防碰撞距離。如果采用PowerVR NNA SoC來實現,就可以在不到1米的距離內避開物體,而且還可以運行多個網絡,在避免碰撞的同時識別和跟蹤物體。
另一個明顯的例子是,如果在移動設備上用高端CPU來對1000張照片進行搜素和排序,需要60秒,而如果采用PowerVR 2NX NNA,只需要2秒。
NNA是一種基本類型的處理器,預計它會跟CPU和GPU一樣重要,而這兩類處理器Imagination均已能供應。NNA的潛在應用不計其數,其中包括AR/VR頭戴設備中的特征檢測與眼球追蹤;汽車安全系統中的行人檢測與駕駛員警覺性監控;智能監控系統中的臉部辨識與人群行為分析;網絡詐欺檢測、內容建議(content advice)、以及預測性UX;虛擬助理應用中的語音識別與回應;以及無人機中的防撞與對象追蹤等。
“今天谷歌、蘋果、Facebook、百度和華為等大型廠商都把AI/NN應用于移動終端領域,而PowerVR 2NX是特別為移動和Android而設計的,”Imagination市場傳播副總裁David Harold說,“PowerVR 2NX不僅是業內第一款具備支持從16位到4位高靈活度位寬的專用神經網絡硬件解決方案,也是帶寬最低的神經網絡(NN)解決方案,其架構可支持多種操作系統,包括Linux和 Android。”
根據嵌入式視覺聯盟(https://www.embedded-vision.com)于2017年1月進行的嵌入式視覺開發人員調查顯示,79%的受訪者表示他們已經利用或正計劃利用神經網絡來執行其產品或服務中的計算機視覺功能。隨著科技持續的快速進展,更多的公司都將能夠利用神經網絡來開發產品與服務。Imagination的客戶已為安全、移動、汽車與機頂盒等多個市場開發與部署基于NN的系統。
嵌入式視覺聯盟創始人Jeff Bier表示:“很多系統與應用程序開發人員正采用深度神經網絡算法把新的感知功能帶到他們的產品之中。在許多案例中,主要的挑戰在于能為這些要求嚴苛的算法提供足夠的處理性能,同時滿足嚴格的產品成本與功耗限制。像PowerVR 2NX NNA 這類的專用處理器,是專為神經網絡算法所設計,將能在許多新應用中推動這些強大算法的部署。”
隨著神經網絡日益普及,2NX NNA 這樣的專用硬件解決方案 —— 與單純的DSP解決方案相比,它可提供8倍的性能密度提升 —— 將能以最低的功耗與成本達到最高的性能。此外,一直以來,神經網絡非常耗費帶寬,因此內存的帶寬需求會隨著神經網絡模型規模的增長而增加。這會為SoC設計人員和OEM公司在設計系統時,因為要提供NNA所需的帶寬而帶來重大的挑戰。PowerVR 2NX能最小化外部DDR內存的帶寬需求,確保系統的性能不會受到帶寬的限制。PowerVR 2NX NNA專用硬件的普及應用,將能推動各種基于神經網絡技術的應用程序進一步發展。
PowerVR 2NX NNA可實現最高效率的解決方案
PowerVR 2NX是從頭開始全新設計的架構,可提供:
? 業界最高的單位毫瓦推理 (inference/mW) IP內核,以提供最低的功耗*
? 業界最高的單位面積推理 (inference/mm2) IP內核,可實現最具成本效益的解決方案*
? 業界最低帶寬的解決方案*——支持權重與數據的高靈活性位寬,包括低至4位的低帶寬模式
? 業界領先的性能,單一內核為每周期2048 MAC,并可采用多核設計進一步提升性能
? 在硬件架構的基礎上提供了最全面的系統級的神經網絡解決方案
Imagination公司 PowerVR 產品與技術營銷資深總監 Chris Longstaff 表示:“神經網絡加速的專用硬件將成為未來SoC的標準IP模塊,就如同CPU和GPU一樣。我們很高興率先向市場推出完整的硬件加速器,能完全支持高精準度的靈活方式,使神經網絡能以最低的功耗與帶寬運作,并提供優于競爭對手方案的絕對性能與單位面積性能。我們提供的工具將能讓開發人員非常快速地啟用并執行其神經網絡,因此能快速增加營收。”
2NX包括硬件IP、軟件與工具,可為SoC提供完整的神經網絡解決方案。它能有效地執行所有常見的神經網絡運算層。依據推理任務的運算需求,它能獨立使用 ─ 無須額外的硬件 ─ 或是與CPU和GPU等其它的處理器結合運用。
神經網絡應用市場無所不在
PowerVR 2NX NNA是專為適應多種市場的推理引擎所設計,其高度可擴展架構適用于未來的更多應用市場。
移動:隨著Tensorflow Lite以及 Android API的即將發布,再加上Caffe2Go架構的快速進展,我們將看到智能手機AI應用程序數量的快速爆發。公司需要高效率的方式來執行包括影像辨識、語音辨識、計算攝影等在內各種的推理任務。PowerVR 2NX是現今唯一的一套IP解決方案,能以低功耗、小面積、MMU和對Android的支持,來滿足移動解決方案部署的所有需求。在GPU不可或缺的移動設備中,公司能把新的 PowerVR Series9XE或 9XM GPU與 2NX NNA在相同的芯片中搭配運用,以作為獨立式GPU。其優異的性能足以和業界的獨立式GPU競爭。
智能監控:家庭與商業場所安裝的監控攝影機數量正大量增加,將推動神經網絡視覺處理的需求。基于這些技術的智能型攝影機能被用來根據安全警示、零售分析、人口統計與互動數據來制定決策。考慮帶寬需求、數據機密性與其他因素,攝影機的設計必須加入一定程度的“網絡邊緣”(edge) 視頻信息分析處理的能力。由于這些攝影機通常沒有GPU或是僅有非常小的GPU,以及較低性能的CPU,因此它們需要一個高效率、高性能的獨立式神經網絡加速器。2NX NNA是理想的選擇,并且具備高度可擴展性,能同時滿足消費性與商用的需求。
汽車:汽車的神經網絡應用包括駕駛員警覺性監測、駕駛員視線追蹤、座位使用、路標檢測、駕駛路線分析、道路使用者檢測、駕駛員辨識以及其他。隨著未來幾年自動駕駛汽車與智能型運輸系統的數量將日益增加,這些應用將持續擴展。在汽車系統中,需要2NX NNA 這樣的完整硬件解決方案,才能滿足相關的性能需求。
家庭娛樂:機頂盒和電視將逐漸提供基于神經網絡的解決方案,例如能夠適應特定使用者偏好的能力,提供自動的兒童鎖,以及根據使用者行為自動暫停與錄制節目。憑借這些特性,公司能提升其差異性并增加營收。要在這些設備上構建神經網絡的關鍵是高效率的帶寬與低成本,以及支持NN API ─ 這些都是2NX NNA的重要特性。此外,還有許多新興的NNA娛樂應用,包括AR/VR。
睿悅信息Nibiru是一家移動VR與AR的技術與服務供應商,該公司的共同創始人兼副總裁 Tony Chia表示:“來自合作伙伴Imagination的創新技術是確保VR解決方案可為消費者提供高度沉浸式游戲與視覺體驗的重要關鍵。我們對神經網絡在VR/AR的潛在應用感到非常振奮,包括追蹤、控制、姿勢辨識、語音辨識、以及能增加更多的互動體驗。內置 PowerVR 2NX NNA的芯片組可提供所需的處理能力與功耗效率,把VR/AR體驗推升到全新的境界。”
簡化開發人員的工作
Imagination可為開發人員提供所有必要的工具,讓他們能快速、輕松地啟用和執行其神經網絡,并確保運算帶寬能與準確度完美平衡。PowerVR 2NX的開發資源包括映射 (mapping) 和微調工具、樣本網絡、評估工具與文件。完整的 PowerVR NX Mapping Tool 能從業界標準的機器學習框架,包括Caffe 和 Tensorflow,輕松進行轉換。高級的網絡設計人員將能在2NX NNA 上設計與構建神經網絡,以充分發揮其硬件特性。
Imagination也可提供通用的Imagination DNN (深度神經網絡) API,能在CPU、GPU與NNA之間輕松轉換。此單一的API能夠跨多種SoC配置執行,因此能在現有設備上輕松開發原型。
PowerVR 2NX NNA即日起開始提供授權。
Imagination發布PowerVR NNA神經網絡加速器
相比最接近的競爭方案,可提供兩倍性能而僅需一半帶寬
關于 Imagination Technologies 公司
Imagination 是全球性的科技領導者,其產品已廣為世界各地數十億消費者所使用。Imagination 擁有完整的硅 IP(硅知識產權)產品組合,包括創建 SoC(片上系統)所需的關鍵性處理器,能夠用來開發各式各樣的移動、消費類和嵌入式電子產品。該公司獨特的多媒體、處理器和連接技術可協助客戶開發出具備高度差異化特性的 SoC 平臺,并將產品快速推向市場。Imagination 的授權客戶包括多家開發出全球最具標志性產品的領先半導體制造商、網絡廠商以及 OEM/ODM 廠商。
評論
查看更多