各科成績均“達標”的 X86服務器,在如今大熱的AI浪潮面前,卻遇到了一些“偏科”難題。
眼下,中國共計裝有近2億個視頻監控攝像頭,而具備AI能力的攝像頭僅占其中的1%。
在高清監控攝像頭數量與AI滲透率不斷遞增的情況下,由攝像頭采集的圖像、視頻流數據,需要更強大的分析引擎對其進行分析、處理和訓練。
以北京地鐵站為例,北京1000多個地鐵站中平均每站都有上百個攝像頭,平均每個地鐵站每天流通8到10萬人較為常見。保守預估每個相機每天看見1萬個人,再假設對比庫中有1萬個目標(對于公安數據庫來說并不大),這個相機每天要回答的問題就是一億零一萬個!
顯然,在當前各類安防項目中,依靠純嵌入式智能DVR和NVR均無法滿足嚴苛的計算要求。
面對萬億級AI安防市場,在技術落地成花的十字路口,所有的安防企業高管們都會面對一個終極命題:AI安防究竟需要一款怎樣強大的服務器?
“寵兒”X86暫遇“偏科”難題
談到安防服務器,X86無處不在,一直以來,它都是包括安防在內等多個行業的“寵兒”。
“眼下安防市場很多的管理平臺,譬如流媒體服務器、轉發服務器、主控服務器基本基于X86架構建設,它的最大優勢是比較容易開發、上手比較快,大多工程師更擅長在X86架構上做研發。”
華泰科捷CEO傅劍輝告訴雷鋒網,考慮到它表現不俗的性價比,X86服務器一直都是我們采購的首選。
由此,過去多年來,X86服務器也獲得了全球頂尖服務器供貨商的青睞。
遺憾的是,各科成績均“達標”的 X86服務器,在如今大熱的AI浪潮面前,卻遇到了一些“偏科”難題。
傅劍輝透露,從安防用戶實際使用角度考量,目前X86服務器應用在安防行業主要存在三大問題:
一、CPU負責邏輯運算的單元并不多,在多任務處理時效率低下。面對海量視頻信息,傳統X86服務器單純以CPU為核心的數據中心部署已經不能很好地滿足并行靈活計算、多變環境的計算需求,很難在安防企業級服務器市場有驚艷的表現。
“以前的視頻數據只需存在后臺,做少量分析即可,也就是說存儲足夠大就行;今天,很多客戶都希望我們能夠實時處理這些海量視頻信息并反饋結果,而這就意味著系統需要同時做解碼、做視頻結構化、做識別、搜索等等,X86明顯就不夠用了。”
換句話說,X86可以類比手機里的功能機,它能夠滿足單一的通信處理需求,而AI融入的安防市場,更需要一臺強大的智能手機,配備更強大的性能以適配游戲、圖片處理等個性需求。
二、在行業出現算力不夠的大背景下,很多廠商打出X86服務器加上若干GPU卡的組合拳,而這種為了單純解決算力而“拼湊”出的方案大大增加了服務器的功耗和用戶成本。
從行業采用情況看,如果涉及人臉識別等AI項目時,大部分廠商會采用GPU作為人像數據結構化的處理單元,特別是在X86服務器集群中,GPU更是成為唯一選擇。
在某種程度上,GPU的確解決了部分算力不足的問題,卻也存在兩個致命硬傷:
1.功耗大,需依托X86架構服務器運行,不適用于更為廣泛的AI方案開發;
2.成本高昂,比如采用GPU方案,折算單路人臉識別成本在萬元以上,相較其他千元級,甚至是百元級的方案,毫無成本優勢可言,這兩個致命短板,也讓很多企業不得不尋求新的方案。
三、由于X86更多采用的是較為開放的LinuX系統,而非封閉的AIX系統,在穩定性和可維護性上略顯不足。
“未來的市場必定是數據規模和計算能力的角逐。”
浪潮商用機器有限公司OpenPOWER產品營銷部總監張琪告訴雷鋒網,隨著越來越多新應用的出現,傳統的X86計算架構會遇到很多瓶頸,包括數據瓶頸(處理器的計算單元以多快的速度獲取和交換數據)、計算瓶頸(單位空間內能集成多少計算能力)、延遲瓶頸、通信瓶頸。
就像設計時速30碼的道路難以承載均速100碼的車輛通行一樣,很短時間內就可造成道路擁堵甚至癱瘓。
今天來看,面對大計算、智能化場景,誰能夠最先解決算力問題,又能夠更好降低功耗與成本,誰就能在AI浪潮下引領鰲頭。
在張琪看來,基于POWER9的高性能服務器能夠很好滿足AI安防時代下的高智能需求。
POWER9加持
更適合AI安防的高性能服務器
從AI安防實際場景所需出發,近期浪潮商用機器聯合高重科技,共同打造了軟硬件一體化的AI視覺分析解決方案,采用浪潮商用機器成熟穩定的OpenPOWER服務器,搭載高重科技企業級UltraVision視頻智能分析系統。此方案猶如一個超級高效的AI大腦,它軟硬結合,能夠實時、準確、智能、節能地完成包括安防在內各個行業所需的復雜性數據處理工作。
“硬”,體現在POWER9架構上,它能夠提供強大的圖像視頻的計算處理能力。相比其他處理器,POWER9支持了PCIe4.0、NVlink2.0等新一代I/O協議,能夠在AI等應用中展示出更好的應用表現。
具體來看,相比X86,其單節點視頻處理路數提升近3倍,達3.8倍提升深度學習框架AI模型訓練效率,1.8倍更好的加速數據庫性能,IO能力提升了近5倍。
另外,執行視頻和圖像編解碼,查詢搜索任務時,整機可提供單精度56TFlops和雙精度28TFlops超強算力,和比X86服務器相比,單塊GPU即可提供比純CPU服務器高30倍的推理能力。
值得一提的是,該方案獨有的CAPI技術,可以將延遲降低至1/36,全面加速圖像處理,同時功耗降低高達30%。
1.8倍、3.8倍、3倍、5倍、30倍,看起來不大的幾個數字對于安防行業來說,都是龐大數量級的提升。
這幾個數字的變化,能夠將各類犯罪和嚴重的暴力事件的防控手段從事后介入提前到事前或事中,大大減少安全事件的發生,實現公共安全從被動防御到主動防御的業務轉變。
除了POWER9提供的超強算力硬核外,在軟件層面,該方案還有高重UltraVision視頻智能分析技術加持,如目標檢測(PD)、行人重識別(RE-ID)等多項計算機視覺技術,提升目標識別準確率高達94%。
毋庸置疑,軟硬結合的浪潮商用機器和高重科技AI視覺分析解決方案在實際落地過程中,能夠實實在在地為用戶解決AI時代下的高算力與低功耗問題。
除此之外,相比其他熱門方案,該方案還有兩大優勢不得不提。
其一、獨有的利舊能力降低客戶成本。
通常來說,一般的AI視頻系統想要實現某些功能必須接入具備AI技術的感知攝像頭,該方案在部署過程中不需要更換原有攝像頭,只需要旁路接入視頻采集端,即可實現AI系統;
另外,該方案還可以兼容不同品牌、不同制式的任何攝像頭;可以不改變客戶原服務器等硬件架構的情況下直接部署,有效降低客戶部署成本。
其二、就浪潮商用機器公司本身來說,依托其在服務器領域的引領地位,擁有強大的定制化落地能力,縮短交付周期從月到天。
用于AI安防,不止于安防
該方案無論是面對大數據處理、機器學習這樣的AI應用,還是軟件定義存儲、內存數據庫這一類的開源應用都會有比較好的性能表現。
毫無疑問,專為AI、云計算、大數據等新興應用而生的AI視覺分析解決方案在客戶面對嚴苛業務挑戰時,提供了更多元化的選擇。
以AI為首的新興應用推動計算市場高速增長,對企業而言,如何借助高性能的IT基礎架構高效利用數據,并在業務上實現更快、更高、更強的增長成為最關注的課題。
“在安防領域打造城市大腦超級計算引擎,是我們一直努力的方向。”張琪表示,依托這款高性能產品,用戶也可以更快地部署各類智能應用,縮短安防AI應用的技術迭代周期。
與此同時,性能卓越的浪潮商用機器服務器的應用不僅限于安防行業,在互聯網、金融等對安全性要求高的領域,其也可以施展拳腳。
安防之外,整個社會正在向規模化、自動化、智能化轉型升級。其中,智能化的應用方向涵蓋四大方向:前端化、云端化、平臺化和行業化。
在這個升級過程中,新的平臺需要有新的能力做新的認知,新的認知催生新的需求和應用。
對于包括浪潮在內的科技公司來說,這是一次巨大的機會,同時也是一個不小的挑戰,路漫漫其修遠兮,必須上下而求索。
評論
查看更多