近日,國際權威AI性能基準評測平臺MLPerf發布最新推理(Inference v2.0)測試成績,總計超過10家國際知名服務器廠商的數十種產品參與了本次測試。其中,寧暢X640 G40、X660 G45 、X620 G40人工智能服務器,在Closed(封閉)賽段的3D-UNet99(圖像分割)、SSD-large(目標檢測重量級)與Bert-99(自然語言處理)等模型測試中性能表現出色,共獲得59項第一成績。
MLPerf基準測試在國際AI領域有極高影響力,其基準聯盟已有谷歌、Intel、NVIDIA、微軟、Facebook等超50家成員。MLPerf Inference v2.0 AI基準測試包括Datacenter(數據中心)和Edge(邊緣)兩大場景,參與測試的各計算系統基于同一套參數運行。
X640 G40獲得Datacenter組全場第一
搭載NVIDIA A100 Tensor Core 80GB GPU,寧暢X640 G40 在Closed(封閉)賽段所有已發布的產品中,獲得10項Datacenter組總體性能第一成績,也是本次測試中的全場第一。
最新的MLPerf Inference v2.0設置了不同領域的Benchmark子項,貼近前沿AI應用場景。X640 G40在3D-UNet99(圖像分割)、SSD-large(目標檢測重量級)、Rnnt(語音辨識)和Bert-99(自然語言處理)等多個經典模型測試中均取得高光表現。
擁有強勁性能的寧暢X640 G40可針對不同AI場景和訓練模型進行互聯優化,滿足不同類型客戶需求。其中,SSD-large模型在線分數8994.9、離線分數9279.37,這一成績代表了寧暢X640 G40每秒可完成9200多張圖片中信息的分類、定位與精準檢測,且可應答近9000次實時目標檢測的推理任務;Rnnt模型離線分數為127213,代表寧暢X640 G40每秒可完成12萬次語音的識別請求。
X660 G45拿下Edge組單項性能冠軍,Datacenter組同配置7項第一
所有產品中,寧暢X660 G45搭載NVIDIA A100 Tensor Core 80GB GPU,在SSD-Mobilenet(目標檢測移動端)模型測試的Multi-Stream(多數據流)場景中,以0.44成績擊敗所有參賽產品,獲第一成績。同時, X660 G45還取得Datacenter組同配置的7項第一,在SSD-large、ResNet、Bert-99、Dlrm -99(智能推薦)四項任務中都實現了極佳的性能結果。其ResNet得分在線為286,030、離線為316,636,代表寧暢X660 G45能夠每秒完成超過30萬張圖片中各個事物類別的海量識別。
X660 G45是專為深度學習訓練開發的高性能計算平臺,采用600GB/s的NVLink總線高速互聯,每個GPU還可搭配HDR 200Gb/s InfiniBand網絡和NVMe SSD高速緩存,幫助用戶搭建GPU高速集群,同時結合近500TB的本地存儲容量,可極大縮短AI模型訓練時間。
X620 G40贏取Datacenter組同配置15項第一
本次測評中,搭載4顆NVIDIA A2 Tensor Core的寧暢X620 G40獲得Datacenter組同配置15項第一的成績。X620 G40在SSD-large、ResNet、3D-UNet99、Bert-99、Rnnt和Dlrm-99等幾乎所有模型測試中都取得優異成績,充分證明產品在推理性能上出類拔萃,能夠應對各種復雜的 AI 挑戰。
X620 G40作為一款2U高度人工智能服務器,支持PCIe4.0高速總線技術,適配NVIDIA各類GPU加速卡,是理想AI推理計算平臺,同時還可勝任桌面虛擬化、云游戲和視頻流轉碼等多IT行業用途需求。此外,X620 G40還具備關鍵部件健康狀態監控和上報功能,可以為數據中心運維保駕護航。
此次MLPerf Inference v2.0榜單的發布,進一步彰顯了寧暢在AI服務器領域的實力地位。以此為依托,寧暢將持續推動技術創新,不斷深入各種AI應用場景,以智能定制算力賦能用戶更好發展。
-
人工智能
+關注
關注
1791文章
46882瀏覽量
237623 -
AI服務器
+關注
關注
2文章
102瀏覽量
4879 -
寧暢
+關注
關注
0文章
42瀏覽量
5361
發布評論請先 登錄
相關推薦
評論