對比 NVIDIA GPU 上的 TensorFlow,該集成使深度學習推理速度快 5 倍。
中國北京 – 2018 年 4 月 11 日 – MathWorks 今日宣布 ,MATLAB 現在可通過 GPU Coder 實現與 NVIDIA TensorRT 集成。這可以幫助工程師和科學家們在 MATLAB 中開發新的人工智能和深度學習模型,且可確保性能和效率滿足數據中心、嵌入式應用和汽車應用不斷增長的需求。
MATLAB 提供了一個完整的工作流程來快速訓練、驗證和部署深度學習模型。工程師可以使用 GPU 資源,而無需額外編程操作,因此可以專注于應用本身而不是性能調優。NVIDIA TensorRT 與 GPU Coder 的全新集成使得可以在 MATLAB 中開發深度學習模型,然后以高吞吐量低延遲的方式部署在 NVIDIA GPU 上運行。內部基準測試顯示,MATLAB 生成的CUDA代碼與 TensorRT 結合,在部署 Alexnet模型進行深度學習推理時,性能比 TensorFlow 高 5 倍;在部署 VGG-16 模型進行深度學習推理時,性能比 TensorFlow 高 1.25 倍。*
“不斷發展的圖像、語音、傳感器和物聯網 (IoT) 技術促使團隊以更好的性能和效率研究人工智能解決方案。此外,深度學習模型變得越來越復雜。所有這些都給工程師們帶來了巨大的壓力,” MathWorks 總監 David Rich 說。“現在,團隊可以使用 MATLAB 訓練深度學習模型,NVIDIA GPU 可以將實時推理部署到從云端到數據中心到嵌入式邊界設備等各種環境中。”
* 所有基準測試均在一臺使用 NVIDIA TITAN Xp GPU、64GB RAM 的 Linux 12 core Intel? Xeon? E5-1650 v3 電腦上運行,使用的軟件包括帶 GPU Coder 的 MATLAB R2018a、TensorRT 3.0.1、TensorFlow 1.6.0、CUDA 9.0 和 cuDNN 7
關于 MathWorks
MathWorks 公司是數學計算軟件領域世界領先的開發商。它所推出的 MATLAB 是一種用于算法開發、數據分析、可視化和數值計算的程序設計環境,稱為“科學計算的語言”。Simulink 是一種圖形環境,可用于對多域動態系統和嵌入式系統進行仿真和基于模型設計。全球的工程師和科學家們都依賴于 MathWorks 公司所提供的這些產品家族,來加快在汽車、航空、電子、金融服務、生物醫藥以及其他行業的發明、創新及開發的步伐。除此之外,MATLAB 和 Simulink 產品還是基礎教學和研究工具,為全球眾多大學和教學機構所采用。MathWorks 創立于 1984 年,總部位于美國馬薩諸塞州內蒂克,在 15 個國家共擁有超過 3500 名員工。
-
matlab
+關注
關注
182文章
2963瀏覽量
230151 -
NVIDIA
+關注
關注
14文章
4936瀏覽量
102812 -
MathWorks
+關注
關注
16文章
72瀏覽量
61179 -
人工智能
+關注
關注
1791文章
46853瀏覽量
237539
發布評論請先 登錄
相關推薦
評論