NVIDIA 近日宣布,三家頭部系統制造商將率先在其服務器產品陣容中集成專為 AI 量身定制的 NVIDIA Spectrum-X 以太網絡技術,幫助企業客戶加速生成式 AI 業務。
Spectrum-X 專為生成式 AI 量身定制,為企業提供了一種全新的以太網絡,相較傳統以太網方案,其 AI 通信網絡性能提高了 1.6 倍。
這三家頭部系統制造商的新系統,整合了 Spectrum-X 與 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 軟件和 NVIDIA AI Workbench 軟件,為企業通過生成式 AI 來實現業務轉型奠定了基礎。
NVIDIA 創始人兼首席執行官黃仁勛表示:“生成式 AI 和加速計算正在推動新一代的業務轉型,企業需要升級其數據中心來滿足新型業務的需求。加速網絡就是 NVIDIA 的頭部服務器制造商合作伙伴推出新一代系統的催化劑,加快他們邁向生成式 AI 新時代。”
專門用于加速 AI 的網絡
為實現 AI 業務的出色效率,Spectrum-X 集性能優異的 Spectrum-4 以太網交換機、NVIDIA BlueField-3 SuperNIC(一款可以大幅提升超大規模 AI 業務性能的新型網絡加速器)以及多種加速軟件于一體。領先的基礎設施計算平臺 —— NVIDIA BlueField-3 DPU 就屬于 Spectrum-X 的一部分。
Spectrum-4 是專門面向 AI 的 51Tb/sec 以太網交換機,可在大規模、滿負荷的場景下提供較高的數據吞吐量,同時在 AI 云業務的多租戶場景下將網絡擁塞降低,其智能的、基于微調的路由技術可以保障網絡基礎設施的利用率。
BlueField-3 SuperNIC 專為網絡密集型的大規模并行計算而設計,可在 GPU 服務器之間提供高達 400Gb/s 的 RDMA(RoCE - RDMA over Converged Ethernet)網絡連接,大幅提升了集群內部基于東西網絡流量的 AI 訓練和推理性能,還能實現多租戶數據中心環境的安全隔離,確保租戶業務的可預測性和性能隔離。BlueField-3 SuperNIC 基于低功耗、半高半長的 PCIe 規格設計,是企業級服務器的理想選擇。
NVIDIA 加速軟件包括 Cumulus Linux、SONiC 和 NetQ 三者組成的性能優異的 Spectrum-X 軟件開發套件,以及作為 BlueField 核心的 NVIDIA DOCA 軟件框架。
NVIDIA AI Enterprise 為安全、穩定和已經支持的生產級 AI 業務提供了框架、預訓練模型和開發工具。NVIDIA AI Workbench 使開發者能夠在 PC 或工作站上快速創建、測試和自定義預訓練生成式 AI 模型,然后將其擴展至幾乎任何數據中心或云。
搭載 Spectrum-X 的 NVIDIA 超級計算機
NVIDIA 自己的一臺超級計算機就在使用 Spectrum-X,這也是新一代 AI 系統的參考架構。該超級計算機由 NVIDIA 與戴爾科技聯合開發,使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平臺和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服務器,并通過 Spectrum-4 交換機組成了集群系統。
審核編輯:劉清
-
以太網
+關注
關注
40文章
5385瀏覽量
171161 -
NVIDIA
+關注
關注
14文章
4949瀏覽量
102826 -
gpu
+關注
關注
28文章
4703瀏覽量
128725 -
交換機
+關注
關注
21文章
2624瀏覽量
99286 -
RDMA
+關注
關注
0文章
76瀏覽量
8929
原文標題:NVIDIA 全新 AI 以太網絡平臺大幅提升 AI 云性能
文章出處:【微信號:Leadtek,微信公眾號:麗臺科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論