精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA全新AI以太網絡平臺大幅提升AI云性能

麗臺科技 ? 來源:NVIDIA英偉達企業解決方案 ? 2023-11-27 14:31 ? 次閱讀

NVIDIA 近日宣布,三家頭部系統制造商將率先在其服務器產品陣容中集成專為 AI 量身定制的 NVIDIA Spectrum-X 以太網絡技術,幫助企業客戶加速生成式 AI 業務。

Spectrum-X 專為生成式 AI 量身定制,為企業提供了一種全新的以太網絡,相較傳統以太網方案,其 AI 通信網絡性能提高了 1.6 倍。

這三家頭部系統制造商的新系統,整合了 Spectrum-X 與 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 軟件和 NVIDIA AI Workbench 軟件,為企業通過生成式 AI 來實現業務轉型奠定了基礎。

NVIDIA 創始人兼首席執行官黃仁勛表示:“生成式 AI 和加速計算正在推動新一代的業務轉型,企業需要升級其數據中心來滿足新型業務的需求。加速網絡就是 NVIDIA 的頭部服務器制造商合作伙伴推出新一代系統的催化劑,加快他們邁向生成式 AI 新時代。”

專門用于加速 AI 的網絡

為實現 AI 業務的出色效率,Spectrum-X 集性能優異的 Spectrum-4 以太網交換機、NVIDIA BlueField-3 SuperNIC(一款可以大幅提升超大規模 AI 業務性能的新型網絡加速器)以及多種加速軟件于一體。領先的基礎設施計算平臺 —— NVIDIA BlueField-3 DPU 就屬于 Spectrum-X 的一部分。

Spectrum-4 是專門面向 AI 的 51Tb/sec 以太網交換機,可在大規模、滿負荷的場景下提供較高的數據吞吐量,同時在 AI 云業務的多租戶場景下將網絡擁塞降低,其智能的、基于微調的路由技術可以保障網絡基礎設施的利用率。

BlueField-3 SuperNIC 專為網絡密集型的大規模并行計算而設計,可在 GPU 服務器之間提供高達 400Gb/s 的 RDMA(RoCE - RDMA over Converged Ethernet)網絡連接,大幅提升了集群內部基于東西網絡流量的 AI 訓練和推理性能,還能實現多租戶數據中心環境的安全隔離,確保租戶業務的可預測性和性能隔離。BlueField-3 SuperNIC 基于低功耗、半高半長的 PCIe 規格設計,是企業級服務器的理想選擇。

NVIDIA 加速軟件包括 Cumulus Linux、SONiC 和 NetQ 三者組成的性能優異的 Spectrum-X 軟件開發套件,以及作為 BlueField 核心的 NVIDIA DOCA 軟件框架。

NVIDIA AI Enterprise 為安全、穩定和已經支持的生產級 AI 業務提供了框架、預訓練模型和開發工具。NVIDIA AI Workbench 使開發者能夠在 PC 或工作站上快速創建、測試和自定義預訓練生成式 AI 模型,然后將其擴展至幾乎任何數據中心或云。

搭載 Spectrum-X 的 NVIDIA 超級計算機

NVIDIA 自己的一臺超級計算機就在使用 Spectrum-X,這也是新一代 AI 系統的參考架構。該超級計算機由 NVIDIA 與戴爾科技聯合開發,使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平臺和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服務器,并通過 Spectrum-4 交換機組成了集群系統。






審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 以太網
    +關注

    關注

    40

    文章

    5385

    瀏覽量

    171161
  • NVIDIA
    +關注

    關注

    14

    文章

    4949

    瀏覽量

    102826
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4703

    瀏覽量

    128725
  • 交換機
    +關注

    關注

    21

    文章

    2624

    瀏覽量

    99286
  • RDMA
    +關注

    關注

    0

    文章

    76

    瀏覽量

    8929

原文標題:NVIDIA 全新 AI 以太網絡平臺大幅提升 AI 云性能

文章出處:【微信號:Leadtek,微信公眾號:麗臺科技】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    AI性能計算平臺是什么

    AI性能計算平臺不僅是AI技術發展的基石,更是推動AI應用落地、加速產業升級的重要工具。以下,是對AI
    的頭像 發表于 11-11 09:56 ?130次閱讀

    以太網速率對網絡性能的影響

    以太網作為最廣泛使用的局域網技術之一,其速率的提高對網絡性能有著直接的影響。從最初的10Mbps發展到今天的100Gbps甚至更高,以太網速率的提升
    的頭像 發表于 11-08 09:11 ?245次閱讀

    NVIDIA SuperNIC推進現代AI基礎設施發展

    在生成式 AI 時代,加速網絡對于為大規模分布式 AI 工作負載構建高性能計算平臺至關重要。NVIDIA
    的頭像 發表于 11-06 13:59 ?194次閱讀

    使用全新NVIDIA AI Blueprint開發視覺AI智能體

    為提高生產力、優化流程和創造更加安全的空間,埃森哲、戴爾科技和聯想等公司正在使用全新 NVIDIA AI Blueprint 開發視覺 AI 智能體。
    的頭像 發表于 11-06 13:58 ?319次閱讀

    NVIDIA助力xAI打造全球最大AI超級計算機

    以太網網絡平臺,該平臺是專為多租戶、超大規模的 AI 工廠提供卓越性能而設計的 RDMA(Remote Direct Memory Acc
    的頭像 發表于 10-30 11:38 ?298次閱讀

    NVIDIA 以太網加速 xAI 構建的全球最大 AI 超級計算機

    市的 Colossus 超級計算機集群達到了 10 萬顆 NVIDIA? Hopper? GPU 的巨大規模。該集群使用了 NVIDIA Spectrum-X? 以太網網絡平臺,該
    發表于 10-30 09:33 ?121次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>以太網</b>加速 xAI 構建的全球最大 <b class='flag-5'>AI</b> 超級計算機

    簡單認識NVIDIA網絡平臺

    NVIDIA Spectrum-X800 平臺是業界第一代 800Gb/s 的以太網網絡平臺,包括了 NVIDIA Spectrum SN5
    的頭像 發表于 09-09 09:22 ?408次閱讀

    應用NVIDIA Spectrum-X網絡構建新型主權AI

    法國服務提供商 Scaleway 正在基于 NVIDIA 的 Hopper GPU和 Spectrum-X 以太網網絡平臺 構建區域性 GPU 集群,為用戶提供
    的頭像 發表于 07-26 18:58 ?1142次閱讀

    英偉達推出全新NVIDIA AI Foundry服務和NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務,與同樣剛推出的 Llama 3.1
    的頭像 發表于 07-25 09:48 ?678次閱讀

    NVIDIA面向生成式AI打造強大的以太網網絡

    NVIDIA 創始人兼首席執行官黃仁勛在 COMPUTEX 開幕前發表主題演講,展示了 NVIDIA 最新的全棧技術平臺如何通過廣泛的合作伙伴網絡觸及終端用戶和客戶——無論是通過
    的頭像 發表于 06-06 17:33 ?814次閱讀

    NVIDIA推出用于支持在全新GeForce RTX AI筆記本電腦上運行的AI助手及數字人

    》中。NVIDIA 還發布專為 NVIDIA ACE 數字人平臺打造的首個基于 PC 的 NVIDIA NIM 推理微服務。 這些技術由?NVIDI
    的頭像 發表于 06-04 10:19 ?702次閱讀

    NVIDIA Spectrum-X 以太網網絡平臺已被業界廣泛使用

    平臺已被業界廣泛使用,并且將進一步加快新品發布計劃。 Spectrum-X 是全球首款專為 AI 打造的以太網網絡平臺,可將生成式 AI
    的頭像 發表于 06-03 18:20 ?934次閱讀

    NVIDIA發布專為大規模AI量身訂制的全新網絡交換機-X800系列

    NVIDIA Quantum-X800 InfiniBand 網絡NVIDIA Spectrum?-X800 以太網絡是全球首批高達 800Gb/s 端到端吞吐量的
    的頭像 發表于 03-20 09:54 ?464次閱讀

    NVIDIA 發布全新交換機,全面優化萬億參數級 GPU 計算和 AI 基礎設施

    NVIDIA Quantum-X800 InfiniBand 網絡,打造性能最強大的 AI 專用基礎設施 NVIDIA Spectrum-X
    發表于 03-19 10:05 ?318次閱讀
    <b class='flag-5'>NVIDIA</b> 發布<b class='flag-5'>全新</b>交換機,全面優化萬億參數級 GPU 計算和 <b class='flag-5'>AI</b> 基礎設施

    基于NVIDIA DOCA 2.6實現高性能和安全的AI設計

    網絡平臺上快速創建應用程序和服務,并啟用 NVIDIA BlueField DPU 和 NVIDIA BlueField SuperNIC 的強大功能,提供突破性的
    的頭像 發表于 02-23 10:02 ?434次閱讀