精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVLink的演進:從內部互聯到超級網絡

汽車電子設計 ? 來源:芝能智芯出品 ? 2024-04-13 11:22 ? 次閱讀

隨著人工智能AI)技術的迅猛發展,對于高效、快速的數據傳輸和處理變得越來越迫切。英偉達的NVLink技術一直處于技術前沿,不斷推動著GPU之間和GPU與其他組件之間的互聯效率。

本文將介紹NVLink的演進歷程,從最初的內部互聯到如今的超級網絡,探索其在AI芯片架構中的重要作用。

4916d020-f939-11ee-a297-92fbcf53809c.png

Part 1

NVLink的起源

NVLink是NVIDIA開發的一種高速、低延遲的互聯技術,旨在連接多個GPU以實現高性能并行計算。與傳統的PCIe總線相比,NVLink提供了更高的帶寬和更低的延遲,使得GPU之間可以更加高效地共享數據和通信

49289116-f939-11ee-a297-92fbcf53809c.png

NVLink最初的目標是解決GPU之間的互聯問題。早期的GPU一定需要保留與CPU互聯的PCIe接口,因此NVLink自然而然地繼承了這一技術。

NVLink利用了Ethernet生態的成熟互聯技術,但并未完全遵循Ethernet的規范,采用了不同的調制方式以降低時延。這使得NVLink在速率和時延上都具有優勢,逐漸成為了PCIe的競爭對手。

NVLink采用了基于差分信號線的高速串行通信技術,通過將多個Sub-Link(子鏈接)組合成Port(端口),實現GPU之間的快速數據傳輸。每個Port由多個Sub-Link組成,每個Sub-Link都由一對差分信號線構成,可以實現高達幾百Gbps的傳輸速率。NVLink還支持內存一致性和直接內存訪問(DMA),進一步提高了數據傳輸效率和計算性能。

Part 2

NVLink的發展

NVLink 首次作為與 NVIDIA P100 GPU 的 GPU 互連推出,并與每個新的 NVIDIA GPU 架構保持同步發展。隨著技術的不斷發展,NVLink逐漸走出了盒子和機框,成為了一個獨立的網絡設備,對標InfiniBand和Ethernet網絡。

每一代NVLink的速率都會是上一代的1.5到2倍,未來NVLink5.0預計將采用更高的速率,如200G每通道。同時,NVLink在帶寬指標上對PCIe形成了碾壓式的競爭優勢,不斷拓展著其應用領域。

494aabc0-f939-11ee-a297-92fbcf53809c.png

NVLink的發展經歷了多個版本,每一代都在帶寬、延遲和能效方面有所提升。新的NVLink帶寬比上一代提高了兩倍,這意味著數據傳輸更快,GPU之間的協作更加高效。第五代NVLink還在總帶寬和性能方面有所提升。

NVSwitch3芯片集成了SHARP功能,對多個GPU單元的計算結果進行聚合和更新,減少網絡數據包并提高計算性能。這些改進使得第五代NVLink在多GPU系統中的應用更加高效和靈活。

NVLink將繼續發揮重要作用,隨著AI芯片架構的不斷演進,NVLink將進一步優化其性能和效率。NVLink的未來發展方向可能包括更高速率的互聯技術以及更廣泛的應用場景,從而滿足不斷增長的數據處理需求。

小結

NVLink是一種由NVIDIA開發并推出的高速連接技術,作為Nvidia的核心技術之一,在AI芯片領域扮演著至關重要的角色。

?

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4701

    瀏覽量

    128706
  • PCIe
    +關注

    關注

    15

    文章

    1217

    瀏覽量

    82445
  • 英偉達
    +關注

    關注

    22

    文章

    3747

    瀏覽量

    90834

原文標題:NVLink的演進:從內部互聯到超級網絡

文章出處:【微信號:QCDZSJ,微信公眾號:汽車電子設計】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    IPv4 IPv6,網絡世界的進化之路

    互聯網發展的漫長歷程中,網絡協議的變革猶如一場悄無聲息卻又影響深遠的革命。而IPv4IPv6的演進,無疑是這場革命中最為關鍵的章節之一
    的頭像 發表于 11-19 10:22 ?244次閱讀
    <b class='flag-5'>從</b> IPv4 <b class='flag-5'>到</b> IPv6,<b class='flag-5'>網絡</b>世界的進化之路

    分布式通信的原理和實現高效分布式通信背后的技術NVLink演進

    大型模型的大小已經超出了單個 GPU 的范圍。所以就需要實現跨多個 GPU 的模型訓練,這種訓練方式就涉及到了分布式通信和 NVLink。 當談及分布式通信和 NVLink 時,我們進入了一個引人入勝且不斷演進的技術領域,下面我
    的頭像 發表于 11-18 09:39 ?238次閱讀
    分布式通信的原理和實現高效分布式通信背后的技術<b class='flag-5'>NVLink</b>的<b class='flag-5'>演進</b>

    奇異摩爾賦能萬卡集群互聯

    的八家公司宣布他們已經為人工智能數據中心的網絡制定了新的互聯技術UALink(Ultra Accelerator Link),以打破英偉達NVLink技術壟斷的消息受到了廣泛的關注。
    的頭像 發表于 09-19 13:03 ?575次閱讀

    單一互聯:KNX網關如何改變你的家居生活

    單一互聯:KNX網關如何改變你的家居生活 在科技日新月異的今天,家居生活正經歷著一場前所未有的變革。過去單一、孤立的設備操作,如今智
    的頭像 發表于 08-22 12:00 ?150次閱讀

    為什么安卓手機無法顯示ESP8266發送的網頁?

    ------------------------------------------- 但是,當我還將 ESP 8266 消息流量定向 PC 的串口時 我可以看到 android 發送到和來自超級終端ESP8266的
    發表于 07-12 07:17

    工業互聯網如何混沌創新?卡奧斯給出了智能交互引擎的答案

    今年的政府工作報告中,首次提到了“人工智能+”這一概念,不禁讓人聯想到2015年首度提出的“互聯網+”。互聯網+”“人工智能+”,概念差異的背后,本質上是生產力的重大革新。過去十
    的頭像 發表于 06-18 08:05 ?180次閱讀
    工業<b class='flag-5'>互聯</b>網如何<b class='flag-5'>從</b>混沌<b class='flag-5'>到</b>創新?卡奧斯給出了智能交互引擎的答案

    科技巨頭組建“復仇者聯盟”,挑戰英偉達的NVLink技術

    據報導,包括 AMD、谷歌、微軟、英特爾(Intel)、博通(Broadcom)和思科(Cisco)在內的多家國際科技龍頭聯手,組成“復仇者聯盟”,欲挑戰 NVIDIA 的 NVLink 技術。
    的頭像 發表于 05-31 11:54 ?580次閱讀

    進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片

    1.8TB的GPUGPU互連速度、InfiniBand網絡和NVIDIA Magnum IO?軟件的第五代NVLink技術,GB200 NVL72性能顯著提升。 此外,GB200 NVL72還采用液體
    發表于 05-13 17:16

    一文詳解基于以太網的GPU Scale-UP網絡

    最近Intel Gaudi-3的發布,基于RoCE的Scale-UP互聯,再加上Jim Keller也在談用以太網替代NVLink
    的頭像 發表于 04-22 17:22 ?3410次閱讀
    一文詳解基于以太網的GPU Scale-UP<b class='flag-5'>網絡</b>

    全面解讀英偉達NVLink技術

    NVLink是一種解決服務器內GPU之間通信限制的協議。與傳統的PCIe交換機不同,NVLink帶寬有限,可以在服務器內的GPU之間實現高速直接互連。第四代NVLink提供更高的帶寬,每條通道達到112Gbps,比PCIe Ge
    發表于 04-22 11:01 ?1244次閱讀
    全面解讀英偉達<b class='flag-5'>NVLink</b>技術

    什么是NVIDIA?InfiniBand網絡VSNVLink網絡

    NVSwitch物理交換機將多個NVLink GPU服務器連接成一個大型Fabric網絡,即NVLink網絡,解決了GPU之間的高速通信帶寬和效率問題。
    發表于 04-16 09:56 ?1186次閱讀
    什么是NVIDIA?InfiniBand<b class='flag-5'>網絡</b>VSNVLink<b class='flag-5'>網絡</b>

    IPv6促進網絡云化算網融合的演進,賦予網絡創新機會

    示,IPv6將促進網絡云化算網融合的演進,給予網絡更多創新的機會。以下是本次演講的主要內容節選: ? IPv6賦能企業上云驅動數字化轉型
    的頭像 發表于 04-10 13:43 ?233次閱讀
    IPv6促進<b class='flag-5'>從</b><b class='flag-5'>網絡</b>云化<b class='flag-5'>到</b>算網融合的<b class='flag-5'>演進</b>,賦予<b class='flag-5'>網絡</b>創新機會

    英偉達官宣新一代Blackwell架構,把AI擴展萬億參數

    基于Chiplet與片間互聯技術,800Gb/s RNIC,1.8TB/s NVLink,英偉達正一步步構建出大型AI超算集群。互聯效率定義LLM效率,互聯元年正式開啟。
    的頭像 發表于 03-19 14:22 ?949次閱讀
    英偉達官宣新一代Blackwell架構,把AI擴展<b class='flag-5'>到</b>萬億參數

    NVIDIA 推出 Blackwell 架構 DGX SuperPOD,適用于萬億參數級的生成式 AI 超級計算

    基于先進的 NVIDIA 網絡、NVIDIA 全棧 AI 軟件和存儲技術,可將集群中 Grace Blackwell 超級芯片的數量擴展至數萬個,通過 NVIDIA NVLink可將多達 576 塊
    發表于 03-19 10:56 ?382次閱讀
    NVIDIA 推出 Blackwell 架構 DGX SuperPOD,適用于萬億參數級的生成式 AI <b class='flag-5'>超級</b>計算

    從盤中孔真空塞孔,線路板樹脂塞孔技術的演進之路

    從盤中孔真空塞孔,線路板樹脂塞孔技術的演進之路
    的頭像 發表于 02-25 09:17 ?824次閱讀