精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何構建基于DPU的SmartNIC

星星科技指導員 ? 來源:NVIDIA ? 作者:Kevin Deierling ? 2022-04-19 15:51 ? 次閱讀

每個人都在談論基于數據處理單元的智能網卡,但沒有回答一個簡單的問題:什么是智能網卡,它們做什么?

NIC 代表網絡接口卡。實際上, NIC 是一種插入服務器或存儲盒以連接到以太網網絡的 PCIe 卡。基于 DPU 的 SmartNIC 超越了簡單的連接,在基礎 NIC 的情況下,在 NIC 上實現(xiàn)了 CPU 必須執(zhí)行的網絡流量處理。

一些供應商對基于 DPU 的 SmartNIC 的定義完全集中在實現(xiàn)上。這是有問題的,因為不同的供應商有不同的體系結構。因此,基于 DPU 的 SmartNIC 可以是基于 ASICFPGA 和片上系統(tǒng)的。當然,只生產一種 NIC 的供應商堅持認為,只有其類型的 NIC 才有資格成為 SmartNIC 。

基于 ASIC 的網卡

優(yōu)異的性價比

供應商開發(fā)成本高

編程和可擴展

靈活性僅限于預定義的功能

基于 FPGA 的 NICs

性能好但價格昂貴

難以編程

特定于工作負載的優(yōu)化

基于 SoC 的 NIC + CPU

良好的性價比

C 可編程處理器

最高靈活性

最簡單的可編程性

在這些不同的實現(xiàn)之間,在成本、編程的易用性和靈活性方面存在各種權衡。 ASIC 具有成本效益,可能提供最佳性價比,但靈活性有限。基于 ASIC 的 NIC ,如 NVIDIA ConnectX-5,可以具有相對簡單的可編程數據路徑。最終,該功能基于 ASIC 中定義的功能而受到限制。這可能會阻止支持某些工作負載。

相比之下, FPGA NIC (如 NVIDIA Innova-2 Flex)具有高度可編程性。只要有足夠的時間和精力,就可以在可用門的約束范圍內相對高效地支持幾乎任何功能。然而,眾所周知, FPGA 編程困難且價格昂貴。

對于更復雜的用例, SOC (如 Mellanox BlueField DPU – 可編程智能網卡)提供了似乎是最好的基于 DPU 的 SmartNIC 實現(xiàn)選項:良好的性價比、易于編程和高度靈活。

圖 1 SmartNIC 實現(xiàn)比較

專注于特定供應商如何實現(xiàn)基于 DPU 的 SmartNIC ,并沒有說明它能夠實現(xiàn)什么或應該如何構建。 NVIDIA 實際上有基于這些架構的產品,這些架構可以歸類為基于 DPU 的 SmartNIC 。事實上,客戶根據自己的需要,將這些產品用于不同的工作負載。因此,將重點放在實現(xiàn) ASIC 、 FPGA 和 SoC 上,顛覆了最佳體系結構成就背后的“形式遵循功能”理念。

我沒有把重點放在實現(xiàn)上,而是對PC 雜志百科全書條目進行了調整,給出了一個使 NIC 成為基于 DPU 的 SmartNIC 的工作定義:

基于 DPU 的 SmartNIC :

一種基于 DPU 的網絡接口卡(網絡適配器),用于卸載系統(tǒng) CPU 通常會處理的處理任務。使用自己的板載處理器,基于 DPU 的 SmartNIC 可以執(zhí)行加密/解密、防火墻、 TCP / IP 和 HTTP 處理的任意組合。 SmartNIC 非常適合高流量 web 服務器。

這個定義有兩點我喜歡。首先,它關注的是功能而不是形式。其次,它用語句提示這種形式,“…使用自己的板載處理器…執(zhí)行任何組合的…”網絡處理任務。因此,嵌入式處理器是實現(xiàn)靈活執(zhí)行幾乎任何網絡功能的關鍵。

您可以通過添加基于 DPU 的智能網卡或許也能執(zhí)行網絡、存儲或 GPU 虛擬化來現(xiàn)代化該定義。此外, SmartNIC 還非常適合電信、安全、機器學習、軟件定義存儲和超聚合基礎設施服務器,而不僅僅是 web 服務器。

NIC 類別

以下是如何通過網絡適配器可以支持并用于加速不同工作負載的功能來區(qū)分三類 NIC :

圖 2 NIC 類別的功能比較

在這里,我根據 NIC 加速特定功能的能力定義了三類 NIC :

基礎 NIC

智能網卡( iNIC )

基于 DPU 的 SmartNIC

基礎 NIC 或基本 NIC 只是移動網絡流量,除了可能的 SRIOV 和基本 TCP 加速之外,很少或沒有卸載。它不保存任何 CPU 周期,也不能卸載數據包控制或流量流。在 NVIDIA ,我們甚至不再銷售基礎 NIC 。

NVIDIA ConnectX 適配器系列具有可編程數據路徑,并加速了一系列功能,這些功能最初在公共云使用案例中變得非常重要。出于這個原因,我將這種類型的 NIC 定義為 iNIC ,盡管今天本地企業(yè)、電信和私有云與公共云提供商一樣需要這種類型的可編程性和加速功能。它的另一個名字可能是沒有資本的智能

在許多情況下,客戶告訴我們,他們需要競爭對手提供的基于 DPU 的 SmartNIC 功能,這些功能可以是 FPGA ,也可以是結合定制專有處理引擎的 NIC 。但是,當客戶真正了解其特定工作負載所需的功能時,他們最終會決定, ConnectX 系列 iNICs 提供了其他所謂 SmartNIC 的所有功能、性能和靈活性,而功耗和成本僅為后者的一小部分。因此,根據一些競爭對手使用的 SmartNIC 的定義,我們的 ConnectX NIC 確實是 SmartNIC ,盡管我們 MIG 稱之為智能 NIC 或更智能的 NIC 。我們的 FPGA NIC ( Innova )也是經典意義上的 SmartNIC ,我們的 SoC NIC (使用 BlueField )是 SmartNIC 中最智能的,我們可以稱之為 Genius NIC

那么,什么是 SmartNIC ?基于 DPU 的 SmartNIC 是一種網絡適配器,可加速功能并將其從服務器(或存儲) CPU 中卸載。

您應該如何構建基于 DPU 的 SmartNIC ,以及哪種 SmartNIC 對于每個工作負載來說是最好的……好吧,問題在于細節(jié)。深入了解哪些數據路徑和虛擬化加速可用以及如何使用它們非常重要。

關于作者

Kevin Deierling 從 2013 年 3 月開始擔任 Mellanox 的營銷副總裁。此前,他曾擔任 Genia Technologies 的技術副總裁、 Silver Spring Networks 的首席架構師,并在 Spans Logic 負責營銷和業(yè)務開發(fā)

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    4940

    瀏覽量

    102818
  • 適配器
    +關注

    關注

    8

    文章

    1932

    瀏覽量

    67921
  • 服務器
    +關注

    關注

    12

    文章

    9024

    瀏覽量

    85186
收藏 人收藏

    評論

    相關推薦

    中科馭數分析DPU在云原生網絡與智算網絡中的實際應用

    CCF Chip 2024,精彩不能停!7月21日下午,中科馭數在第二屆中國計算機學會(CCF)芯片大會的“馭數專屬時刻”仍在繼續(xù),馭數組織承辦“DPU技術趨勢和應用——DPU在云原生與智算網絡中
    的頭像 發(fā)表于 08-02 11:21 ?654次閱讀

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術白皮書

    數據中心的第三顆“主力芯片”,主要通過其專用處理器優(yōu)化數據中心的網絡、存儲、安全等處理性能,助力服務器運行效率顯著提升,有效降低成本。因此,在新型數據中心建設時,圍繞 DPU 構建數據中心網絡的基礎設施
    發(fā)表于 07-24 15:32

    基于DPUSmartNic的云原生SDN解決方案

    隨著云計算,大數據和人工智能等技術的蓬勃發(fā)展,數據中心面臨著前所未有的數據洪流和計算壓力,這對SDN提出了更高的性能和效率要求。自云原生概念被提出以來,Kubernetes為云原生應用的落地提供了一個輕量級,可移植的運行環(huán)境,逐漸成為云原生時代基礎設施的事實標準。Kubernetes通過網絡插件(CNI,Container Network Interface)實現(xiàn)靈活地配置和管理集群中的容器網絡,確保容器之間的有效通信和網絡安全。
    的頭像 發(fā)表于 07-22 11:44 ?639次閱讀
    基于<b class='flag-5'>DPU</b>與<b class='flag-5'>SmartNic</b>的云原生SDN解決方案

    中科馭數:DPU構建高效智算中心基礎設施的必選項

    先生在《基于DPU的高效智算中心算力底座》主題分享中提出,大模型等智算業(yè)務推動算力需求規(guī)模快速增長,CPU+GPU+DPU的新型計算節(jié)點架構已成為高效智算中心的標準配置,為構建高性能、高靈活性、高安全性的算力基礎設施提供了強大支
    的頭像 發(fā)表于 07-08 10:51 ?663次閱讀

    中科馭數CEO鄢貴海:從計算系統(tǒng)的三個視角重新審視DPU的核心價值

    在信息技術日新月異的浪潮中,DPU正逐漸嶄露頭角。當前,DPU發(fā)展的核心驅動力來自于什么?DPU技術是否已經足夠成熟到廣泛應用?市場上頭部玩家參與到這一創(chuàng)新技術的市場角逐之中?在算力時代,DP
    的頭像 發(fā)表于 06-28 14:27 ?441次閱讀
    中科馭數CEO鄢貴海:從計算系統(tǒng)的三個視角重新審視<b class='flag-5'>DPU</b>的核心價值

    中科馭數發(fā)布高性能DPU芯片K2-Pro

    在信息技術領域,每一次芯片技術的突破都代表著行業(yè)的一次飛躍。近日,DPU領域的領軍企業(yè)中科馭數宣布,成功研發(fā)并發(fā)布了其第三代DPU芯片——“K2-Pro”。這款芯片的發(fā)布,標志著中科馭數在DPU領域的技術實力達到了新的高度。
    的頭像 發(fā)表于 06-21 11:41 ?732次閱讀

    Nvidia的AI芯片路線圖分析與解讀

    SmartNIC智能網卡/DPU數據處理引擎的下一跳ConnectX-8/BlueField-4目標速率為 800G,與1.6T Quantum和Spectrum-X配套的SmartNICD
    發(fā)表于 04-29 09:59 ?915次閱讀
    Nvidia的AI芯片路線圖分析與解讀

    DPU技術賦能下一代AI算力基礎設施

    4月19日,在以“重構世界 奔赴未來”為主題的2024中國生成式AI大會上,中科馭數作為DPU新型算力基礎設施代表,受邀出席了中國智算中心創(chuàng)新論壇,發(fā)表了題為《以網絡為中心的AI算力底座構建之路》主題演講,勾勒出在通往AGI之路上,DP
    的頭像 發(fā)表于 04-20 11:31 ?806次閱讀

    明天線上見!DPU構建高性能云算力底座——DPU技術開放日最新議程公布!

    技術在不同行業(yè)中的應用解決方案有哪些?能帶來怎樣的業(yè)務效果? 3月29日本周五,中科馭數集結產品大咖及解決方案專家團,誠邀您參加以“DPU構建高性能云算力底座”為主題的線上DPU技術開放日! 他們將逐一與您分享中科馭數系列
    的頭像 發(fā)表于 04-03 18:12 ?978次閱讀

    中科馭數DPU技術開放日秀“肌肉”:云原生網絡、RDMA、安全加速、低延時網絡等方案組團亮相

    DPU技術開放日既是對DPU技術應用的典型方案展示,也是DPU技術在重要細分場景走向成熟的標志。
    的頭像 發(fā)表于 04-01 11:48 ?750次閱讀
    中科馭數<b class='flag-5'>DPU</b>技術開放日秀“肌肉”:云原生網絡、RDMA、安全加速、低延時網絡等方案組團亮相

    FPGA-Based DPU網卡的發(fā)展和應用

    采用單芯片的SoC形態(tài),兼顧性能和功耗。FPGA-Based DPU在硬件設計上的挑戰(zhàn)主要來自芯片面積和功耗。
    發(fā)表于 02-23 14:40 ?1921次閱讀
    FPGA-Based <b class='flag-5'>DPU</b>網卡的發(fā)展和應用

    《數據處理器:DPU編程入門》DPU計算入門書籍測評

    一、DPU計算框架 通過一周多的時間翻閱這本書,基本上這本書是一本比較全面的,面向架構的新手指導數據。它在書中詳盡介紹了關于DPU在計算機架構中的應用。 對于DPU來說,是一種平行于CPU和GPU
    發(fā)表于 12-24 10:54

    《數據處理器:DPU編程入門》讀書筆記

    首先感謝電子發(fā)燒友論壇提供的試讀機會。 第一周先閱讀了DPU的技術發(fā)展背景,了解到DPU是結合了高性能及軟件可編程的多核CPU、高性能網絡接口,以及各種靈活和可編程的加速引擎。DPU的主要作用是卸載
    發(fā)表于 12-21 10:47

    淺談DPU和CPU、GPU的關系

    把CPU的一大部分算力卸載給GPU之后,人們發(fā)現(xiàn)可以把很多其他功能也外包出去,于是又有了智能網卡,或者叫做DPU
    發(fā)表于 12-14 11:44 ?844次閱讀
    淺談<b class='flag-5'>DPU</b>和CPU、GPU的關系

    《數據處理器:DPU編程入門》+初步熟悉這本書的結構和主要內容

    dpu:推出的主要意義是為了減輕CPU的數據處理負擔,使得cpu可以更具專注自己的通用計算處理運算。 1、DPU數據處理器,演進的核心驅動力是什么? 計算工作負載的不斷增長是DPU演進的核心驅動力
    發(fā)表于 12-08 18:03