精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

FPGA與GPU計算存儲單位功耗性能

算法與數據結構 ? 來源:Xilinx賽靈思 ? 作者:Xilinx ? 2021-08-13 17:45 ? 次閱讀

為了提升計算基礎設施的性能,并緊跟數據分析與 AI 不斷攀升的需求,眾多企業將硬件加速視為主要的解決方案。在大多數情況下,先進的可編程硬件(主要是指 GPUFPGA)是加速的主要方式。通過使用這種先進的硬件,企業正在贏得計算優勢;然而,對于編程難度,他們仍然存在合理的擔憂。

硬件制造商正在將加速方法應用于計算存儲,這是專門設計用于包含內嵌計算元素的存儲。這種方法已經被證明可以為分析和 AI 應用提供優異的性能。使用或者不使用機器學習輔助的分析以及驗證,都可以借助計算存儲器件進行加速。這些器件提供了一個關鍵的優勢,使得成本高昂的計算被卸載到存儲器件上,而不必在服務器 CPU 上完成。與標準的存儲/CPU 方法相比,通過計算存儲獲得的優勢包括:

1

借助應用專用編程定制可編程硬件,獲得更高性能

2

將計算任務從服務器卸載到存儲器件,釋放 CPU 資源

3

數據與計算共址,降低數據傳輸需求

這種新穎的方法前景光明。不過,您應根據具體用例評估這種方法,考量性能、成本、功耗和易用性。性價比和單位功耗性能在選擇加速硬件評估時,占據主要比率。在本文中,我們將研討單位功耗性能。

計算存儲功耗比較

在這個場景中,我們將比較以 CSV 數據讀取用例為主的三種工具:英偉達 GPUDirect 存儲 和RAPIDS存儲,以及基于賽靈思技術的三星 SmartSSD 存儲。CSV 讀取在計算密集型流水線中起著重要的作用。

在下文中,我們將性能定義成 CSV 的處理速率,或處理“帶寬”。我們先快速回顧一下三種系統的運行方式。

英偉達 GPUDirect 存儲

端到端滿足分析和 AI 需求

將 GPU 用作計算單元,緊貼基于 NVMe 的存儲器件布局 (GPUDirect)

使用 CUDA 進行編程 (RAPIDS)

英偉達用其 CSV 數據讀取技術衡量相對于標準 SSD 的性能提升。結果如圖 1 所示。使用 1 到 8 個加速器時,對應的吞吐量是 4 到 23GB/s。

三星 SmartSSD 驅動器

將賽靈思 FPGA 用作計算單元

與存儲邏輯內嵌駐留在同一個內部 PCIe 互聯上

通過編程在存儲平臺上開展運算

賽靈思數據分析解決方案合作伙伴 Bigstream 與三星合作,為 Apache Spark 設計加速器,包括用于 CSV 和 Parquet 處理的 IP。SmartSSD 的測試使用單機模式的 CSV 解析引擎,以便開展比較。結果如圖 2 所示,使用 1 到 12 個加速器時,對應的吞吐量是 4 到 23GB/s,同時也給出英偉達的結果(使用 1 到 8 個加速器)。請注意,本討論中的所有結果都按 x 軸上的加速器數量進行參數化。

這些結果令人振奮,但在選擇您的解決方案時,請務必將功耗情況納入考慮。

單位功耗性能比較

圖 3 顯示了將功耗考慮在內后的分析結果。它們代表單位功耗達到的性能水平,根據上述討論中引用的相關材料,給出了以下假設:

Tesla V100 GPU:最大功耗 200 瓦

SmartSSD 驅動器 FPGA:最大功耗 30 瓦

在這個場景下,計算表明,在全部使用 8 個加速器的情況下,SmartSSD 的單位功耗性能比 GPUDirect Storage 高 25 倍。

最 終 思 考

計算存儲的優勢在于能增強數據分析和 AI 應用的性能。然而,要讓這種方法具備可實際部署的能力和實用性,就必須在評估時將功耗納入考慮。

針對用于 CSV 數據解析的兩種不同的計算存儲方法,我們已經提出按功耗參數化的吞吐量性能曲線。結果顯示,在使用相似數量的加速器進行比較時,SmartSSD 驅動器的單位功耗性能優于 GPUDirect存儲方法。

GPUDirect 是英偉達通過 NVIDIA DGX-2 應用平臺提供的研究系統。

三星 SmartSSD 驅動器是一種可部署的量產型 PCIe 可插拔平臺,現在已經通過賽靈思及分銷商供貨。

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • FPGA
    +關注

    關注

    1626

    文章

    21670

    瀏覽量

    601875
  • 驅動器
    +關注

    關注

    52

    文章

    8159

    瀏覽量

    146029
  • 三星電子
    +關注

    關注

    34

    文章

    15856

    瀏覽量

    180924
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4702

    瀏覽量

    128708

原文標題:FPGA 與 GPU 計算存儲加速對比

文章出處:【微信號:TheAlgorithm,微信公眾號:算法與數據結構】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--了解算力芯片GPU

    本篇閱讀學習第七、八章,了解GPU架構演進及CPGPU存儲體系與線程管理 █從圖形到計算GPU架構演進 GPU圖像
    發表于 11-03 12:55

    如何提高GPU性能

    在當今這個視覺至上的時代,GPU(圖形處理單元)的性能對于游戲玩家、圖形設計師、視頻編輯者以及任何需要進行高強度圖形處理的用戶來說至關重要。GPU不僅是游戲和多媒體應用的心臟,它還在科學計算
    的頭像 發表于 10-27 11:21 ?216次閱讀

    GPU加速計算平臺是什么

    GPU加速計算平臺,簡而言之,是利用圖形處理器(GPU)的強大并行計算能力來加速科學計算、數據分析、機器學習等復雜
    的頭像 發表于 10-25 09:23 ?215次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    CPU計算單元設計 4.1 計算單元邏輯構成 4.2 數相浮點數的差異 4.3 算術邏輯單元 4.4 浮點數單元 4.5 指令的加載和存儲單元 4.6 單指今多數據 4.7 矩陣加速指令集 4.8
    發表于 10-15 22:08

    FPGA做深度學習能走多遠?

    。例如,在數據中心中,可以將 FPGA 與 CPU 或 GPU 結合使用,根據不同的任務需求進行靈活的資源分配和協同計算,提高整個系統的性能和效率。 ? 算法優化和創新:隨著深度學習算
    發表于 09-27 20:53

    存儲器容量單位有哪些

    存儲器容量單位是指用于衡量存儲設備中存儲數據能力的單位。在計算機科學中,這些
    的頭像 發表于 09-05 12:41 ?1289次閱讀

    談一談FPGA設計中的功率計算

    隨著工藝技術的越來越前沿化, FPGA器件擁有更多的邏輯、存儲器和特殊功能,如存儲器接口、 DSP塊和多種高速SERDES信道,這些發展不斷地對系統功率要求提出挑戰。 功率計算的關鍵是
    發表于 07-31 22:37

    信號計算主板設計方案:735-基于3U VPX的AGX Xavier GPU計算主板

    3U VPX導冷結構 , FPGA信號預處理 , GPU顯卡 , PCIE視頻處理 , GPU計算主板
    的頭像 發表于 07-18 11:31 ?435次閱讀
    信號<b class='flag-5'>計算</b>主板設計方案:735-基于3U VPX的AGX Xavier <b class='flag-5'>GPU</b><b class='flag-5'>計算</b>主板

    科普:GPUFPGA,有何異同

    來源:內容由半導體行業觀察(ID:icbank)編譯自techspot,謝謝。圖形處理單元(GPU)和現場可編程門陣列(FPGA)是用于成像和其他繁重計算的三種主要處理器類型中的兩種。中央處理器
    的頭像 發表于 06-15 08:27 ?610次閱讀
    科普:<b class='flag-5'>GPU</b>和<b class='flag-5'>FPGA</b>,有何異同

    fpgagpu的區別

    FPGA(現場可編程門陣列)和GPU(圖形處理器)在多個方面存在顯著的區別。
    的頭像 發表于 03-27 14:23 ?1147次閱讀

    FPGA在深度學習應用中或將取代GPU

    ,并在運算速度和吞吐量方面提供了更高的性能。它們的使用壽命也更長,大約是 GPU 的 2-5 倍,并且對惡劣環境和其它特殊環境因素有更強的適應性。 有一些公司已經在他們的人工智能產品中使用了 FPGA
    發表于 03-21 15:19

    到底什么是ASIC和FPGA

    和架構的角度,ASIC和FPGA性能和成本,肯定是優于CPU和GPU的。 CPU、GPU遵循的是馮·諾依曼體系結構,指令要經過存儲
    發表于 01-23 19:08

    FPGA、ASIC、GPU誰是最合適的AI芯片?

    CPU、GPU遵循的是馮·諾依曼體系結構,指令要經過存儲、譯碼、執行等步驟,共享內存在使用時,要經歷仲裁和緩存。 而FPGA和ASIC并不是馮·諾依曼架構(是哈佛架構)。以FPGA
    發表于 01-06 11:20 ?1408次閱讀
    <b class='flag-5'>FPGA</b>、ASIC、<b class='flag-5'>GPU</b>誰是最合適的AI芯片?

    FPGAGPU的區別

    FPGA(現場可編程門陣列)和GPU(圖形處理器)是兩種常見的硬件加速器,用于提高計算和處理速度。盡管它們在很多方面都有重疊,但在架構、設計和應用上存在許多區別。在本文中,我們將詳細探討FPG
    的頭像 發表于 12-25 15:28 ?1642次閱讀

    fpga配置flash怎么用來存儲數據

    FPGA(現場可編程門陣列)是一種高度靈活的硬件設備,可以根據特定的需求進行重新配置。FPGA通常用于處理大量數據和實時計算。然而,FPGA通常并沒有內置大容量的數據
    的頭像 發表于 12-15 15:42 ?2348次閱讀