精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

專用數據壓縮引擎,提高數據中心效率

星星科技指導員 ? 來源:microchip ? 作者:microchip ? 2023-05-06 10:30 ? 次閱讀

壓縮并不是一個新概念,但隨著存儲需求的增長,它正成為數據中心中更重要的工具。目標當然是使用比原始數據更少的位對信息進行編碼,從而減小數據的大小。計算效率優勢還體現在需要移動的數據更少。

有兩種不同類型的壓縮:

1. 有損,最適合 mp3、jpeg - 通常用于音頻視頻流應用

2. 無損,例如在 zip 文件中使用 - 其中所有數據必須可供應用程序使用

對于這兩種類型,都有多種壓縮技術可用。一些最常見的包括:

? 匹配查找:在這種技術中,算法在數據集中查找冗余,如重復的字節串,并存儲冗余數據的單個副本。通過將數據字符串的其他匹配項替換為對要讀取的存儲副本位置的引用來減少數據量。

?熵編碼:該技術在看似任意的數據序列中查找模式,并分配一個符號或編碼一個值來表示隨機數據集中的重復模式。通過將重復模式替換為單個值來減小數據的大小。

? 模型壓縮:這種先進的技術針對需要巨大計算能力和昂貴的高速 GPU 才能運行的機器學習模型和 AI 應用程序。為了在小型嵌入式系統上傳輸和處理復雜的神經網絡算法,通過刪除冗余的神經網絡連接或將神經網絡權重和偏差捆綁到集群中來壓縮機器學習模型,從而減少要存儲的數據的總大小。

重復數據刪除或重復數據刪除(與匹配查找壓縮技術一樣)會刪除重復的數據副本,以便僅存儲一個副本。它通常用于存儲設備的上下文或數據中心的系統級別,您可以在其中找到存儲的共享文件的單個副本,并且每次由其他用戶使用該文件時,對該副本的引用數量都會遞增。dedup 的優點是它可以對大型數據集(例如整個存儲集群)使用相同的匹配查找壓縮算法,并減少存儲需求。

poYBAGRVu6mANKiUAAB3scLI9uw106.png

許多存儲系統同時支持壓縮和重復數據刪除,以最大化存儲容量。除了節省存儲容量外,壓縮還可以提高系統性能。最基本的原則是通過寫入更少的數據,數據總線利用率增加,從而提高寫入帶寬和性能。

壓縮率是未壓縮數據的大小除以壓縮數據的大小。未壓縮數據的壓縮率為 1。壓縮比越高,數據的壓縮程度就越高。這在使用昂貴閃存的SSD應用中非常重要,因為寫入數據所涉及的架構必須擦除閃存單元才能重新編程,以及可用的程序和擦除周期數有限的介質的性質。在 Flash 操作中,擦除只能在塊級別進行,而編程是在頁面級別完成的,導致擦除和重寫的閃存部分比任何新數據所需的要大。閃存中不需要更新但正在擦除以允許傳入頁面寫入操作的部分必須存儲在其他位置,并且必須更新對此數據的所有引用以供將來訪問。SSD 上對閃存存儲的所有寫入的這種乘數效應增加了實際閃存寫入操作與來自主機的傳入數據寫入請求的比率。此比率最小值為 1,寫入放大比率越高,啟動的程序和擦除周期就越多,從而耗盡 SSD 的整體耐用性。通過壓縮數據的原始大小,可以將較小大小的數據集存儲在閃存中,寫入放大因子小于1,從而減少編程和擦除周期,并延長SSD的使用壽命。

基準壓縮率和性能的最常見的壓縮測試機構或語料庫是卡爾加里語料庫,坎特伯雷語料庫和西里西亞語料庫。西里西亞是最新的,它利用涵蓋當今用例的更新數據集。附表說明了PCIe Gen-4 Flashtec NVMe3016企業級NVMe SSD控制器在測試下的性能。

壓縮比是通過專用壓縮引擎實現的,該引擎符合無損算法的 Deflate 壓縮數據格式規范 (RFC-1951),具有簡化的內部格式 (zlib)。

? 數據格式基于塊,如果未對齊,則進行填充

? 壓縮和未壓縮的數據塊大小可配置為 32B-8KB,使用 SGL 時最高配置為 64KB

結合 SHA-256 哈希引擎、高 CPU 處理能力以及 NVMe3106 控制器的高級靈活可編程架構,用戶可以自定義其 SSD 固件,以使用各種硬件旋鈕實現最有效的壓縮方案,以滿足其應用需求。

作為企業級NVMe SSD控制器市場的行業領先支持解決方案,Flashtec NVMe3016 NVMe SSD控制器支持創新的存儲解決方案,基于高度靈活和可編程的控制器平臺,提供高性能,低成本和電源效率。硬件壓縮只是使 Flashtec? 產品成為未來數據中心企業級 NVMe SSD 的正確解決方案的眾多功能之一。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 控制器
    +關注

    關注

    112

    文章

    16214

    瀏覽量

    177479
  • SSD
    SSD
    +關注

    關注

    20

    文章

    2851

    瀏覽量

    117247
  • 數據中心
    +關注

    關注

    16

    文章

    4700

    瀏覽量

    71970
收藏 人收藏

    評論

    相關推薦

    如何提高數據中心電能使用效率

    近年來,隨著數據中心的迅猛發展,數據中心的能耗問題也越來越突出,有關數據中心的能源管理和供配電設計已經成為熱門問題,合理可靠的數據中心配電系統方案,是
    發表于 07-19 13:58 ?1508次閱讀
    如何<b class='flag-5'>提高</b><b class='flag-5'>數據中心</b>電能使用<b class='flag-5'>效率</b>?

    走向綠色數據中心的7種手段

    了冷卻單元的容量,從而提高了冷卻效率。  7.控制冷卻:根據外部天氣來追蹤冷卻要求是個好主意。例如,在涼爽的日子,關閉一些冷卻器和壓縮機,并依靠外界的冷氣來有效降低數據中心的溫度。使用
    發表于 08-16 15:35

    基于FPGA的高性能無損數據壓縮IP

    LZOAccel-CLZO Data Compression CoreLZOAccel-C是一個無損數據壓縮引擎的FPGA硬件實現,兼容LZO 2.10標準。Core接收未壓縮的輸入數據
    發表于 12-21 23:10

    數據中心市場的十大趨勢

    數據從本地服務器移動到服務提供商的云數據中心。這提高了基礎設施的靈活性,因為企業可以選擇專用或共享服務器、公有云或私有云以及混合服務,以滿足其快速變化的需求。4.從數字轉變為容量盡管
    發表于 12-31 22:23

    MapReduce數據壓縮的基本原則

    黑猴子的家:MapReduce數據壓縮
    發表于 05-24 12:45

    數據中心是什么

    數據中心是什么:數據中心是全球協作的特定設備網絡,用來在因特網絡基礎設施上傳遞、加速、展示、計算、存儲數據信息。數據中心大部分電子元件都是由低直流電源驅動運行的。
    發表于 07-12 07:10

    如何去提高數據中心的運營效率

    提高數據中心的運營效率。針對數據中心的能耗即使當前的整個數據中心行業掀起了整合物理資源,并將部分的IT功能遷移到場外異地的新趨勢,但為
    發表于 09-09 06:14

    【ELT.ZIP】OpenHarmony啃論文俱樂部——多層存儲分級數據壓縮

    HCompress,它是一個分層數據壓縮引擎,可協調利用多層存儲和數據壓縮提高應用程序性能,下面我們即對其展開研究。應用Hcompress是圖像
    發表于 07-23 13:20

    【學習打卡】【ELT.ZIP】OpenHarmony啃論文俱樂部——多層存儲分級數據壓縮

    HCompress,它是一個分層數據壓縮引擎,可協調利用多層存儲和數據壓縮提高應用程序性能,下面我們即對其展開研究。應用Hcompress是圖像
    發表于 07-23 13:26

    數據壓縮技術

    一、數據壓縮的必要性二、多媒體數據壓縮的可能性三、壓縮方案應滿足的要求四、編碼方案分類五、數據壓縮(編碼)的主要步驟六、一些基本的壓縮技術七
    發表于 03-25 13:19 ?35次下載

    數據壓縮的重要性

    數據壓縮是指在不丟失有用信息的前提下,縮減數據量以減少存儲空間,提高其傳輸、存儲和處理效率,或按照一定的算法對數據進行重新組織,減少
    的頭像 發表于 02-28 10:45 ?1.4w次閱讀

    如何才能提高數據中心服務器的效率

    研究表明,雖然數據中心的能耗成本高昂,但服務器效率也越來越高。每個數據中心都擁有運行各種工作負載的大量服務器。無論是企業數據中心、托管數據中心
    發表于 06-01 08:00 ?1次下載
    如何才能<b class='flag-5'>提高</b><b class='flag-5'>數據中心</b>服務器的<b class='flag-5'>效率</b>

    這些措施將提高數據中心效率和性能

    關于數據中心的優化和改進通常有很多建議,隨著對數據中心需求的不斷增長,很多數據中心運營商正在考慮如何提高數據中心設計、建設和運營的
    發表于 05-05 17:21 ?1452次閱讀

    有趣!史記:數據壓縮算法列傳

    簡單地說,如果沒有數據壓縮技術,我們就沒法用 WinRAR 為 Email 中的附件瘦身;如果沒有數據壓縮技術,市場上的數碼錄音筆就只能記錄不到20 分鐘的語音;如果沒有數據壓縮技術
    的頭像 發表于 11-11 15:21 ?737次閱讀

    高性能無損數據壓縮FPGA IP,LZO無損數據壓縮IP

    LZOAccel-C是一個無損數據壓縮引擎的FPGA硬件實現,兼容LZO 2.10標準。 Core接收未壓縮的輸入數據塊,產生壓縮后的
    的頭像 發表于 01-25 13:39 ?448次閱讀
    高性能無損<b class='flag-5'>數據壓縮</b>FPGA IP,LZO無損<b class='flag-5'>數據壓縮</b>IP