精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

糾刪碼技術為產業轉型升級構筑數據護盾

浪潮存儲 ? 來源:浪潮存儲 ? 作者:浪潮存儲 ? 2022-06-16 09:20 ? 次閱讀

百萬獵人兵臨城下,向魔法護盾發起猛烈沖擊,卻無法將擁有99級神力的護盾撼動分毫。

這是科幻電影《頭號玩家》里的一幕。電影里,不僅“綠洲”被視為元宇宙未來理想形態,“魔法護盾”也迅速跨界出圈,在企業數據管理領域引發關注。這是因為隨著數字經濟快速發展,數據要素在受到企業重視的同時,全球超80%的IT決策者認為現有數據保護方案無法滿足未來業務挑戰,保護好數據資產成為企業的當務之急。

日前,在由存儲產業技術創新聯盟主辦的“元宇宙存儲研究與實踐”開放計算技術沙龍上,來自中科大、華中大、鄭州大學、建信金科以及浪潮存儲的“產學研用”各界專家匯聚一堂,在關注元宇宙存儲發展的同時,還共同就糾刪碼優化、細粒度感知等數據保護話題展開討論。本次沙龍是場景共同體戰略的承襲和實踐,浪潮信息存儲產品線總經理李輝曾提出,面向層出不窮的新應用、新場景,攜手產業鏈伙伴推進“平臺+生態”戰略,以六種模式加速企業數字轉型。

數據保護

懸在頭頂的達摩克里斯之劍

數字虛擬人需要收集的高達百倍甚至千倍的數據、VR頭顯從4K升級到視網膜級需提升10倍數據傳輸量、飛行模擬器采集的數據量超2PB。

以元宇宙為代表的新應用帶來數據規模十倍、百倍激增,快速增長的多模態數據增加了企業數據保護的難度。數據顯示,企業現在管理的數據量是五年前的十倍以上,全球82%、中國88%的IT決策者擔心現有數據保護方案無法滿足未來業務挑戰。

這些擔憂源自企業的現實困境,根據對全球1000名決策者的調研,全球30%的受訪者在過去一年中經歷過數據丟失,45%遭遇過計劃外的系統停機。另據IDC統計,在過去12個月,全球超過三分之一的組織遭遇過勒索軟件攻擊或入侵,導致系統或數據無法訪問。數據保護,已然成為擺在企業數字化轉型面前的一大挑戰。本次沙龍,中國科學技術大學許胤龍教授以及浪潮存儲技術專家共同給出了答案。

數據容錯

業界兩種技術流派之爭

“數據容錯,業界通常有兩種辦法,一種是多副本,另一種是糾刪碼”,許胤龍教授表示。多副本訪問性能高、故障修復快,但存儲開銷比較大(燒錢、占地),令企業直呼吃不消;糾刪碼開銷?。ɑㄐ″X、辦大事),一般存儲空間比RAID 1鏡像小,在數據爆炸式增長的趨勢下更受市場歡迎,企業用腳投票紛紛選擇了糾刪碼。

d78f7c4c-ed08-11ec-ba43-dac502259ad0.png

△三副本和糾刪碼對比

時下人氣攀升的糾刪碼,究竟是什么呢?所謂糾刪碼(Erasure Coding),是一種數據保護方法,它將數據分割成片段,把冗余數據塊擴展、編碼,并將其存儲在不同位置,比如硬盤、存儲節點或其他物理位置。

“糾刪碼,可以簡單理解成對原始數據做線性組合”,許胤龍教授表示。比如 (2+2)糾刪碼,就是A、B兩個數據可以做A+B和A+2B的線性組合,能容任意兩個節點錯,當恢復數據的時候直接解方程就行。一般情況下,業界常用的是(k,m)-MDS碼,把k個數據編碼成m個校驗數據,k+m個數據塊形成一個條帶,最多可以容許m個塊同時故障。工業界常見的m一般是2或3,數據規模較大的話,可以把m設為4~6。

糾刪碼

跑得如絲般順滑并非易事

糾刪碼“花小錢、辦大事”的優勢雖然非常明顯,但要在超大規模數據中心內或者是跨數據中心使用糾刪碼做數據保護,卻需要過五關闖六將,絕非易事。

第一關

同一數據中心內,數據恢復的網絡傳輸時間占比超90%,糾刪碼“龜速”難題如何破。

糾刪碼能夠降低存儲成本、提高容錯能力,但糾刪碼最大的問題是在數據丟失之后,數據恢復過程需要從其他地方讀取大量數據,故障修復堪稱龜速。通過對糾刪碼“從存活節點讀取數據、傳輸、在備份節點解碼、傳輸、在替代節點寫入”的整個流程做分析,發現網絡傳輸占整個數據恢復時間的比例超90%,如何優化數據恢復時間呢?

首先,數據分批恢復。在實際系統里面,數據塊是隨機的分布到不同的節點里,隨機數據分布從統計概率的角度來說,是能達到負載均衡的。但一般來說,在系統實現的時候,一般來說因為系統IO、內存、CPU資源也有限,同時系統還要支撐前臺的應用綜合各方面,所以修復一般都會是分批進行?!拔覀冏鲞^實驗,分批比不分批大概要快15%左右”,許教授表示。

d7bcf51e-ed08-11ec-ba43-dac502259ad0.png

△清華、港中大、普渡、中科大紛紛開展糾刪碼優化研究

其次,可以利用二部圖和網絡流圖的辦法,使得從不同的節點上進行恢復的時候,不同節點上讀數據量是均衡的,寫數據量也是均衡的,并且每一個節點承擔的恢復任務也是均衡的。清華、港中大、普渡、中科大等頂級高校均對糾刪碼技術進行了研究,經過優化中科大SelectiveEC技術能夠在90%以上的情況下都實現負載均衡,相比HDFS大約50%的負載均衡水平,中科大的負載均衡水平能高出70%以上,恢復速度提升30%以上。同時Selective EC比HDFS有更少的毛刺、更短的長尾、更短的任務生命周期。

d7f71262-ed08-11ec-ba43-dac502259ad0.png

△糾刪碼優化結果

“我們很認同許教授的觀點,為了實現數據糾刪的負載均衡,浪潮存儲一直在技術上不斷打磨和創新”,浪潮信息分布式存儲架構師張立強表示。

浪潮分布式存儲AS13000突破軟硬件協同寬條帶糾刪技術,融合多元算力,解決數據高冗余比糾刪的計算性能、資源消耗、容量、可靠性等指標難以兼顧的問題。舉個例子,浪潮存儲創新研制了糾刪碼FPGA加速卡,設計可重構最小硬件邏輯單元,實現編解碼復用、全糾刪比支持,實現寬條帶糾刪的CPU計算卸載。在32+6糾刪比配置下,浪潮存儲能夠將處理器平臺的CPU占用率降低90%,性能提升390%,這就如同將汽車行駛的速度提升到了復興號的水平。其實浪潮分布式存儲在高校領域應用廣泛,目前已經在中科大、清華、北大、復旦、浙大、中山大學等國內頂級高校實現規?;渴?,支撐科研智慧應用平臺穩定運行,以數據之力助力科研取得豐碩成果。

第二關

跨數據中心場景,數據中心帶寬極其有限,如何“跨越萬水千山”做糾刪。

考慮到地震、山洪、火災等災害因素影響,大型企業往往會跨數據中心做數據保護。所謂跨數據中心,是指多個數據中心可能建在距離城區比較遠的地方或者是不同的城區的地方,這時候跨數據中心的帶寬就會很寶貴,通常跟數據中心內部的帶寬相比,跨數據中心帶寬只有1/20。

d820cbfc-ed08-11ec-ba43-dac502259ad0.png

△跨數據中心帶寬約為數據中心內帶寬的1/20

RS碼部署方式在同一數據中心內做糾刪是有優勢的,但在跨數據中心環境下卻面臨挑戰。這是因為RS碼是把一個條帶的數據均勻分布到不同數據中心去。假如現在有15個數據塊,把它編碼成12個校驗塊,分散在三個數據中心,這時候只能容單個數據中心故障,存儲開銷大概是180%,如果出現單塊故障,需要跨數據中心訪問7個數據塊,需要的帶寬開銷比較多。

新型LRC(Locally Repairable Code)分組編碼方式,可以在存儲開銷和恢復性能之間做一個權衡。LRC(k,l,g)分組編碼有三個值,k表示數據塊,l代表局部校驗塊,g是全局校驗塊。LRC分組編碼通過讀取局部數據塊,減少重構所需的數據量,從而提升數據修復性能。這就好比618購物,北京小伙買一箱牛奶,如何用最快的速度把貨物送到顧客手里呢,電商平臺會找到距離顧客比較近的天津或河北倉庫(類似l局部校驗塊)進行配送,盡量減少從西安或廣州(類似g全局校驗塊)調貨的概率。

d8540364-ed08-11ec-ba43-dac502259ad0.png

△LRC分組編碼技術優化結果

按照新型部署方式,“在實際集群里面,我們實現了數據傳輸、數據解碼的優化,大概能把速度提升30%”,許胤龍教授表示。

“浪潮一直將可靠性視為存儲的生命線,在異地數據保護方面做了諸多創新”,浪潮信息存儲研發部何營表示。

浪潮存儲不僅基于一套存儲架構承載塊、文件、對象、大數據等多種數據服務,在WAN加速、快速重構、透明故障切換等高級功能方面持續創新。以WAN廣域網加速技術為例,浪潮存儲通過數據流壓縮、固定塊切割和多數據流并發,將遠程傳輸性能提升高達10倍、延時降低10倍,幫助海量數據異地遷徙和災備。

小結

伴隨元宇宙、AI、大數據新技術、新應用不斷涌現,數字經濟正在成為中國經濟發展的關鍵因素。數據顯示,從2020年到2025年數字經濟核心產業增加值將從7.9萬億提升至13萬億,是驅動GDP增長的引擎。

“浪潮存儲是整體市場全球前四、分布式存儲銷量中國第一的存儲廠商,糾刪碼技術在浪潮大部分分布式存儲客戶中得到應用,為產業轉型升級構筑了數據護盾”,浪潮信息首席架構師葉毓睿表示。未來浪潮存儲將攜手產學研用各方力量,共建場景共同體驅動社會高質量發展。

原文標題:元宇宙存儲:如何為ZB級數據打造魔法護盾

文章出處:【微信公眾號:浪潮存儲】歡迎添加關注!文章轉載請注明出處。

審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 存儲
    +關注

    關注

    13

    文章

    4265

    瀏覽量

    85675
  • 浪潮
    +關注

    關注

    1

    文章

    454

    瀏覽量

    23820
  • 糾刪碼
    +關注

    關注

    0

    文章

    5

    瀏覽量

    4915

原文標題:元宇宙存儲:如何為ZB級數據打造魔法護盾

文章出處:【微信號:inspurstorage,微信公眾號:浪潮存儲】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    安全升級,智啟未來!廣東工業安全生產數智化轉型閉門分享會圓滿舉辦

    8月26日,由華為技術有限公司(以下簡稱“華為”)與廣州英信息科技有限公司(以下簡稱“英科技”)聯合主辦,廣東省應急產業協會為支持單位的“廣東工業安全生產數智化
    的頭像 發表于 08-28 14:54 ?229次閱讀
    安全<b class='flag-5'>升級</b>,智啟未來!廣東工業安全生產數智化<b class='flag-5'>轉型</b>閉門分享會圓滿舉辦

    港迪技術IPO上市:助力基礎產業轉型升級,新舊產業融合特征明顯

    的敏銳洞察力和國家級專精特新“小巨人”企業的擔當,積極響應行業需求,以創新技術引領,基礎設施行業的綠色轉型與智能化升級注入了強勁動力。
    的頭像 發表于 08-27 15:48 ?456次閱讀

    聚焦產業轉型,以數智創新加速發展云時代企業ERP升級創新實踐

    產業轉型 創領未來”為主題,匯聚了來自裝備制造、化工、零售、建筑與地產行業的超過百位企業精英、行業專家與合作伙伴,共同探討 AI 時代下,面對市場環境的劇烈變化與挑戰,深入交流管理升級、全球化運營、智能化人力組織、
    的頭像 發表于 07-29 16:07 ?612次閱讀
    聚焦<b class='flag-5'>產業</b><b class='flag-5'>轉型</b>,以數智創新加速發展云時代企業ERP<b class='flag-5'>升級</b>創新實踐

    靈半導體入選2024年度福建省數字經濟核心產業創新企業

    。瞪羚企業是以新技術、新業態、新模式支撐穩步進入高成長期,綜合效益突出、行業影響力大、社會誠信度高、示范帶動性強,在引領中小企業轉型升級和促進民營經濟發展中作用明
    的頭像 發表于 06-18 08:23 ?528次閱讀
    <b class='flag-5'>碼</b>靈半導體入選2024年度福建省數字經濟核心<b class='flag-5'>產業</b>創新企業

    時代中標金龍魚,助力食品制造行業升級數字安全防線

    時代中標金龍魚,助力食品制造行業升級數字安全防線
    的頭像 發表于 05-21 14:05 ?320次閱讀
    芯<b class='flag-5'>盾</b>時代中標金龍魚,助力食品制造行業<b class='flag-5'>升級</b>數字安全防線

    會員風采!華秋電子——致力于“電子產業增效降本”的數字化智造平臺

    上市。 搭載產業互聯網東風,華秋電子進入數字化電子供應鏈快車道 隨著物聯網、人工智能、5G大時代的到來,產業互聯網大勢所趨,”互聯網+智能制造“是當前電子產業轉型
    發表于 05-13 09:53

    華為智能AntiDDoS解決方案數據中心構筑堅實防護之

    Grohnfeldt發表了“華為Anti-DDoS解決方案,數據中心業務的防護之”議題演講,吸引了來自全球諸多行業客戶及網絡安全專家的駐足聆聽。
    的頭像 發表于 04-25 09:23 ?425次閱讀

    中國第三代自主超導量子計算機“本源悟空”成功裝備抗量子攻擊

    據安徽省量子計算工程研究中心透露,“本源悟空”已成功配備國內首個“抗量子攻擊”——PQC(后量子密碼)混合加密系統,從而提升其防御能力,保障運行數據安全。
    的頭像 發表于 04-12 14:28 ?539次閱讀

    華為云尚海峰:以數智技術核心,加速培育和形成新質生產力

    科技創新與產業創新深度融合,記者采訪了華為混合云總裁、主機上云軍團CEO 尚海峰,他分享了如何通過數智技術幫助政企加快發展新質生產力,實現產業轉型和智能化
    的頭像 發表于 04-10 23:19 ?474次閱讀
    華為云尚海峰:以數智<b class='flag-5'>技術</b><b class='flag-5'>為</b>核心,加速培育和形成新質生產力

    IPv6--促進信息基礎設施升級構筑產業數字化發展堅實底座

    當前,中國正處于產業數字化轉型關鍵期,產業數字化需要更高速、更可靠、更精準的先進網絡作為支撐。傳統互聯網的資源和安全瓶頸正在制約技術創新和產業
    的頭像 發表于 04-03 13:19 ?399次閱讀
    IPv6--促進信息基礎設施<b class='flag-5'>升級</b>,<b class='flag-5'>構筑</b><b class='flag-5'>產業</b>數字化發展堅實底座

    首個鴻蒙生態創新中心在深揭幕,開啟鴻蒙產業新篇章共繪鴻蒙原生應用開發新篇章

    ,通過構建鴻蒙生態服務體系,開拓鴻蒙系統應用場景和市場空間,同時作為鴻蒙生態創新中心的建設和運營單位,鴻蒙生態伙伴提供政策宣貫、獎補輔導、商機對接、技術支持、品牌推廣、人才培養、測試認證等服務,協助生態伙伴轉型
    發表于 03-20 09:55

    數字化轉型守護者丨芯時代入選“2023央國企數字化產業賦能圖譜”多個領域

    產業中的創新力量,國有企業數字化轉型工作提供參考指導。 芯時代 作為領先的零信任業務安全產品方案提供商,憑借豐富的央國企客戶項目經驗、領先的產品服務體系和持續提升的創新能力,成功入
    的頭像 發表于 12-27 10:10 ?724次閱讀
    數字化<b class='flag-5'>轉型</b>守護者丨芯<b class='flag-5'>盾</b>時代入選“2023央國企數字化<b class='flag-5'>產業</b>賦能圖譜”多個領域

    英特爾聯合全國智標委發布《數智園區行業參考指南》,推動產業轉型升級

    發展特征,整理出數智園區的技術趨勢和參考架構,幫助園區更好地利用數智技術創新成果,持續拓展其能力范圍與服務邊界,實現園區全狀態實時化和可視化、園區管理決策協同化和智能化。 數智園區作為產業升級
    的頭像 發表于 12-08 19:15 ?517次閱讀
    英特爾聯合全國智標委發布《數智園區行業參考指南》,推動<b class='flag-5'>產業</b><b class='flag-5'>轉型</b><b class='flag-5'>升級</b>

    華秋榮獲2023中國產業數字化百強榜企業

    持不懈努力的認可。 這也是自2021年以來,華秋連續3年獲得此殊榮。 華秋始終堅持以幫助客戶增效將本使命,以信息化技術驅動業務創新,以數字化技術賦能智能制造,致力于推動電子行業數字化進程,變革傳統電子
    發表于 12-04 10:01

    喜訊!華秋榮獲2023中國產業數字化百強榜企業

    持不懈努力的認可。 這也是自2021年以來,華秋連續3年獲得此殊榮。 華秋始終堅持以幫助客戶增效將本使命,以信息化技術驅動業務創新,以數字化技術賦能智能制造,致力于推動電子行業數字化進程,變革傳統電子
    發表于 12-04 09:58