精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

海量數據運維要給力,華為云 GaussDB(for?Cassandra) 來助力

jf_81200783 ? 來源:jf_81200783 ? 作者:jf_81200783 ? 2023-06-27 23:08 ? 次閱讀

應用運維管理平臺(AOM)和 Cassandra 是兩個不可分割的組成部分,它們共同構成了一個高效的解決方案,可以幫助企業在應用運維業務上取得巨大的優勢。在這篇文章中,我們將介紹 AOM 和 Cassandra 的優勢和特點,揭曉它們如何為企業保持市場競爭力的秘密。

導讀

隨著容器技術的普及,越來越多的企業通過微服務框架開發應用,業務逐漸轉變為云上實現服務,運維也逐漸轉向云上運維服務。在此環境下,云上應用的運維也遭遇了新的挑戰:

1.運維人員技能要求高,需要同時維護多套系統,配置繁雜。分布式追蹤系統的學習和使用成本高,穩定性差,性價比低。

2.云化場景下的分布式應用問題分析困難,主要表現在如何可視化微服務間的依賴關系,如何提高應用性能體驗,如何將散落的日志進行關聯分析,以及如何快速追蹤問題。

針對以上挑戰,AOM 應運而生。

AOM 是什么

AOM 是由華為云研發的云上應用一站式立體化運維管理平臺,由應用資源管理、監控中心(可觀測性分析)、自動化運維、采集管理四個子服務構成,提供一站式可觀測性分析和自動化運維方案,支持快速從云端和本地采集指標、日志和性能等數據,幫助用戶及時發現故障,全面掌握應用、資源及業務的實時運行狀況,提升企業海量數據運維的自動化能力和效率。

wKgZomSa-4aAEXyYAAI8a3BZ-yI411.png

AOM 優勢眾多,功能強大,其背后離不開支撐其海量數據運轉的智能數據底座——華為云 GaussDB(forCassandra)。

為什么選擇 GaussDB(forCassandra)?

華為云 GaussDB(forCassandra)是一款兼容 Cassandra 生態的云原生 NoSQL 數據庫,支持類 SQL 語法 CQL。在華為云高性能、高可用、高可靠、高安全、可彈性伸縮的基礎上,提供了一鍵部署、快速備份恢復、計算存儲獨立擴容、監控告警等服務能力,尤其適用于各種海量數據處理和高并發業務場景。

出現數據熱點的業務。例如:某新聞時事 APP 需要管理大量新聞時事數據,當出現社會熱點事件時,相關新聞數據請求量急劇升高,此時需要保障 APP 正常運作,以及保持請求成功率穩定。

需要對時序數據建模的業務。例如:某氣象站需要每分鐘采集一次溫度,并存儲該次采集結果,同時需要保障數據的時效性,自動刪除過期數據。

需要對會話消息數據建模的業務。例如:某社交 APP 需要存儲大量的用戶及會話消息,需要保障用戶在不同會話消息間切換時耗時低、成功率高、響應時間短。

需要高速處理數據的業務。例如:某業務需要迅速處理來自不同設備或傳感器的數據。

需要實時監測數據的業務。例如:某運維平臺需要實時監測不同維度的數據,準確采集指標,快速完成運維。

需要使用社交媒體分析和推薦引擎的業務。例如:某電商 APP 需要分析用戶喜好商品,基于用戶喜好實現商品推薦,提升用戶體驗和產品競爭力。

……

此外,華為云 GaussDB(forCassandra)特性豐富,適用于廣泛業務場景。

大數據應用:GaussDB(forCassandra)可以處理海量數據,支持高吞吐量和低延遲的讀寫操作,因此適合大數據應用場景。

互聯網應用:GaussDB(forCassandra)可以處理高并發的讀寫請求,支持多數據中心部署,因此適合互聯網應用場景。

時間序列數據:GaussDB(forCassandra)支持時間序列數據的存儲和查詢,因此適合需要存儲和查詢時間序列數據的應用場景,如物聯網、日志分析等。

高可用性業務。GaussDB(forCassandra)采用多副本復制的方式來保證數據的可用性和可靠性。當一個節點出現故障時,系統可以自動將數據從其他節點中恢復,從而保證數據的完整性和一致性。

可伸縮性業務。GaussDB(forCassandra)可以輕松地擴展到數百個節點,處理 PB 級別的數據集,同時還支持動態添加和刪除節點,可以根據實際需求靈活地調整系統的規模和性能。

分布式存儲應用。GaussDB(forCassandra)采用分布式存儲的方式,將數據分散存儲在多個節點上,每個節點都可以獨立地處理讀寫請求。這種方式可以有效地提高數據的可用性和可靠性,同時也可以提高系統的吞吐量和擴展性。

分布式查詢應用:GaussDB(forCassandra)支持分布式查詢,可以將查詢請求分發到多個節點上并行處理,從而提高查詢的效率和響應速度。

……

綜上所述,GaussDB(forCassandra)非常適合大數據分析、實時數據處理、社交網絡、物聯網、分布式存儲和查詢等應用場景。

真實場景解讀——數據熱點問題

AOM 功能強大,涉及多種典型業務場景,如數據熱點、時序數據、實時監測等,因此選擇 GaussDB(forCassandra)作為底層數據支撐引擎。接下來就數據熱點問題作為切入點,揭秘 GaussDB(forCassandra)如何保障 AOM 在發生數據熱點時穩定運行。

場景復現:

監控運維海量數據時,表中特定數據訪問頻率驟升,部分分區產生熱點流量。表中主鍵設置不合理,某個分區下的業務量驟增,流量沖擊會集中在一個分區上,導致該分區對應的 token 所在節點的 CPU 持續居高不下。

問題根因:

GaussDB(forCassandra)是一個面向大數據場景的高度可擴展的高性能分布式數據庫,可用于管理海量的結構化數據。在業務使用的過程中,隨著業務量和數據流量的持續增長,一些業務的設計弊端逐漸暴露出來,降低了集群的穩定性和可用性。例如主鍵設計不合理、單個分區的記錄數或數據量過大、出現超大分區鍵等問題,導致了節點負載不均衡、集群穩定性下降等現象,這一類問題統稱為大 key 問題。產生大 key 的最主要原因是主鍵設計不合理,導致單個分區的記錄數或數據量過大。一旦某個分區存在海量數據時,對該分區的訪問會導致分區所在 server 的負載變高,嚴重時甚至會導致節點 OOM 等后果。

在日常生活中,經常會發生各種熱門事件,例如應用中對某熱點新聞進行上萬次的點擊瀏覽和評論時,會形成一個較大的請求量,這種情況下會在短時間內對同一個 key 頻繁操作,導致該 key 所在節點的 CPU 負載飆高,從而影響該節點上的其他請求,導致業務成功率下降。諸如此類的還有熱門商品促銷,網紅直播等場景,這些典型的讀多寫少的場景也會產生數據熱點問題。當某個 key 的請求在某一主機上的訪問超過 server 極限時,會導致熱 key 問題的產生。大 key 往往是熱 key 問題的間接原因。熱 key 會造成以下危害:流量集中,達到物理網卡上限;請求過多,緩存分片服務被擊垮;數據庫擊穿,引起業務雪崩等。

在上述場景中,主要是表中主鍵結構不合理,從而導致大 key 和熱 key 的產生,表結構如下所示。movie 表保存了短視頻的相關信息,分區鍵為 movieid,并且保存了用戶信息(uid)。如果 movieid 對應的視頻是一個熱門短視頻,有幾千萬甚至上億用戶點贊此短視頻,則該熱門短視頻所在的分區非常大。

CREATETABLEmovie(

movieidtext,

appidint,

uidbigint,

accessstringtext,

movienametext,

access_timetimestamp,

PRIMARYKEY(movieid,appid,uid,accessstring,moviename)

)

解決方案:

調整表結構。GaussDB(forCassandra)與其他數據庫相比,具有更加靈活的數據結構,支持主鍵和分區鍵的靈活設置,通過合理設置主鍵和分區鍵,調整表結構與查詢語句,對表中數據進行劃分,能夠有效優化查詢速度,提升運維效率。在上述場景中,movie 表的主鍵設置不合理,查詢數據量十分龐大,耗時久。創建新表為如下所示表結構時,表中數據量顯著減少。新表用于保存熱門短視頻信息,只保留短視頻公共信息,不包含用戶信息,確保該表不會產生大的分區鍵。

CREATETABLEhotmovieaccess(

movieidtext,

appidint,

accessstringtext,

accesstimetimestamp,

PRIMARYKEY(movieid,appid)

)

使用緩存。緩存可以提高讀操作的響應性,需要使用額外的內存來存儲數據,從而盡可能減少必須完成的磁盤讀。隨著緩存大小的增加,可以從內存提供服務的“命中”數也會增加。GaussDB(forCassandra)內置的緩存包括鍵緩存和行緩存等類型。鍵緩存存儲了分區鍵與行索引之間的一個映射,以便于更快地訪問存儲在磁盤上的 SSTable;行緩存可以為每個分區緩存一定的行,提高頻繁訪問的行的讀取速度。

在上述場景中,可以使用緩存來緩解流量沖擊。業務應用先從緩存中讀取熱點信息,沒有查詢到則從數據庫中查詢,減少數據庫查詢次數。整體邏輯流程如下所示。

wKgaomSa-4aANprfAAAlRR-tqtM776.png

數據熱點檢測工具:

數據熱點會給業務帶來壓力,影響業務正常運行。出現數據熱點后再去解決為時已晚,因此需要預知數據熱點問題,提前設計解決方法,保證業務正常運行。為此,GaussDB(forCassandra)為業務提供了大 key 和熱 key 的檢測和預警工具。

大 key 檢測。通過大規模業務觀察學習,GaussDB(forCassandra)定義超過以下任意閾值的 key 即為大 key:1.單個分區鍵的行數不能超過 10 萬行;2.單個分區的大小不超過 100MB。

熱 key 檢測。通過大規模業務觀察學習,GaussDB(forCassandra)定義訪問頻率大于 100000 次/min 的 key 即為熱 key。

GaussDB(forCassandra)支持大 key 和熱 key 的檢測和告警工具,客戶可根據實際業務需求,在產品界面配置實例的大 key 和熱 key 告警。同時,在發生大 key 和熱 key 事件時,系統會第一時間發送預警通知,客戶可在產品界面查看監控事件數據,及時處理相關告警,避免業務波動。

總結:

針對數據熱點問題,GaussDB(forCassandra)提供了大 key 和熱 key 的實時檢測,以幫助業務進行合理的方案設計,規避業務穩定性風險;提供了大 key 和熱 key 的實時監控,確保第一時間感知業務風險;提供了大 key 和熱 key 的解決方案,在面對大數據量洪峰場景時,增強了集群的穩定性與可用性,為客戶業務持續穩定運行保駕護航。

綜上所述,在線業務在使用 GaussDB(forCassandra)時,必須執行相關的開發規則和使用規范,在開發設計階段就降低使用風險。一般按照“制定規范”→“接入評審”→“定期巡檢”→“優化規則”的治理流程進行。合理的設計一般會降低大部分風險發生的概率,對于業務來說,任何表的設計都要考慮是否會導致大 key 和熱 key 的產生、是否會造成負載傾斜的問題。另外需要建立數據老化機制,表中的數據不能無限制的增長而不刪除或者老化。針對讀多寫少的場景,要增加緩存機制,來應對讀熱點問題,提升查詢性能;針對每個分區鍵以及每行數據,要控制其大小,超出限制后要及時優化,否則將影響性能和穩定性。

結論

AOM 和 GaussDB(forCassandra)的組合成功打造了一套高效、可擴展、高性能、靈活和可定制的海量數據監控運維平臺,可以幫助企業更好地管理和利用監控數據,提高運維效率,助力企業在不斷變化的市場環境中保持競爭優勢。

審核編輯黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 大數據
    +關注

    關注

    64

    文章

    8863

    瀏覽量

    137299
  • 華為云
    +關注

    關注

    3

    文章

    2423

    瀏覽量

    17311
收藏 人收藏

    評論

    相關推薦

     詳細剖析華為應用立體解決方案

    ,找到體驗差的地方并改進?  image.png  針對這些挑戰,華為推出應用立體解決方案,融合了
    發表于 09-01 14:18

    盈和智能助力實現配電智能化、精細化

      能盈和智能就是通過將數據流與業務流相結合的方式助力客戶實現配電
    發表于 01-24 13:17

    華為推出云原生分布式數據GaussDB(for Redis)

    華為開發者社區聯合華為數據庫架構與規劃團隊聯合出品,與開發者分享華為
    的頭像 發表于 04-20 09:51 ?1536次閱讀

    華為數據庫\-GaussDB for MySQL數據

    華為數據庫-GaussDB for MySQL數據GaussDB
    的頭像 發表于 10-27 14:56 ?1201次閱讀

    華為數據GaussDB持續技術創新 , 助推企業釋放數字生產

    華為數據GaussDB持續技術創新 , 助推企業釋放數字生產 近期,華為全聯接大會202
    的頭像 發表于 11-24 13:26 ?668次閱讀

    華為數據GaussDB (for Cassandra)?數據庫治理 --?大key與熱key問題的檢測與解決

    華為數據GaussDB (for Cassandra)?數據庫治理 --?大key與熱key
    的頭像 發表于 12-01 21:34 ?577次閱讀
    <b class='flag-5'>華為</b><b class='flag-5'>云</b><b class='flag-5'>數據</b>庫<b class='flag-5'>GaussDB</b> (for <b class='flag-5'>Cassandra</b>)?<b class='flag-5'>數據</b>庫治理 --?大key與熱key問題的檢測與解決

    50億海量數據如何高效存儲和分析? 華為數據GaussDB (for Cassandra) 3個秘訣搞定

    50億海量數據如何高效存儲和分析? 華為數據GaussDB (for
    的頭像 發表于 12-01 21:36 ?854次閱讀
    50億<b class='flag-5'>海量</b><b class='flag-5'>數據</b>如何高效存儲和分析?  <b class='flag-5'>華為</b><b class='flag-5'>云</b><b class='flag-5'>數據</b>庫<b class='flag-5'>GaussDB</b> (for <b class='flag-5'>Cassandra</b>) 3個秘訣搞定

    華為數據GaussDB(for Cassandra)揭秘:內存異常增長的排查經

    華為數據GaussDB(for Cassandra) 是一款基于計算存儲分離架構,兼容Cassand
    的頭像 發表于 12-02 09:13 ?584次閱讀
    <b class='flag-5'>華為</b><b class='flag-5'>云</b><b class='flag-5'>數據</b>庫<b class='flag-5'>GaussDB</b>(for <b class='flag-5'>Cassandra</b>)揭秘:內存異常增長的排查經

    華為數據GaussDB(for Cassandra)揭秘:高性能低成本是什么樣的體驗?

    在我們的日常理念中,追求性價比是最為常見的,但是你知道購買低配置還能享受高性能、低延時、超低價的數據庫有哪些嗎?今天我們就用數據說話,帶你深入了解GaussDB(for Cassandra
    的頭像 發表于 12-02 09:15 ?705次閱讀
    <b class='flag-5'>華為</b><b class='flag-5'>云</b><b class='flag-5'>數據</b>庫<b class='flag-5'>GaussDB</b>(for <b class='flag-5'>Cassandra</b>)揭秘:高性能低成本是什么樣的體驗?

    GaussDB(for Cassandra)新特性發布:支持Lucene二級索引,讓復雜查詢更智能

    今天,華為GaussDB(for Cassandra)攜__Lucene引擎全新解決方案__來啦!
    的頭像 發表于 12-02 09:18 ?726次閱讀
    <b class='flag-5'>GaussDB</b>(for <b class='flag-5'>Cassandra</b>)新特性發布:支持Lucene二級索引,讓復雜查詢更智能

    初識華為數據GaussDB\(for Cassandra

    初識華為數據GaussDB(for Cassandra “local quorum查詢某個分區鍵的條數,每次查詢,條數都不一樣。” “按
    的頭像 發表于 12-02 17:27 ?783次閱讀
    初識<b class='flag-5'>華為</b><b class='flag-5'>云</b><b class='flag-5'>數據</b>庫<b class='flag-5'>GaussDB</b>\(for <b class='flag-5'>Cassandra</b>

    華為數據GaussDB(for MySQL)全方位守護企業數據安全

    還只是服務的第一步,后續華為數據GaussDB(for MySQL)還將從全方位守護企業
    的頭像 發表于 12-27 21:04 ?563次閱讀

    再識華為數據庫——GaussDB

    。同時具有 PB 級海量數據存儲、實時高效訪問、自動化等特點,廣泛應用于金融、電信、物流、電商、政體等行業,成為行業最受歡迎的企業級數據
    的頭像 發表于 06-05 16:38 ?1122次閱讀
    再識<b class='flag-5'>華為</b><b class='flag-5'>云</b><b class='flag-5'>數據</b>庫——<b class='flag-5'>GaussDB</b>

    無懼百萬級并發,GaussDB(for?Cassandra) 讓華為 Push 推送服務更快觸達

    利器。 華為 GaussDB(for?Cassandra)?是一款基于計算存儲分離架構的分布式數據庫,致力于提供穩定可靠、超高并發,兼容
    的頭像 發表于 06-29 16:48 ?486次閱讀
    無懼百萬級并發,<b class='flag-5'>GaussDB</b>(for?<b class='flag-5'>Cassandra</b>) 讓<b class='flag-5'>華為</b> Push 推送服務更快觸達

    工業智慧解決方案用上海控元申ThingNet物聯網平臺

    一、工業智慧解決方案概述控科技智慧解決方案依托控工業
    的頭像 發表于 01-10 17:32 ?973次閱讀
    工業智慧<b class='flag-5'>運</b><b class='flag-5'>維</b>解決方案用上海<b class='flag-5'>力</b>控元申ThingNet物聯網<b class='flag-5'>云</b>平臺