在上篇「Redis高效、安全的不停機數(shù)據(jù)遷移方案」的文章中,介紹了NineData在Redis遷移場景下的性能和優(yōu)勢。因為數(shù)據(jù)在主備、多云和多區(qū)域環(huán)境之間的遷移流動,難免會產(chǎn)生數(shù)據(jù)一致性的問題,而結(jié)構(gòu)與數(shù)據(jù)不一致往往是導(dǎo)致故障的原因之一。所以,如何快速準(zhǔn)確地完成 Redis 數(shù)據(jù)對比成為了一個重要的問題。
現(xiàn)在,NineData 在支持業(yè)務(wù)不中斷的前提下,實現(xiàn)了配置簡單、高效和安全的數(shù)據(jù)對比服務(wù),很好地保障了各場景下因數(shù)據(jù)遷移導(dǎo)致數(shù)據(jù)不一致的問題。經(jīng)實測,NineData可在 1 分鐘內(nèi)完成 800 萬個key( 2GB,涉及所有類型)的數(shù)據(jù)對比,平均對比速率為 13萬/秒,并且找出不一致的key,生成詳細的對比報告,幫助您快速定位和修復(fù)不一致的數(shù)據(jù)。
目前,數(shù)據(jù)對比主要的方式有:通過解析遍歷RDB二進制文件、SCAN遍歷實例以及一些開源工具進行數(shù)據(jù)對比,對于這些方式的對比,會存在一些問題:
兼容性差,不同版本的Redis,RDB文件格式發(fā)生變化,對于解析RDB文件方式的對比,需要開發(fā)適配。
可用性差,對比完成之后,無法自動生成修復(fù)操作。
可靠性差,對于開源工具,對比異常后,無法斷點。
運維性差,不能進行進度查看、暫停、告警等操作。
NineData高效的數(shù)據(jù)對比方案
NineData 在提供了「數(shù)據(jù)復(fù)制」和「可視化管理」的同時,又進一步拓展了Redis對比的能力,很好地滿足了Redis對于數(shù)據(jù)一致性的要求。相較于傳統(tǒng)對比,NineData 的Redis數(shù)據(jù)對比能力有如下優(yōu)勢:
簡單易用:一分鐘即可完成任務(wù)配置,并全自動化完成對比任務(wù)。
強勁性能:通過多線程、隊列優(yōu)化、流式內(nèi)存管理等核心技術(shù),對比性能達到 13萬/秒,有效保障對比效率。
完善的功能:支持Redis數(shù)據(jù)的一致性對比,同時提供了一次性對比、周期性對比、快速對比等適合多種使用場景的對比功能,并且也提供了不一致數(shù)據(jù)修復(fù)的能力。
可視化界面:擁有簡潔直觀的用戶界面,無需復(fù)雜的設(shè)置即可進行數(shù)據(jù)對比,并且以直觀的圖表和報告呈現(xiàn)對比結(jié)果,使您輕松理解數(shù)據(jù)差異。
安全可靠:NineData 平臺通過國家公安部三級網(wǎng)絡(luò)安全等級保護認證,為企業(yè)的信息安全提供高等級的防護。
通過上述優(yōu)勢,保證了 NineData 在Redis對比場景下的領(lǐng)先性。另外,NineData 還提供了對比功能,包含全量、快速和不一致復(fù)檢的對比方式,并且也支持不同的對比頻率。在遷移或復(fù)制結(jié)束后,通過對比,有效地保障數(shù)據(jù)的質(zhì)量。
對比鏈路的配置
NineData數(shù)據(jù)對比鏈路的配置
1. 配置任務(wù)名稱,選擇要對比的源數(shù)據(jù)源和目標(biāo)數(shù)據(jù)源。
2. 對比頻率,可選擇一次性對比或按照需要定期對比。
3. 對比方式,可選擇全量數(shù)據(jù)對比或自定義抽樣比例對比。
選擇對比對象
通過NineData數(shù)據(jù)對比選擇對比對象
選擇對比對象:可選擇不同DB進行對比。
配置映射對象
通過NineData配置映射對象
配置映射:可以把源實例的多個數(shù)據(jù)庫映射到目標(biāo)實例指定的1個或多個數(shù)據(jù)庫。
預(yù)檢查
NineData數(shù)據(jù)對比提供了預(yù)檢查功能
通過完善的檢查項,保證了對比任務(wù)的穩(wěn)定性。到此,我們就完成了一個快速、高效的Redis對比任務(wù)的配置,當(dāng)完成配置并啟動任務(wù)后,NineData就實現(xiàn)全自動化的數(shù)據(jù)對比。
同時,為了提供更好的對比體驗,NineData針對對比過程提供了完善的觀測、干預(yù)能力。其不但提供對象對比的詳細狀態(tài)、進展、詳情,還通過監(jiān)控和日志透露后臺線程的內(nèi)部執(zhí)行情況,幫助用戶全方位追蹤對比進展。同時,還針對運行過程中可能出現(xiàn)的異常情況,提供告警和對比暫停能力,讓用戶能夠自主快速地診斷并修復(fù)異常,保障對比的穩(wěn)定性。對比期間的信息:
NineData提供對比期間的信息總覽
在監(jiān)控中可以看到對比的RPS,實時了解對比的性能。除了監(jiān)控外,如果遇到數(shù)據(jù)不一致的情況,在操作列中則會出現(xiàn)「查看詳情」按鈕。進去可以看到具體key的不一致信息:
通過NineData查看具體key的不一致信息
最后,在操作列中可以看到「SQL」按鈕,會顯示提供修復(fù)不一致數(shù)據(jù)的操作:
NineData生成修復(fù)不一致數(shù)據(jù)的變更SQL
總結(jié)
NineData 數(shù)據(jù)對比是一款云原生數(shù)據(jù)對比產(chǎn)品,具備每秒處理100萬筆記錄的高效能力。它提供了一站式支持,適用于IDC自建、云主機自建以及云數(shù)據(jù)庫。并支持多種數(shù)據(jù)庫,除了Redis之外,還包括MySQL、SQL Server、PostgreSQL、MongoDB、ClickHouse、Doris等,可進行數(shù)據(jù)庫間的結(jié)構(gòu)對比和數(shù)據(jù)對比。
此外,NineData還支持同構(gòu)和異構(gòu)數(shù)據(jù)源之間的數(shù)據(jù)一致性校驗。用戶可以選擇結(jié)構(gòu)對比、全量對比、抽樣對比、周期性對比等多種對比方式。NineData能夠動態(tài)監(jiān)測數(shù)據(jù)庫負載,自適應(yīng)調(diào)整對比速度,確保數(shù)據(jù)庫的穩(wěn)定性。豐富的數(shù)據(jù)源支持使得NineData能夠滿足不同客戶的需求。此外,NineData在結(jié)構(gòu)對比方面擁有業(yè)界領(lǐng)先的覆蓋度,對象類型及屬性覆蓋度業(yè)界 NO.1。
審核編輯 黃宇
-
數(shù)據(jù)庫
+關(guān)注
關(guān)注
7文章
3765瀏覽量
64276 -
Redis
+關(guān)注
關(guān)注
0文章
371瀏覽量
10846
發(fā)布評論請先 登錄
相關(guān)推薦
評論