在上篇「快、準、穩的實現億級別MySQL大表遷移」的文章中,介紹了NineData在單張大表場景下的遷移性能和優勢。但在大部分場景中,可能遇到的是多張表構成的大數據量場景下的數據搬遷問題。因為搬遷數據量較大,遷移的時長、穩定性及準確性都受到極大的挑戰,常見的遷移工具通常不能很好得支持。為此,NineData針對這種場景專門進行針對性的優化,以提供高效、準確、穩定的大數據量遷移能力。
1、傳統的遷移方案
目前,數據遷移主要分為邏輯遷移和物理遷移,邏輯遷移主要有mysqldump、mydumper ,物理遷移主要有XtraBackup。對于這類導入導出和拷貝文件的傳統遷移方案,在遷移中會存在一些問題:
要求業務停機,在遷移過程中,通過需要停止服務,保持靜態遷移數據,由于遷移數據量大,需要的遷移時間較長,這也意味著業務停機時間較長。
遷移時間久,對于mysqldump的邏輯遷移,單線程導出表,遷移時間長。
可靠性差,導出異常后,不支持斷點能力,在遷移過程中,如果遇到數據庫、軟件或硬件任何問題導致的任務中斷,都需要從頭遷移,遷移難度高。
保障能力弱,遷移期間,不能提供完善的觀測跟干預能力;同時,比較缺乏結構及數據對比能力,缺乏質量保障體系,可能影響遷移成功性。
2、高性能的遷移方案
NineData 提供的數據復制同時包含了數據遷移和數據同步的能力,在不影響業務的前提下,提供了高效、穩定、可運維的大數據量遷移能力。經實測,在源及目標實例同城情況下,500GB的MySQL數據的遷移,只需1個小時,平均遷移速度142MB/s。
通過對 MySQL 大數據量遷移的性能測試,和傳統遷移比,NineData 數據遷移的優勢有:
簡單易用:一分鐘即可完成任務配置,并全自動化完成任務遷移。
強勁性能:完善的智能分片、表級行級并發、動態攢批等核心技術,有效保證遷移性能。
高可靠:結合新型斷點、異常診斷及豐富的修復手段,對于遷移過程中可能出現軟硬件故障,提供完善的容災能力,大大提高了大數據量遷移的成功率。
數據質量保障:NineData 還提供了對比功能,包含數據和結構的對比,以及全量、快速(抽樣)和不一致復檢的對比方式,并且也支持不同的對比頻率。在遷移或復制結束后,通過數據和結構對比,能有效的保障數據的一致性。
NineData 在提供強大遷移能力的同時,也保證了使用的簡單性,只需要1分鐘就能完成遷移任務的配置,實現完全自動化的數據遷移過程。下面我們來看下整個任務的配置過程:
2.1 配置遷移鏈路
1. 配置任務名稱,選擇要遷移的源和目標實例。
2. 選擇復制類型,數據遷移選擇結構和全量復制(數據遷移)。
3. 根據需要,選擇合適的沖突處理策略。
2.2 選擇遷移對象
選擇遷移對象:針對不同粒度選擇遷移對象,也可以選擇部分遷移對象。
2.3 配置映射對象
配置映射和過濾規則:可自定義遷移的庫名、表名和按照不同的過濾條件進行多表的部分數據遷移,也可以針對表的列名進行映射和部分列遷移。
2.4 預檢查&啟動
通過豐富的檢查項,保證了遷移任務的穩定性;通過開啟數據對比,保證了遷移后數據的一致性。到此,我們就完成了一個高性能遷移任務的配置。
同時,為了提供更好的遷移體驗,NineData針對遷移過程提供了完善的觀測、干預能力。其不但提供對象遷移的詳細狀態、進展、詳情,還通過監控和日志透露后臺線程的內部執行情況,幫助用戶全方位追蹤遷移進展。同時,還針對運行過程中可能出現的異常情況,提供基礎診斷能力,及修復、跳過、移除等多種修復策略和遷移限流能力,讓用戶能夠自主快速得診斷并修復鏈路,保障遷移穩定性。
3、總結
NineData 提供的高效、快速、穩定的MySQL大數據量遷移能力,很好的補充了傳統遷移方案的不足。當前,NineData 已經支持數十種常見數據庫的遷移復制,同時,除了SAAS模式外,還提供了企業專屬集群模式,滿足企業最高的數據安全合規要求。目前,NineData已在運營商、金融、制造業、地產、電商等多個行業完成大規模應用實踐。如果您感興趣的話,可以登錄官網:數據遷移-遷移工具-數據傳輸-NineData-玖章算術,立即開始使用。
審核編輯 黃宇
-
數據庫
+關注
關注
7文章
3765瀏覽量
64276 -
MySQL
+關注
關注
1文章
802瀏覽量
26444 -
數據遷移
+關注
關注
0文章
69瀏覽量
6939
發布評論請先 登錄
相關推薦
評論