分布式數據庫系統是將屬于單個邏輯數據庫的數據分發到兩個或多個物理數據庫的系統。除了這個簡單的定義之外,關于數據何時、如何以及為什么分發,還有許多令人困惑的可能性。有些適用于邊緣和/或霧計算,有些適用于霧和/或云計算,有些適用于邊緣,霧和云計算的整個范圍。
本文將介紹邊緣、霧和云計算背景下分布式數據庫系統的類型,解釋“何時、如何以及為什么”數據是分布式的,以及為什么這些細節使某些分布式數據庫系統適用于(或不適用)邊緣、霧和云計算中的特定需求。
定義
維基百科的作者在定義分布式數據庫時采取了集體嘗試:“分布式數據庫是存儲設備并非全部連接到公共處理器的數據庫。它可以存儲在位于同一物理位置的多臺計算機中;或者可能分散在互連的計算機網絡上。與處理器緊密耦合并構成單一數據庫系統的并行系統不同,分布式數據庫系統由松散耦合的站點組成,這些站點不共享任何物理組件。該定義本身部分來自與美國商務部相關的電信科學研究所。
這個定義實際上相當狹窄。在“分布式數據庫”的一般標題下,我至少會問到其他三個用例:高可用性,集群數據庫和區塊鏈。維基百科的定義,高可用性和集群都適用于物聯網。此外,我認為分布式數據庫的分片可以存在于同一臺物理計算機上。使數據庫分布式的原因是,各個分區由數據庫系統的單獨實例管理,而不是由這些分區的物理位置管理。第六節將對此進行詳細介紹。
高可用性
要使數據庫系統實現高可用性 (HA),它需要在單獨的硬件實例中實時維護物理數據庫的相同副本。通過維護,我的意思是保持副本與主副本的一致性。在這種情況下,(至少)有兩個數據庫副本,我們稱之為主數據庫和從數據庫(有時稱為副本)。應用于主數據庫的操作(即插入、更新、刪除操作)必須在從屬數據庫上復制,并且從站必須準備好隨時將其角色更改為主數據庫。這稱為故障轉移。主站和副本通常部署在不同的物理系統上,但在電信中,常見的 HA 設置是機箱內的多個板:主控制器板、備用控制器板和一些數量的線卡,每個線卡都為某種協議(BGP、OSPF 等)提供服務。在這里,主數據庫由主控制器板上的進程維護。數據庫系統將更改復制到備用控制器板上的從數據庫,該從屬數據庫具有相同的進程,等待在主控制器板發生故障(或只是在熱插拔設置中被移除)時接管處理。在物聯網中,高可用性對于任務關鍵型工業系統是可取的,以保持網關的可用性,以及在云中,以確保即使在面對硬件故障時也可以繼續執行實時分析。
集群數據庫
群集數據庫是在整個數據庫有多個保持同步的物理副本的數據庫。與 HA 的不同之處在于,數據庫的任何物理實例都可以修改,并且會將其修改復制到集群中的其他數據庫實例。這也稱為主-主配置,與 HA 的主-從配置相反。這就是數據庫集群實現之間的相似之處結束的地方。從廣義上講,有兩種實現模型:ACID和最終一致性。在 ACID 實現中,修改在兩階段提交協議中同步復制,以確保一旦提交,更改就會立即反映在數據庫的每個物理實例中。換句話說,所有數據庫實例始終是一致的。此體系結構消除了發生沖突的可能性(或者,更確切地說,在事務成功提交到群集之前解決沖突)。使用最終一致性時,可能會在原始節點將更改提交到數據庫很久之后異步復制更改。這意味著某種協調過程,以解決由兩個或多個節點發起的沖突更改。使用最終一致性,必須編寫應用程序以應對它們所附加到的數據庫的物理實例中存在過時數據的可能性。例如,考慮一個全球在線書商。庫存中可能有一本特定書籍的副本;紐約和悉尼的買家都會看到這本書有貨,兩者都可以把書放在購物車里結賬。系統將不得不弄清楚誰真正拿到了這本書,誰的訂單被延期了。用戶已經接受了這一點。但是,這種模式永遠不適用于需要驗證用戶是否訂閱了某種服務或擁有足夠資金的蜂窩電話網絡。這種類型的系統需要一致的數據庫視圖。由于 ACID 實現所需的同步復制的性質,水平可伸縮性受到限制,但實現非常簡單(無需解決沖突)。最終一致性實現的可伸縮性相當高,但復雜性也很高。集群實現在物聯網中比比皆是。例如,可以群集 IoT 網關以提高可伸縮性和可靠性。參見圖1。每個網關群集中的節點數適中,因此即時一致性和最終一致性模型都適用。群集可以處理來自邊緣設備的流量,而不是單個網關所能處理的流量,并且可靠性/可用性得到提高(即時一致性模型的可伸縮性固有限制不會在小型群集中發揮作用)。
區塊鏈
術語“分布式數據庫”通常與區塊鏈技術相關聯(比特幣是最知名的)。它與“分布式賬本”同義使用,后者更合適(在作者看來)。我在區塊鏈技術的背景下使用術語分布式數據庫的問題是,“分布式數據庫”意味著分布式數據庫管理系統。但區塊鏈中很少涉及數據庫管理系統。不是要詳細闡述這一點,但重要的是要區分數據庫和數據庫管理系統。數據庫只是數據的集合,這些數據可能是分布式的,也可能是不分布的。數據庫管理系統是管理數據庫的軟件。區塊鏈實際上是一個分布式數據庫。但是,如前所述,在創建/維護區塊鏈分布式賬本時,很少涉及數據庫管理系統。
分區數據庫
維基百科定義“。..存儲在多臺計算機中,位于同一物理位置。..”是俗稱的數據庫分片。分片與 HA 和集群分布式數據庫之間的主要區別在于,每個物理數據庫實例(分片)僅包含所有數據的一小部分。所有分片共同表示單個邏輯數據庫,該數據庫在許多物理分片中體現出來。我同意維基百科的定義,因為分片不需要存儲在多臺計算機中即可獲得分片的好處。從邏輯上講,目的是相同的:可伸縮性。分片是分布在各個服務器上,還是在單個服務器上進行分區以利用多個 CPU 或 CPU 內核,這并不重要。在所有情況下,處理都是并行的。分片的物理分布方式是一個不重要的工件。例如,在我們自2012年以來進行的STAC-M3發布的基準測試中,我們利用了具有24個內核的單個服務器,創建了72個分片,我們使用了4到6個服務器,每個服務器有16到22個內核,創建了64到128個分片。在所有情況下,目標都是使 I/O 通道飽和,以便將數據放入 CPU 內核進行處理。雖然STAC-M3是資本市場(刻度數據庫)基準,但這些原則同樣適用于物聯網的大數據分析。物聯網數據絕大多數是時間序列數據(例如傳感器測量值),就像刻度數據庫是時間序列數據一樣。
對數據庫進行分片意味著支持分布式查詢處理。每個分片都由其自己的數據庫服務器實例管理。由于每個分片/服務器都表示整個邏輯數據庫的一部分,因此任何分片返回的查詢結果都可能只是部分結果集,需要與所有其他分片/服務器的部分結果集合并,然后才作為完整的結果集呈現給客戶端應用程序。如果數據以最佳方式在分片之間分布,則可以在單個分片上找到給定查詢的所有數據,并且查詢可以分發到管理該分片的特定服務器實例。通常,必須支持這兩種方法。例如,考慮一個跨越多個園區的大型智能建筑物聯網部署,每個園區都有多棟建筑。我們可能會選擇在多個物理數據庫中分發有關每個園區的(分片)信息。如果我們想計算特定建筑物的某些指標(例如,15分鐘窗口中的功耗),我們只需要查詢包含該建筑物數據的分片。但是,如果我們想為多個建筑物和/或跨校園計算相同的指標,那么我們需要將該查詢分發到許多分片/服務器,這就是并行性發揮作用的地方。每個服務器實例都與所有其他服務器實例并行處理其部分問題。
數據庫分片還支持垂直可擴展性(即能夠存儲 10 或 100 的 TB、PB 及以上)。要創建單個 100 TB 的邏輯數據庫,我可以創建 50 個 2 TB 物理數據庫的實例。分布式數據庫系統通常支持“彈性”可伸縮性,允許我添加分片,這也可能意味著向分布式系統添加服務器,以便系統在垂直和水平維度上都是可伸縮的。垂直和水平可擴展性對于生成大量數據的大型物聯網系統至關重要。您需要縱向可擴展性來處理不斷增長的數據量,并且需要水平可擴展性來保持及時處理/分析數據的能力,因為數據從 1TB 增長到 100TB,再到 PB 級甚至更高。
物聯網復制
雖然嚴格來說,不是分布式數據庫實現,但如果我們不談論物聯網系統中的數據分布,我們將是失職的。物聯網生態系統通常由“邊緣”,“網關”和“云”組成,數據庫存在于所有位置。物聯網數據最初是在邊緣生成的,需要從那里分發到網關,從網關分發到云。邊緣數據通常用于實時控制某些“事物”,例如在工業物聯網系統中打開或關閉螺線管。在企業層面,在許多情況下(如果不是大多數的話),物聯網系統的目標之一是從數據中獲取和提取價值。通常,這意味著數據的某種“貨幣化”。這可以以提高效率或減少維護成本或工業環境中的停機時間的形式出現,或者與客戶進行更智能的互動,從而更有效地從錢包中提取資金。
物聯網系統的數據分發意味著將數據從邊緣通過一個或多個網關移動到私有云或公共云。這種數據移動充滿了它自己的問題:
連接
邊緣設備可以處于脫機狀態,無論是出于設計還是由于通信基礎結構中的故障。例如,電池供電的邊緣設備在設計上處于脫機狀態,并且僅按計劃連接到網關。或者,它們可以是進出網關或蜂窩塔范圍的移動設備。或者,通信鏈路可以簡單地斷開。在任何情況下,設備都必須具有將數據排隊以供以后傳輸的智能。
安全
安全性是這十年中物聯網系統的首要考慮因素,并且很可能在未來十年中一直存在。傳輸中的數據需要得到保護。這可以像使用 SSL/TLS 一樣簡單。
帶寬
邊緣設備可用的通信通道的帶寬可能非常有限。例如,低功耗藍牙 (BLE) 為 1 或 2 兆位/秒 (Mbit/s)。Zigbee 的范圍為 20 到 250 千位每秒 (kbit/s)。這與10 Mbit/s時最慢的以太網相比。為了最大化可用帶寬,應在將數據放入通信通道之前對其進行壓縮。
范圍
物聯網系統設計人員需要考慮的一些問題:是否會將所有數據從邊緣推送到云端?還是某些數據僅在邊緣有用?數據是在傳輸之前聚合,還是僅傳輸原始粒度數據?
在 eXtremeDB 中,我們已經在主動復制結構?中預見并解決了這些問題。
總之,術語分布式數據庫包括三種不同的數據庫系統安排,用于三個不同的目的。高可用性數據庫系統將 master 數據庫分發給一個或多個副本,其明確目的是在發生故障時保持系統的可用性。集群數據庫系統分發數據庫以實現大規模/全局可伸縮性(最終一致性)或用于在相對較少的節點(ACID)之間進行協作計算。分片將邏輯數據庫分區為多個分片,以促進并行處理和水平可擴展性。所有功能都是部署可擴展且可靠的物聯網系統不可或缺的一部分。
這些分布式數據庫機制通常結合使用。再次參考上面的圖 1,我們看到網關群集,群集中的每個節點都聚合來自一定數量的設備的數據。如果群集節點發生故障,則其所服務的設備可以連接到群集中的另一個網關并維護操作。在服務器級別,描述了一個分片數據庫,每個分片從其中一個網關集群接收數據。分片共同表示單個邏輯數據庫。每個分片由一個主/副本 HA 對組成。這是可取的,因為如果沒有 HA,如果任何分片發生故障,邏輯數據庫的完整性就會受到損害。
審核編輯:郭婷
-
云計算
+關注
關注
39文章
7736瀏覽量
137205 -
物聯網
+關注
關注
2903文章
44279瀏覽量
371298 -
數據庫
+關注
關注
7文章
3765瀏覽量
64276
發布評論請先 登錄
相關推薦
評論