前言
像我這樣的菜鳥(niǎo),總會(huì)有各種疑問(wèn),剛開(kāi)始是對(duì) JDK API 的疑問(wèn),對(duì) NIO 的疑問(wèn),對(duì) JVM 的疑問(wèn),當(dāng)工作幾年后,對(duì)服務(wù)的可用性,可擴(kuò)展性也有了新的疑問(wèn),什么疑問(wèn)呢?其實(shí)是老生常談的話題:服務(wù)的擴(kuò)容問(wèn)題。
正常情況下的服務(wù)演化之路
讓我們從最初開(kāi)始。
1、單體應(yīng)用 每個(gè)創(chuàng)業(yè)公司基本都是從類似 SSM 和 SSH 這種架構(gòu)起來(lái)的,沒(méi)什么好講的,基本每個(gè)程序員都經(jīng)歷過(guò)。
2、RPC 應(yīng)用 當(dāng)業(yè)務(wù)越來(lái)越大,我們需要對(duì)服務(wù)進(jìn)行水平擴(kuò)容,擴(kuò)容很簡(jiǎn)單,只要保證服務(wù)是無(wú)狀態(tài)的就可以了,如下圖:
當(dāng)業(yè)務(wù)又越來(lái)越大,我們的服務(wù)關(guān)系錯(cuò)綜復(fù)雜,同時(shí),有很多服務(wù)訪問(wèn)都是不需要連接 DB 的,只需要連接緩存即可,那么就可以做成分離的,減少 DB 寶貴的連接。如下圖:
我相信大部分公司都是在這個(gè)階段。Dubbo 就是為了解決這個(gè)問(wèn)題而生的。
分庫(kù)分表
如果你的公司產(chǎn)品很受歡迎,業(yè)務(wù)繼續(xù)高速發(fā)展,數(shù)據(jù)越來(lái)越多,SQL 操作越來(lái)越慢,那么數(shù)據(jù)庫(kù)就會(huì)成為瓶頸,那么你肯定會(huì)想到分庫(kù)分表,不論通過(guò) ID hash 或者 range 的方式都可以。如下圖:
這下應(yīng)該沒(méi)問(wèn)題了吧。任憑你用戶再多,并發(fā)再高,我只要無(wú)限擴(kuò)容數(shù)據(jù)庫(kù),無(wú)限擴(kuò)容應(yīng)用,就可以了。
這也是本文的標(biāo)題,分庫(kù)分表就能解決無(wú)限擴(kuò)容嗎?
實(shí)際上,像上面的架構(gòu),并不能解決。
其實(shí),這個(gè)問(wèn)題和 RPC 的問(wèn)題有點(diǎn)類似:數(shù)據(jù)庫(kù)連接過(guò)多?。。?/p>
通常,我們的 RPC 應(yīng)用由于是使用中間件進(jìn)行訪問(wèn)數(shù)據(jù)庫(kù),應(yīng)用實(shí)際上是不知道到底要訪問(wèn)哪個(gè)數(shù)據(jù)庫(kù)的,訪問(wèn)數(shù)據(jù)庫(kù)的規(guī)則由中間件決定,例如 sharding JDBC。這就導(dǎo)致,這個(gè)應(yīng)用必須和所有的數(shù)據(jù)庫(kù)連接,就像我們上面的架構(gòu)圖一樣,一個(gè) RPC 應(yīng)用需要和 3 個(gè) mysql 連接,如果是 30 個(gè) RPC 應(yīng)用,每個(gè) RPC 的數(shù)據(jù)庫(kù)連接池大小是8 ,每個(gè) mysql 需要維護(hù) 240 個(gè)連接,我們知道,mysql 默認(rèn)連接數(shù)是 100,最大連接數(shù)是 16384,也就是說(shuō),假設(shè)每個(gè)應(yīng)用的連接池大小是 8 ,超過(guò) 2048 個(gè)應(yīng)用就無(wú)法再繼續(xù)連接了,也就無(wú)法繼續(xù)擴(kuò)容了。注意,由于每個(gè)物理庫(kù)有很多邏輯庫(kù),再加上微服務(wù)運(yùn)動(dòng)如火如荼, 2048 并沒(méi)有看起來(lái)那么大。
也許你說(shuō),我可以通過(guò)前面加一個(gè) proxy 來(lái)解決連接數(shù)的問(wèn)題,實(shí)際上,代理的性能也會(huì)成為問(wèn)題,為什么?代理的連接數(shù)也是不能超過(guò) 16384 的,如果并發(fā)超過(guò) 16384,變成 163840,那么 proxy 也解決不了問(wèn)題。
怎么辦?讓我們?cè)倏纯瓷厦娴募軜?gòu)圖:
我們發(fā)現(xiàn),問(wèn)題是出在“每個(gè) RPC 應(yīng)用都要連所有的庫(kù)”,導(dǎo)致擴(kuò)容應(yīng)用的同時(shí),每個(gè)數(shù)據(jù)庫(kù)連接數(shù)就要增加。就算增加數(shù)據(jù)庫(kù),也不能解決連接數(shù)的問(wèn)題。
那怎么辦呢?
單元化
單元化,聽(tīng)起來(lái)高大上,通常在一些 XXX 大會(huì)上,分享“關(guān)于兩地三中心”,“三地五中心”,“異地多活”等等牛逼的名詞的時(shí)候,單元化也會(huì)一起出現(xiàn)。
這里我們不討論那么牛逼的,就只說(shuō)“數(shù)據(jù)庫(kù)連接數(shù)過(guò)多” 的問(wèn)題。
實(shí)際上,思路很簡(jiǎn)單:我們不讓應(yīng)用連接所有的數(shù)據(jù)庫(kù)就可以了。
假設(shè)我們根據(jù) range 分成了 10 個(gè)庫(kù),現(xiàn)在有 10 個(gè)應(yīng)用,我們讓每個(gè)應(yīng)用只連一個(gè)庫(kù),當(dāng)應(yīng)用增多變成 20個(gè),數(shù)據(jù)庫(kù)的連接不夠用了,我們就將 10 個(gè)庫(kù)分成 20 個(gè)庫(kù),這樣,無(wú)論你應(yīng)用擴(kuò)容到多少個(gè),都可以解決數(shù)據(jù)庫(kù)連接數(shù)過(guò)多的問(wèn)題。
注意:做這件事的前提是:你必須保證,訪問(wèn)你這個(gè)應(yīng)用的 request 請(qǐng)求的數(shù)據(jù)庫(kù)一定是在這個(gè)應(yīng)用的。
換個(gè)說(shuō)法,當(dāng)用戶從 DNS 那里進(jìn)來(lái)的時(shí)候,就知道自己要去那個(gè)應(yīng)用了,所以,規(guī)則在 DNS 之前就定好了,雖然這有點(diǎn)夸張,但肯定在進(jìn)應(yīng)用之前就知道要去哪個(gè)庫(kù)了。
所以,這通常需要一個(gè)規(guī)則,例如通過(guò)用戶 ID hash,由配置中心廣播 hash 規(guī)則。這樣,所有的組件都能保持一致的規(guī)則,從而正確的訪問(wèn)到數(shù)據(jù)庫(kù)。如下圖:
到這里,我們終于解決了無(wú)限擴(kuò)容的問(wèn)題。
最后
本文從單體應(yīng)用開(kāi)始,逐步講述了一個(gè)正常后臺(tái)的演進(jìn)歷程,知道了分庫(kù)分表并不能解決“無(wú)限擴(kuò)容” 的問(wèn)題,只有單元化才能解決這問(wèn)題。而單元化則帶來(lái)更多的復(fù)雜性。但是好處不言而喻。
單元化帶來(lái)的更多的思路。
有了單元化,解決了無(wú)限擴(kuò)容的問(wèn)題,但是我們還沒(méi)有考慮單點(diǎn)的問(wèn)題,即服務(wù)的可用性。要知道,我們這里的數(shù)據(jù)庫(kù)都是單點(diǎn)的。
這就是另一個(gè)話題 —— 異地多活。限于篇幅,下次再聊。
-
ssm
+關(guān)注
關(guān)注
0文章
14瀏覽量
11368 -
程序員
+關(guān)注
關(guān)注
4文章
950瀏覽量
29763
原文標(biāo)題:扎心一問(wèn):分庫(kù)分表就能無(wú)限擴(kuò)容嗎
文章出處:【微信號(hào):DBDevs,微信公眾號(hào):數(shù)據(jù)分析與開(kāi)發(fā)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論