面對(duì)大量用戶訪問(wèn)、高并發(fā)請(qǐng)求，海量數(shù)據(jù)，可以使用高性能的服務(wù)器、大型數(shù)據(jù)庫(kù)，存儲(chǔ)設(shè)備，高性能Web服務(wù)器，采用高效率的編程語(yǔ)言比如(Go，Scala)等，當(dāng)單機(jī)容量達(dá)到極限時(shí)，我們需要考慮業(yè)務(wù)拆分和分布式部署，來(lái)解決大型網(wǎng)站訪問(wèn)量大，并發(fā)量高，海量數(shù)據(jù)的問(wèn)題。

從單機(jī)網(wǎng)站到分布式網(wǎng)站，很重要的區(qū)別是業(yè)務(wù)拆分和分布式部署，將應(yīng)用拆分后，部署到不同的機(jī)器上，實(shí)現(xiàn)大規(guī)模分布式系統(tǒng)。分布式和業(yè)務(wù)拆分解決了，從集中到分布的問(wèn)題，但是每個(gè)部署的獨(dú)立業(yè)務(wù)還存在單點(diǎn)的問(wèn)題和訪問(wèn)統(tǒng)一入口問(wèn)題，為解決單點(diǎn)故障，我們可以采取冗余的方式。將相同的應(yīng)用部署到多臺(tái)機(jī)器上。解決訪問(wèn)統(tǒng)一入口問(wèn)題，我們可以在集群前面增加負(fù)載均衡設(shè)備，實(shí)現(xiàn)流量分發(fā)。

負(fù)載均衡（Load Balance），意思是將負(fù)載（工作任務(wù)，訪問(wèn)請(qǐng)求）進(jìn)行平衡、分?jǐn)偟蕉鄠€(gè)操作單元（服務(wù)器，組件）上進(jìn)行執(zhí)行。是解決高性能，單點(diǎn)故障（高可用），擴(kuò)展性（水平伸縮）的終極解決方案。

本文是負(fù)載均衡詳解的第一篇文章，介紹負(fù)載均衡的原理，負(fù)載均衡分類（DNS負(fù)載均衡,HTTP負(fù)載均衡，IP負(fù)載均衡，鏈路層負(fù)載均衡,混合型P負(fù)載均衡）。部分內(nèi)容摘自讀書(shū)筆記。

一、負(fù)載均衡原理

系統(tǒng)的擴(kuò)展可分為縱向（垂直）擴(kuò)展和橫向（水平）擴(kuò)展。縱向擴(kuò)展，是從單機(jī)的角度通過(guò)增加硬件處理能力，比如CPU處理能力，內(nèi)存容量，磁盤(pán)等方面，實(shí)現(xiàn)服務(wù)器處理能力的提升，不能滿足大型分布式系統(tǒng)（網(wǎng)站），大流量，高并發(fā)，海量數(shù)據(jù)的問(wèn)題。因此需要采用橫向擴(kuò)展的方式，通過(guò)添加機(jī)器來(lái)滿足大型網(wǎng)站服務(wù)的處理能力。比如：一臺(tái)機(jī)器不能滿足，則增加兩臺(tái)或者多臺(tái)機(jī)器，共同承擔(dān)訪問(wèn)壓力。這就是典型的集群和負(fù)載均衡架構(gòu)：如下圖：

應(yīng)用集群：將同一應(yīng)用部署到多臺(tái)機(jī)器上，組成處理集群，接收負(fù)載均衡設(shè)備分發(fā)的請(qǐng)求，進(jìn)行處理，并返回相應(yīng)數(shù)據(jù)。

負(fù)載均衡設(shè)備：將用戶訪問(wèn)的請(qǐng)求，根據(jù)負(fù)載均衡算法，分發(fā)到集群中的一臺(tái)處理服務(wù)器。（一種把網(wǎng)絡(luò)請(qǐng)求分散到一個(gè)服務(wù)器集群中的可用服務(wù)器上去的設(shè)備）

負(fù)載均衡的作用（解決的問(wèn)題）：

1.解決并發(fā)壓力，提高應(yīng)用處理性能（增加吞吐量，加強(qiáng)網(wǎng)絡(luò)處理能力）；

2.提供故障轉(zhuǎn)移，實(shí)現(xiàn)高可用；

3.通過(guò)添加或減少服務(wù)器數(shù)量，提供網(wǎng)站伸縮性（擴(kuò)展性）；

4.安全防護(hù)；（負(fù)載均衡設(shè)備上做一些過(guò)濾，黑白名單等處理）

二、負(fù)載均衡分類

根據(jù)實(shí)現(xiàn)技術(shù)不同，可分為DNS負(fù)載均衡，HTTP負(fù)載均衡，IP負(fù)載均衡，鏈路層負(fù)載均衡等。

2.1 DNS負(fù)載均衡

最早的負(fù)載均衡技術(shù)，利用域名解析實(shí)現(xiàn)負(fù)載均衡，在DNS服務(wù)器，配置多個(gè)A記錄，這些A記錄對(duì)應(yīng)的服務(wù)器構(gòu)成集群。大型網(wǎng)站總是部分使用DNS解析，作為第一級(jí)負(fù)載均衡。如下圖：

優(yōu)點(diǎn)

使用簡(jiǎn)單：負(fù)載均衡工作，交給DNS服務(wù)器處理，省掉了負(fù)載均衡服務(wù)器維護(hù)的麻煩

提高性能：可以支持基于地址的域名解析，解析成距離用戶最近的服務(wù)器地址，可以加快訪問(wèn)速度，改善性能；

缺點(diǎn)

可用性差：DNS解析是多級(jí)解析，新增/修改DNS后，解析時(shí)間較長(zhǎng)；解析過(guò)程中，用戶訪問(wèn)網(wǎng)站將失敗；

擴(kuò)展性低：DNS負(fù)載均衡的控制權(quán)在域名商那里，無(wú)法對(duì)其做更多的改善和擴(kuò)展；

維護(hù)性差：也不能反映服務(wù)器的當(dāng)前運(yùn)行狀態(tài)；支持的算法少；不能區(qū)分服務(wù)器的差異（不能根據(jù)系統(tǒng)與服務(wù)的狀態(tài)來(lái)判斷負(fù)載）

實(shí)踐建議

將DNS作為第一級(jí)負(fù)載均衡，A記錄對(duì)應(yīng)著內(nèi)部負(fù)載均衡的IP地址，通過(guò)內(nèi)部負(fù)載均衡將請(qǐng)求分發(fā)到真實(shí)的Web服務(wù)器上。一般用于互聯(lián)網(wǎng)公司，復(fù)雜的業(yè)務(wù)系統(tǒng)不合適使用。如下圖：

2.2 IP負(fù)載均衡

在網(wǎng)絡(luò)層通過(guò)修改請(qǐng)求目標(biāo)地址進(jìn)行負(fù)載均衡。

用戶請(qǐng)求數(shù)據(jù)包，到達(dá)負(fù)載均衡服務(wù)器后，負(fù)載均衡服務(wù)器在操作系統(tǒng)內(nèi)核進(jìn)程獲取網(wǎng)絡(luò)數(shù)據(jù)包，根據(jù)負(fù)載均衡算法得到一臺(tái)真實(shí)服務(wù)器地址，然后將請(qǐng)求目的地址修改為，獲得的真實(shí)ip地址，不需要經(jīng)過(guò)用戶進(jìn)程處理。

真實(shí)服務(wù)器處理完成后，響應(yīng)數(shù)據(jù)包回到負(fù)載均衡服務(wù)器，負(fù)載均衡服務(wù)器，再將數(shù)據(jù)包源地址修改為自身的ip地址，發(fā)送給用戶瀏覽器。如下圖：

IP負(fù)載均衡，真實(shí)物理服務(wù)器返回給負(fù)載均衡服務(wù)器，存在兩種方式：（1）負(fù)載均衡服務(wù)器在修改目的ip地址的同時(shí)修改源地址。將數(shù)據(jù)包源地址設(shè)為自身盤(pán)，即源地址轉(zhuǎn)換（snat）。（2）將負(fù)載均衡服務(wù)器同時(shí)作為真實(shí)物理服務(wù)器集群的網(wǎng)關(guān)服務(wù)器。

優(yōu)點(diǎn)：

（1）在內(nèi)核進(jìn)程完成數(shù)據(jù)分發(fā)，比在應(yīng)用層分發(fā)性能更好；

缺點(diǎn)：

（2）所有請(qǐng)求響應(yīng)都需要經(jīng)過(guò)負(fù)載均衡服務(wù)器，集群最大吞吐量受限于負(fù)載均衡服務(wù)器網(wǎng)卡帶寬；

2.3 鏈路層負(fù)載均衡

在通信協(xié)議的數(shù)據(jù)鏈路層修改mac地址，進(jìn)行負(fù)載均衡。

數(shù)據(jù)分發(fā)時(shí)，不修改ip地址，指修改目標(biāo)mac地址，配置真實(shí)物理服務(wù)器集群所有機(jī)器虛擬ip和負(fù)載均衡服務(wù)器ip地址一致，達(dá)到不修改數(shù)據(jù)包的源地址和目標(biāo)地址，進(jìn)行數(shù)據(jù)分發(fā)的目的。

實(shí)際處理服務(wù)器ip和數(shù)據(jù)請(qǐng)求目的ip一致，不需要經(jīng)過(guò)負(fù)載均衡服務(wù)器進(jìn)行地址轉(zhuǎn)換，可將響應(yīng)數(shù)據(jù)包直接返回給用戶瀏覽器，避免負(fù)載均衡服務(wù)器網(wǎng)卡帶寬成為瓶頸。也稱為直接路由模式（DR模式）。如下圖：

優(yōu)點(diǎn)：性能好；

缺點(diǎn)：配置復(fù)雜；

實(shí)踐建議：DR模式是目前使用最廣泛的一種負(fù)載均衡方式。

2.4 混合型負(fù)載均衡

由于多個(gè)服務(wù)器群內(nèi)硬件設(shè)備、各自的規(guī)模、提供的服務(wù)等的差異，可以考慮給每個(gè)服務(wù)器群采用最合適的負(fù)載均衡方式，然后又在這多個(gè)服務(wù)器群間再一次負(fù)載均衡或群集起來(lái)以一個(gè)整體向外界提供服務(wù)（即把這多個(gè)服務(wù)器群當(dāng)做一個(gè)新的服務(wù)器群），從而達(dá)到最佳的性能。將這種方式稱之為混合型負(fù)載均衡。

此種方式有時(shí)也用于單臺(tái)均衡設(shè)備的性能不能滿足大量連接請(qǐng)求的情況下。是目前大型互聯(lián)網(wǎng)公司，普遍使用的方式。

方式一，如下圖：

以上模式適合有動(dòng)靜分離的場(chǎng)景，反向代理服務(wù)器（集群）可以起到緩存和動(dòng)態(tài)請(qǐng)求分發(fā)的作用，當(dāng)時(shí)靜態(tài)資源緩存在代理服務(wù)器時(shí)，則直接返回到瀏覽器。如果動(dòng)態(tài)頁(yè)面則請(qǐng)求后面的應(yīng)用負(fù)載均衡（應(yīng)用集群）。

方式二，如下圖：

以上模式，適合動(dòng)態(tài)請(qǐng)求場(chǎng)景。

因混合模式，可以根據(jù)具體場(chǎng)景，靈活搭配各種方式，以上兩種方式僅供參考。

三、負(fù)載均衡算法

常用的負(fù)載均衡算法有，輪詢，隨機(jī)，最少鏈接，源地址散列，加權(quán)等方式；

3.1 輪詢

將所有請(qǐng)求，依次分發(fā)到每臺(tái)服務(wù)器上，適合服務(wù)器硬件同相同的場(chǎng)景。

優(yōu)點(diǎn)：服務(wù)器請(qǐng)求數(shù)目相同；

缺點(diǎn)：服務(wù)器壓力不一樣，不適合服務(wù)器配置不同的情況；

3.2 隨機(jī)

請(qǐng)求隨機(jī)分配到各個(gè)服務(wù)器。

優(yōu)點(diǎn)：使用簡(jiǎn)單；

缺點(diǎn)：不適合機(jī)器配置不同的場(chǎng)景；

3.3 最少鏈接

將請(qǐng)求分配到連接數(shù)最少的服務(wù)器（目前處理請(qǐng)求最少的服務(wù)器）。

優(yōu)點(diǎn)：根據(jù)服務(wù)器當(dāng)前的請(qǐng)求處理情況，動(dòng)態(tài)分配；

缺點(diǎn)：算法實(shí)現(xiàn)相對(duì)復(fù)雜，需要監(jiān)控服務(wù)器請(qǐng)求連接數(shù)；

3.4 Hash（源地址散列）

根據(jù)IP地址進(jìn)行Hash計(jì)算，得到IP地址。

優(yōu)點(diǎn)：將來(lái)自同一IP地址的請(qǐng)求，同一會(huì)話期內(nèi)，轉(zhuǎn)發(fā)到相同的服務(wù)器；實(shí)現(xiàn)會(huì)話粘滯。

缺點(diǎn)：目標(biāo)服務(wù)器宕機(jī)后，會(huì)話會(huì)丟失；

3.5 加權(quán)

在輪詢，隨機(jī)，最少鏈接，Hash’等算法的基礎(chǔ)上，通過(guò)加權(quán)的方式，進(jìn)行負(fù)載服務(wù)器分配。

優(yōu)點(diǎn)：根據(jù)權(quán)重，調(diào)節(jié)轉(zhuǎn)發(fā)服務(wù)器的請(qǐng)求數(shù)目；

缺點(diǎn)：使用相對(duì)復(fù)雜；

四、硬件負(fù)載均衡

采用硬件的方式實(shí)現(xiàn)負(fù)載均衡，一般是單獨(dú)的負(fù)載均衡服務(wù)器，價(jià)格昂貴，一般土豪級(jí)公司可以考慮，業(yè)界領(lǐng)先的有兩款，F(xiàn)5和A10。

使用硬件負(fù)載均衡，主要考慮一下幾個(gè)方面：

（1）功能考慮：功能全面支持各層級(jí)的負(fù)載均衡，支持全面的負(fù)載均衡算法，支持全局負(fù)載均衡；

（2）性能考慮：一般軟件負(fù)載均衡支持到5萬(wàn)級(jí)并發(fā)已經(jīng)很困難了，硬件負(fù)載均衡可以支持

（3）穩(wěn)定性：商用硬件負(fù)載均衡，經(jīng)過(guò)了良好的嚴(yán)格的測(cè)試，從經(jīng)過(guò)大規(guī)模使用，在穩(wěn)定性方面高；

（4）安全防護(hù)：硬件均衡設(shè)備除具備負(fù)載均衡功能外，還具備防火墻，防DDOS攻擊等安全功能；

（5）維護(hù)角度：提供良好的維護(hù)管理界面，售后服務(wù)和技術(shù)支持；

（6）土豪公司：F5 Big Ip 價(jià)格：15w~55w不等；A10 價(jià)格：55w-100w不等；

缺點(diǎn)

（1）價(jià)格昂貴；

（2）擴(kuò)展能力差；

4.4 小結(jié)

（1）一般硬件的負(fù)載均衡也要做雙機(jī)高可用，因此成本會(huì)比較高。

（2）互聯(lián)網(wǎng)公司一般使用開(kāi)源軟件，因此大部分應(yīng)用采用軟件負(fù)載均衡；部分采用硬件負(fù)載均衡。

比如某互聯(lián)網(wǎng)公司，目前是使用幾臺(tái)F5做全局負(fù)載均衡，內(nèi)部使用Nginx等軟件負(fù)載均衡。