精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

詳解Nginx的基礎(chǔ)知識

馬哥Linux運維 ? 來源:馬哥Linux運維 ? 2023-08-30 11:37 ? 次閱讀

引言

早期的業(yè)務(wù)都是基于單體節(jié)點部署,由于前期訪問流量不大,因此單體結(jié)構(gòu)也可滿足需求,但隨著業(yè)務(wù)增長,流量也越來越大,那么最終單臺服務(wù)器受到的訪問壓力也會逐步增高。時間一長,單臺服務(wù)器性能無法跟上業(yè)務(wù)增長,就會造成線上頻繁宕機(jī)的現(xiàn)象發(fā)生,最終導(dǎo)致系統(tǒng)癱瘓無法繼續(xù)處理用戶的請求。

從上面的描述中,主要存在兩個問題:①單體結(jié)構(gòu)的部署方式無法承載日益增長的業(yè)務(wù)流量。②當(dāng)后端節(jié)點宕機(jī)后,整個系統(tǒng)會陷入癱瘓,導(dǎo)致整個項目不可用。

因此在這種背景下,引入負(fù)載均衡技術(shù)可帶來的收益:

系統(tǒng)的高可用:當(dāng)某個節(jié)點宕機(jī)后可以迅速將流量轉(zhuǎn)移至其他節(jié)點。

系統(tǒng)的高性能:多臺服務(wù)器共同對外提供服務(wù),為整個系統(tǒng)提供了更高規(guī)模的吞吐。

系統(tǒng)的拓展性:當(dāng)業(yè)務(wù)再次出現(xiàn)增長或萎靡時,可再加入/減少節(jié)點,靈活伸縮。

OK~,既然引入負(fù)載均衡技術(shù)可給我們帶來如此巨大的好處,那么又有那些方案可供選擇呢?主要有兩種負(fù)載方案,硬件層面與軟件層面」,比較常用的硬件負(fù)載器有A10、F5等,但這些機(jī)器動輒大幾萬乃至幾十萬的成本,因此一般大型企業(yè)會采用該方案,如銀行、國企、央企等。而成本有限,但依舊想做負(fù)載均衡的項目,那么可在軟件層面實現(xiàn),如典型的Nginx等,軟件層的負(fù)載也是本文的重點,畢竟Boss們的準(zhǔn)則之一就是:「能靠技術(shù)實現(xiàn)的就盡量不花錢。」

一、性能怪獸-Nginx概念深入淺出

Nginx是目前負(fù)載均衡技術(shù)中的主流方案,幾乎絕大部分項目都會使用它,Nginx是一個輕量級的高性能HTTP反向代理服務(wù)器,同時它也是一個通用類型的代理服務(wù)器,支持絕大部分協(xié)議,如TCP、UDP、SMTP、HTTPS等。Nginx與Redis相同,都是基于多路復(fù)用模型構(gòu)建出的產(chǎn)物,因此它與Redis同樣具備「資源占用少、并發(fā)支持高」的特點,在理論上單節(jié)點的Nginx同時支持5W并發(fā)連接,而實際生產(chǎn)環(huán)境中,硬件基礎(chǔ)到位再結(jié)合簡單調(diào)優(yōu)后確實能達(dá)到該數(shù)值。

先來看看Nginx引入前后,客戶端請求處理流程的對比:

448bafc4-45ae-11ee-a2ef-92fbcf53809c.jpg

原本客戶端是直接請求目標(biāo)服務(wù)器,由目標(biāo)服務(wù)器直接完成請求處理工作,但加入Nginx后,所有的請求會先經(jīng)過Nginx,再由其進(jìn)行分發(fā)到具體的服務(wù)器處理,處理完成后再返回Nginx,最后由Nginx將最終的響應(yīng)結(jié)果返回給客戶端。

了解了Nginx的基本概念后,再來快速搭建一下環(huán)境,以及了解一些Nginx的高級特性,如動靜分離、資源壓縮、緩存配置、IP黑名單、高可用保障等。

二、Nginx環(huán)境搭建

1首先創(chuàng)建Nginx的目錄并進(jìn)入:

[root@localhost]#mkdir/soft&&mkdir/soft/nginx/
[root@localhost]#cd/soft/nginx/

2下載Nginx的安裝包,可以通過FTP工具上傳離線環(huán)境包,也可通過wget命令在線獲取安裝包:

[root@localhost]#wgethttps://nginx.org/download/nginx-1.21.6.tar.gz

沒有wget命令的可通過yum命令安裝:

[root@localhost]#yum-yinstallwget

3解壓Nginx的壓縮包:

[root@localhost]#tar-xvzfnginx-1.21.6.tar.gz

4下載并安裝Nginx所需的依賴庫和包:

[root@localhost]#yuminstall--downloadonly--downloaddir=/soft/nginx/gcc-c++
[root@localhost]#yuminstall--downloadonly--downloaddir=/soft/nginx/pcrepcre-devel4
[root@localhost]#yuminstall--downloadonly--downloaddir=/soft/nginx/zlibzlib-devel
[root@localhost]#yuminstall--downloadonly--downloaddir=/soft/nginx/opensslopenssl-devel

也可以通過yum命令一鍵下載(推薦上面哪種方式):

[root@localhost]#yum-yinstallgcczlibzlib-develpcre-developensslopenssl-devel

執(zhí)行完成后,然后ls查看目錄文件,會看一大堆依賴:

449cf73e-45ae-11ee-a2ef-92fbcf53809c.jpg

緊接著通過rpm命令依次將依賴包一個個構(gòu)建,或者通過如下指令一鍵安裝所有依賴包:

[root@localhost]#rpm-ivh--nodeps*.rpm

5進(jìn)入解壓后的nginx目錄,然后執(zhí)行Nginx的配置腳本,為后續(xù)的安裝提前配置好環(huán)境,默認(rèn)位于/usr/local/nginx/目錄下(可自定義目錄):

[root@localhost]#cdnginx-1.21.6
[root@localhost]#./configure--prefix=/soft/nginx/

6編譯并安裝Nginx:

[root@localhost]#make&&makeinstall

7最后回到前面的/soft/nginx/目錄,輸入ls即可看見安裝nginx完成后生成的文件。

8修改安裝后生成的conf目錄下的nginx.conf配置文件:

[root@localhost]#viconf/nginx.conf
修改端口號:listen 80;
修改IP地址:server_name 你當(dāng)前機(jī)器的本地IP(線上配置域名);

9制定配置文件并啟動Nginx:

[root@localhost]#sbin/nginx-cconf/nginx.conf
[root@localhost]#psaux|grepnginx

Nginx其他操作命令:

sbin/nginx-t-cconf/nginx.conf#檢測配置文件是否正常
sbin/nginx-sreload-cconf/nginx.conf#修改配置后平滑重啟
sbin/nginx-squit#優(yōu)雅關(guān)閉Nginx,會在執(zhí)行完當(dāng)前的任務(wù)后再退出
sbin/nginx-sstop#強(qiáng)制終止Nginx,不管當(dāng)前是否有任務(wù)在執(zhí)行

10開放80端口,并更新防火墻:

[root@localhost]#firewall-cmd--zone=public--add-port=80/tcp--permanent
[root@localhost]#firewall-cmd--reload
[root@localhost]#firewall-cmd--zone=public--list-ports

11在Windows/Mac的瀏覽器中,直接輸入剛剛配置的IP地址訪問Nginx:

44b81cee-45ae-11ee-a2ef-92fbcf53809c.jpg

最終看到如上的Nginx歡迎界面,代表Nginx安裝完成。

三、Nginx反向代理-負(fù)載均衡

首先通過SpringBoot+Freemarker快速搭建一個WEB項目:springboot-web-nginx,然后在該項目中,創(chuàng)建一個IndexNginxController.java文件,邏輯如下:

@Controller
publicclassIndexNginxController{
@Value("${server.port}")
privateStringport;

@RequestMapping("/")
publicModelAndViewindex(){
ModelAndViewmodel=newModelAndView();
model.addObject("port",port);
model.setViewName("index");
returnmodel;
}
}

在該Controller類中,存在一個成員變量:port,它的值即是從application.properties配置文件中獲取server.port值。當(dāng)出現(xiàn)訪問/資源的請求時,跳轉(zhuǎn)前端index頁面,并將該值攜帶返回。

前端的index.ftl文件代碼如下:



Nginx演示頁面





歡迎來到熊貓高級會所,我是竹子${port}號!

從上可以看出其邏輯并不復(fù)雜,僅是從響應(yīng)中獲取了port輸出。

OK~,前提工作準(zhǔn)備就緒后,再簡單修改一下nginx.conf的配置即可:

upstreamnginx_boot{
#30s內(nèi)檢查心跳發(fā)送兩次包,未回復(fù)就代表該機(jī)器宕機(jī),請求分發(fā)權(quán)重比為1:2
server192.168.0.000:8080weight=100max_fails=2fail_timeout=30s;
server192.168.0.000:8090weight=200max_fails=2fail_timeout=30s;
#這里的IP請配置成你WEB服務(wù)所在的機(jī)器IP
}

server{
location/{
roothtml;
#配置一下index的地址,最后加上index.ftl。
indexindex.htmlindex.htmindex.jspindex.ftl;
proxy_set_headerHost$host;
proxy_set_headerX-Real-IP$remote_addr;
proxy_set_headerX-Forwarded-For$proxy_add_x_forwarded_for;
#請求交給名為nginx_boot的upstream上
proxy_passhttp://nginx_boot;
}
}

至此,所有的前提工作準(zhǔn)備就緒,緊接著再啟動Nginx,然后再啟動兩個web服務(wù),第一個WEB服務(wù)啟動時,在application.properties配置文件中,將端口號改為8080,第二個WEB服務(wù)啟動時,將其端口號改為8090。

最終來看看效果:

44ca301e-45ae-11ee-a2ef-92fbcf53809c.gif

負(fù)載均衡效果-動圖演示

因為配置了請求分發(fā)的權(quán)重,8080、8090的權(quán)重比為2:1,因此請求會根據(jù)權(quán)重比均攤到每臺機(jī)器,也就是8080一次、8090兩次、8080一次......

Nginx請求分發(fā)原理

客戶端發(fā)出的請求192.168.12.129最終會轉(zhuǎn)變?yōu)椋篽ttp://192.168.12.129:80/,然后再向目標(biāo)IP發(fā)起請求,流程如下:

44e1fca8-45ae-11ee-a2ef-92fbcf53809c.jpg

請求分發(fā)原理

由于Nginx監(jiān)聽了192.168.12.129的80端口,所以最終該請求會找到Nginx進(jìn)程;

Nginx首先會根據(jù)配置的location規(guī)則進(jìn)行匹配,根據(jù)客戶端的請求路徑/,會定位到location /{}規(guī)則;

然后根據(jù)該location中配置的proxy_pass會再找到名為nginx_boot的upstream;

最后根據(jù)upstream中的配置信息,將請求轉(zhuǎn)發(fā)到運行WEB服務(wù)的機(jī)器處理,由于配置了多個WEB服務(wù),且配置了權(quán)重值,因此Nginx會依次根據(jù)權(quán)重比分發(fā)請求。

四、Nginx動靜分離

動靜分離應(yīng)該是聽的次數(shù)較多的性能優(yōu)化方案,那先思考一個問題:「為什么需要做動靜分離呢?它帶來的好處是什么?」其實這個問題也并不難回答,當(dāng)你搞懂了網(wǎng)站的本質(zhì)后,自然就理解了動靜分離的重要性。先來以淘寶為例分析看看:

44fccfba-45ae-11ee-a2ef-92fbcf53809c.jpg

淘寶首頁

當(dāng)瀏覽器輸入www.taobao.com訪問淘寶首頁時,打開開發(fā)者調(diào)試工具可以很明顯的看到,首頁加載會出現(xiàn)100+的請求數(shù),而正常項目開發(fā)時,靜態(tài)資源一般會放入到resources/static/目錄下:

45159e78-45ae-11ee-a2ef-92fbcf53809c.jpg

IDEA 工程結(jié)構(gòu)

在項目上線部署時,這些靜態(tài)資源會一起打成包,那此時思考一個問題:「假設(shè)淘寶也是這樣干的,那么首頁加載時的請求最終會去到哪兒被處理?」答案毋庸置疑,首頁100+的所有請求都會來到部署WEB服務(wù)的機(jī)器處理,那則代表著一個客戶端請求淘寶首頁,就會對后端服務(wù)器造成100+的并發(fā)請求。毫無疑問,這對于后端服務(wù)器的壓力是尤為巨大的。

但此時不妨分析看看,首頁100+的請求中,是不是至少有60+是屬于*.js、*.css、*.html、*.jpg.....這類靜態(tài)資源的請求呢?答案是Yes。

既然有這么多請求屬于靜態(tài)的,這些資源大概率情況下,長時間也不會出現(xiàn)變動,那為何還要讓這些請求到后端再處理呢?能不能在此之前就提前處理掉?當(dāng)然OK,因此經(jīng)過分析之后能夠明確一點:「做了動靜分離之后,至少能夠讓后端服務(wù)減少一半以上的并發(fā)量。」到此時大家應(yīng)該明白了動靜分離能夠帶來的性能收益究竟有多大。

OK~,搞清楚動靜分離的必要性之后,如何實現(xiàn)動靜分離呢?其實非常簡單,實戰(zhàn)看看。

①先在部署Nginx的機(jī)器,Nginx目錄下創(chuàng)建一個目錄static_resources:

mkdirstatic_resources

②將項目中所有的靜態(tài)資源全部拷貝到該目錄下,而后將項目中的靜態(tài)資源移除重新打包。

③稍微修改一下nginx.conf的配置,增加一條location匹配規(guī)則:

location~.*.(html|htm|gif|jpg|jpeg|bmp|png|ico|txt|js|css){
root/soft/nginx/static_resources;
expires7d;
}

然后照常啟動nginx和移除了靜態(tài)資源的WEB服務(wù),你會發(fā)現(xiàn)原本的樣式、js效果、圖片等依舊有效,如下:

452fcca8-45ae-11ee-a2ef-92fbcf53809c.jpg

其中static目錄下的nginx_style.css文件已被移除,但效果依舊存在(綠色字體+藍(lán)色大邊框):

44ca301e-45ae-11ee-a2ef-92fbcf53809c.gif

移除后效果動圖

最后解讀一下那條location規(guī)則:location ~ .*.(html|htm|gif|jpg|jpeg|bmp|png|ico|txt|js|css)~代表匹配時區(qū)分大小寫.*代表任意字符都可以出現(xiàn)零次或多次,即資源名不限制.代表匹配后綴分隔符.(html|...|css)代表匹配括號里所有靜態(tài)資源類型 綜上所述,簡單一句話概述:「該配置表示匹配以.html~.css為后綴的所有資源請求。」

最后提一嘴,也可以將靜態(tài)資源上傳到文件服務(wù)器中,然后location中配置一個新的upstream指向。

五、Nginx資源壓縮

建立在動靜分離的基礎(chǔ)之上,如果一個靜態(tài)資源的Size越小,那么自然傳輸速度會更快,同時也會更節(jié)省帶寬,因此我們在部署項目時,也可以通過Nginx對于靜態(tài)資源實現(xiàn)壓縮傳輸,一方面可以節(jié)省帶寬資源,第二方面也可以加快響應(yīng)速度并提升系統(tǒng)整體吞吐。

在Nginx也提供了三個支持資源壓縮的模塊ngx_http_gzip_module、ngx_http_gzip_static_module、ngx_http_gunzip_module,其中ngx_http_gzip_module屬于內(nèi)置模塊,代表著可以直接使用該模塊下的一些壓縮指令,后續(xù)的資源壓縮操作都基于該模塊,先來看看壓縮配置的一些參數(shù)/指令:

參數(shù)項 釋義 參數(shù)值
gzip 開啟或關(guān)閉壓縮機(jī)制 on/off;
gzip_types 根據(jù)文件類型選擇性開啟壓縮機(jī)制 image/png、text/css...
gzip_comp_level 用于設(shè)置壓縮級別,級別越高越耗時 1~9(越高壓縮效果越好)
gzip_vary 設(shè)置是否攜帶Vary:Accept-Encoding頭域的響應(yīng)頭部 on/off;
gzip_buffers 設(shè)置處理壓縮請求的緩沖區(qū)數(shù)量和大小 數(shù)量 大小,如16 8k;
gzip_disable 針對不同客戶端的請求來設(shè)置是否開啟壓縮 如.*Chrome.*;
gzip_http_version 指定壓縮響應(yīng)所需要的最低HTTP請求版本 如1.1;
gzip_min_length 設(shè)置觸發(fā)壓縮的文件最低大小 如512k;
gzip_proxied 對于后端服務(wù)器的響應(yīng)結(jié)果是否開啟壓縮 off、expired、no-cache...

了解了Nginx中的基本壓縮配置后,接下來可以在Nginx中簡單配置一下:

http{
#開啟壓縮機(jī)制
gzipon;
#指定會被壓縮的文件類型(也可自己配置其他類型)
gzip_typestext/plainapplication/javascripttext/cssapplication/xmltext/javascriptimage/jpegimage/gifimage/png;
#設(shè)置壓縮級別,越高資源消耗越大,但壓縮效果越好
gzip_comp_level5;
#在頭部中添加Vary:Accept-Encoding(建議開啟)
gzip_varyon;
#處理壓縮請求的緩沖區(qū)數(shù)量和大小
gzip_buffers168k;
#對于不支持壓縮功能的客戶端請求不開啟壓縮機(jī)制
gzip_disable"MSIE[1-6].";#低版本的IE瀏覽器不支持壓縮
#設(shè)置壓縮響應(yīng)所支持的HTTP最低版本
gzip_http_version1.1;
#設(shè)置觸發(fā)壓縮的最小閾值
gzip_min_length2k;
#關(guān)閉對后端服務(wù)器的響應(yīng)結(jié)果進(jìn)行壓縮
gzip_proxiedoff;
}

在上述的壓縮配置中,最后一個gzip_proxied選項,可以根據(jù)系統(tǒng)的實際情況決定,總共存在多種選項:

off:關(guān)閉Nginx對后臺服務(wù)器的響應(yīng)結(jié)果進(jìn)行壓縮。

expired:如果響應(yīng)頭中包含Expires信息,則開啟壓縮。

no-cache:如果響應(yīng)頭中包含Cache-Control:no-cache信息,則開啟壓縮。

no-store:如果響應(yīng)頭中包含Cache-Control:no-store信息,則開啟壓縮。

private:如果響應(yīng)頭中包含Cache-Control:private信息,則開啟壓縮。

no_last_modified:如果響應(yīng)頭中不包含Last-Modified信息,則開啟壓縮。

no_etag:如果響應(yīng)頭中不包含ETag信息,則開啟壓縮。

auth:如果響應(yīng)頭中包含Authorization信息,則開啟壓縮。

any:無條件對后端的響應(yīng)結(jié)果開啟壓縮機(jī)制。

OK~,簡單修改好了Nginx的壓縮配置后,可以在原本的index頁面中引入一個http://www.nxhydt.com/images/chaijie_default.png文件:


分別來對比下壓縮前后的區(qū)別:

457c2ef4-45ae-11ee-a2ef-92fbcf53809c.jpg

從圖中可以很明顯看出,未開啟壓縮機(jī)制前訪問時,js文件的原始大小為230K,當(dāng)配置好壓縮后再重啟Nginx,會發(fā)現(xiàn)文件大小從230KB→69KB,效果立竿見影!

注意點:①對于圖片、視頻類型的數(shù)據(jù),會默認(rèn)開啟壓縮機(jī)制,因此一般無需再次開啟壓縮。②對于.js文件而言,需要指定壓縮類型為application/javascript,而并非text/javascript、application/x-javascript。

六、Nginx緩沖區(qū)

先來思考一個問題,接入Nginx的項目一般請求流程為:“客戶端→Nginx→服務(wù)端”,在這個過程中存在兩個連接:“客戶端→Nginx、Nginx→服務(wù)端”,那么兩個不同的連接速度不一致,就會影響用戶的體驗(比如瀏覽器的加載速度跟不上服務(wù)端的響應(yīng)速度)。其實也就類似電腦的內(nèi)存跟不上CPU速度,所以對于用戶造成的體驗感極差,因此在CPU設(shè)計時都會加入三級高速緩沖區(qū),用于緩解CPU和內(nèi)存速率不一致的矛盾。在Nginx也同樣存在緩沖區(qū)的機(jī)制,主要目的就在于:「用來解決兩個連接之間速度不匹配造成的問題」,有了緩沖后,Nginx代理可暫存后端的響應(yīng),然后按需供給數(shù)據(jù)給客戶端。先來看看一些關(guān)于緩沖區(qū)的配置項:

proxy_buffering:是否啟用緩沖機(jī)制,默認(rèn)為on關(guān)閉狀態(tài)。

client_body_buffer_size:設(shè)置緩沖客戶端請求數(shù)據(jù)的內(nèi)存大小。

proxy_buffers:為每個請求/連接設(shè)置緩沖區(qū)的數(shù)量和大小,默認(rèn)4 4k/8k。

proxy_buffer_size:設(shè)置用于存儲響應(yīng)頭的緩沖區(qū)大小。

proxy_busy_buffers_size:在后端數(shù)據(jù)沒有完全接收完成時,Nginx可以將busy狀態(tài)的緩沖返回給客戶端,該參數(shù)用來設(shè)置busy狀態(tài)的buffer具體有多大,默認(rèn)為proxy_buffer_size*2。

proxy_temp_path:當(dāng)內(nèi)存緩沖區(qū)存滿時,可以將數(shù)據(jù)臨時存放到磁盤,該參數(shù)是設(shè)置存儲緩沖數(shù)據(jù)的目錄。

path是臨時目錄的路徑。

語法:proxy_temp_path path;

proxy_temp_file_write_size:設(shè)置每次寫數(shù)據(jù)到臨時文件的大小限制。

proxy_max_temp_file_size:設(shè)置臨時的緩沖目錄中允許存儲的最大容量。

非緩沖參數(shù)項:

proxy_connect_timeout:設(shè)置與后端服務(wù)器建立連接時的超時時間。

proxy_read_timeout:設(shè)置從后端服務(wù)器讀取響應(yīng)數(shù)據(jù)的超時時間。

proxy_send_timeout:設(shè)置向后端服務(wù)器傳輸請求數(shù)據(jù)的超時時間。

具體的nginx.conf配置如下:

http{
proxy_connect_timeout10;
proxy_read_timeout120;
proxy_send_timeout10;
proxy_bufferingon;
client_body_buffer_size512k;
proxy_buffers464k;
proxy_buffer_size16k;
proxy_busy_buffers_size128k;
proxy_temp_file_write_size128k;
proxy_temp_path/soft/nginx/temp_buffer;
}

上述的緩沖區(qū)參數(shù),是基于每個請求分配的空間,而并不是所有請求的共享空間。當(dāng)然,具體的參數(shù)值還需要根據(jù)業(yè)務(wù)去決定,要綜合考慮機(jī)器的內(nèi)存以及每個請求的平均數(shù)據(jù)大小。

最后提一嘴:使用緩沖也可以減少即時傳輸帶來的帶寬消耗。

七、Nginx緩存機(jī)制

對于性能優(yōu)化而言,緩存是一種能夠大幅度提升性能的方案,因此幾乎可以在各處都能看見緩存,如客戶端緩存、代理緩存、服務(wù)器緩存等等,Nginx的緩存則屬于代理緩存的一種。對于整個系統(tǒng)而言,加入緩存帶來的優(yōu)勢額外明顯:

減少了再次向后端或文件服務(wù)器請求資源的帶寬消耗。

降低了下游服務(wù)器的訪問壓力,提升系統(tǒng)整體吞吐。

縮短了響應(yīng)時間,提升了加載速度,打開頁面的速度更快。

那么在Nginx中,又該如何配置代理緩存呢?先來看看緩存相關(guān)的配置項:

proxy_cache_path:代理緩存的路徑。

path:緩存的路徑地址。

levels:緩存存儲的層次結(jié)構(gòu),最多允許三層目錄。

use_temp_path:是否使用臨時目錄。

keys_zone:指定一個共享內(nèi)存空間來存儲熱點Key(1M可存儲8000個Key)。

inactive:設(shè)置緩存多長時間未被訪問后刪除(默認(rèn)是十分鐘)。

max_size:允許緩存的最大存儲空間,超出后會基于LRU算法移除緩存,Nginx會創(chuàng)建一個Cache manager的進(jìn)程移除數(shù)據(jù),也可以通過purge方式。

manager_files:manager進(jìn)程每次移除緩存文件數(shù)量的上限。

manager_sleep:manager進(jìn)程每次移除緩存文件的時間上限。

manager_threshold:manager進(jìn)程每次移除緩存后的間隔時間。

loader_files:重啟Nginx載入緩存時,每次加載的個數(shù),默認(rèn)100。

loader_sleep:每次載入時,允許的最大時間上限,默認(rèn)200ms。

loader_threshold:一次載入后,停頓的時間間隔,默認(rèn)50ms。

purger:是否開啟purge方式移除數(shù)據(jù)。

purger_files:每次移除緩存文件時的數(shù)量。

purger_sleep:每次移除時,允許消耗的最大時間。

purger_threshold:每次移除完成后,停頓的間隔時間。

語法:proxy_cache_path path [levels=levels] [use_temp_path=on|off] keys_zone=name:size [inactive=time] [max_size=size] [manager_files=number] [manager_sleep=time] [manager_threshold=time] [loader_files=number] [loader_sleep=time] [loader_threshold=time] [purger=on|off] [purger_files=number] [purger_sleep=time] [purger_threshold=time];

是的,你沒有看錯,就是這么長....,解釋一下每個參數(shù)項的含義:

proxy_cache:開啟或關(guān)閉代理緩存,開啟時需要指定一個共享內(nèi)存區(qū)域。

zone為內(nèi)存區(qū)域的名稱,即上面中keys_zone設(shè)置的名稱。

語法:proxy_cache zone | off;

proxy_cache_key:定義如何生成緩存的鍵。

string為生成Key的規(guī)則,如$scheme$proxy_host$request_uri。

語法:proxy_cache_key string;

proxy_cache_valid:緩存生效的狀態(tài)碼與過期時間。

code為狀態(tài)碼,time為有效時間,可以根據(jù)狀態(tài)碼設(shè)置不同的緩存時間。

例如:proxy_cache_valid 200 302 30m;

語法:proxy_cache_valid [code ...] time;

proxy_cache_min_uses:設(shè)置資源被請求多少次后被緩存。

number為次數(shù),默認(rèn)為1。

語法:proxy_cache_min_uses number;

proxy_cache_use_stale:當(dāng)后端出現(xiàn)異常時,是否允許Nginx返回緩存作為響應(yīng)。

error為錯誤類型,可配置timeout|invalid_header|updating|http_500...。

語法:proxy_cache_use_stale error;

proxy_cache_lock:對于相同的請求,是否開啟鎖機(jī)制,只允許一個請求發(fā)往后端。

語法:proxy_cache_lock on | off;

proxy_cache_lock_timeout:配置鎖超時機(jī)制,超出規(guī)定時間后會釋放請求。

proxy_cache_lock_timeout time;

proxy_cache_methods:設(shè)置對于那些HTTP方法開啟緩存。

method為請求方法類型,如GET、HEAD等。

語法:proxy_cache_methods method;

proxy_no_cache:定義不存儲緩存的條件,符合時不會保存。

string為條件,例如$cookie_nocache $arg_nocache $arg_comment;

語法:proxy_no_cache string...;

proxy_cache_bypass:定義不讀取緩存的條件,符合時不會從緩存中讀取。

和上面proxy_no_cache的配置方法類似。

語法:proxy_cache_bypass string...;

add_header:往響應(yīng)頭中添加字段信息。

語法:add_header fieldName fieldValue;

$upstream_cache_status:記錄了緩存是否命中的信息,存在多種情況:

MISS:請求未命中緩存。

HIT:請求命中緩存。

EXPIRED:請求命中緩存但緩存已過期。

STALE:請求命中了陳舊緩存。

REVALIDDATED:Nginx驗證陳舊緩存依然有效。

UPDATING:命中的緩存內(nèi)容陳舊,但正在更新緩存。

BYPASS:響應(yīng)結(jié)果是從原始服務(wù)器獲取的。

PS:這個和之前的不同,之前的都是參數(shù)項,這個是一個Nginx內(nèi)置變量。

OK~,對于Nginx中的緩存配置項大概了解后,接著來配置一下Nginx代理緩存:

http{
#設(shè)置緩存的目錄,并且內(nèi)存中緩存區(qū)名為hot_cache,大小為128m,
#三天未被訪問過的緩存自動清楚,磁盤中緩存的最大容量為2GB。
proxy_cache_path/soft/nginx/cachelevels=1:2keys_zone=hot_cache:128minactive=3dmax_size=2g;

server{
location/{
#使用名為nginx_cache的緩存空間
proxy_cachehot_cache;
#對于200、206、304、301、302狀態(tài)碼的數(shù)據(jù)緩存1天
proxy_cache_valid2002063043013021d;
#對于其他狀態(tài)的數(shù)據(jù)緩存30分鐘
proxy_cache_validany30m;
#定義生成緩存鍵的規(guī)則(請求的url+參數(shù)作為key)
proxy_cache_key$host$uri$is_args$args;
#資源至少被重復(fù)訪問三次后再加入緩存
proxy_cache_min_uses3;
#出現(xiàn)重復(fù)請求時,只讓一個去后端讀數(shù)據(jù),其他的從緩存中讀取
proxy_cache_lockon;
#上面的鎖超時時間為3s,超過3s未獲取數(shù)據(jù),其他請求直接去后端
proxy_cache_lock_timeout3s;
#對于請求參數(shù)或cookie中聲明了不緩存的數(shù)據(jù),不再加入緩存
proxy_no_cache$cookie_nocache$arg_nocache$arg_comment;
#在響應(yīng)頭中添加一個緩存是否命中的狀態(tài)(便于調(diào)試)
add_headerCache-status$upstream_cache_status;
}
}
}

接著來看一下效果,如下:

45950848-45ae-11ee-a2ef-92fbcf53809c.jpg

第一次訪問時,因為還沒有請求過資源,所以緩存中沒有數(shù)據(jù),因此沒有命中緩存。第二、三次,依舊沒有命中緩存,直至第四次時才顯示命中,這是為什么呢?因為在前面的緩存配置中,我們配置了加入緩存的最低條件為:「資源至少要被請求三次以上才會加入緩存。」這樣可以避免很多無效緩存占用空間。

緩存清理

當(dāng)緩存過多時,如果不及時清理會導(dǎo)致磁盤空間被“吃光”,因此我們需要一套完善的緩存清理機(jī)制去刪除緩存,在之前的proxy_cache_path參數(shù)中有purger相關(guān)的選項,開啟后可以幫我們自動清理緩存,但遺憾的是:**purger系列參數(shù)只有商業(yè)版的NginxPlus才能使用,因此需要付費才可使用。**

不過天無絕人之路,我們可以通過強(qiáng)大的第三方模塊ngx_cache_purge來替代,先來安裝一下該插件:①首先去到Nginx的安裝目錄下,創(chuàng)建一個cache_purge目錄:

[root@localhost]#mkdircache_purge&&cdcache_purge

②通過wget指令從github上拉取安裝包的壓縮文件并解壓:

[root@localhost]#wgethttps://github.com/FRiCKLE/ngx_cache_purge/archive/2.3.tar.gz
[root@localhost]#tar-xvzf2.3.tar.gz

③再次去到之前Nginx的解壓目錄下:

[root@localhost]#cd/soft/nginx/nginx1.21.6

④重新構(gòu)建一次Nginx,通過--add-module的指令添加剛剛的第三方模塊:

[root@localhost]#./configure--prefix=/soft/nginx/--add-module=/soft/nginx/cache_purge/ngx_cache_purge-2.3/

⑤重新根據(jù)剛剛構(gòu)建的Nginx,再次編譯一下,但切記不要make install

[root@localhost]#make

⑥刪除之前Nginx的啟動文件,不放心的也可以移動到其他位置:

[root@localhost]#rm-rf/soft/nginx/sbin/nginx

⑦從生成的objs目錄中,重新復(fù)制一個Nginx的啟動文件到原來的位置:

[root@localhost]#cpobjs/nginx/soft/nginx/sbin/nginx

至此,第三方緩存清除模塊ngx_cache_purge就安裝完成了,接下來稍微修改一下nginx.conf配置,再添加一條location規(guī)則:

location~/purge(/.*){
#配置可以執(zhí)行清除操作的IP(線上可以配置成內(nèi)網(wǎng)機(jī)器)
#allow127.0.0.1;#代表本機(jī)
allowall;#代表允許任意IP清除緩存
proxy_cache_purge$host$1$is_args$args;
}

然后再重啟Nginx,接下來即可通過http://xxx/purge/xx的方式清除緩存。

八、Nginx實現(xiàn)IP黑白名單

有時候往往有些需求,可能某些接口只能開放給對應(yīng)的合作商,或者購買/接入API的合作伙伴,那么此時就需要實現(xiàn)類似于IP白名單的功能。而有時候有些惡意攻擊者或爬蟲程序,被識別后需要禁止其再次訪問網(wǎng)站,因此也需要實現(xiàn)IP黑名單。那么這些功能無需交由后端實現(xiàn),可直接在Nginx中處理。

Nginx做黑白名單機(jī)制,主要是通過allow、deny配置項來實現(xiàn):

allow xxx.xxx.xxx.xxx;#允許指定的IP訪問,可以用于實現(xiàn)白名單。
deny xxx.xxx.xxx.xxx;#禁止指定的IP訪問,可以用于實現(xiàn)黑名單。

要同時屏蔽/開放多個IP訪問時,如果所有IP全部寫在nginx.conf文件中定然是不顯示的,這種方式比較冗余,那么可以新建兩個文件BlocksIP.conf、WhiteIP.conf:

#--------黑名單:BlocksIP.conf---------
deny192.177.12.222;#屏蔽192.177.12.222訪問
deny192.177.44.201;#屏蔽192.177.44.201訪問
deny127.0.0.0/8;#屏蔽127.0.0.1到127.255.255.254網(wǎng)段中的所有IP訪問

#--------白名單:WhiteIP.conf---------
allow192.177.12.222;#允許192.177.12.222訪問
allow192.177.44.201;#允許192.177.44.201訪問
allow127.45.0.0/16;#允許127.45.0.1到127.45.255.254網(wǎng)段中的所有IP訪問
denyall;#除開上述IP外,其他IP全部禁止訪問

分別將要禁止/開放的IP添加到對應(yīng)的文件后,可以再將這兩個文件在nginx.conf中導(dǎo)入:

http{
#屏蔽該文件中的所有IP
include/soft/nginx/IP/BlocksIP.conf;
server{
locationxxx{
#某一系列接口只開放給白名單中的IP
include/soft/nginx/IP/blockip.conf;
}
}
}

對于文件具體在哪兒導(dǎo)入,這個也并非隨意的,如果要整站屏蔽/開放就在http中導(dǎo)入,如果只需要一個域名下屏蔽/開放就在sever中導(dǎo)入,如果只需要針對于某一系列接口屏蔽/開放IP,那么就在location中導(dǎo)入。

當(dāng)然,上述只是最簡單的IP黑/白名單實現(xiàn)方式,同時也可以通過ngx_http_geo_module、ngx_http_geo_module第三方庫去實現(xiàn)(這種方式可以按地區(qū)、國家進(jìn)行屏蔽,并且提供了IP庫)。

九、Nginx跨域配置

跨域問題在之前的單體架構(gòu)開發(fā)中,其實是比較少見的問題,除非是需要接入第三方SDK時,才需要處理此問題。但隨著現(xiàn)在前后端分離、分布式架構(gòu)的流行,跨域問題也成為了每個Java開發(fā)必須要懂得解決的一個問題。

跨域問題產(chǎn)生的原因

產(chǎn)生跨域問題的主要原因就在于「同源策略」,為了保證用戶信息安全,防止惡意網(wǎng)站竊取數(shù)據(jù),同源策略是必須的,否則cookie可以共享。由于http無狀態(tài)協(xié)議通常會借助cookie來實現(xiàn)有狀態(tài)的信息記錄,例如用戶的身份/密碼等,因此一旦cookie被共享,那么會導(dǎo)致用戶的身份信息被盜取。同源策略主要是指三點相同,「協(xié)議+域名+端口」相同的兩個請求,則可以被看做是同源的,但如果其中任意一點存在不同,則代表是兩個不同源的請求,同源策略會限制了不同源之間的資源交互。

Nginx解決跨域問題

弄明白了跨域問題的產(chǎn)生原因,接下來看看Nginx中又該如何解決跨域呢?其實比較簡單,在nginx.conf中稍微添加一點配置即可:

location/{
#允許跨域的請求,可以自定義變量$http_origin,*表示所有
add_header'Access-Control-Allow-Origin'*;
#允許攜帶cookie請求
add_header'Access-Control-Allow-Credentials''true';
#允許跨域請求的方法:GET,POST,OPTIONS,PUT
add_header'Access-Control-Allow-Methods''GET,POST,OPTIONS,PUT';
#允許請求時攜帶的頭部信息,*表示所有
add_header'Access-Control-Allow-Headers'*;
#允許發(fā)送按段獲取資源的請求
add_header'Access-Control-Expose-Headers''Content-Length,Content-Range';
#一定要有!!!否則Post請求無法進(jìn)行跨域!
#在發(fā)送Post跨域請求前,會以O(shè)ptions方式發(fā)送預(yù)檢請求,服務(wù)器接受時才會正式請求
if($request_method='OPTIONS'){
add_header'Access-Control-Max-Age'1728000;
add_header'Content-Type''text/plain;charset=utf-8';
add_header'Content-Length'0;
#對于Options方式的請求返回204,表示接受跨域請求
return204;
}
}

在nginx.conf文件加上如上配置后,跨域請求即可生效了。

但如果后端是采用分布式架構(gòu)開發(fā)的,有時候RPC調(diào)用也需要解決跨域問題,不然也同樣會出現(xiàn)無法跨域請求的異常,因此可以在你的后端項目中,通過繼承HandlerInterceptorAdapter類、實現(xiàn)WebMvcConfigurer接口、添加@CrossOrgin注解的方式實現(xiàn)接口之間的跨域配置。

十、Nginx防盜鏈設(shè)計

首先了解一下何謂盜鏈:「盜鏈即是指外部網(wǎng)站引入當(dāng)前網(wǎng)站的資源對外展示」,來舉個簡單的例子理解:

好比壁紙網(wǎng)站X站、Y站,X站是一點點去購買版權(quán)、簽約作者的方式,從而積累了海量的壁紙素材,但Y站由于資金等各方面的原因,就直接通過這種方式照搬了X站的所有壁紙資源,繼而提供給用戶下載。

那么如果我們自己是這個X站的Boss,心中必然不爽,那么此時又該如何屏蔽這類問題呢?那么接下來要敘說的「防盜鏈」登場了!

Nginx的防盜鏈機(jī)制實現(xiàn),跟一個頭部字段:Referer有關(guān),該字段主要描述了當(dāng)前請求是從哪兒發(fā)出的,那么在Nginx中就可獲取該值,然后判斷是否為本站的資源引用請求,如果不是則不允許訪問。Nginx中存在一個配置項為valid_referers,正好可以滿足前面的需求,語法如下:

valid_referers none | blocked | server_names | string ...;

none:表示接受沒有Referer字段的HTTP請求訪問。

blocked:表示允許http://或https//以外的請求訪問。

server_names:資源的白名單,這里可以指定允許訪問的域名。

string:可自定義字符串,支配通配符、正則表達(dá)式寫法。

簡單了解語法后,接下來的實現(xiàn)如下:

#在動靜分離的location中開啟防盜鏈機(jī)制
location~.*.(html|htm|gif|jpg|jpeg|bmp|png|ico|txt|js|css){
#最后面的值在上線前可配置為允許的域名地址
valid_referersblocked192.168.12.129;
if($invalid_referer){
#可以配置成返回一張禁止盜取的圖片
#rewrite^/http://xx.xx.com/NO.jpg;
#也可直接返回403
return403;
}

root/soft/nginx/static_resources;
expires7d;
}

根據(jù)上述中的內(nèi)容配置后,就已經(jīng)通過Nginx實現(xiàn)了最基本的防盜鏈機(jī)制,最后只需要額外重啟一下就好啦!當(dāng)然,對于防盜鏈機(jī)制實現(xiàn)這塊,也有專門的第三方模塊ngx_http_accesskey_module實現(xiàn)了更為完善的設(shè)計,感興趣的小伙伴可以自行去看看。

PS:防盜鏈機(jī)制也無法解決爬蟲偽造referers信息的這種方式抓取數(shù)據(jù)。

十一、Nginx大文件傳輸配置

在某些業(yè)務(wù)場景中需要傳輸一些大文件,但大文件傳輸時往往都會會出現(xiàn)一些Bug,比如文件超出限制、文件傳輸過程中請求超時等,那么此時就可以在Nginx稍微做一些配置,先來了解一些關(guān)于大文件傳輸時可能會用的配置項:

配置項 釋義
client_max_body_size 設(shè)置請求體允許的最大體積
client_header_timeout 等待客戶端發(fā)送一個請求頭的超時時間
client_body_timeout 設(shè)置讀取請求體的超時時間
proxy_read_timeout 設(shè)置請求被后端服務(wù)器讀取時,Nginx等待的最長時間
proxy_send_timeout 設(shè)置后端向Nginx返回響應(yīng)時的超時時間

在傳輸大文件時,client_max_body_size、client_header_timeout、proxy_read_timeout、proxy_send_timeout這四個參數(shù)值都可以根據(jù)自己項目的實際情況來配置。

上述配置僅是作為代理層需要配置的,因為最終客戶端傳輸文件還是直接與后端進(jìn)行交互,這里只是把作為網(wǎng)關(guān)層的Nginx配置調(diào)高一點,調(diào)到能夠“容納大文件”傳輸?shù)某潭取.?dāng)然,Nginx中也可以作為文件服務(wù)器使用,但需要用到一個專門的第三方模塊nginx-upload-module,如果項目中文件上傳的作用處不多,那么建議可以通過Nginx搭建,畢竟可以節(jié)省一臺文件服務(wù)器資源。但如若文件上傳/下載較為頻繁,那么還是建議額外搭建文件服務(wù)器,并將上傳/下載功能交由后端處理。

十二、Nginx配置SLL證書

隨著越來越多的網(wǎng)站接入HTTPS,因此Nginx中僅配置HTTP還不夠,往往還需要監(jiān)聽443端口的請求,HTTPS為了確保通信安全,所以服務(wù)端需配置對應(yīng)的數(shù)字證書,當(dāng)項目使用Nginx作為網(wǎng)關(guān)時,那么證書在Nginx中也需要配置,接下來簡單聊一下關(guān)于SSL證書配置過程:

①先去CA機(jī)構(gòu)或從云控制臺中申請對應(yīng)的SSL證書,審核通過后下載Nginx版本的證書。

②下載數(shù)字證書后,完整的文件總共有三個:.crt、.key、.pem:

.crt:數(shù)字證書文件,.crt是.pem的拓展文件,因此有些人下載后可能沒有。

.key:服務(wù)器的私鑰文件,及非對稱加密的私鑰,用于解密公鑰傳輸?shù)臄?shù)據(jù)。

.pem:Base64-encoded編碼格式的源證書文本文件,可自行根需求修改拓展名。

③在Nginx目錄下新建certificate目錄,并將下載好的證書/私鑰等文件上傳至該目錄。

④最后修改一下nginx.conf文件即可,如下:

#----------HTTPS配置-----------
server{
#監(jiān)聽HTTPS默認(rèn)的443端口
listen443;
#配置自己項目的域名
server_namewww.xxx.com;
#打開SSL加密傳輸
sslon;
#輸入域名后,首頁文件所在的目錄
roothtml;
#配置首頁的文件名
indexindex.htmlindex.htmindex.jspindex.ftl;
#配置自己下載的數(shù)字證書
ssl_certificatecertificate/xxx.pem;
#配置自己下載的服務(wù)器私鑰
ssl_certificate_keycertificate/xxx.key;
#停止通信時,加密會話的有效期,在該時間段內(nèi)不需要重新交換密鑰
ssl_session_timeout5m;
#TLS握手時,服務(wù)器采用的密碼套件
ssl_ciphersECDHE-RSA-AES128-GCM-SHA256ECDHHIGH!aNULL!ADH:!RC4;
#服務(wù)器支持的TLS版本
ssl_protocolsTLSv1TLSv1.1TLSv1.2;
#開啟由服務(wù)器決定采用的密碼套件
ssl_prefer_server_cipherson;

location/{
....
}
}

#---------HTTP請求轉(zhuǎn)HTTPS-------------
server{
#監(jiān)聽HTTP默認(rèn)的80端口
listen80;
#如果80端口出現(xiàn)訪問該域名的請求
server_namewww.xxx.com;
#將請求改寫為HTTPS(這里寫你配置了HTTPS的域名)
rewrite^(.*)$https://www.xxx.com;
}

OK~,根據(jù)如上配置了Nginx后,你的網(wǎng)站即可通過https://的方式訪問,并且當(dāng)客戶端使用http://的方式訪問時,會自動將其改寫為HTTPS請求。

十三、Nginx的高可用

線上如果采用單個節(jié)點的方式部署Nginx,難免會出現(xiàn)天災(zāi)人禍,比如系統(tǒng)異常、程序宕機(jī)、服務(wù)器斷電、機(jī)房爆炸、地球毀滅....哈哈哈,夸張了。但實際生產(chǎn)環(huán)境中確實存在隱患問題,由于Nginx作為整個系統(tǒng)的網(wǎng)關(guān)層接入外部流量,所以一旦Nginx宕機(jī),最終就會導(dǎo)致整個系統(tǒng)不可用,這無疑對于用戶的體驗感是極差的,因此也得保障Nginx高可用的特性。

接下來則會通過keepalived的VIP機(jī)制,實現(xiàn)Nginx的高可用。VIP并不是只會員的意思,而是指Virtual IP,即虛擬IP。

keepalived在之前單體架構(gòu)開發(fā)時,是一個用的較為頻繁的高可用技術(shù),比如MySQL、Redis、MQ、Proxy、Tomcat等各處都會通過keepalived提供的VIP機(jī)制,實現(xiàn)單節(jié)點應(yīng)用的高可用。

Keepalived+重啟腳本+雙機(jī)熱備搭建

①首先創(chuàng)建一個對應(yīng)的目錄并下載keepalived到Linux中并解壓:

[root@localhost]#mkdir/soft/keepalived&&cd/soft/keepalived
[root@localhost]#wgethttps://www.keepalived.org/software/keepalived-2.2.4.tar.gz
[root@localhost]#tar-zxvfkeepalived-2.2.4.tar.gz

②進(jìn)入解壓后的keepalived目錄并構(gòu)建安裝環(huán)境,然后編譯并安裝:

[root@localhost]#cdkeepalived-2.2.4
[root@localhost]#./configure--prefix=/soft/keepalived/
[root@localhost]#make&&makeinstall

③進(jìn)入安裝目錄的/soft/keepalived/etc/keepalived/并編輯配置文件:

[root@localhost]#cd/soft/keepalived/etc/keepalived/
[root@localhost]#vikeepalived.conf

④編輯主機(jī)的keepalived.conf核心配置文件,如下:

global_defs{
#自帶的郵件提醒服務(wù),建議用獨立的監(jiān)控或第三方SMTP,也可選擇配置郵件發(fā)送。
notification_email{
root@localhost
}
notification_email_fromroot@localhost
smtp_serverlocalhost
smtp_connect_timeout30
#高可用集群主機(jī)身份標(biāo)識(集群中主機(jī)身份標(biāo)識名稱不能重復(fù),建議配置成本機(jī)IP)
router_id192.168.12.129
}

#定時運行的腳本文件配置
vrrp_scriptcheck_nginx_pid_restart{
#之前編寫的nginx重啟腳本的所在位置
script"/soft/scripts/keepalived/check_nginx_pid_restart.sh"
#每間隔3秒執(zhí)行一次
interval3
#如果腳本中的條件成立,重啟一次則權(quán)重-20
weight-20
}

#定義虛擬路由,VI_1為虛擬路由的標(biāo)示符(可自定義名稱)
vrrp_instanceVI_1{
#當(dāng)前節(jié)點的身份標(biāo)識:用來決定主從(MASTER為主機(jī),BACKUP為從機(jī))
stateMASTER
#綁定虛擬IP的網(wǎng)絡(luò)接口,根據(jù)自己的機(jī)器的網(wǎng)卡配置
interfaceens33
#虛擬路由的ID號,主從兩個節(jié)點設(shè)置必須一樣
virtual_router_id121
#填寫本機(jī)IP
mcast_src_ip192.168.12.129
#節(jié)點權(quán)重優(yōu)先級,主節(jié)點要比從節(jié)點優(yōu)先級高
priority100
#優(yōu)先級高的設(shè)置nopreempt,解決異常恢復(fù)后再次搶占造成的腦裂問題
nopreempt
#組播信息發(fā)送間隔,兩個節(jié)點設(shè)置必須一樣,默認(rèn)1s(類似于心跳檢測)
advert_int1
authentication{
auth_typePASS
auth_pass1111
}
#將track_script塊加入instance配置塊
track_script{
#執(zhí)行Nginx監(jiān)控的腳本
check_nginx_pid_restart
}

virtual_ipaddress{
#虛擬IP(VIP),也可擴(kuò)展,可配置多個。
192.168.12.111
}
}

⑤克隆一臺之前的虛擬機(jī)作為從(備)機(jī),編輯從機(jī)的keepalived.conf文件,如下:

global_defs{
#自帶的郵件提醒服務(wù),建議用獨立的監(jiān)控或第三方SMTP,也可選擇配置郵件發(fā)送。
notification_email{
root@localhost
}
notification_email_fromroot@localhost
smtp_serverlocalhost
smtp_connect_timeout30
#高可用集群主機(jī)身份標(biāo)識(集群中主機(jī)身份標(biāo)識名稱不能重復(fù),建議配置成本機(jī)IP)
router_id192.168.12.130
}

#定時運行的腳本文件配置
vrrp_scriptcheck_nginx_pid_restart{
#之前編寫的nginx重啟腳本的所在位置
script"/soft/scripts/keepalived/check_nginx_pid_restart.sh"
#每間隔3秒執(zhí)行一次
interval3
#如果腳本中的條件成立,重啟一次則權(quán)重-20
weight-20
}

#定義虛擬路由,VI_1為虛擬路由的標(biāo)示符(可自定義名稱)
vrrp_instanceVI_1{
#當(dāng)前節(jié)點的身份標(biāo)識:用來決定主從(MASTER為主機(jī),BACKUP為從機(jī))
stateBACKUP
#綁定虛擬IP的網(wǎng)絡(luò)接口,根據(jù)自己的機(jī)器的網(wǎng)卡配置
interfaceens33
#虛擬路由的ID號,主從兩個節(jié)點設(shè)置必須一樣
virtual_router_id121
#填寫本機(jī)IP
mcast_src_ip192.168.12.130
#節(jié)點權(quán)重優(yōu)先級,主節(jié)點要比從節(jié)點優(yōu)先級高
priority90
#優(yōu)先級高的設(shè)置nopreempt,解決異常恢復(fù)后再次搶占造成的腦裂問題
nopreempt
#組播信息發(fā)送間隔,兩個節(jié)點設(shè)置必須一樣,默認(rèn)1s(類似于心跳檢測)
advert_int1
authentication{
auth_typePASS
auth_pass1111
}
#將track_script塊加入instance配置塊
track_script{
#執(zhí)行Nginx監(jiān)控的腳本
check_nginx_pid_restart
}

virtual_ipaddress{
#虛擬IP(VIP),也可擴(kuò)展,可配置多個。
192.168.12.111
}
}

⑥新建scripts目錄并編寫Nginx的重啟腳本,check_nginx_pid_restart.sh:

[root@localhost]#mkdir/soft/scripts/soft/scripts/keepalived
[root@localhost]#touch/soft/scripts/keepalived/check_nginx_pid_restart.sh
[root@localhost]#vi/soft/scripts/keepalived/check_nginx_pid_restart.sh

#!/bin/sh
#通過ps指令查詢后臺的nginx進(jìn)程數(shù),并將其保存在變量nginx_number中
nginx_number=`ps-Cnginx--no-header|wc-l`
#判斷后臺是否還有Nginx進(jìn)程在運行
if[$nginx_number-eq0];then
#如果后臺查詢不到`Nginx`進(jìn)程存在,則執(zhí)行重啟指令
/soft/nginx/sbin/nginx-c/soft/nginx/conf/nginx.conf
#重啟后等待1s后,再次查詢后臺進(jìn)程數(shù)
sleep1
#如果重啟后依舊無法查詢到nginx進(jìn)程
if[`ps-Cnginx--no-header|wc-l`-eq0];then
#將keepalived主機(jī)下線,將虛擬IP漂移給從機(jī),從機(jī)上線接管Nginx服務(wù)
systemctlstopkeepalived.service
fi
fi

⑦編寫的腳本文件需要更改編碼格式,并賦予執(zhí)行權(quán)限,否則可能執(zhí)行失敗:

[root@localhost]#vi/soft/scripts/keepalived/check_nginx_pid_restart.sh

:setfileformat=unix#在vi命令里面執(zhí)行,修改編碼格式
:setff#查看修改后的編碼格式

[root@localhost]#chmod+x/soft/scripts/keepalived/check_nginx_pid_restart.sh

⑧由于安裝keepalived時,是自定義的安裝位置,因此需要拷貝一些文件到系統(tǒng)目錄中:

[root@localhost]#mkdir/etc/keepalived/
[root@localhost]#cp/soft/keepalived/etc/keepalived/keepalived.conf/etc/keepalived/
[root@localhost]#cp/soft/keepalived/keepalived-2.2.4/keepalived/etc/init.d/keepalived/etc/init.d/
[root@localhost]#cp/soft/keepalived/etc/sysconfig/keepalived/etc/sysconfig/

⑨將keepalived加入系統(tǒng)服務(wù)并設(shè)置開啟自啟動,然后測試啟動是否正常:

[root@localhost]#chkconfigkeepalivedon
[root@localhost]#systemctldaemon-reload
[root@localhost]#systemctlenablekeepalived.service
[root@localhost]#systemctlstartkeepalived.service

其他命令:
systemctldisablekeepalived.service#禁止開機(jī)自動啟動
systemctlrestartkeepalived.service#重啟keepalived
systemctlstopkeepalived.service#停止keepalived
tail-f/var/log/messages#查看keepalived運行時日志

⑩最后測試一下VIP是否生效,通過查看本機(jī)是否成功掛載虛擬IP:

[root@localhost]#ipaddr
45a73a86-45ae-11ee-a2ef-92fbcf53809c.jpg

虛擬IP-VIP

從上圖中可以明顯看見虛擬IP已經(jīng)成功掛載,但另外一臺機(jī)器192.168.12.130并不會掛載這個虛擬IP,只有當(dāng)主機(jī)下線后,作為從機(jī)的192.168.12.130才會上線,接替VIP。最后測試一下外網(wǎng)是否可以正常與VIP通信,即在Windows中直接ping VIP:

45b956d0-45ae-11ee-a2ef-92fbcf53809c.jpg

Ping-VIP

外部通過VIP通信時,也可以正常Ping通,代表虛擬IP配置成功。

Nginx高可用性測試

經(jīng)過上述步驟后,keepalived的VIP機(jī)制已經(jīng)搭建成功,在上個階段中主要做了幾件事:

一、為部署Nginx的機(jī)器掛載了VIP。

二、通過keepalived搭建了主從雙機(jī)熱備。

三、通過keepalived實現(xiàn)了Nginx宕機(jī)重啟。

由于前面沒有域名的原因,因此最初server_name配置的是當(dāng)前機(jī)器的IP,所以需稍微更改一下nginx.conf的配置:

sever{
listen80;
#這里從機(jī)器的本地IP改為虛擬IP
server_name192.168.12.111;
#如果這里配置的是域名,那么則將域名的映射配置改為虛擬IP
}

最后來實驗一下效果:

45cf652e-45ae-11ee-a2ef-92fbcf53809c.jpg

Nginx宕機(jī)

在上述過程中,首先分別啟動了keepalived、nginx服務(wù),然后通過手動停止nginx的方式模擬了Nginx宕機(jī)情況,過了片刻后再次查詢后臺進(jìn)程,我們會發(fā)現(xiàn)nginx依舊存活。

從這個過程中不難發(fā)現(xiàn),keepalived已經(jīng)為我們實現(xiàn)了Nginx宕機(jī)后自動重啟的功能,那么接著再模擬一下服務(wù)器出現(xiàn)故障時的情況:

45e431e8-45ae-11ee-a2ef-92fbcf53809c.jpg

服務(wù)器故障

在上述過程中,我們通過手動關(guān)閉keepalived服務(wù)模擬了機(jī)器斷電、硬件損壞等情況(因為機(jī)器斷電等情況=主機(jī)中的keepalived進(jìn)程消失),然后再次查詢了一下本機(jī)的IP信息,很明顯會看到VIP消失了!

現(xiàn)在再切換到另外一臺機(jī)器:192.168.12.130來看看情況:

4600bdb8-45ae-11ee-a2ef-92fbcf53809c.jpg

130的IP情況

此刻我們會發(fā)現(xiàn),在主機(jī)192.168.12.129宕機(jī)后,VIP自動從主機(jī)飄移到了從機(jī)192.168.12.130上,而此時客戶端的請求就最終會來到130這臺機(jī)器的Nginx上。

「最終,利用Keepalived對Nginx做了主從熱備之后,無論是遇到線上宕機(jī)還是機(jī)房斷電等各類故障時,都能夠確保應(yīng)用系統(tǒng)能夠為用戶提供7x24小時服務(wù)。」

十四、Nginx性能優(yōu)化

到這里文章的篇幅較長了,最后再來聊一下關(guān)于Nginx的性能優(yōu)化,主要就簡單說說收益最高的幾個優(yōu)化項,在這塊就不再展開敘述了,畢竟影響性能都有多方面原因?qū)е碌模热缇W(wǎng)絡(luò)、服務(wù)器硬件、操作系統(tǒng)、后端服務(wù)、程序自身、數(shù)據(jù)庫服務(wù)等。

優(yōu)化一:打開長連接配置

通常Nginx作為代理服務(wù),負(fù)責(zé)分發(fā)客戶端的請求,那么建議開啟HTTP長連接,用戶減少握手的次數(shù),降低服務(wù)器損耗,具體如下:

upstreamxxx{
#長連接數(shù)
keepalive32;
#每個長連接提供的最大請求數(shù)
keepalived_requests100;
#每個長連接沒有新的請求時,保持的最長時間
keepalive_timeout60s;
}

優(yōu)化二、開啟零拷貝技術(shù)

零拷貝這個概念,在大多數(shù)性能較為不錯的中間件中都有出現(xiàn),例如Kafka、Netty等,而Nginx中也可以配置數(shù)據(jù)零拷貝技術(shù),如下:

sendfileon;#開啟零拷貝機(jī)制

零拷貝讀取機(jī)制與傳統(tǒng)資源讀取機(jī)制的區(qū)別:

傳統(tǒng)方式:「硬件-->內(nèi)核-->用戶空間-->程序空間-->程序內(nèi)核空間-->網(wǎng)絡(luò)套接字」

零拷貝方式:「硬件-->內(nèi)核-->程序內(nèi)核空間-->網(wǎng)絡(luò)套接字」

從上述這個過程對比,很輕易就能看出兩者之間的性能區(qū)別。

優(yōu)化三、開啟無延遲或多包共發(fā)機(jī)制

在Nginx中有兩個較為關(guān)鍵的性能參數(shù),即tcp_nodelay、tcp_nopush,開啟方式如下:

tcp_nodelayon;
tcp_nopushon;

TCP/IP協(xié)議中默認(rèn)是采用了Nagle算法的,即在網(wǎng)絡(luò)數(shù)據(jù)傳輸過程中,每個數(shù)據(jù)報文并不會立馬發(fā)送出去,而是會等待一段時間,將后面的幾個數(shù)據(jù)包一起組合成一個數(shù)據(jù)報文發(fā)送,但這個算法雖然提高了網(wǎng)絡(luò)吞吐量,但是實時性卻降低了。

因此你的項目屬于交互性很強(qiáng)的應(yīng)用,那么可以手動開啟tcp_nodelay配置,讓應(yīng)用程序向內(nèi)核遞交的每個數(shù)據(jù)包都會立即發(fā)送出去。但這樣會產(chǎn)生大量的TCP報文頭,增加很大的網(wǎng)絡(luò)開銷。

相反,有些項目的業(yè)務(wù)對數(shù)據(jù)的實時性要求并不高,追求的則是更高的吞吐,那么則可以開啟tcp_nopush配置項,這個配置就類似于“塞子”的意思,首先將連接塞住,使得數(shù)據(jù)先不發(fā)出去,等到拔去塞子后再發(fā)出去。設(shè)置該選項后,內(nèi)核會盡量把小數(shù)據(jù)包拼接成一個大的數(shù)據(jù)包(一個MTU)再發(fā)送出去.

當(dāng)然若一定時間后(一般為200ms),內(nèi)核仍然沒有積累到一個MTU的量時,也必須發(fā)送現(xiàn)有的數(shù)據(jù),否則會一直阻塞。

tcp_nodelay、tcp_nopush兩個參數(shù)是“互斥”的,如果追求響應(yīng)速度的應(yīng)用推薦開啟tcp_nodelay參數(shù),如IM、金融等類型的項目。如果追求吞吐量的應(yīng)用則建議開啟tcp_nopush參數(shù),如調(diào)度系統(tǒng)、報表系統(tǒng)等。

注意:①tcp_nodelay一般要建立在開啟了長連接模式的情況下使用。②tcp_nopush參數(shù)是必須要開啟sendfile參數(shù)才可使用的。

優(yōu)化四、調(diào)整Worker工作進(jìn)程

Nginx啟動后默認(rèn)只會開啟一個Worker工作進(jìn)程處理客戶端請求,而我們可以根據(jù)機(jī)器的CPU核數(shù)開啟對應(yīng)數(shù)量的工作進(jìn)程,以此來提升整體的并發(fā)量支持,如下:

#自動根據(jù)CPU核心數(shù)調(diào)整Worker進(jìn)程數(shù)量
worker_processesauto;

工作進(jìn)程的數(shù)量最高開到8個就OK了,8個之后就不會有再大的性能提升。

同時也可以稍微調(diào)整一下每個工作進(jìn)程能夠打開的文件句柄數(shù):

#每個Worker能打開的文件描述符,最少調(diào)整至1W以上,負(fù)荷較高建議2-3W
worker_rlimit_nofile20000;

操作系統(tǒng)內(nèi)核(kernel)都是利用文件描述符來訪問文件,無論是打開、新建、讀取、寫入文件時,都需要使用文件描述符來指定待操作的文件,因此該值越大,代表一個進(jìn)程能夠操作的文件越多(但不能超出內(nèi)核限制,最多建議3.8W左右為上限)。

優(yōu)化五、開啟CPU親和機(jī)制

對于并發(fā)編程較為熟悉的伙伴都知道,因為進(jìn)程/線程數(shù)往往都會遠(yuǎn)超出系統(tǒng)CPU的核心數(shù),因為操作系統(tǒng)執(zhí)行的原理本質(zhì)上是采用時間片切換機(jī)制,也就是一個CPU核心會在多個進(jìn)程之間不斷頻繁切換,造成很大的性能損耗。

而CPU親和機(jī)制則是指將每個Nginx的工作進(jìn)程,綁定在固定的CPU核心上,從而減小CPU切換帶來的時間開銷和資源損耗,開啟方式如下:

worker_cpu_affinityauto;

優(yōu)化六、開啟epoll模型及調(diào)整并發(fā)連接數(shù)

在最開始就提到過:Nginx、Redis都是基于多路復(fù)用模型去實現(xiàn)的程序,但最初版的多路復(fù)用模型select/poll最大只能監(jiān)聽1024個連接,而epoll則屬于select/poll接口的增強(qiáng)版,因此采用該模型能夠大程度上提升單個Worker的性能,如下:

events{
#使用epoll網(wǎng)絡(luò)模型
useepoll;
#調(diào)整每個Worker能夠處理的連接數(shù)上限
worker_connections10240;
}

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴

原文標(biāo)題:一文搞定Nginx的壓縮、黑白名單、防盜鏈、零拷貝、跨域、雙機(jī)熱備等知識

文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    射極耦合邏輯(ECL)基礎(chǔ)知識詳解

    本帖最后由 gk320830 于 2015-3-9 21:49 編輯 射極耦合邏輯(ECL)基礎(chǔ)知識詳解ECL(Emitter Coupled Logic),中文譯名“射極耦合邏輯”,是一種
    發(fā)表于 08-07 11:48

    阻抗匹配基礎(chǔ)知識詳解 簡直新手的好老師超級詳細(xì)

    阻抗匹配基礎(chǔ)知識詳解簡直新手的好老師超級詳細(xì)
    發(fā)表于 04-08 13:48

    【轉(zhuǎn)】變壓器基礎(chǔ)知識_制作流程_詳解

    變壓器基礎(chǔ)知識_制作流程_詳解
    發(fā)表于 08-05 21:35

    詳解219 nginx

    219 nginx的詳細(xì)介紹
    發(fā)表于 04-15 11:26

    PLC入門必看基礎(chǔ)知識

    PLC基礎(chǔ)知識(PLC入門必看)與C語言有什么關(guān)系_plc可以用c語言編程嗎_plc的C語言編程詳解
    發(fā)表于 09-09 08:39

    電子元器件基礎(chǔ)知識詳解

    電子元器件基礎(chǔ)知識詳解
    發(fā)表于 10-08 20:13 ?371次下載

    安防技術(shù)基礎(chǔ)知識名詞詳解大全

    安防技術(shù)基礎(chǔ)知識名詞詳解大全 垂直同步、彩色視頻復(fù)合信號同步、外同步、直流線鎖定和完
    發(fā)表于 12-29 12:19 ?809次閱讀

    linux /Android 基礎(chǔ)知識總結(jié)大全

    本文檔介紹了linux /Android 基礎(chǔ)知識總結(jié)大全,包含了源代碼以及詳解,供網(wǎng)友參考。
    發(fā)表于 09-11 17:46 ?7次下載

    電源管理基礎(chǔ)知識電源管理基礎(chǔ)知識電源管理基礎(chǔ)知識

    電源管理基礎(chǔ)知識電源管理基礎(chǔ)知識電源管理基礎(chǔ)知識
    發(fā)表于 09-15 14:36 ?76次下載
    電源管理<b class='flag-5'>基礎(chǔ)知識</b>電源管理<b class='flag-5'>基礎(chǔ)知識</b>電源管理<b class='flag-5'>基礎(chǔ)知識</b>

    FreeRTOS基礎(chǔ)知識詳解pdf下載

    FreeRTOS基礎(chǔ)知識詳解
    發(fā)表于 03-29 14:36 ?45次下載

    機(jī)器視覺基礎(chǔ)知識詳解模板

    機(jī)器視覺基礎(chǔ)知識詳解模板下載。
    發(fā)表于 05-28 14:48 ?13次下載

    變壓器(Transformer)基礎(chǔ)知識詳解

    變壓器(Transformer)基礎(chǔ)知識點免費下載。
    發(fā)表于 06-23 11:47 ?54次下載

    詳解射頻微波基礎(chǔ)知識

    詳解射頻微波基礎(chǔ)知識
    的頭像 發(fā)表于 01-29 10:28 ?2313次閱讀

    多倍頻程放大器的基礎(chǔ)知識

    當(dāng)涉及多倍頻程放大器時,以下是一些基礎(chǔ)知識詳解
    的頭像 發(fā)表于 06-15 09:58 ?750次閱讀

    無功補(bǔ)償原理基礎(chǔ)知識詳解

    無功補(bǔ)償原理基礎(chǔ)知識詳解
    的頭像 發(fā)表于 08-11 09:48 ?822次閱讀
    無功補(bǔ)償原理<b class='flag-5'>基礎(chǔ)知識</b><b class='flag-5'>詳解</b>