在本文中，我將把幾個常用的監控部分給梳理一下。前面我們提到過，在性能監控圖譜中，有操作系統、應用服務器、中間件、隊列、緩存、數據庫、網絡、前端、負載均衡、Web 服務器、存儲、代碼等很多需要監控的點。顯然這些監控點不能在一個專欄中全部覆蓋并一一細化，我只能找最常用的幾個，做些邏輯思路的說明，同時也把具體的實現描述出來。如果你遇到了其他的組件，也需要一一實現這些監控。

在本篇中，主要想說明白下圖的這個監控邏輯。

這應該是現在最流行的一套監控邏輯了吧。我今天把常見的使用 Grafana、Prometheus、InfluxDB、Exporters 的數據展示方式說一下，如果你剛進入性能測試領域，也能有一個感性的認識。

有測試工具，有監控工具，才能做后續的性能分析和瓶頸定位，所以有必要把這些工具的邏輯跟你擺一擺。

所有做性能的人都應該知道一點，不管數據以什么樣的形式展示，最要緊的還是看數據的來源和含義，以便做出正確的判斷。

我先說明一下 JMeter 和 node_exporter 到 Grafana 的數據展示邏輯。至于其他的 Exporter，我就不再解釋這個邏輯了，只說監控分析的部分。

JMeter + InfluxDB + Grafana 的數據展示邏輯

一般情況下，我們用 JMeter 做壓力測試時，都是使用 JMeter 的控制臺來查看結果。如下圖所示：

或者裝個插件來看結果：

或者用 JMeter 來生成 HTML：

這樣看都沒有問題，我們在前面也強調過，對于壓力工具來說，我們最多只關心三條曲線的數據：TPS（T 由測試目標定義）、響應時間、錯誤率。這里的錯誤率還只是輔助排查問題的曲線，沒有問題時，只看 TPS 和響應時間即可。不過采取以上三種方式有幾個方面的問題。

整理結果時比較浪費時間。

在 GUI 用插件看曲線，做高并發時并不現實。

在場景運行時間比較長的時候，采用生成 HTML 的方式，會出現消耗內存過大的情況，而實際上，在生成的結果圖中，有很多生成的圖我們并不是那么關注。

生成的結果保存之后再查看比較麻煩，還要一個個去找。

那么如何解決這幾個問題呢？

用 JMeter 的 Backend Listener 幫我們實時發送數據到 InfluxDB 或 Graphite 可以解決這樣的問題。

Graphite Backend Listener 的支持是在 JMeter 2.13 版本，InfluxdDB Backend Listener 的支持是在 JMeter 3.3 的版本，它們都是用異步的方式把數據發送出來，以便查看。

其實有這個 JMeter 發送給 InfluxDB 的數據之后，我們不需要看上面的那些 HTML 數據，也可以直觀地看到系統性能的性能趨勢。

并且這樣保存下來的數據，在測試結束后想再次查看也比較方便比對。

JMeter + InfluxDB + Grafana 的結構如下：

在這個結構中，JMeter 發送壓力到服務器的同時，統計下 TPS、響應時間、線程數、錯誤率等信息。默認每 30 秒在控制臺輸出一次結果（在 jmeter.properties 中有一個參數 #summariser.interval=30 可以控制）。

配置了 Backend Listener 之后，將統計出的結果異步發送到 InfluxDB 中。最后在 Grafana 中配置 InfluxDB 數據源和 JMeter 顯示模板。

然后就可以實時查看 JMeter 的測試結果了，這里看到的數據和控制臺的數據是一樣。

但如果這么簡單就說完了，這篇文章也就沒價值了。下面我們來說一下，數據的傳輸和展示邏輯。

JMeter 中 Backend Listener 的配置

下面我們就 InfluxDB 的 Backend Listener 做個說明。它的配置比較簡單，在腳本中加上即可。

我們先配置好 InfluxDB URL、Application 等信息，Application 這個配置可以看成是場景名。

那么 JMeter 如何將數據發給 InfluxDB 呢？請看源碼中的關鍵代碼，如下所示：

privatevoidaddMetrics(Stringtransaction,SamplerMetricmetric){ //FORALLSTATUS addMetric(transaction,metric.getTotal(),metric.getSentBytes(),metric.getReceivedBytes(),TAG_ALL,metric.getAllMean(),metric.getAllMinTime(), metric.getAllMaxTime(),allPercentiles.values(),metric::getAllPercentile); //FOROKSTATUS addMetric(transaction,metric.getSuccesses(),null,null,TAG_OK,metric.getOkMean(),metric.getOkMinTime(), metric.getOkMaxTime(),okPercentiles.values(),metric::getOkPercentile); //FORKOSTATUS addMetric(transaction,metric.getFailures(),null,null,TAG_KO,metric.getKoMean(),metric.getKoMinTime(), metric.getKoMaxTime(),koPercentiles.values(),metric::getKoPercentile); metric.getErrors().forEach((error,count)->addErrorMetric(transaction,error.getResponseCode(), error.getResponseMessage(),count)); }

從這段代碼可以看出，站在全局統計的視角來看，這里把 JMeter 運行的統計結果，比如事務的 Total 請求、發送接收字節、平均值、最大值、最小值等，都加到 metric 中，同時也會把成功和失敗的事務信息添加到 metric 中去。 在源碼中，還有更多的添加 metric 的步驟，你有興趣的話，也可以看一下 JMeter 源碼中的InfluxdbBackendListenerClient.java。 保存了 metric 之后，再使用 InfluxdbMetricsSender 發送到 InfluxDB 中去。發送關鍵代碼如下：

@OverridepublicvoidwriteAndSendMetrics(){ ........if(!copyMetrics.isEmpty()){try{if(httpRequest==null){ httpRequest=createRequest(url); } StringBuildersb=newStringBuilder(copyMetrics.size()*35);for(MetricTuplemetric:copyMetrics){//AddTimeStampinnanosecondfromepoch(defaultinInfluxDB) sb.append(metric.measurement) .append(metric.tag) .append("")//$NON-NLS-1$ .append(metric.field) .append("") .append(metric.timestamp+"000000") .append(" ");//$NON-NLS-1$ } StringEntityentity=newStringEntity(sb.toString(),StandardCharsets.UTF_8); httpRequest.setEntity(entity); lastRequest=httpClient.execute(httpRequest,newFutureCallback(){ @Overridepublicvoidcompleted(finalHttpResponseresponse){intcode=response.getStatusLine().getStatusCode();/**HTTPresponsesummary2xx:Ifyourwriterequestreceived *HTTP204NoContent,itwasasuccess!4xx:InfluxDB *couldnotunderstandtherequest.5xx:Thesystemis *overloadedorsignificantlyimpaired.*/ if(MetricUtils.isSuccessCode(code)){if(log.isDebugEnabled()){ log.debug("Success,numberofmetricswritten:{}",copyMetrics.size()); } }else{ log.error("ErrorwritingmetricstoinfluxDBUrl:{},responseCode:{},responseBody:{}",url,code,getBody(response)); } } @Overridepublicvoidfailed(finalExceptionex){ log.error("failedtosenddatatoinfluxDBserver:{}",ex.getMessage()); } @Overridepublicvoidcancelled(){ log.warn("RequesttoinfluxDBserverwascancelled"); } }); ........ } } }

通過 writeAndSendMetrics，就將所有保存的 metrics 都發給了 InfluxDB。

InfluxDB 中的存儲結構

然后我們再來看下 InfluxDB 中如何存儲：

>showdatabases name:databases name ---- _internal jmeter >usejmeter Usingdatabasejmeter > >showMEASUREMENTS name:measurements name ---- events jmeter >select*fromeventswhereapplication='7ddemo' name:events timeapplicationtexttitle ------------------------ 15752554628060000007ddemoTestCycle1startedApacheJMeter 15752564638200000007ddemoTestCycle1endedApacheJMeter .............. n>select*fromjmeterwhereapplication='7ddemo'limit10 name:jmeter timeapplicationavgcountcountErrorendedThitmaxmaxATmeanATminminATpct90.0pct95.0pct99.0rbresponseCoderesponseMessagesbstartedTstatuttransaction --------------------------------------------------------------------------------------------------------------------------------------------- 15752554628210000007ddemo00000internal 15752554678180000007ddemo232.8235294117647217017849122384.999999999999684984900allall 15752554678240000007ddemo232.8235294117647217849122384.999999999999684984900all0_openIndexPage 15752554678260000007ddemo232.8235294117647217849122384.9999999999996849849ok0_openIndexPage 15752554678290000007ddemo01111internal 15752554728110000007ddemo205.441860465116326026849122252.6271.484900allall 15752554728120000007ddemo01111internal 15752554728120000007ddemo205.441860465116326849122252.6271.4849ok0_openIndexPage 15752554728120000007ddemo205.441860465116326849122252.6271.484900all0_openIndexPage 15752554778110000007ddemo198.214285714285727027849117263.79999999999995292.350000000000184900allall 這段代碼也就是說，在 InfluxDB 中，創建了兩個 MEASUREMENTS，分別是 events 和 jmeter。這兩個各自存了數據，我們在界面中配置的 testtile 和 eventTags 放在了 events 這個 MEASUREMENTS 中。在模板中這兩個值暫時都是不用的。 在 JMeter 這個 MEASUREMENTS 中，我們可以看到 application 和事務的統計信息，這些值和控制臺一致。在 Grafana 中顯示的時候，就是從這個表中取出的數據，根據時序做的曲線。

Grafana 中的配置

有了 JMeter 發送到 InfluxDB 中的數據，下面就來配置一下 Grafana 中的展示。首先，要配置一個 InfluxDB 數據源。如下所示

在這里配置好 URL、Database、User、Password 之后，直接點擊保存即可。 然后添加一個 JMeter Dashboard，我們常用的 Dashboard 是 Grafana 官方 ID 為 5496 的模板。導入進來后，選擇好對應的數據源。

然后就看到界面了。

這時還沒有數據，我們稍后做個示例，看下 JMeter 中的數據怎么和這個界面的數據對應起來。我們先看下圖中兩個重要的數據查詢語句吧。TPS 曲線

SELECTlast("count")/$send_intervalFROM"$measurement_name"WHERE("transaction"=~/^$transaction$/AND"statut"='ok')AND$timeFilterGROUPBYtime($__interval)

上面這個就是 Total TPS 了，在這里稱為 throughput。 關于這個概念，我在第一篇中就已經有了說明，這里再次提醒，概念的使用在團隊中要有統一的認識，不要受行業內一些傳統信息的誤導。 這里取的數據來自 MEASUREMENTS 中成功狀態的所有事務。 響應時間曲線：

SELECTmean("pct95.0")FROM"$measurement_name"WHERE("application"=~/^$application$/)AND$timeFilterGROUPBY"transaction",time($__interval)fill(null)

這里是用 95 pct 內的響應時間畫出來的曲線。

整體展示出來的效果如下：

數據比對

首先，我們在 JMeter 中配置一個簡單的場景。10 個線程，每個線程迭代 10 次，以及兩個 HTTP 請求。

也就是說，這時會產生 10x10x2=200 次請求。我們用 JMeter 跑起來看一下。

看到了吧，這個請求數和我們預想的一樣。下面我們看一下 Grafana 中展示出來的結果。

還有針對每個事務的統計情況。

至此，JMeter 到 Grafana 的展示過程就完成了。以后我們就不用再保存 JMeter 的執行結果了，也不用等著 JMeter 輸出 HTML 了。

node_exporter + Prometheus + Grafana 的數據展示邏輯

對性能測試來說，在常用的 Grafana + Prometheus + Exporter 的邏輯中，第一步要看的就是操作系統資源了。所以在這一篇中，我們將以 node_exporter 為例來說明一下操作系統抽取數據的邏輯，以便知道監控數據的來源，至于數據的含義，我們將在后續的文章中繼續描述。

首先，我們還是要畫一個圖。

現在 node_exporter 可以支持很多個操作系統了。官方列表如下：

當然不是說只支持這些，你也可以擴展自己的 Exporter。

配置 node_exporter

node_exporter 目錄如下：

[root@7dgroup2node_exporter-0.18.1.linux-amd64]#ll total16524 -rw-r--r--13434343411357Jun500:50LICENSE -rwxr-xr-x13434343416878582Jun500:41node_exporter -rw-r--r--134343434463Jun500:50NOTICE}

啟動：

[root@7dgroup2node_exporter-0.18.1.linux-amd64]#./node_exporter--web.listen-address=:9200&

是不是很簡潔？如果想看更多的功能 ，可以查看下它的幫助。 配置 Prometheus 先下載 Prometheus：

[root@7dgroup2data]#wget-chttps://github.com/prometheus/prometheus/releases/download/v2.14.0/prometheus-2.14.0.linux-amd64.tar.gz .......... 100%[=============================================================================================>]58,625,125465KB/sin6m4s 2019-11-291516(157KB/s)-‘prometheus-2.14.0.linux-amd64.tar.gz’saved[58625125/58625125] [root@7dgroup2data]

解壓之后，我們可以看到目錄結構如下：

[root@7dgroup2prometheus-2.11.1.linux-amd64]#ll total120288 drwxr-xr-x.2343434344096Jul1023:26console_libraries drwxr-xr-x.2343434344096Jul1023:26consoles drwxr-xr-x.3rootroot4096Nov3012:55data -rw-r--r--.13434343411357Jul1023:26LICENSE -rw-r--r--.1rootroot35Aug723:19node.yml -rw-r--r--.1343434342770Jul1023:26NOTICE -rwxr-xr-x.13434343476328852Jul1021:53prometheus -rw-r--r--1343434341864Sep2109:36prometheus.yml -rwxr-xr-x.13434343446672881Jul1021:54promtool [root@7dgroup2prometheus-2.11.1.linux-amd64]#

在prometheus.yml中添加如下配置，以取數據：

-job_name:'s1' static_configs: -targets:['172.17.211.143:9200']

啟動：

[root@7dgroup2data]#./prometheus--config.file=prometheus.yml&

這樣就行了嗎？當然不是。根據上面的流程圖，我們還需要配置 Grafana。 配置 Grafana 首先配置一個數據源，非常簡單。如下所示：

再配置一個 node_exporter 的模板，比如我這里選擇了官方模板（ID：11074），展示如下：

數據邏輯說明 說明完上面的過程之后，對我們做性能測試和分析的人來說，最重要的，就是要知道數據的來源和含義了。 拿上面圖中的 CPU 使用率來說吧（因為 CPU 使用率是非常重要的一個計數器，所以我們今天先拿它來開刀）。 我們先點一下 title 上的 edit，看一下它的 query 語句。

avg(irate(node_cpu_seconds_total{instance=~"$node",mode="system"}[30m]))by(instance)avg(irate(node_cpu_seconds_total{instance=~"$node",mode="user"}[30m]))by(instance)avg(irate(node_cpu_seconds_total{instance=~"$node",mode="iowait"}[30m]))by(instance)1-avg(irate(node_cpu_seconds_total{instance=~"$node",mode="idle"}[30m]))by(instance)

這些都是從 Prometheus 中取出來的數據，查詢語句讀了 Prometheus 中node_cpu_seconds_total的不同的模塊數據。 下面我們來看一下，node_exporter暴露出來的計數器。

這些值和 top 一樣，都來自于/proc/目錄。下面這張圖是 top 數據，我們可以比對一下。

到此，我們就了解到了操作系統中監控數據的取值邏輯了，也就是從操作系統本身的計數器中取出值來，然后傳給 Prometheus，再由 Grafana 中的 query 語句查出相應的數據，最后由 Grafana 展示在界面上。

總結

為什么要解釋數據的邏輯呢？因為最近在工作中遇到一些情況，有人覺得有了 Prometheus + Grafana + Exportor 這樣的組合工具之后，基本上都不再用手工執行什么命令了。但我們要了解的是，對于監控平臺來說，它取的所有的數據必然是被監控者可以提供的數據，像 node_exporter 這樣小巧的監控收集器，它可以獲取的監控數據，并不是整個系統全部的性能數據，只是取到了常見的計數器而已。這些計數器不管是用命令查看，還是用這樣炫酷的工具查看，它的值本身都不會變。所以不管是在監控平臺上看到的數據，還是在命令行中看到的數據，我們最重要的是要知道含義以及這些值的變化對性能測試和分析的下一步驟的影響。

原文鏈接：https://www.cnblogs.com/siguadd/p/14878035.html