精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

為什么使用top命令時,Redis還是占了很多內存?

馬哥Linux運維 ? 來源:馬哥Linux運維 ? 2023-12-01 09:25 ? 次閱讀

Redis做了數據刪除操作,為什么使用top命令時,Redis還是占了很多內存?

沒做相關功課的人覺得這個問題有問題,刪了數據還說占著內存,面試官不是在誤導我嗎,事實并非如此!

這里先說答案

實際上,這是因為,當數據刪除后,Redis 釋放的內存空間會由內存分配器管理,并不會立即返回給操作系統。所以,操作系統仍然會記錄著給 Redis 分配了大量內存。

而 used_memory_rss 記錄著在操作系統角度,Redis進程占用的物理總內存

這樣看來文章好像講完了,開頭就知道答案,當然不是,內容多著呢~

文章將從下面這些點分析擴展你對于Redis內存方面的知識點,以及內存碎片和如何清理內存碎片。

畢竟面試官問你一個問題,你選擇只回答一句和面試官掰扯掰扯兩種方式,那么第二種情況更會讓他覺得你厲害爆了,懂得真多!

Redis內存消耗組成

Redis內存消耗主要在于其主進程消耗和子進程消耗。而主進程消耗又主要包括自身內存、對象內存、緩沖區內存、內存碎片四個方面:

3ba8301e-8f7b-11ee-939d-92fbcf53809c.jpg

自身進程占用內存

Redis進程自身所占用的內存,這部分內存通常很小,一個空的Redis進程所消耗的內存幾乎可以忽略不計

數據對象內存

對象占用的內存是Redis中占用內存最大的,這里存儲這我們的鍵值對,我們知道不同的數據類型占用的內存空間大小也不同,特別是那種大key占用內存的情況就更驚人了。

緩沖區

Redis主要有三大緩沖區:客戶端緩沖區、AOF緩沖區、復制緩存區

3bbbf0fe-8f7b-11ee-939d-92fbcf53809c.jpg

客戶端緩沖區:為了解決客戶端和服務端請求和處理速度不匹配問題(即CPU 與 I/O 設備速度不匹配的矛盾),分為輸入和輸出緩沖區。

輸入緩沖區會先把客戶端發送過來的命令暫存起來,Redis 主線程再從輸入緩沖區中讀取命令,進行處理。當在處理完數據后,會把結果寫入到輸出緩沖區,再通過輸出緩沖區返回給客戶端。

AOF緩沖區:在進行AOF持久化時所用到的緩沖區,AOF緩沖區消耗的內存取決于AOF重寫時間和寫入命令量, 分為AOF緩沖區和AOF重寫緩沖區

復制緩沖區:是在集群環境中為了保證主從節點數據同步的所設置的,由于主從節點間的數據復制包括全量復制和增量復制兩種。因此復制緩沖區也分為復制緩沖區和復制積壓緩沖區兩種,分別用于全量和增量同步

內存碎片

內存碎片主要是有兩個原因:操作系統的內存分配機制、Redis存儲特性,這兩個原因我們在文章中會具體提到。

子進程消耗

子進程消耗是指在RDB、AOF重寫時fork()子進程的內存消耗

有人說這不是用到了寫時復制技術嗎?

雖然子進程可以不用完全復制父進程的物理內存,但是仍然需要復制其內存頁表,在此期間如果有寫入操作則需要復制出一份副本出來,因此同樣會消耗一部分內存,消耗的內存兩取決于RDB和AOF重寫期間的寫入命令數量。

查看內存指標

查看當前Redis相關內存信息用 info memory 命令,如果是集群使用 cluster info命令


127.0.0.1:6379> info memory


used_memory:856472  // Redis 存儲數據占用的內存量
used_memory_human:836.40K  // 人類可讀形式返回內存總量
used_memory_rss:1282048  // 操作系統角度,進程占用的物理總內存
used_memory_rss_human:1.22M // used_memory_rss 可讀性模式展示
used_memory_peak:857448 // 內存使用的最大值,表示 used_memory 的峰值
used_memory_peak_human:837.35K  // 以可讀的格式返回 used_memory_peak的值
used_memory_lua:37888   // Lua 引擎所消耗的內存大小。
used_memory_lua_human:37.00K
maxmemory:2147483648    // 能使用的最大內存值,字節為單位。
maxmemory_human:2.00G  // 可讀形式
maxmemory_policy:noeviction // 內存淘汰策略


// used_memory_rss / used_memory 的比值,代表內存碎片率
mem_fragmentation_ratio:2.79

used_memory_rss:操作系統分配給 Redis 進程的內存空間(包含內存碎片占用的空間),此數據結果約等于top、ps命令看到的數據結果,是從操作系統層看到的數據

maxmemory:Redis 最大可用內存,0表示不限制,我們一般會設置這個值,避免所有內存超過物理內存

內存為何沒釋放

Redis 釋放的內存空間會由內存分配器管理,并不會立即返回給操作系統,是因為采用了一種稱為“惰性刪除”的機制,即在數據被刪除之后,并不會立即釋放內存空間,而是等到有新數據需要使用該空間時才會釋放。

這種方式的好處是可以減少內存分配和釋放的開銷,提高 Redis 的性能。

但是Redis釋放內存空間可能不是連續的,可能導致空間閑置(也就是出現內存碎片),而內存碎片過大會導致明明有空間可用,但是卻無法存儲數據!

ok!我們繼續看看什么是內存碎片

內存碎片

前面我們已經了解了Redis占用內存的組成以及如何查看內存占用信息,接下來看什么是內存碎片和導致出現內存碎片的原因。

Redis使用多種內存分配策略,例如 jemalloc 和 libc,這些分配器無法做到按需分配,通常會按照固定大小進行分配。例如,如果Redis申請6字節的內存,操作系統會分配8字節的內存給Redis使用,剩下的2個字節空間無法被使用就是內存碎片。

但這種分配方式也有優勢,可以減少向操作系統申請空間分配。

導致Redis產生內存碎片主要由以下兩點:

內存分配機制導致

數據修改引發空間擴容和釋放

內存分配機制導致

操作系統的架構和 Redis jemalloc 分配策略無法做到按需分配,而是應用程序申請內存大小必須是一塊連續的內存地址空間。

這種連續是按固定大小來分配的,比如:8字節、16 字節、32 字節、64 字節 ... 這種方式會在程序申請內存接近某個值的時候,jemalloc就會給它分配響應大小的內存空間。

3bd7147e-8f7b-11ee-939d-92fbcf53809c.jpg

上圖中:

第一次存儲數據是需要6字節,而Redis內存分配策略給你分配了8字節,空出2個字節的空間。

第二次存儲數據是需要4個字節,但是空出的2個字節無法保存4字節數據,所以會再次向系統申請8字節內存空間,空出了4字節,兩次存儲數據就多出來6個字節的內存碎片。

這也就是內存分配機制導致的形成碎片的風險和原因。

數據修改引發空間擴容和釋放

這個原因應該更好理解吧,若修改數據時占用的空間有變化,此時就需要擴容或者縮容;而刪除數據也會將內存釋放出來,形成碎片。

如下圖:

3be8487a-8f7b-11ee-939d-92fbcf53809c.jpg

各數據占用內存字節空間分別是A:2、B:1、C:3、D:3

此時D釋放了一個字節空間

A修改了數據,增加了一個字節。為保證A的內存空間連續性,B的數據拷貝到了第二階段D釋放出來的那個字節位置

C修改后刪除了2個字節空間

可以看出經過一系列對數據的修改,C和D之間有2字段內存空間,此時多出來2字節空間就是內存碎片。

處理內存碎片

如何在進行處理內存碎片,那么以什么為參考呢?

前面說的 info memory命令,如果指標值 mem_fragmentation_ratio (內存碎片率)的值,在 1 < 碎片率 < 1.5,可以認為是合理的,而大于 1.5 說明碎片已經超過 50%,我們需要采取一些手段解決碎片率過大的問題。

有下面三種方式可處理 :

3c076200-8f7b-11ee-939d-92fbcf53809c.jpg

重啟Redis實例

重啟Redis屬于直接當時粗暴的方式,在重啟之前要考慮兩點:

若Redis的數據沒有持久化,數據會丟失

即使做了持久化,重啟需要通過AOF或RDB恢復數據,恢復時間取決于日志的大小,如果恢復時間長,這個階段實例就不能提供服務了

這種方式還是要慎重!

memory purge手動碎片整理

手動整理內存碎片,會阻塞主進程,生產環境慎用。

memory purge 和 activedefrag回收的并不是同一塊區域的內存,它簡單粗暴的嘗試清除臟頁以便內存分配器回收。可以根據實際情況和activedefrag配合使用,memory purge在極端情況下效果較好,activedefrag則更徹底。

開啟activedefrag自動碎片整理

在Redis 4.0 版本后新增配置項activedefrag,activedefrag默認關閉,計劃清理碎片時需手動開啟,命令如下:


127.0.0.1:6379> config set activedefrag yes

自動整理內存碎片,其原理是通過scan迭代整個Redis數據,通過一系列的內存復制、轉移操作完成內存碎片整理,由于此操作使用的是主線程,故會影響Redis對其他請求的響應。
3c1ef55a-8f7b-11ee-939d-92fbcf53809c.jpg

如上圖碎片整理過程:

清理前,C和D之間多了2字節的內存碎片

清理過程:將B和D的數據分別拷貝到C和D之間的閑置空間,這樣2個字節的閑置空間就形成了連續空間。當新應用要申請小于3個字節的空間時,這個閑置空間就能利用起來了

清理的條件

active-defrag-ignore-bytes 200mb:內存碎片占用的內存達到 200MB,開始清理;

active-defrag-threshold-lower 20:內存碎片的空間占比超過系統分配給 Redis 空間的 20% ,開始清理





審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 緩沖器
    +關注

    關注

    6

    文章

    1917

    瀏覽量

    45450
  • Redis
    +關注

    關注

    0

    文章

    371

    瀏覽量

    10846

原文標題:Redis刪除數據后,為什么內存占用率還是很高?

文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    redis命令總結

    redis常見命令
    發表于 06-03 12:36

    走近源碼之Redis如何執行命令

    走近源碼:Redis如何執行命令
    發表于 06-09 16:31

    linux redis基礎命令總結

    linux redis日常工作命令總結供大家參考
    發表于 11-25 18:21 ?1437次閱讀

    通過講述Redis的數據結構和主要命令Redis的基本能力進行直觀介紹

    本文將從Redis的基本特性入手,通過講述Redis的數據結構和主要命令Redis的基本能力進行直觀介紹。之后在性能調優等方面進行更深入的介紹和指導。
    的頭像 發表于 01-25 15:41 ?3943次閱讀

    redis常用命令總結

    本文是對redis常用命令總結。
    發表于 02-09 11:25 ?1594次閱讀

    你會使用top命令了解 Fedora 的內存使用情況

    如果你使用過 top 命令來查看 Fedora 系統中的內存使用情況,你可能會驚訝,看起來消耗的數量比系統可用的內存更多。
    發表于 04-22 17:49 ?1133次閱讀

    linux的top命令詳解

    top命令是UNIX/Linux系統中,用于查看系統詳情的第一入口,一般我們查看機器運行狀態的時候,總是第一個使用top命令,而實際上top
    發表于 07-13 11:24 ?3515次閱讀
    linux的<b class='flag-5'>top</b><b class='flag-5'>命令</b>詳解

    Redis服務器的內存耗盡后,Redis會如何處理呢?

    作為一臺服務器來說,內存并不是無限的,所以總會存在內存耗盡的情況,那么當 Redis 服務器的內存耗盡后,如果繼續執行請求命令
    的頭像 發表于 03-08 09:26 ?550次閱讀

    linux中top命令詳解

    參數的含義,并深入分析各種情況下的實際應用。 命令格式和基本用法: top命令的基本格式為: top [參數] 下面是一些常用的參數: b:以批處理模式運行
    的頭像 發表于 11-17 10:25 ?2025次閱讀

    top命令如何進入選項

    top命令是一個常用的Linux系統性能監控工具,可以實時地監視系統的整體運行情況。通過使用top命令,我們可以查看系統的負載情況、進程的CPU和
    的頭像 發表于 11-17 10:27 ?1369次閱讀

    redis集群狀態查看命令

    Redis集群是一種高可用性的分布式架構,可以通過多個節點實現數據的復制和負載均衡。為了維護集群的穩定性和可靠性,管理員需要監控和查看集群的狀態。下面是詳細介紹Redis集群狀態查看命令
    的頭像 發表于 12-04 10:44 ?1239次閱讀

    redis查看集群狀態命令

    Redis 是一個開源的、內存中的數據結構存儲系統,提供了一系列命令來管理和操作數據。在 Redis 中,集群是一個由多個 Redis 實例
    的頭像 發表于 12-04 11:39 ?1020次閱讀

    redis查看主從節點命令

    Redis是一種開源的內存數據結構存儲系統,常被用作數據庫、緩存和消息中間件。在Redis中,可以通過一些命令來查看主從節點的信息,以便進行監控和管理。
    的頭像 發表于 12-04 11:44 ?1238次閱讀

    redis容器內怎么查看redis日志

    redis是一款流行的開源內存數據庫,常用于緩存、消息隊列、任務管理等場景。在使用redis時,了解如何查看redis日志對于排查問題、監控性能和分析應用程序行為非常重要。在本文中,我
    的頭像 發表于 12-05 10:10 ?3487次閱讀

    redis使用多線程處理操作命令

    Redis 是一個使用多線程處理操作命令的開源內存數據庫系統。它以其高性能、可擴展性和靈活性而聞名,通常被用作緩存、消息代理和數據存儲等各種應用場景。在本文中,我們將詳盡、詳實、細致地探
    的頭像 發表于 12-05 10:25 ?545次閱讀