精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

世上最好的共享內存(Linux共享內存最透徹的一篇)上集

Linux閱碼場 ? 來源:Linuxer ? 2019-11-29 14:29 ? 次閱讀

共享單車、共享充電寶、共享雨傘,世間的共享有千萬種,而我獨愛共享內存。

早期的共享內存,著重于強調把同一片內存,map到多個進程的虛擬地址空間(在相應進程找到一個VMA區域),以便于CPU可以在各個進程訪問到這片內存。

現階段廣泛應用于多媒體、Graphics領域的共享內存方式,某種意義上不再強調映射到進程虛擬地址空間的概念(那無非是為了讓CPU訪問),而更強調以某種“句柄”的形式,讓大家知道某一片視頻、圖形圖像數據的存在并可以借助此“句柄”來跨進程引用這片內存,讓視頻encoder、decoder、GPU等可以跨進程訪問內存。所以不同進程用的加速硬件其實是不同的,他們更在乎的是可以通過一個handle拿到這片內存,而不再特別在乎CPU訪問它的虛擬地址(當然仍然可以映射到進程的虛擬地址空間供CPU訪問)。

只要內存的拷貝(memcpy)仍然是一個占據內存帶寬、CPU利用率的消耗大戶存在,共享內存作為Linux進程間通信、計算機系統里各個不同硬件組件通信的最高效方法,都將持續繁榮。關于內存拷貝會大多程度地占據CPU利用率,這個可以最簡單地嘗試拷貝1080P,幀率每秒60的電影畫面,我保證你的系統的CPU,蛋會疼地不行。

我早就想系統地寫一篇綜述Linux里面各種共享內存方式的文章了,但是一直被帶娃這個事業牽絆,今日我決定頂著娃娃們的山呼海嘯,也要寫一篇文章不吐不快。

共享內存的方式有很多種,目前主流的方式仍然有:

共享內存的方式

1.基于傳統SYS V的共享內存;

2.基于POSIXmmap文件映射實現共享內存;

3.通過memfd_create()和fd跨進程共享實現共享內存;

4.多媒體、圖形領域廣泛使用的基于dma-buf的共享內存。

共享內存

SYS V共享內存

歷史悠久、年代久遠、API怪異,對應內核代碼linux/ipc/shm.c,當你編譯內核的時候不選擇CONFIG_SYSVIPC,則不再具備此能力。

你在Linux敲ipcs命令看到的share memory就是這種共享內存:

下面寫一個最簡單的程序來看共享內存的寫端sw.c:

以及共享內存的讀端sr.c:

編譯和準備運行:

在此之前我們看一下系統的free:

下面運行sw和sr:

我們發現sr打印出來的和sw寫進去的是一致的。這個時候我們再看下free:

可以看到used顯著增大了(711632 -> 715908), shared顯著地增大了(2264-> 6360),而cached這一列也顯著地增大326604->330716。

我們都知道cached這一列統計的是file-backed的文件的page cache的大小。理論上,共享內存屬于匿名頁,但是由于這里面有個非常特殊的tmpfs(/dev/shm指向/run/shm,/run/shm則mount為tmpfs):

所以可以看出tmpfs的東西其實真的是有點含混:我們可以理解它為file-backed的匿名頁(anonymous page),有點類似女聲中的周深。前面我們反復強調,匿名頁是沒有文件背景的,這樣當進行內存交換的時候,是與swap分區交換。磁盤文件系統里面的東西在內存的副本是file-backed的頁面,所以不存在與swap分區交換的問題。但是tmpfs里面的東西,真的是在統計意義上統計到page cache了,但是它并沒有真實的磁盤背景,這又和你訪問磁盤文件系統里面的文件產生的page cache有本質的區別。所以,它是真地有那么一點misc的感覺,凡事都沒有絕對,唯有變化本身是不變的。

也可以通過ipcs找到新創建的SYS V共享內存:

POSIX共享內存

我對POSIX shm_open()、mmap () API系列的共享內存的喜愛,遠遠超過SYS V 100倍。原諒我就是一個懶惰的人,我就是討厭ftok、shmget、shmat、shmdt這樣的API。

上面的程序如果用POSIX的寫法,可以簡化成寫端psw.c:

讀端:

編譯和執行:

這樣我們會在/dev/shm/、/run/shm下面看到一個文件:

坦白講,mmap、munmap這樣的API讓我找到了回家的感覺,剛入行做Linux的時候,寫好framebuffer驅動后,就是把/dev/fb0 mmap到用戶空間來操作,所以mmap這樣的 API,真的是特別親切,像親人一樣。

當然,如果你不喜歡shm_open()這個API,你也可以用常規的open來打開文件,然后進行mmap。關鍵的是mmap,wikipedia如是說:

mmap

In computing, mmap(2) is a POSIX-compliant Unix system call that maps files or devices into memory. It is a method of memory-mapped file I/O. It implements demand paging, because file contents are not read from disk directly and initially do not use physical RAM at all. The actual reads from disk are performed in a "lazy" manner, after a specific location is accessed. After the memory is no longer needed, it is important to munmap(2) the pointers to it. Protection information can be managed using mprotect(2), and special treatment can be enforced using madvise(2).

POSIX的共享內存,仍然符合我們前面說的tmpfs的特點,在運行了sw,sr后,再運行psw和psr,我們發現free命令再次戲劇性變化:

請將這個free命令的結果與前2次的free結果的各個字段進行對照:

第3次比第2次的cached大了這么多?是因為我編寫這篇文章邊在訪問磁盤里面的文件,當然POSIX的這個共享內存本身也導致cached增大了。

memfd_create

如果說POSIX的mmap讓我找到回家的感覺,那么memfd_create()則是萬般驚艷。見過這種API,才知道什么叫天生尤物——而且是尤物中的尤物,它完全屬于那種讓碼農第一眼看到就會兩眼充血,恨不得眼珠子奪眶而出貼到它身上去的那種API;一般人見到它第一次,都會忽略了它的長相,因為它的身材實在太火辣太搶眼了。

先不要浮想聯翩,在所有的所有開始之前,我們要先提一下跨進程分享fd(文件描述符,對應我們很多時候說的“句柄”)這個重要的概念。

眾所周知,Linux的fd屬于一個進程級別的東西。進入每個進程的/proc/pid/fd可以看到它的fd的列表:

這個進程的0,1,2和那個進程的0,1,2不是一回事。

某年某月的某一天,人們發現,一個進程其實想訪問另外一個進程的fd。當然,這只是目的不是手段。比如進程A有2個fd指向2片內存,如果進程B可以拿到這2個fd,其實就可以透過這2個fd訪問到這2片內存。這個fd某種意義上充當了一個中間媒介的作用。有人說,那還不簡單嗎,如果進程A:

fd = open();

open()如果返回100,把這個100告訴進程B不就可以了嗎,進程B訪問這個100就可以了。這說明你還是沒搞明白fd是一個進程內部的東西,是不能跨進程的概念。你的100和我的100,不是一個東西。這些基本的東西你搞不明白,你搞別的都是白搭。

Linux提供一個特殊的方法,可以把一個進程的fd甩鍋、踢皮球給另外一個進程(其實“甩鍋”這個詞用在這里不合適,因為“甩鍋”是一種推卸,而fd的傳遞是一種分享)。我特碼一直想把我的bug甩(分)鍋(享)出去,卻發現總是被人把bug甩鍋過來。

那么如何甩(分)鍋(享)fd呢?

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • cpu
    cpu
    +關注

    關注

    68

    文章

    10825

    瀏覽量

    211140
  • Linux
    +關注

    關注

    87

    文章

    11227

    瀏覽量

    208922

原文標題:宋寶華:世上最好的共享內存(Linux共享內存最透徹的一篇)上集

文章出處:【微信號:LinuxDev,微信公眾號:Linux閱碼場】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    Linux內存泄露案例分析和內存管理分享

    作者:京東科技 李遵舉 、問題 近期我們運維同事接到線上LB(負載均衡)服務內存報警,運維同事反饋說LB集群有部分機器的內存使用率超過80%,有的甚至超過90%,而且內存使用率還再不
    的頭像 發表于 10-24 16:14 ?695次閱讀
    <b class='flag-5'>Linux</b><b class='flag-5'>內存</b>泄露案例分析和<b class='flag-5'>內存</b>管理分享

    Windows管理內存的三種主要方式

    Windows操作系統提供了多種方式來管理內存,以確保系統資源的有效利用和性能的優化。以下是關于Windows管理內存的三種主要方式的詳細闡述,包括堆內存管理、虛擬內存管理以及
    的頭像 發表于 10-12 17:09 ?407次閱讀

    如何使用反射內存交換機

    反射內存交換機是種用于實現高速數據共享和通信的關鍵設備,以下是關于如何使用反射內存交換機的詳細介紹:、前期準備?在開始使用反射
    發表于 09-14 09:23 ?0次下載

    16 口多模反射內存交換機:高速數據共享的核心樞紐

    在當今數字化和信息化高速發展的時代,數據的快速傳輸、實時共享以及高效處理成為了眾多行業和領域追求的關鍵目標。在這樣的背景下,16口多模反射內存交換機應運而生,成為了構建高性能數據共享網絡的重要
    的頭像 發表于 09-04 14:38 ?223次閱讀
    16 口多模反射<b class='flag-5'>內存</b>交換機:高速數據<b class='flag-5'>共享</b>的核心樞紐

    多模反射內存交換機:實現高速實時數據共享的關鍵設備

    在當今數字化、信息化的時代,數據的快速傳輸和實時共享對于許多領域的系統運行至關重要。多模反射內存交換機作為種先進的網絡設備,為滿足這些需求提供了高效、可靠的解決方案。多模反射內存交換
    的頭像 發表于 09-04 10:55 ?260次閱讀
    多模反射<b class='flag-5'>內存</b>交換機:實現高速實時數據<b class='flag-5'>共享</b>的關鍵設備

    反射內存卡與普通內存卡的區別

    應用場景和目的反射內存卡:主要用于需要多個設備或系統之間進行高速、實時數據共享和通信的場景,例如工業控制、航空航天等領域。普通內存卡:通常用于個人電子設備,如手機、相機、平板電腦等,用于存儲文件
    的頭像 發表于 09-04 10:24 ?505次閱讀
    反射<b class='flag-5'>內存</b>卡與普通<b class='flag-5'>內存</b>卡的區別

    反射內存卡原理說明

    、引言反射內存卡是種用于實現高速數據共享和實時通信的先進技術。它在多個領域,特別是對數據傳輸速度和實時性要求極高的應用中,發揮著關鍵作用。二、基本原理
    的頭像 發表于 09-04 10:19 ?250次閱讀
    反射<b class='flag-5'>內存</b>卡原理說明

    16 口多模反射內存交換機:高速數據共享的核心樞紐

    內存交換機應運而生,成為了構建高性能數據共享網絡的重要組成部分。? 16 口多模反射內存交換機,從字面上理解,它是種具備 16 個端口,且采用多模傳輸方式的反射
    的頭像 發表于 07-15 10:01 ?264次閱讀
    16 口多模反射<b class='flag-5'>內存</b>交換機:高速數據<b class='flag-5'>共享</b>的核心樞紐

    Linux內核內存管理之內核非連續物理內存分配

    我們已經知道,最好將虛擬地址映射到連續頁幀,從而更好地利用緩存并實現更低的平均內存訪問時間。然而,如果對內存區域的請求并不頻繁,那么考慮基于通過連續線性地址訪問非連續頁幀的分配方案是有意義的。該模式
    的頭像 發表于 02-23 09:44 ?871次閱讀
    <b class='flag-5'>Linux</b>內核<b class='flag-5'>內存</b>管理之內核非連續物理<b class='flag-5'>內存</b>分配

    內存共享原理解析

    內存共享種在多個進程之間共享數據的機制,它允許不同的進程直接訪問同內存區域,從而實現數據
    的頭像 發表于 02-19 15:11 ?1200次閱讀
    <b class='flag-5'>內存</b><b class='flag-5'>共享</b>原理解析

    Linux內核內存管理架構解析

    內存管理子系統可能是linux內核中最為復雜的個子系統,其支持的功能需求眾多,如頁面映射、頁面分配、頁面回收、頁面交換、冷熱頁面、緊急頁面、頁面碎片管理、頁面緩存、頁面統計等,而且對性能也有很高
    的頭像 發表于 01-04 09:24 ?635次閱讀
    <b class='flag-5'>Linux</b>內核<b class='flag-5'>內存</b>管理架構解析

    java虛擬機內存包括遠空間內存

    詳細介紹JVM內存的各個部分及其作用。 Java堆(Heap) Java堆是JVM管理的最大內存區域,用于存放Java對象實例。在堆中分配內存由垃圾收集器(GC)自動進行,主要負責
    的頭像 發表于 12-05 14:15 ?379次閱讀

    jvm內存區域中,哪塊是屬于線程共享

    JVM(Java虛擬機)是種計算機軟件,用于執行Java字節碼。在JVM中,存在多個內存區域,包括線程共享內存區域。本文將詳細介紹JVM內存
    的頭像 發表于 12-05 14:14 ?1320次閱讀

    jvm內存模型和內存結構

    JVM(Java虛擬機)是Java程序的運行平臺,它負責將Java程序轉換成機器碼并在計算機上執行。在JVM中,內存模型和內存結構是兩個重要的概念,本文將詳細介紹它們。 、JVM內存
    的頭像 發表于 12-05 11:08 ?893次閱讀

    VMIPCI5565反射內存卡通信協議

    反射內存網: 基于實時特性的共享內存網絡,數據傳輸速率高,響應時間確定,適用于高速數據同步,過程控制及實時測試測量等領域。 VMIC反射內存網絡是基于環型/星型拓撲的,高速復制的
    的頭像 發表于 11-29 14:48 ?470次閱讀