精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

PostgreSQL 14中TOAST的新壓縮算法LZ4,它能有多快?

微云疏影 ? 來源:yzsDBA ? 作者:yzsDBA ? 2023-01-24 15:54 ? 次閱讀

對于列壓縮選項,PostgreSQL 14提供了新的壓縮方法LZ4。與TOAST中現有的PGLZ壓縮方法相比,LZ4壓縮更快。本文介紹如何使用整個選項,并和其他壓縮算法進行性能比較。

背景

PG中,頁是存儲數據的單位,默認是8KB。一般情況下,一行數據不允許跨頁存儲。然而,有一些變長的數據類型,存儲的數據可能超出一頁大學。為了克服整個限制,大字段域會被壓縮或者分割成多個物理行。這個技術就是TOAST:

默認情況下,如果表中有變長列,行數據的大小超過TOAST_TUPLE_THRESHOLD(默認2KB)就會觸發TOAST。首先,會先壓縮數據;壓縮后如果仍然太大,會溢出存儲。需要注意,如果列的存儲策略指定EXTERNAL/PLAIN,壓縮會被禁止。

PG14之前版本,TOAST僅支持一個壓縮算法PGLZ(PG內置算法)。但是其他壓縮算法可能比PGLZ更快或者有更高的壓縮率。PG14中有了新壓縮選項LZ4壓縮,這是一個以速度著稱的無損壓縮算法。因此我們可以期望它有助于提高TOAST壓縮和解壓縮的速度。

如何使用LZ4?

為了使用LZ4壓縮特性,在編譯時需要指定--with-lz4,并且在操作系統中按照LZ4庫。通過GUC參數default_toast_compression可以指定PG實例的TOAST默認壓縮算法。可以在postgresql.conf中配置,也可以通過SET命令僅改變當前連接:

postgres=# SET default_toast_compression=lz4;

SET

在CREATE TABLE創建表時指定列壓縮算法:

image.png

我們使用d+命令可以看到所有列的壓縮算法。如果列不支持或者沒有指定壓縮算法,那么會在Compression列顯示空格。上面的例子中,id列不支持壓縮算法,col1列使用PGLZ,col2使用LZ4,col3沒有指定壓縮算法,那么它會使用默認的壓縮算法。

可以通過ALTER TABLE修改列壓縮算法,但需要注意,修改后的算法僅影響執行整個命令后的insert數據。

postgres=# INSERT INTO tbl VALUES (1, repeat('abc',1000), repeat('abc',1000),repeat('abc',1000));

INSERT 0 1

postgres=# ALTER TABLE tbl ALTER COLUMN col1 SET COMPRESSION lz4;

ALTER TABLE

postgres=# INSERT INTO tbl VALUES (2, repeat('abc',1000), repeat('abc',1000),repeat('abc',1000));

INSERT 0 1

postgres=# SELECT id,

postgres-# pg_column_compression(id) AS compression_colid,

postgres-# pg_column_compression(col1) AS compression_col1,

postgres-# pg_column_compression(col2) AS compression_col2,

postgres-# pg_column_compression(col3) AS compression_col3

postgres-# FROM tbl;

id | compression_colid | compression_col1 | compression_col2 | compression_col3

---+-------------------+------------------+-----

1 | | pglz | lz4 | lz4

2 | | lz4 | lz4 | lz4

(2 rows)

可以看到在修改壓縮算法前插入的行,col1仍使用PGLZ壓縮算法,即使將壓縮算法從PGLZ修改到了LZ4。(那么,修改后進行解壓時使用哪個算法呢?)

需要注意,如果從其他表掃數據插入本表,例如CREATE TABLE ...AS...或者INSERT INTO...SELECT...,插入的數據使用的壓縮算法仍然使用原始數據的壓縮方法。pg_dump和pg_dumpall也添加了選項--no-toast-compuression,使用整個選項后,不會dump出TOAST壓縮選項。

性能比較

測試了LZ4和PGLZ壓縮率和壓縮速度。并添加了未壓縮數據的測試結果(指定存儲策略為EXTERNAL),對于未壓縮數據,沒有壓縮和解壓的耗時,但讀和寫數據的時間會增加。

測試使用的數據:PG documents(一行數據一個HTML文件);SilesiaCorpus提供的數據,包括HTML、Text、源代碼、可執行二進制文件、圖片

測試機器使用Intel? Xeon? Silver 4210CPU@2.20GHz with 10 cores/20 threads/2 sockets。

使用pgbench測試SQL語句執行時間,pg_table_size檢查表大學(每次執行前都執行VACUUM FULL排除死記錄的影響)。

壓縮率

PGLZ和LZ4的壓縮率都依賴于重復數據,重復的元組越多,壓縮率越高。但是如果PG評估這樣的壓縮率不好時,就不會執行壓縮,即使數據大小達到了閾值。因為壓縮并沒有高效節省磁盤空間,還會帶來解壓鎖的額外時間和資源消耗。

當前PG14中,PGLZ需要至少25%的壓縮率,LZ則僅比未壓縮數據時小即可。我比較了LZ4、PGLZ的表與未壓縮表大小。可以看到,大部分場景下,PGLZ的壓縮率稍微好點,壓縮率評價為2.23,LZ4的壓縮率為2.07。這意味著PGLZ可以節省7%的磁盤空間。

poYBAGO307yAMhZTAALAcjHIJ5Q514.jpg

Figure 1 - Comparing table sizes (in KB)

壓縮/解壓縮速度

Insert和查詢時TOAST數據會被壓縮和解壓縮。因此,我執行一些SQL語句查看不同壓縮算法帶來的影響。

首先比較了INSERT語句,列使用LZ、PGLZ和未使用壓縮時的性能。可以看到與未壓縮數據比,LZ4耗費稍微多一點時間,PGLZ耗費時間更多。LZ4的壓縮時間比PGLZ平均節省20%。這是一項非常顯著的改進。

pYYBAGO3072AYW3gAAKf7xUZ0GA941.jpg

Figure 2 - Comparing INSERT performance

下面比較SELECT。與PGLZ相比,LZ4可以節省20%的時間,與未壓縮數據相比,沒有太大差別。解壓縮的消耗已經降到了很低了。

poYBAGO3072AG4HgAAFUDQ_9v08530.jpg

Figure 3 - Comparing SELECT performance

再比較16個客戶端的INSERT語句并發。與PGLZ相比使用LZ4的單大文件(HTML,英文文本,源代碼,二進制執行文件,圖片)的壓縮性能快60%-70%。插入多個小文件(PG文檔),性能提升不大。和未壓縮的數據相比,有巨大提升,猜測使用壓縮減少了寫入磁盤的數據量。

poYBAGO3072AAVfUAAFgxdf_G3I282.jpg

Figure 4 - Comparing INSERT performance with 16 clients

16個客戶端的SELECT,多數場景下,LZ4性能優于PGLZ:

pYYBAGO3076AEIlgAAF4vrnCcPM768.jpg

Figure 5 - Comparing SELECT performance with 16 clients

同樣也比較了使用字符串函數的SELECT、UPDATE處理文本的速度。整個場景下LZ4優于PGLZ。LZ4壓縮算法的數據與未壓縮數據相比,函數處理的速度幾乎一樣,LZ4算法幾乎不會影響字符串操作速度。

poYBAGO307-AKz0pAAFMS33wzeQ709.jpg

Figure 6 - Comparing performance using string functions

與PGLZ相比,LZ4壓縮和解壓縮TOAST數據更加高效,并提供很好的性能。和未壓縮數據相比,查詢速度幾乎一樣,和PGLZ相比,插入快80%。當然某些場景下壓縮率不太好,但如過你想要提升執行速度,強烈推薦使用LZ4算法。

同樣需要注意,需要考慮表中的數據是否合適壓縮。如果壓縮率不好,它仍然會嘗試壓縮數,然后放棄。這將導致額外的內存資源浪費,并極大影響插入數據的速度。

未來

LZ4對TOAST的壓縮和解壓縮性能帶來了很大提升。除了LZ4,還有很多其他壓縮算法比如Zstandard。支持Zstandard用戶可以得到比PGLZ更好的壓縮率。LZ4 HC具有比LZ4解壓98.5%的壓縮速度,但是可以大幅提升壓縮率。希望未來PG版本可以使用更多的壓縮算法。

除了TOAST外,其他場景也需要壓縮。據我所知,目前開發版本已經支持WAL的LZ4壓縮,這是一項令人興奮的特性。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 算法
    +關注

    關注

    23

    文章

    4600

    瀏覽量

    92649
  • SQL
    SQL
    +關注

    關注

    1

    文章

    760

    瀏覽量

    44078
收藏 人收藏

    評論

    相關推薦

    MySQL還能跟上PostgreSQL的步伐嗎

    Can MySQL Catch Up with PostgreSQL’s Momentum?[2] 譯者:馮若航[3],Vonng,Pigsty[4]?作者,PostgreSQL 大法師,數據庫老司機,云計算泥石流。 MySQ
    的頭像 發表于 11-18 10:16 ?131次閱讀
    MySQL還能跟上<b class='flag-5'>PostgreSQL</b>的步伐嗎

    【BearPi-Pico H3863星閃開發板體驗連載】LZO壓縮算法移植

    壓縮算法使用 一、概述 壓縮算法是一類用于減小數據大小的計算方法,它們在數據存儲和傳輸領域扮演著重要角色。壓縮
    發表于 11-10 21:45

    壓縮算法的類型和應用

    壓縮算法是一種通過減少數據量來節省存儲空間或傳輸數據的技術。壓縮算法可以分為兩種類型:有損壓縮和無損壓縮
    的頭像 發表于 10-21 13:50 ?193次閱讀

    Huffman壓縮算法概述和詳細流程

    Huffman壓縮算法是一種基于字符出現頻率的編碼算法,通過構建Huffman樹,將出現頻率高的字符用短編碼表示,出現頻率低的字符用長編碼表示,從而實現對數據的壓縮
    的頭像 發表于 10-21 13:48 ?180次閱讀

    使用qboot時選擇了壓縮率更高的zip算法,但是發現編譯報錯,為什么?

    在使用qboot時選擇了壓縮率更高的zip算法,但是發現編譯報錯,如下圖:
    發表于 09-26 07:22

    【PHYTEC AM62x開發板試用】準備工作

    locales lz4 openssh-client pylint python python3 python3-distutils python3-git python3-jinja2
    發表于 07-01 16:22

    STM32的DAC外設速度是多快的?

    請教,STM32的DAC外設速度是多快的?產品手冊沒有直接給出,不像ADC,產品手冊直接給出, 比如\"1Msps\".產品手冊里會有這樣的描述,看不太明白,請大家給指點一下。
    發表于 05-08 08:06

    【RTC程序設計:實時音視頻權威指南】音視頻的編解碼壓縮技術

    。現在比較常用的,壓縮文件為zip文件其使用的算法結合了lZ77和霍夫曼編碼的優點,同時實現了重復數據的壓縮和字符出現頻率的編碼,在壓縮率和
    發表于 04-28 21:04

    FPGA壓縮算法有哪些

    在圖像壓縮算法可以采用哈夫曼編碼的方式對編碼冗余的信息進行壓縮,可以采用預測的方式來減少像素間冗余,可以采用量化的方式完成心理視覺冗余信息的去除
    的頭像 發表于 04-15 11:48 ?574次閱讀
    FPGA<b class='flag-5'>壓縮</b><b class='flag-5'>算法</b>有哪些

    基于門控線性網絡(GLN)的高壓縮比無損醫學圖像壓縮算法

    實現基于門控線性網絡(GLN)的高壓縮比無損醫學圖像壓縮算法,以提高醫學圖像存儲和分發系統的效率。與“傳統”的基于上下文的數據壓縮算法相比,
    的頭像 發表于 04-08 10:29 ?616次閱讀
    基于門控線性網絡(GLN)的高<b class='flag-5'>壓縮</b>比無損醫學圖像<b class='flag-5'>壓縮</b><b class='flag-5'>算法</b>

    【LicheeRV-Nano開發套件試用連載體驗】 + 2、鏡像燒錄

    /releases 1、下載官方制作好的鏡像文件到ubuntu; 2、PC插入TF卡; 3、輸入命令燒錄:lz4 -d licheervnano-20240206-0802.img.lz4 | sudo
    發表于 03-08 09:50

    地平線正式開源Sparse4D算法

    地平線將業內領先的純視覺自動駕駛算法——Sparse4D系列算法開源,推動行業更多開發者共同參與到端到端自動駕駛、稀疏感知等前沿技術方向的探索。目前,Sparse
    的頭像 發表于 01-23 10:18 ?729次閱讀

    如何在Delphi中使用Devart PgDAC連接PostgreSQL

    PostgreSQL是一種流行的開源關系數據庫管理系統(RDBMS),廣泛用于構建健壯且可擴展的應用程序。
    的頭像 發表于 12-06 09:04 ?1029次閱讀

    盤點一下PostgreSQL的幾種常用脫敏方式

    PostgreSQL Anonymizer 實現動態脫敏的方式是通過將定義某個角色為 "MASKED" 以及脫敏規則。被授予 "MASKED" 角色的用戶將無法訪問原始數據,而其他角色仍然可以訪問。它現已支持多種的脫敏語法,你甚至可以編寫自己的規則。
    的頭像 發表于 12-05 09:59 ?550次閱讀
    盤點一下<b class='flag-5'>PostgreSQL</b>的幾種常用脫敏方式

    如何將sigmastudio的compressor壓縮限幅參數換算成DSP的設置值?

    如何將sigma studio的compressor壓縮限幅參數換算成DSP的設置值(特別是壓縮曲線各個點的參數如何得來)?另外,ADAU1452與ADAU1442的compressor算法控件
    發表于 11-29 06:43