對于列壓縮選項,PostgreSQL 14提供了新的壓縮方法LZ4。與TOAST中現有的PGLZ壓縮方法相比,LZ4壓縮更快。本文介紹如何使用整個選項,并和其他壓縮算法進行性能比較。
背景
PG中,頁是存儲數據的單位,默認是8KB。一般情況下,一行數據不允許跨頁存儲。然而,有一些變長的數據類型,存儲的數據可能超出一頁大學。為了克服整個限制,大字段域會被壓縮或者分割成多個物理行。這個技術就是TOAST:
默認情況下,如果表中有變長列,行數據的大小超過TOAST_TUPLE_THRESHOLD(默認2KB)就會觸發TOAST。首先,會先壓縮數據;壓縮后如果仍然太大,會溢出存儲。需要注意,如果列的存儲策略指定EXTERNAL/PLAIN,壓縮會被禁止。
PG14之前版本,TOAST僅支持一個壓縮算法PGLZ(PG內置算法)。但是其他壓縮算法可能比PGLZ更快或者有更高的壓縮率。PG14中有了新壓縮選項LZ4壓縮,這是一個以速度著稱的無損壓縮算法。因此我們可以期望它有助于提高TOAST壓縮和解壓縮的速度。
如何使用LZ4?
為了使用LZ4壓縮特性,在編譯時需要指定--with-lz4,并且在操作系統中按照LZ4庫。通過GUC參數default_toast_compression可以指定PG實例的TOAST默認壓縮算法。可以在postgresql.conf中配置,也可以通過SET命令僅改變當前連接:
postgres=# SET default_toast_compression=lz4;
SET
在CREATE TABLE創建表時指定列壓縮算法:
我們使用d+命令可以看到所有列的壓縮算法。如果列不支持或者沒有指定壓縮算法,那么會在Compression列顯示空格。上面的例子中,id列不支持壓縮算法,col1列使用PGLZ,col2使用LZ4,col3沒有指定壓縮算法,那么它會使用默認的壓縮算法。
可以通過ALTER TABLE修改列壓縮算法,但需要注意,修改后的算法僅影響執行整個命令后的insert數據。
postgres=# INSERT INTO tbl VALUES (1, repeat('abc',1000), repeat('abc',1000),repeat('abc',1000));
INSERT 0 1
postgres=# ALTER TABLE tbl ALTER COLUMN col1 SET COMPRESSION lz4;
ALTER TABLE
postgres=# INSERT INTO tbl VALUES (2, repeat('abc',1000), repeat('abc',1000),repeat('abc',1000));
INSERT 0 1
postgres=# SELECT id,
postgres-# pg_column_compression(id) AS compression_colid,
postgres-# pg_column_compression(col1) AS compression_col1,
postgres-# pg_column_compression(col2) AS compression_col2,
postgres-# pg_column_compression(col3) AS compression_col3
postgres-# FROM tbl;
id | compression_colid | compression_col1 | compression_col2 | compression_col3
---+-------------------+------------------+-----
1 | | pglz | lz4 | lz4
2 | | lz4 | lz4 | lz4
(2 rows)
可以看到在修改壓縮算法前插入的行,col1仍使用PGLZ壓縮算法,即使將壓縮算法從PGLZ修改到了LZ4。(那么,修改后進行解壓時使用哪個算法呢?)
需要注意,如果從其他表掃數據插入本表,例如CREATE TABLE ...AS...或者INSERT INTO...SELECT...,插入的數據使用的壓縮算法仍然使用原始數據的壓縮方法。pg_dump和pg_dumpall也添加了選項--no-toast-compuression,使用整個選項后,不會dump出TOAST壓縮選項。
性能比較
測試了LZ4和PGLZ壓縮率和壓縮速度。并添加了未壓縮數據的測試結果(指定存儲策略為EXTERNAL),對于未壓縮數據,沒有壓縮和解壓的耗時,但讀和寫數據的時間會增加。
測試使用的數據:PG documents(一行數據一個HTML文件);SilesiaCorpus提供的數據,包括HTML、Text、源代碼、可執行二進制文件、圖片
測試機器使用Intel? Xeon? Silver 4210CPU@2.20GHz with 10 cores/20 threads/2 sockets。
使用pgbench測試SQL語句執行時間,pg_table_size檢查表大學(每次執行前都執行VACUUM FULL排除死記錄的影響)。
壓縮率
PGLZ和LZ4的壓縮率都依賴于重復數據,重復的元組越多,壓縮率越高。但是如果PG評估這樣的壓縮率不好時,就不會執行壓縮,即使數據大小達到了閾值。因為壓縮并沒有高效節省磁盤空間,還會帶來解壓鎖的額外時間和資源消耗。
當前PG14中,PGLZ需要至少25%的壓縮率,LZ則僅比未壓縮數據時小即可。我比較了LZ4、PGLZ的表與未壓縮表大小。可以看到,大部分場景下,PGLZ的壓縮率稍微好點,壓縮率評價為2.23,LZ4的壓縮率為2.07。這意味著PGLZ可以節省7%的磁盤空間。
Figure 1 - Comparing table sizes (in KB)
壓縮/解壓縮速度
Insert和查詢時TOAST數據會被壓縮和解壓縮。因此,我執行一些SQL語句查看不同壓縮算法帶來的影響。
首先比較了INSERT語句,列使用LZ、PGLZ和未使用壓縮時的性能。可以看到與未壓縮數據比,LZ4耗費稍微多一點時間,PGLZ耗費時間更多。LZ4的壓縮時間比PGLZ平均節省20%。這是一項非常顯著的改進。
Figure 2 - Comparing INSERT performance
下面比較SELECT。與PGLZ相比,LZ4可以節省20%的時間,與未壓縮數據相比,沒有太大差別。解壓縮的消耗已經降到了很低了。
Figure 3 - Comparing SELECT performance
再比較16個客戶端的INSERT語句并發。與PGLZ相比使用LZ4的單大文件(HTML,英文文本,源代碼,二進制執行文件,圖片)的壓縮性能快60%-70%。插入多個小文件(PG文檔),性能提升不大。和未壓縮的數據相比,有巨大提升,猜測使用壓縮減少了寫入磁盤的數據量。
Figure 4 - Comparing INSERT performance with 16 clients
16個客戶端的SELECT,多數場景下,LZ4性能優于PGLZ:
Figure 5 - Comparing SELECT performance with 16 clients
同樣也比較了使用字符串函數的SELECT、UPDATE處理文本的速度。整個場景下LZ4優于PGLZ。LZ4壓縮算法的數據與未壓縮數據相比,函數處理的速度幾乎一樣,LZ4算法幾乎不會影響字符串操作速度。
Figure 6 - Comparing performance using string functions
與PGLZ相比,LZ4壓縮和解壓縮TOAST數據更加高效,并提供很好的性能。和未壓縮數據相比,查詢速度幾乎一樣,和PGLZ相比,插入快80%。當然某些場景下壓縮率不太好,但如過你想要提升執行速度,強烈推薦使用LZ4算法。
同樣需要注意,需要考慮表中的數據是否合適壓縮。如果壓縮率不好,它仍然會嘗試壓縮數,然后放棄。這將導致額外的內存資源浪費,并極大影響插入數據的速度。
未來
LZ4對TOAST的壓縮和解壓縮性能帶來了很大提升。除了LZ4,還有很多其他壓縮算法比如Zstandard。支持Zstandard用戶可以得到比PGLZ更好的壓縮率。LZ4 HC具有比LZ4解壓98.5%的壓縮速度,但是可以大幅提升壓縮率。希望未來PG版本可以使用更多的壓縮算法。
除了TOAST外,其他場景也需要壓縮。據我所知,目前開發版本已經支持WAL的LZ4壓縮,這是一項令人興奮的特性。
-
算法
+關注
關注
23文章
4600瀏覽量
92649 -
SQL
+關注
關注
1文章
760瀏覽量
44078
發布評論請先 登錄
相關推薦
評論