Hadoop支持哪幾種壓縮格式

本篇內(nèi)容主要講解“Hadoop支持哪幾種壓縮格式”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學(xué)習(xí)“Hadoop支持哪幾種壓縮格式”吧!

Gzip壓縮

優(yōu)點：壓縮率比較高，而且壓縮/解壓速度也比較快；hadoop本身支持，在應(yīng)用中處理gzip格式的文件就和直接處理文本一樣；有hadoop native庫；大部分linux系統(tǒng)都自帶gzip命令，使用方便。

缺點：不支持split。

應(yīng)用場景：當(dāng)每個文件壓縮之后在130M以內(nèi)的（1個塊大小內(nèi)），都可以考慮用gzip壓縮格式。譬如說一天或者一個小時的日志壓縮成一個gzip文件，運行mapreduce程序的時候通過多個gzip文件達到并發(fā)。hive程序，streaming程序，和java寫的mapreduce程序完全和文本處理一樣，壓縮之后原來的程序不需要做任何修改。

lzo壓縮

優(yōu)點：壓縮/解壓速度也比較快，合理的壓縮率；支持split，是hadoop中最流行的壓縮格式；支持hadoop native庫；可以在linux系統(tǒng)下安裝lzop命令，使用方便。

缺點：壓縮率比gzip要低一些；hadoop本身不支持，需要安裝；在應(yīng)用中對lzo格式的文件需要做一些特殊處理（為了支持split需要建索引，還需要指定inputformat為lzo格式）。

應(yīng)用場景：一個很大的文本文件，壓縮之后還大于200M以上的可以考慮，而且單個文件越大，lzo優(yōu)點越越明顯。

Snappy壓縮

優(yōu)點：高速壓縮速度和合理的壓縮率；支持hadoop native庫。

缺點：不支持split；壓縮率比gzip要低；hadoop本身不支持，需要安裝；linux系統(tǒng)下沒有對應(yīng)的命令。

應(yīng)用場景：當(dāng)mapreduce作業(yè)的map輸出的數(shù)據(jù)比較大的時候，作為map到reduce的中間數(shù)據(jù)的壓縮格式；或者作為一個mapreduce作業(yè)的輸出和另外一個mapreduce作業(yè)的輸入。

Bzip2壓縮

優(yōu)點：支持split；具有很高的壓縮率，比gzip壓縮率都高；hadoop本身支持，但不支持native；在linux系統(tǒng)下自帶bzip2命令，使用方便。

缺點：壓縮/解壓速度慢；不支持native。

應(yīng)用場景：適合對速度要求不高，但需要較高的壓縮率的時候，可以作為mapreduce作業(yè)的輸出格式；或者輸出之后的數(shù)據(jù)比較大，處理之后的數(shù)據(jù)需要壓縮存檔減少磁盤空間并且以后數(shù)據(jù)用得比較少的情況；或者對單個很大的文本文件想壓縮減少存儲空間，同時又需要支持split，而且兼容之前的應(yīng)用程序（即應(yīng)用程序不需要修改）的情況。

最后用一張圖比較上述4種壓縮格式的特征（優(yōu)缺點）：

到此，相信大家對“Hadoop支持哪幾種壓縮格式”有了更深的了解，不妨來實際操作一番吧！這里是億速云網(wǎng)站，更多相關(guān)內(nèi)容可以進入相關(guān)頻道進行查詢，關(guān)注我們，繼續(xù)學(xué)習(xí)！