溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Hive分區(qū)和分桶是什么

發(fā)布時間:2021-07-24 15:04:58 來源:億速云 閱讀:243 作者:chen 欄目:大數(shù)據(jù)

本篇內(nèi)容介紹了“Hive分區(qū)和分桶是什么”的有關(guān)知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!

Hive分區(qū)和分桶

① 分區(qū)

    是指按照數(shù)據(jù)表的某列或某些列分為多個區(qū),區(qū)從形式上可以理解為文件夾,比如我們要收集某個大型網(wǎng)站的日志數(shù)據(jù),一個網(wǎng)站每天的日志數(shù)據(jù)存在同一張表上,由于每天會生成大量的日志,導(dǎo)致數(shù)據(jù)表的內(nèi)容巨大,在查詢時進(jìn)行全表掃描耗費的資源非常多。那其實這個情況下,我們可以按照日期對數(shù)據(jù)表進(jìn)行分區(qū),不同日期的數(shù)據(jù)存放在不同的分區(qū),在查詢時只要指定分區(qū)字段的值就可以直接從該分區(qū)查找。

最常見的分區(qū)比如說是將數(shù)據(jù)按照日期或者小時進(jìn)行分區(qū),每個區(qū)就是一個文件,這樣我們在查詢信息的時候,就沒有必要去掃描全表,而只需要去對應(yīng)的分區(qū)表查詢即可,大大提高查詢效率。

② 分桶

    分桶是相對分區(qū)進(jìn)行更細(xì)粒度的劃分。分桶將整個數(shù)據(jù)內(nèi)容按照某列屬性值得hash值進(jìn)行區(qū)分,如要按照name屬性分為3個桶,就是對name屬性值的hash值對3取摸,按照取模結(jié)果對數(shù)據(jù)分桶。如取模結(jié)果為0的數(shù)據(jù)記錄存放到一個文件,取模為1的數(shù)據(jù)存放到一個文件,取模為2的數(shù)據(jù)存放到一個文件。

“Hive分區(qū)和分桶是什么”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注億速云網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實用文章!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI