如何實(shí)現(xiàn)Hbase的region合并和拆分？

1、region 拆分機(jī)制

• region中存儲的是大量的rowkey數(shù)據(jù) ,當(dāng)region中的數(shù)據(jù)條數(shù)過多的時(shí)候,直接影響查詢效率.當(dāng)region過大的時(shí)候.hbase會(huì)拆分region , 這也是Hbase的一個(gè)優(yōu)點(diǎn) .

• HBase的region split策略一共有以下幾種：

• 1、ConstantSizeRegionSplitPolicy

  • 0.94版本前默認(rèn)切分策略

• 當(dāng)region大小大于某個(gè)閾值(hbase.hregion.max.filesize=10G)之后就會(huì)觸發(fā)切分，一個(gè)region等分為2個(gè)region。

  • 但是在生產(chǎn)線上這種切分策略卻有相當(dāng)大的弊端：切分策略對于大表和小表沒有明顯的區(qū)分。閾值(hbase.hregion.max.filesize)設(shè)置較大對大表比較友好，但是小表就有可能不會(huì)觸發(fā)分裂，極端情況下可能就1個(gè)，這對業(yè)務(wù)來說并不是什么好事。如果設(shè)置較小則對小表友好，但一個(gè)大表就會(huì)在整個(gè)集群產(chǎn)生大量的region，這對于集群的管理、資源使用、failover來說都不是一件好事。

• 2、IncreasingToUpperBoundRegionSplitPolicy

  • 0.94版本~2.0版本默認(rèn)切分策略

  • 切分策略稍微有點(diǎn)復(fù)雜，總體看和ConstantSizeRegionSplitPolicy思路相同，一個(gè)region大小大于設(shè)置閾值就會(huì)觸發(fā)切分。但是這個(gè)閾值并不像ConstantSizeRegionSplitPolicy是一個(gè)固定的值，而是會(huì)在一定條件下不斷調(diào)整，調(diào)整規(guī)則和region所屬表在當(dāng)前regionserver上的region個(gè)數(shù)有關(guān)系.

  • region split的計(jì)算公式是：
    regioncount^3 128M 2，當(dāng)region達(dá)到該size的時(shí)候進(jìn)行split
    例如：
    第一次split：1^3 256 = 256MB
    第二次split：2^3 256 = 2048MB
    第三次split：3^3 256 = 6912MB
    第四次split：4^3 256 = 16384MB > 10GB，因此取較小的值10GB
    后面每次split的size都是10GB了

• 3、SteppingSplitPolicy

  • 2.0版本默認(rèn)切分策略

  • 這種切分策略的切分閾值又發(fā)生了變化，相比 IncreasingToUpperBoundRegionSplitPolicy 簡單了一些，依然和待分裂region所屬表在當(dāng)前regionserver上的region個(gè)數(shù)有關(guān)系，如果region個(gè)數(shù)等于1，
    切分閾值為flush size * 2，否則為MaxRegionFileSize。這種切分策略對于大集群中的大表、小表會(huì)比 IncreasingToUpperBoundRegionSplitPolicy 更加友好，小表不會(huì)再產(chǎn)生大量的小region，而是適可而止。

• 4、KeyPrefixRegionSplitPolicy

  • 根據(jù)rowKey的前綴對數(shù)據(jù)進(jìn)行分組，這里是指定rowKey的前多少位作為前綴，比如rowKey都是16位的，指定前5位是前綴，那么前5位相同的rowKey在進(jìn)行region split的時(shí)候會(huì)分到相同的region中。

• 5、DelimitedKeyPrefixRegionSplitPolicy

  • 保證相同前綴的數(shù)據(jù)在同一個(gè)region中，例如rowKey的格式為：userid_eventtypeeventid，指定的delimiter為 ，則split的的時(shí)候會(huì)確保userid相同的數(shù)據(jù)在同一個(gè)region中。
• 6、DisabledRegionSplitPolicy
  • 不啟用自動(dòng)拆分, 需要指定手動(dòng)拆分
    

    2、region合并機(jī)制

1.1 region合并說明

• Region的合并不是為了性能,  而是出于維護(hù)的目的 .
• 比如刪除了大量的數(shù)據(jù) ,這個(gè)時(shí)候每個(gè)Region都變得很小 ,存儲多個(gè)Region就浪費(fèi)了 ,這個(gè)時(shí)候可以把Region合并起來，進(jìn)而可以減少一些Region服務(wù)器節(jié)點(diǎn)

1.2 如何進(jìn)行region合并

1.2.1 通過Merge類冷合并Region

• 執(zhí)行合并前，==需要先關(guān)閉hbase集群==

• 創(chuàng)建一張hbase表：

create 'test','info1',SPLITS => ['1000','2000','3000']

• 查看表region
  

• 需求：

  需要把test表中的2個(gè)region數(shù)據(jù)進(jìn)行合并：
  test,,1565940912661.62d28d7d20f18debd2e7dac093bc09d8.
  test,1000,1565940912661.5b6f9e8dad3880bcc825826d12e81436.

• 這里通過org.apache.hadoop.hbase.util.Merge類來實(shí)現(xiàn)，不需要進(jìn)入hbase shell，直接執(zhí)行（==需要先關(guān)閉hbase集群==）：
  hbase org.apache.hadoop.hbase.util.Merge test test,,1565940912661.62d28d7d20f18debd2e7dac093bc09d8. test,1000,1565940912661.5b6f9e8dad3880bcc825826d12e81436.

• 成功后界面觀察

1.2.2  通過online_merge熱合并Region

• ==不需要關(guān)閉hbase集群==，在線進(jìn)行合并

• 與冷合并不同的是，online_merge的傳參是Region的hash值，而Region的hash值就是Region名稱的最后那段在兩個(gè).之間的字符串部分。

• 需求：需要把test表中的2個(gè)region數(shù)據(jù)進(jìn)行合并：
  test,2000,1565940912661.c2212a3956b814a6f0d57a90983a8515.
  test,3000,1565940912661.553dd4db667814cf2f050561167ca030.

• 需要進(jìn)入hbase shell：

  merge_region 'c2212a3956b814a6f0d57a90983a8515','553dd4db667814cf2f050561167ca030'

• 成功后觀察界面
  merge_region 'c2212a3956b814a6f0d57a90983a8515','553dd4db667814cf2f050561167ca030'

• 成功后觀察界面