溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

hbase干貨

發(fā)布時(shí)間:2020-02-27 02:45:13 來源:網(wǎng)絡(luò) 閱讀:275 作者:aklaus 欄目:系統(tǒng)運(yùn)維
區(qū)別

nosql有很多,hive與hbase,二者都是基于hadoop的,不同是,hive基于類sql引擎的,所以可以用HSQL語句來 用來統(tǒng)計(jì)查詢,返回?cái)?shù)據(jù)比較慢,默認(rèn)是便利表中所有的數(shù)據(jù)。
hbase呢是key/value的數(shù)據(jù)庫,用來實(shí)時(shí)查詢是比較擅長的,facebook的消息實(shí)時(shí)分析用此,

名詞:MapReduce
由master分配任務(wù)給worker執(zhí)行,map函數(shù)讀取被分配的輸入數(shù)據(jù)片段,輸出中間key/value pair值的集合,reduce函數(shù)手機(jī)具有相中中間key值的value值,合并這些value值,形成一個(gè)較小的value值的集合
把一些數(shù)據(jù)通過map來歸類,通過reducer來把同一類的數(shù)據(jù)進(jìn)行處理

hbase干貨

hbase理解的應(yīng)該有以下幾個(gè)模塊

簡單理解hbase更新數(shù)據(jù),首先寫到hlog日志,然后同時(shí)通過hregionserver 到region,再通過store模塊的memstore存儲,如果達(dá)到設(shè)置的值則執(zhí)行store file,flush到hfile中,這樣這幾個(gè)模塊都用上了

master或者h(yuǎn)master 是Master Server的實(shí)現(xiàn),負(fù)責(zé)監(jiān)控集群中的RegionServer實(shí)例,同時(shí)是所有metadata改變的接口,在集群中,通常運(yùn)行在NameNode上面
hregionserver 是RegionServer的實(shí)現(xiàn),服務(wù)和管理Regions,集群中RegionServer運(yùn)行在DataNode
region 代表table,Region有多個(gè)Store(列簇),Store有一個(gè)Memstore和多個(gè)StoreFiles(HFiles),StoreFiles的底層是Block
連接 https://blog.csdn.net/maketubu7/article/details/80612930
https://blog.csdn.net/huangliuyu00/article/details/79704371
Hlog
memstore
store file

Hlog如何保證hbase一致性的
HBase的可靠性是通過HLog實(shí)現(xiàn)的,HLog機(jī)制是WAL(Write-Ahead Logging)的一種實(shí)現(xiàn),預(yù)寫日志。WAL是事務(wù)機(jī)制中常見的一致性實(shí)現(xiàn)方式。每個(gè)Region Server中都會有一個(gè)HLog實(shí)現(xiàn),Region Server更新操作時(shí),先把記錄到寫到WAL(也就是HLog)中,再寫入到Store的MemStore,最終MemStore會將數(shù)據(jù)寫入到持久化的HFile中,當(dāng)MemStore到達(dá)配置的內(nèi)存閥值時(shí)。通過先寫WAL(HLog),再寫MemStore,這樣的方式保證寫的可靠性。
如果沒有WAL,當(dāng)Region Server宕掉的時(shí)候,MemStore還沒寫入到HFile,或者StoreFile還沒保存,那么數(shù)據(jù)就會丟失。而HFile的數(shù)據(jù)由HDFS保證的,默認(rèn)HDFS中會有3份。

如果服務(wù)器崩潰,region server會回訪Hlog,通過數(shù)據(jù)回寫,來恢復(fù)服務(wù)器的內(nèi)存數(shù)據(jù)。下圖顯示了寫入過程,也是一個(gè)Hbase的框架圖
————————————————
hbase干貨

另外cell,column family ,columns ,table,row,定義是什么

這個(gè)連接很清楚https://blog.csdn.net/huangliuyu00/article/details/79704371

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI