溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

HDFS架構(gòu)如何設計

發(fā)布時間:2021-12-09 11:27:18 來源:億速云 閱讀:94 作者:小新 欄目:大數(shù)據(jù)

這篇文章主要介紹HDFS架構(gòu)如何設計,文中介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們一定要看完!

HDFS架構(gòu)設計:
1.NN(NameNode):主要是維護管理文件命名空間,其中包括了文件名稱,文件的權(quán)限,創(chuàng)建時間,副本數(shù),文件被分成多少塊,快分布在哪些機器(產(chǎn)生文件fsimage和editlog)。

2.理解NN管理下NN和塊以及實際存儲內(nèi)容的存儲關(guān)系。
實例:假設NN為一個容量為128000ML的正方形盒子,每個塊為同樣大小正正方方的容量為128ML的盒子,但是每個盒子里只有3ml的水(每個塊中存儲文件的實際大小)。

則問實際存儲的內(nèi)容是多少ml?3*(128000/128)=3000ml這里是由DN管理存儲的。
放進去的盒子是多少個?1000個(其實就是存儲的塊的數(shù)量)
總的來說盡管實際存儲只有3000ml,但是卻消耗了1000個瓶子的名字的字節(jié)總和的NN的空間,但是如果把1000個瓶子壓縮成500或者更少(小文件合并),則可以消耗更少量的NN管理空間。

3.DN(DataNode):存儲數(shù)據(jù)塊,存儲數(shù)據(jù)塊校驗和。


4.SN(SecondaryNode):做每小時的檢查工作checkpoint。(檢查NN的工作即產(chǎn)生文件fsimage和editlog并進行打包制作成新的fsimage文件保存下來)

圖理解:HDFS架構(gòu)如何設計

以上是“HDFS架構(gòu)如何設計”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對大家有幫助,更多相關(guān)知識,歡迎關(guān)注億速云行業(yè)資訊頻道!

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI