HDFS架構(gòu)有哪些

這篇文章主要介紹了HDFS架構(gòu)有哪些，具有一定借鑒價(jià)值，感興趣的朋友可以參考下，希望大家閱讀完這篇文章之后大有收獲，下面讓小編帶著大家一起了解一下。

HDFS的架構(gòu)如上圖，總體采用master/slave架構(gòu)，主要有Client、NameNode、DataNode、SecondaryNameNode組成。

1、Client

Client代表用戶，通過(guò)與NameNode和DataNode交互從而訪問(wèn)HDFS中的文件。Client提供了一個(gè)類(lèi)似POSIX的文件系統(tǒng)接口供用戶調(diào)用。

2、NameNode

整個(gè)Hadoop集群中只有一個(gè)NameNode。負(fù)責(zé)管理HDFS的目錄樹(shù)和相關(guān)文件的元數(shù)據(jù)信息。

NameNode還負(fù)責(zé)監(jiān)控各個(gè)DataNode的健康狀態(tài)，一旦發(fā)現(xiàn)某個(gè)DataNode宕機(jī)，則將該DataNode移出HDFS并重新備份其上面的數(shù)據(jù)。

3、Secondary NameNode

Secondary NameNode最重要的任務(wù)不是為NameNode元數(shù)據(jù)進(jìn)行熱備份，而是定期合并fsimage和edits日志，并傳輸給NameNode。這里需要注意的是，為了減小NameNode壓力，NameNode自己并不會(huì)合并fsimage和edits，并將文件存儲(chǔ)到磁盤(pán)上，而是交友Secondary Namenode完成。

4、DataNode

每個(gè)Slave節(jié)點(diǎn)上安裝一個(gè)DataNode，它負(fù)責(zé)實(shí)際的數(shù)據(jù)存儲(chǔ)，并將數(shù)據(jù)信息定期的匯報(bào)給NameNode。

當(dāng)用戶上傳一個(gè)文件到HDFS上時(shí)，該文件會(huì)被切分成若干個(gè)block，分別存儲(chǔ)到不同的DataNode.。為了保證數(shù)據(jù)可靠，會(huì)將同一個(gè)block以流水線的方式寫(xiě)到若干個(gè)不同的DataNode。

感謝你能夠認(rèn)真閱讀完這篇文章，希望小編分享的“HDFS架構(gòu)有哪些”這篇文章對(duì)大家有幫助，同時(shí)也希望大家多多支持億速云，關(guān)注億速云行業(yè)資訊頻道，更多相關(guān)知識(shí)等著你來(lái)學(xué)習(xí)!