溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

如何使用HDFS安全模式

發(fā)布時間:2020-08-04 11:53:59 來源:億速云 閱讀:130 作者:Leah 欄目:編程語言

本篇文章給大家分享的是有關(guān)如何使用HDFS安全模式,小編覺得挺實用的,因此分享給大家學(xué)習(xí),希望大家閱讀完這篇文章后可以有所收獲,話不多說,跟著小編一起來看看吧。

1、安全模式概述

HDFS在安全模式狀態(tài)下,文件系統(tǒng)只接受讀數(shù)據(jù)請求,而不接受刪除、修改等變更請求,是一種保護(hù)機(jī)制,用于保證集群中的數(shù)據(jù)塊的安全性。在NameNode主節(jié)點啟動時,HDFS首先進(jìn)入安全模式,集群會開始檢查數(shù)據(jù)塊的完整性。DataNode在啟動的時候會向namenode匯報可用的block信息,當(dāng)整個系統(tǒng)達(dá)到安全標(biāo)準(zhǔn)時,HDFS自動離開安全模式。

假設(shè)我們設(shè)置的副本數(shù)是5,那么在Datanode上就應(yīng)該有5個副本存在,假設(shè)只存在3個副本,那么比例就是 3/5=0.6。在配置文件 hdfs-default.xml中定義了一個最小的副本的副本率0.999。我們的副本率0.6明顯小于0.99,因此系統(tǒng)會自動的復(fù)制副本到其他的DataNode,使得副本率不小于0.999。如果系統(tǒng)中有8個副本,超過我們設(shè)定的5個副本,那么系統(tǒng)也會刪除多余的3個副本。 如果HDFS處于安全模式下,不允許HDFS客戶端進(jìn)行任何修改文件的操作,包括上傳文件,刪除文件,重命名,創(chuàng)建文件夾,修改副本數(shù)等操作。

2、安全模式配置

與安全模式相關(guān)主要配置在hdfs-site.xml文件中,主要有下面幾個屬性:

(1)dfs.namenode.replication.min:每個數(shù)據(jù)塊最小副本數(shù)量,默認(rèn)為1在上傳文件時,達(dá)到最小副本數(shù),就認(rèn)為上傳是成功的。

(2)dfs.namenode.safemode.threshold-pct:達(dá)到最小副本數(shù)的數(shù)據(jù)塊的百分比。默認(rèn)為0.999f。當(dāng)小于這個比例,那就將系統(tǒng)切換成安全模式,對數(shù)據(jù)塊進(jìn)行復(fù)制;當(dāng)大于該比例時,就離開安全模式,說明系統(tǒng)有足夠的數(shù)據(jù)塊副本數(shù),可以對外提供服務(wù)。小于等于0意味不進(jìn)入安全模式,大于1意味一直處于安全模式。

(3)dfs.namenode.safemode.min.datanodes:離開安全模式的最小可用datanode數(shù)量要求,默認(rèn)為0也就是即使所有datanode都不可用,仍然可以離開安全模式。

(4)dfs.namenode.safemode.extension:當(dāng)集群可用block比例,可用datanode都達(dá)到要求之后,如果在extension配置的時間段之后依然能滿足要求,此時集群才離開安全模式。單位為毫秒,默認(rèn)為 30000也就是當(dāng)滿足條件并且能夠維持30秒之后,離開安全模式。這個配置主要是對集群穩(wěn)定程度做進(jìn)一步的確認(rèn)。避免達(dá)到要求后馬上又不符合安全標(biāo)準(zhǔn)。

總結(jié)一下,要離開安全模式,需要滿足以下條件:達(dá)到副本數(shù)量要求的 block 比例滿足要求;可用的 datanode 節(jié)點數(shù)滿足配置的數(shù)量要求;1、2 兩個條件滿足后維持的時間達(dá)到配置的要求。

 

3、安全模式命令

手動進(jìn)入安全模式

hdfs dfsadmin -safemode enter

手動進(jìn)入安全模式對于集群維護(hù)或者升級的時候非常有用,因為這時候 HDFS 上的數(shù)據(jù)是只讀的。手動退出安全模式可以用下面命令:

hdfs dfsadmin -safemode leave

以上就是如何使用HDFS安全模式,小編相信有部分知識點可能是我們?nèi)粘9ぷ鲿姷交蛴玫降?。希望你能通過這篇文章學(xué)到更多知識。更多詳情敬請關(guān)注億速云行業(yè)資訊頻道。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI