使用hadoop怎么對(duì)錯(cuò)誤進(jìn)行處理

本篇文章為大家展示了使用hadoop怎么對(duì)錯(cuò)誤進(jìn)行處理，內(nèi)容簡(jiǎn)明扼要并且容易理解，絕對(duì)能使你眼前一亮，通過(guò)這篇文章的詳細(xì)介紹希望你能有所收獲。

1、hadoop-root-datanode-master.log 中有如下錯(cuò)誤：
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in
導(dǎo)致datanode啟動(dòng)不了。
原因:每次namenode format會(huì)重新創(chuàng)建一個(gè)namenodeId,而dfs.data.dir參數(shù)配置的目錄中包含的是上次format創(chuàng)建的id,和dfs.name.dir參數(shù)配置的目錄中的id不一致。namenode format清空了namenode下的數(shù)據(jù),但是沒(méi)有清空datanode下的數(shù)據(jù),導(dǎo)致啟動(dòng)時(shí)失敗,所要做的就是每次fotmat前,清空dfs.data.dir參數(shù)配置的目錄.
格式化hdfs的命令

復(fù)制代碼 代碼如下:

hadoop namenode -format 

2、如果datanode連接不上namenode，導(dǎo)致datanode無(wú)法啟動(dòng)。
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Call to ... failed on local exception: java.net.NoRouteToHostException: No route to host
關(guān)閉防火墻

復(fù)制代碼 代碼如下:

service iptables stop

機(jī)器重啟后，防火墻還會(huì)開(kāi)啟。

3、從本地往hdfs文件系統(tǒng)上傳文件，出現(xiàn)如下錯(cuò)誤：
INFO hdfs.DFSClient: Exception in createBlockOutputStream java.io.IOException: Bad connect ack with firstBadLink
INFO hdfs.DFSClient: Abandoning block blk_-1300529705803292651_37023
WARN hdfs.DFSClient: DataStreamer Exception: java.io.IOException: Unable to create new block.
解決方法：
關(guān)閉防火墻：

復(fù)制代碼 代碼如下:

service iptables stop

禁用selinux:
編輯 /etc/selinux/config文件，設(shè)置“SELINUX=disabled”

4、安全模式導(dǎo)致的錯(cuò)誤
org.apache.hadoop.dfs.SafeModeException: Cannot delete ..., Name node is in safe mode
在分布式文件系統(tǒng)啟動(dòng)的時(shí)候，開(kāi)始的時(shí)候會(huì)有安全模式，當(dāng)分布式文件系統(tǒng)處于安全模式的情況下，文件系統(tǒng)中的內(nèi)容不允許修改也不允許刪除，直到安全模式結(jié)束。安全模式主要是為了系統(tǒng)啟動(dòng)的時(shí)候檢查各個(gè)DataNode上數(shù)據(jù)塊的有效性，同時(shí)根據(jù)策略必要的復(fù)制或者刪除部分?jǐn)?shù)據(jù)塊。運(yùn)行期通過(guò)命令也可以進(jìn)入安全模式。在實(shí)踐過(guò)程中，系統(tǒng)啟動(dòng)的時(shí)候去修改和刪除文件也會(huì)有安全模式不允許修改的出錯(cuò)提示，只需要等待一會(huì)兒即可。

復(fù)制代碼 代碼如下:

hadoop dfsadmin -safemode leave

關(guān)閉安全模式

上述內(nèi)容就是使用hadoop怎么對(duì)錯(cuò)誤進(jìn)行處理，你們學(xué)到知識(shí)或技能了嗎？如果還想學(xué)到更多技能或者豐富自己的知識(shí)儲(chǔ)備，歡迎關(guān)注億速云行業(yè)資訊頻道。