溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

hadoop安裝遇到的問題

發(fā)布時間:2020-07-29 05:17:53 來源:網(wǎng)絡(luò) 閱讀:741 作者:DbTerminator 欄目:大數(shù)據(jù)

1、啟動yarn時報Error: JAVA_HOME is not set and could not be found.

修改/etc/hadoop/hadoop-env.sh中設(shè)JAVA_HOME,應(yīng)當使用絕對路徑。

export JAVA_HOME=$JAVA_HOME                  //錯誤,不能這么改

export JAVA_HOME=/usr/java/jdk1.6.0_45        //正確,應(yīng)該這么改


2、安裝完啟動hadoop的時候出現(xiàn)如下警告信息

2016-05-20 18:45:11,022 INFO org.apache.hadoop.http.HttpServer2: Jetty bound to port 50070
2016-05-20 18:45:11,027 INFO org.mortbay.log: jetty-6.1.26
2016-05-20 18:45:11,648 INFO org.mortbay.log: Started HttpServer2$SelectChannelConnectorWithSafeStartup@0.0.0.0:50070
2016-05-20 18:45:11,725 

2016-05-20 18:45:11,833 INFO org.apache.hadoop.hdfs.server.namenode.FSNamesystem: No KeyProvider found.
2016-05-20 18:45:11,849 INFO org.apache.hadoop.hdfs.server.namenode.FSNamesystem: fsLock is fair:true
2016-05-20 18:45:11,899 INFO org.apache.hadoop.hdfs.server.blockmanagement.DatanodeManager: dfs.block.invalidate.limit=1000
2016-05-20 18:45:11,900 INFO org.apache.hadoop.hdfs.server.blockmanagement.DatanodeManager: dfs.namenode.datanode.registration.ip-hostname-check=true
2016-05-20 18:45:11,904 INFO org.apache.hadoop.hdfs.server.blockmanagement.BlockManager: dfs.namenode.startup.delay.block.deletion.sec is set to 000:00:00:00.000
2016-05-20 18:45:11,907 INFO org.apache.hadoop.hdfs.server.blockmanagement.BlockManager: The block deletion will start around 2016 五月 20 18:45:11
2016-05-20 18:45:11,914 INFO org.apache.hadoop.util.GSet: Computing capacity for map BlocksMap
2016-05-20 18:45:11,914 INFO org.apache.hadoop.util.GSet: VM type       = 64-bit
2016-05-20 18:45:11,919 INFO org.apache.hadoop.util.GSet: 2.0% max memory 966.7 MB = 19.3 MB

問題原因及解決方法

改警告信息主要是因為做配置文件hdfs-site.xml中dfs.namenode.name.dir參數(shù)的路勁前綴未加上file://,如:

<configuration>

<property>

<name>dfs.replication</name>

<value>2</value>

</property>

<property>

<name>dfs.namenode.name.dir</name>

<value>file:////hadoop/dfs/name</value>

</property>

<property>

<name>dfs.datanode.data.dir</name>

<value>file:////hadoop/dfs/data</value>

</property>

</configuration>


3、hadoop執(zhí)行任意命令對HDFS操作報錯如下:

WARN org.apache.hadoop.util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

問題原因及解決:
改警告主要是因為做hadoop安裝目錄/hadoop/lib/native/下缺少libhadoop.so或者libhadoop.so的版本(32/64bit)與操作系統(tǒng)的版本不一致導(dǎo)致的,只需下載hadoop-native-64-2.6.0解壓到/hadoop/lib/native/目錄下,或者替換原來的即可



向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI