溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

ambari 搭建hadoop大數(shù)據(jù)平臺系列2-客戶機(jī)配置

發(fā)布時間:2020-07-29 22:27:13 來源:網(wǎng)絡(luò) 閱讀:908 作者:TIMES2020 欄目:大數(shù)據(jù)

 

本案例搭建的環(huán)境介紹如下:Ambari 2.4.2 + HDP 2.5 (hadoop 2.7 ;hive 1.2 ;Tez ;Spark 2.0)+jdk1.8.25 +centos7.0,這里首先要關(guān)注些注意事項,至于為什么會一一說明。


第一部分:注意事項:


版本必須低于7.2
selinux 必須關(guān)閉
firewalld 必須關(guān)閉
127.0.0.1  hosts該條記錄刪除
本地倉庫必須搭建
root 賬戶ssh 啟用
指定hdfs data 目錄
安裝jdk1.8.0
所有機(jī)器時間必須同步


1:版本必須低于7.2,這里踩了個大坑,剛開始選用了7.3,最后發(fā)現(xiàn)經(jīng)常莫名其妙的異常,經(jīng)常安裝失敗。后來從官方查到(沒有放在最顯眼的位置說明):


ambari 搭建hadoop大數(shù)據(jù)平臺系列2-客戶機(jī)配置




2. 127.0.0.1  hosts該條記錄刪除 ,這也是在埋坑過后 發(fā)現(xiàn)的

ambari 搭建hadoop大數(shù)據(jù)平臺系列2-客戶機(jī)配置



3.本地倉庫必須搭建 ,如果不搭建本地倉庫,太痛苦了。下載過程巨慢,而且每次重新來的時候,巨費(fèi)時間。



4.root 賬戶ssh 啟用  這個我也考慮過使用專門賬戶,雖然ambari 也支持該功能,但是需要做相應(yīng)的很多更改,如果是測試機(jī)版本,還是便捷點(diǎn)比較好,后期可以通過ambari 的相關(guān)安全策略來補(bǔ)上。



5.其他的幾項注意事項,大家一看就懂的,不過還是得細(xì)心檢查比較好。否則后面的拍錯過程會費(fèi)掉很多精力




第二部分:開始配置客戶端及ambari-server 


1.集群端機(jī)器分配如下:

centos7.010.1.11.1hadoop11-1
centos7.010.1.11.2hadoop11-2
centos7.010.1.11.3hadoop11-3
centos7.010.1.11.4hadoop11-4
centos7.010.1.11.5hadoop11-5
centos7.010.1.11.6hadoop11-6
centos7.010.1.11.7hadoop11-7


2.檢查 centos 版本,關(guān)閉selinux ,firewalld , 添加hosts 記錄,安裝jdk1.8,


檢查時區(qū)和時間是否統(tǒng)一

yum install ntp

cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime



配置root ssh 登陸

ambari 搭建hadoop大數(shù)據(jù)平臺系列2-客戶機(jī)配置



配置jdk1.8.025 ,將jdk  解壓到/usr/local/java/jdk1.8.0_112目錄:

/etc/profile 文件末尾添加

#add jdk-8u112

##add for jdk

export JAVA_HOME=/usr/local/java/jdk1.8.0_112

export CLASSPATH=$JAVA_HOME/lib:$JAVA_HOME/jre/lib:$JAVA_HOME/lib/tools.jar

export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH



配置hosts 文件


cat /etc/hosts

10.1.11.32 localRepository-11-32  

10.1.11.10 ambari-11-10

10.1.11.1 hadoop11-1

10.1.11.2 hadoop11-2

10.1.11.3 hadoop11-3

10.1.11.4 hadoop11-4

10.1.11.5 hadoop11-5

10.1.11.6 hadoop11-6

10.1.11.7 hadoop11-7




如上,客戶機(jī)的相關(guān)準(zhǔn)備工作已經(jīng)都檢查完畢。下一步驟,先搭建本地倉庫,以便下載。







向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI