java中hadoop集群服務(wù)器如何安裝

這篇文章主要介紹了java中hadoop集群服務(wù)器如何安裝，具有一定借鑒價(jià)值，需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。

虛擬機(jī)以及Linux系統(tǒng)安裝在之前的兩篇分享中已經(jīng)詳細(xì)的介紹了方法，并且每一步的都配圖了。如果有朋友還是看不懂，那我也愛(ài)莫能助了。本篇主要就hadoop服務(wù)器操作系統(tǒng)配置進(jìn)行詳細(xì)說(shuō)明，hadoop安裝會(huì)在下一篇文章中詳細(xì)的介紹。
hadoop安裝包用的是大快DKHadoop發(fā)行版，個(gè)人覺(jué)得DKHadoop的安裝過(guò)程是比較簡(jiǎn)單，關(guān)于dkhadoop的安裝在下一次的分享中再詳細(xì)介紹吧。下面進(jìn)入到本篇的主題——服務(wù)器操作系統(tǒng)配置教程

一、安裝包準(zhǔn)備
1、虛擬機(jī)分布式安裝（三臺(tái)及以上虛擬機(jī)）
若是個(gè)人電腦Windows系統(tǒng)或Linux系統(tǒng)，虛擬機(jī)上虛擬的三臺(tái)服務(wù)器，則將安裝包拷貝到服務(wù)器上，進(jìn)行安裝操作即可。
2、物理集群（三臺(tái)及以上實(shí)體服務(wù)器）
1、    外網(wǎng)下載模式
2、    本地文件模式
將安裝包文件直接拷貝到實(shí)體服務(wù)器root目錄下，進(jìn)行安裝操作即可。
3、上傳模式
當(dāng)服務(wù)器在機(jī)房，且無(wú)顯示和輸入設(shè)備的情況下，應(yīng)用該模式。
現(xiàn)將文件，安裝在本地計(jì)算機(jī)上（默認(rèn)為筆記本電腦，在機(jī)房現(xiàn)場(chǎng)），并將計(jì)算機(jī)與服務(wù)器連接，將安裝包install、DKHInstall上傳到服務(wù)器root目錄下。

二、服務(wù)器操作系統(tǒng)配置教程
準(zhǔn)備工作完成之后，就要進(jìn)行服務(wù)器配置操作，首先必須三臺(tái)服務(wù)器之間要互相ping通。所謂ping通，就是兩臺(tái)設(shè)備之間網(wǎng)絡(luò)是通的。從一端發(fā)送一個(gè)數(shù)據(jù)包，另一端就能夠收到，就代表兩臺(tái)設(shè)備是能夠ping通了。
1、修改權(quán)限
目的：使install、DKHInstall兩個(gè)安裝包有可執(zhí)行的權(quán)限。權(quán)限不足無(wú)法執(zhí)行一些操作。install里面是腳本和所有組件，DKHInstall里面是安裝界面。
步驟：在準(zhǔn)備工作中拷貝安裝包 install、DKHInstall到主節(jié)點(diǎn)目錄后，修改文件權(quán)限。首先進(jìn)入root目錄，安裝目錄 install、DKHInstall的權(quán)限改為：文件所有者可讀可寫(xiě)可執(zhí)行，與文件所有者屬于一個(gè)用戶組的其他用戶可讀可執(zhí)行，其他用戶組可讀可執(zhí)行。
命令：
cd /root/
unzip DKHPlantform.zip
chmod -R 755 DKHPlantform

2、 搭建Hadoop集群設(shè)置SSH免密登錄
目的：Hadoop運(yùn)行過(guò)程中需要管理遠(yuǎn)端Hadoop守護(hù)進(jìn)程，在Hadoop啟動(dòng)以后，NameNode是通過(guò)SSH（Secure Shell）來(lái)啟動(dòng)和停止各個(gè)DataNode上的各種守護(hù)進(jìn)程的。這就必須在節(jié)點(diǎn)之間執(zhí)行指令的時(shí)候是不需要輸入密碼的形式，所以我們需要配置SSH運(yùn)用無(wú)密碼公鑰認(rèn)證的形式，這樣NameNode使用SSH無(wú)密碼登錄并啟動(dòng)DataName進(jìn)程，同樣原理，DataNode上也能使用SSH無(wú)密碼登錄到NameNode。
步驟：
（1）修改本機(jī)hosts文件，寫(xiě)入對(duì)應(yīng)關(guān)系
為了區(qū)分局域網(wǎng)內(nèi)的每臺(tái)主機(jī)，都會(huì)給主機(jī)配一個(gè)主機(jī)名，每臺(tái)主機(jī)之間又是通過(guò)IP進(jìn)行通信，但I(xiàn)P地址不方便記憶，所以配置主機(jī)名和IP映射能夠?qū)崿F(xiàn)主機(jī)之間的快速方便的訪問(wèn)。
命令：
vi /etc/hosts
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+: 鍵，輸入wq，后回車就可以保存。輸入q！后回車則是放棄保存并退出.
進(jìn)入編輯模式后，按照規(guī)則寫(xiě)入主機(jī)與ip的對(duì)應(yīng)關(guān)系（主機(jī)名稱dk41是自己命名的，如下圖）例：

   192.168.1.41    dk41

192.168.1.42    dk42
192.168.1.43    dk43

編輯完后，保存退出。把對(duì)應(yīng)關(guān)系拷到其他兩臺(tái)或多臺(tái)機(jī)器上。
命令：
scp  -r  /etc/hosts  192.168.1.42:/etc
scp  -r  /etc/hosts  192.168.1.43:/etc
（2）執(zhí)行集群之間免密前的準(zhǔn)備工作  
執(zhí)行sshpass.sh的腳本的時(shí)候會(huì)去讀sshhosts和sshslaves這兩個(gè)文件，替換
修改文件sshhosts，輸入全部機(jī)器的主機(jī)名，每行一個(gè)主機(jī)名（如下圖）
命令：
vi /root/DKHPlantform/autossh/sshhosts
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq，后回車就可以保存。輸入q！后回車則是放棄保存并退出.

修改文件sshslaves，寫(xiě)入除主機(jī)名之外的所有機(jī)器名（如下圖）
命令：
vi /root/DKHPlantform/autossh/sshslaves
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq，后回車就可以保存。輸入q！后回車則是放棄保存并退出.

（3）執(zhí)行集群免密工作
命令：
cd /root/DKHPlantform/autossh
./autossh 主節(jié)點(diǎn)主機(jī)名 集群密碼
例： ./autossh dk41 123456
（4）關(guān)閉防火墻
防止訪問(wèn)服務(wù)器時(shí)某些服務(wù)被攔截,需關(guān)閉防火墻。
命令：
cd /root/DKHPlantform/autossh
./offIptables.sh

3、 安裝雙機(jī)熱備份的MySQL
目的：存放Hive的元數(shù)據(jù)
步驟：
（1）從主節(jié)點(diǎn)分發(fā)mySQL安裝目錄到第二節(jié)點(diǎn)
命令：
scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/
（2）主節(jié)點(diǎn)執(zhí)行：
命令：                                                                                                                                
cd /root/DKHPlantform/mysqlInst/
./mysql.sh 1
從節(jié)點(diǎn)執(zhí)行:
命令：
cd /root/mysqlInst/
./mysql.sh 2

（3）執(zhí)行成功之后執(zhí)行熱備份（兩臺(tái)機(jī)器上都要執(zhí)行，兩個(gè)ip互換,41上寫(xiě)42,42上寫(xiě)41,密碼是MySQL的密碼為：123456。平臺(tái)內(nèi)已經(jīng)設(shè)定好，請(qǐng)勿修改）：
命令：
source /etc/profile
./sync.sh 192.168.1.xxx(另一臺(tái)mysql地址)
4、 創(chuàng)建數(shù)據(jù)庫(kù)
目的：MySQL是一種關(guān)聯(lián)數(shù)據(jù)庫(kù)管理系統(tǒng)，關(guān)聯(lián)數(shù)據(jù)庫(kù)將數(shù)據(jù)保存在不同的表中，增加了速度并提高了靈活性。
步驟：
（1）導(dǎo)入MySQL數(shù)據(jù)表，只在主節(jié)點(diǎn)執(zhí)行：
命令：
mysql -uroot -p123456 < { 此處為sql文件,主目錄下文件： dkh.sql}
如：mysql -uroot -p123456 </root/DKHPlantform/dkh.sql
（2）執(zhí)行完后查看一下兩臺(tái)mysql的數(shù)據(jù)表是否存在,從主節(jié)點(diǎn)中查看執(zhí)行：
命令：
mySQL  -uroot  -p123456
show databases;
use dkh;
show tables;

5、啟動(dòng)安裝
目的：服務(wù)器配置操作完成之后，啟動(dòng)DKH。
步驟：執(zhí)行以下命令。
命令：
cd /root/DKHPlantform/dkh-tomcat*/bin/
./startup.sh
6、本地時(shí)間服務(wù)器搭建步驟
沒(méi)聯(lián)網(wǎng)或者裝系統(tǒng)時(shí)時(shí)間未同步，需要搭建本地時(shí)間服務(wù)器。
（1）搭建內(nèi)網(wǎng)的ntp服務(wù)器
修改/etc/ntp.conf
命令：
Vim /etc/ntp.conf
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq后回車就可以保存。輸入q！后回車則是放棄保存并退出.
修改下列三行:

server 0.centos.pool.ntp.org

server 1.centos.pool.ntp.org

server 2.centos.pool.ntp.org

在文件最后添加下列兩行:
server  127.127.1.0  
fudge   127.127.1.0 stratum 10
（2）啟動(dòng)ntp服務(wù)
service ntpd start
（3）開(kāi)機(jī)自動(dòng)啟動(dòng)
chkconfig ntpd on
（4）客戶端同步時(shí)間
命令：
Vim /etc/ntp.conf
通過(guò)按鍵盤(pán)上的insert或是I鍵進(jìn)入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq，后回車就可以保存。輸入q！后回車則是放棄保存并退出.
在文件最后添加一行：
/15 * root ntpdate 192.168.27.35;hwclock -w

感謝你能夠認(rèn)真閱讀完這篇文章，希望小編分享java中hadoop集群服務(wù)器如何安裝內(nèi)容對(duì)大家有幫助，同時(shí)也希望大家多多支持億速云，關(guān)注億速云行業(yè)資訊頻道，遇到問(wèn)題就找億速云，詳細(xì)的解決方法等著你來(lái)學(xué)習(xí)!