溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶(hù)服務(wù)條款》

hadoop快速入門(mén)之DKH安裝準(zhǔn)備

發(fā)布時(shí)間:2020-06-18 12:43:41 來(lái)源:網(wǎng)絡(luò) 閱讀:355 作者:adnb34g 欄目:大數(shù)據(jù)

前幾天去參加了一個(gè)線(xiàn)下的聚會(huì),參加聚會(huì)的基本都是從事互聯(lián)網(wǎng)工作的。會(huì)上有人提到了區(qū)塊鏈,從而引發(fā)了一場(chǎng)關(guān)于大數(shù)據(jù)方面的探討。我也是從去年才正式接觸大數(shù)據(jù),一直在學(xué)習(xí)hadoop。相信接觸過(guò)hadoop的人都知道,。單獨(dú)搭建hadoop里每個(gè)組建都需要運(yùn)行環(huán)境、修改配置文件、測(cè)試等過(guò)程,每個(gè)組件幾乎都有坑,尤其是讓新手甚是苦惱。此前有在微博上與一些博友了解過(guò)他們的配置過(guò)程,有的配置了好幾天愣是沒(méi)成功。
Hadoop運(yùn)行環(huán)境配置的坑只有走過(guò)的人才懂,不過(guò)三月份的時(shí)候發(fā)現(xiàn)了一個(gè)比較有意思的國(guó)產(chǎn)hadoop發(fā)行版——大快開(kāi)源的發(fā)行版DKHadoop。DKHadoop將開(kāi)源社區(qū)里多種常用組建包括:HDFS,Hbase,Storm,F(xiàn)lume,Kafka,Mahout,ES等都集成到了這一個(gè)平臺(tái)里,所以整個(gè)運(yùn)行環(huán)境的配置安裝就大大被簡(jiǎn)化了。
hadoop快速入門(mén)之DKH安裝準(zhǔn)備
我把此前安裝的過(guò)程整理了一下分享給感興趣的朋友,主要分為:準(zhǔn)備階段、服務(wù)器操作系統(tǒng)配置、DKH系統(tǒng)安裝、常見(jiàn)問(wèn)題解決方法四個(gè)部門(mén)。由于文章偏于較長(zhǎng),本篇重點(diǎn)為大家分享第一部分——準(zhǔn)備階段。
第一部分:準(zhǔn)備工作
1、大數(shù)據(jù)平臺(tái)所需配置:
(1) 系統(tǒng):CentOS 6.5 64位(需默認(rèn)安裝Desktop)
(2) CPU :intel E3及以上。
(3) 內(nèi)存:建議最小8G,用圖計(jì)算建議32G,推薦128G。
(4) 硬盤(pán):256G以上,推薦使用固態(tài)硬盤(pán)。
(5) 系統(tǒng)分區(qū)要求: 如無(wú)特殊需求,除swap分區(qū)外,可將剩余空間全部分配 到/ (根) 分區(qū)
(6) 網(wǎng)絡(luò)要求:如無(wú)特殊情況,盡量可以接入外網(wǎng)。
(7) 至少三臺(tái)服務(wù)器(三臺(tái)服務(wù)器名字任意起,密碼須一致)。
(8)安裝使用root用戶(hù)作為默認(rèn)用戶(hù)
2、遠(yuǎn)程上傳和遠(yuǎn)程連接工具:
(1)若直接使用個(gè)人PC開(kāi)啟的虛擬機(jī)作為服務(wù)器的基礎(chǔ),直接拷貝到虛擬機(jī)下即可。
(2)若是使用機(jī)房服務(wù)器作平臺(tái)搭建的服務(wù)器,如若不能直接接觸到服務(wù)器,則需要使用遠(yuǎn)程工具連接并發(fā)送安裝包。
第一部分的主要是安裝前的準(zhǔn)備工作,除了做好上述這些,還需要去下載一下安裝版本。我是直接搜索找到了大快的官網(wǎng)下載的一個(gè)三節(jié)點(diǎn)的發(fā)行版。需要的朋友也可以搜索主要一下,如果沒(méi)有找到可以留言給我。

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI