溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

CDH5.14如何集成ranger0.5.3

發(fā)布時(shí)間:2021-11-23 11:14:04 來(lái)源:億速云 閱讀:163 作者:小新 欄目:大數(shù)據(jù)

這篇文章主要介紹CDH5.14如何集成ranger0.5.3,文中介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們一定要看完!

CDH5.14的hive版本是1.1.0,經(jīng)過(guò)1周的嘗試,開始選擇了ranger最新版本1.2.0,最后jdbc連接時(shí)因?yàn)閔ive-jdbc版本和hive版本不匹配報(bào)錯(cuò),所以選擇ranger0.5.3版本做了集成測(cè)試,過(guò)程中還是出現(xiàn)了一些問(wèn)題,感覺hontonworks和cloudera之間不太兼容啊。。。暫時(shí)還不是很完美,不過(guò)最終算是完成了。
首先安裝ranger-admin。
1.cd /home/ranger
下載ranger的tar包:
wget https://archive.apache.org/dist/incubator/ranger/0.5.3-incubating/apache-ranger-incubating-0.5.3.tar.gz
解壓tar包:
2.tar -xzvf apache-ranger-incubating-0.5.3.tar.gz
然后 進(jìn)入解壓后的目錄:
3./home/ranger/apache-ranger-incubating-0.5.3.tar.gz
編譯整個(gè)項(xiàng)目,時(shí)間比較久,建議nohup掛在后臺(tái):
4.nohup mvn clean compile package assembly:assembly install -DskipTests=true -Drat.skip=true -Dmaven.test.skip=true > maven.log &
編譯之前先解決一個(gè)問(wèn)題,否則編譯通不過(guò):
1.python版本,要python2.7才可以,用2.6或者3都會(huì)出現(xiàn)問(wèn)題,

編譯完了之后進(jìn)入目錄
/home/ranger/apache-ranger-1.2.0/target
我們需要的文件都構(gòu)建好了

我們先把ranger-admin安裝先,cp到/usr/local
cp /home/ranger/apache-ranger-incubating-0.5.3/target/ranger-0.5.3-admin.tar.gz /usr/local

解壓:
tar -xzvf /usr/local/ranger-0.5.3-admin.tar.gz
進(jìn)入/usr/local/ranger-0.5.3-admin
修改下install.properties中的配置項(xiàng),然后
使用root用戶執(zhí)行
bash /usr/local/ranger-0.5.3-admin/setup.sh
就安裝好了
然后執(zhí)行ranger-admin start 即可啟動(dòng)ranger-admin;
瀏覽器http://hostname:6080如下登錄界面,admin/admin 即可登錄
用戶名:admin
密碼:admin

這里著重寫一下ranger-hive-plugin的配置和安裝。
ranger源碼編譯完成之后,在ranger目錄下有hive插件的包:
/home/ranger/apache-ranger-incubating-0.5.3/target/ranger-0.5.3-hive-plugin.tar.gz

把這個(gè)包c(diǎn)p到hiveserver的節(jié)點(diǎn)上,放在hive安裝目錄同級(jí)的路徑下,比如我們用的cdh,一般hive安裝目錄在/opt/cloudera/parcels/CDH/lib/hive/,所以我們把ranger-hive-plugin放在/opt/cloudera/parcels/CDH/lib這個(gè)目錄下,之所以這么做,是因?yàn)?br/>等下ranger-hive-plugin集成到hive里面會(huì)默認(rèn)去它的相對(duì)路徑找依賴jar包,放在這里直接就可以找到,不用像網(wǎng)上說(shuō)的那樣還要去建軟連接。
之后修改/opt/cloudera/parcels/CDH/lib/ranger-0.5.3-hive-plugin/install.properties
中配置信息,改完之后運(yùn)行enable-hive-plugin.sh腳本,在重啟hiveserver2,ranger的配置即可生效,不過(guò)從cdh中啟動(dòng)hiveserver2是不會(huì)生效的,因?yàn)樗粫?huì)去讀取hive安裝路徑下的config目錄,而是會(huì)動(dòng)態(tài)生成一個(gè)config目錄,只能手動(dòng)去啟動(dòng)
命令是 hive --service hiveserver2
后面看看能不能解決這個(gè)問(wèn)題

進(jìn)入ranger admin的,添加hive規(guī)則,測(cè)試jdbc連通性會(huì)報(bào)錯(cuò),因?yàn)槲覀兿碌膔anger版本自帶的是hive1.2.0的版本,hive-jdbc的版本我我們使用的hive版本不同,所以我們要把a(bǔ)dmin下相關(guān)jar包更換掉,

/usr/local/ranger-0.5.3-admin/ews/webapp/WEB-INF/classes/ranger-plugins/hive這個(gè)目錄下,hive1.2有關(guān)的包全部換成我們使用的版本,相關(guān)的包都可以在cdh安裝路徑下可以找到(/opt/cloudera/parcels/CDH-5.14.0-1.cdh6.14.0.p0.24/lib/hive/lib/)

之后就可以正常使用了,用beeline客戶端測(cè)試ranger使用正常,不過(guò)用hue的時(shí)候會(huì)報(bào)錯(cuò),錯(cuò)誤信息顯示:java.lang.IllegalArgumentException:Cannot modify hive.server2.proxy.user at runtime.,大概是hive查詢的代理用戶沒有權(quán)限去查詢,所以需要把一些系統(tǒng)用戶加入到hive的白名單中,

在hive-site.xml中添加:
<property>
<name>hive.security.authorization.sqlstd.confwhitelist.append</name>
<value>mapred.|hive.|mapreduce.|spark.</value>
</property>
<property>
<name>hive.security.authorization.sqlstd.confwhitelist</name>
<value>mapred.|hive.|mapreduce.|spark.</value>
</property>

即可

以上是“CDH5.14如何集成ranger0.5.3”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對(duì)大家有幫助,更多相關(guān)知識(shí),歡迎關(guān)注億速云行業(yè)資訊頻道!

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI