溫馨提示×

您好，登錄后才能下訂單哦！

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

spark集群更換python安裝環(huán)境

發(fā)布時(shí)間：2020-07-10 12:13:08 來(lái)源：網(wǎng)絡(luò) 閱讀：2003 作者：viking714 欄目：大數(shù)據(jù) 
    由于需要用到很多第三方的包，比如numpy，pandas等，而生產(chǎn)環(huán)境又無(wú)法上網(wǎng)單個(gè)包安裝太麻煩，因此考慮把之前安裝的python的獨(dú)立環(huán)境換成Anaconda的集成開發(fā)環(huán)境。以下是具體步驟：
            1安裝Anaconda3-5.0.1-Linux-x86_64.sh腳本
            2給/opt/modules/anaconda3/bin/python3.6建立軟鏈接

ln -s /opt/modules/anaconda3/bin/python /usr/bin/python3
3修改root環(huán)境變量
/root/.bashrc
/root/.bash_profile
修改hdfs用戶環(huán)境變量，因?yàn)榧翰僮鞔蠖嘤衕dfs用戶完成。
su - hdfs
~/.bashrc
export PATH="/usr/bin:$PATH"
4修改pyspark2命令
vi /usr/bin/pyspark2
修改spark2-submit命令
vi /usr/bin/spark2-submit
修改PYSPARK_PYTHON這個(gè)變量
幾個(gè)節(jié)點(diǎn)都要修改，之后spark更換到新的python，常用的包都有了。

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明：本站發(fā)布的內(nèi)容（圖片、視頻和文字）以原創(chuàng)、轉(zhuǎn)載和分享為主，文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱：is@yisu.com進(jìn)行舉報(bào)，并提供相關(guān)證據(jù)，一經(jīng)查實(shí)，將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI
助
手