Hadoop和pig怎么安裝

本篇內(nèi)容主要講解“Hadoop和pig怎么安裝”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“Hadoop和pig怎么安裝”吧!

我們用MapReduce進行數(shù)據(jù)分析。當業(yè)務(wù)比較復(fù)雜的時候，使用MapReduce將會是一個很復(fù)雜的事情，比如你需要對數(shù)據(jù)進行很多預(yù)處理或轉(zhuǎn)換，以便能夠適應(yīng)MapReduce的處理模式,另一方面，編寫MapReduce程序，發(fā)布及運行作業(yè)都將是一個比較耗時的事情。
Pig的出現(xiàn)很好的彌補了這一不足。Pig能夠讓你專心于數(shù)據(jù)及業(yè)務(wù)本身，而不是糾結(jié)于數(shù)據(jù)的格式轉(zhuǎn)換以及MapReduce程序的編寫。本質(zhì)是上來說，當你使用Pig進行處理時，Pig本身會在后臺生成一系列的MapReduce操作來執(zhí)行任務(wù)，但是這個過程對用戶來說是透明的。
Pig的安裝
Pig作為客戶端程序運行，即使你準備在Hadoop集群上使用Pig，你也不需要在集群上做任何安裝。Pig從本地提交作業(yè)，并和Hadoop進行交互。
1）下載Pig
前往http://mirror.bit.edu.cn/apache/pig/ 下載合適的版本，比如 pig-0.17.0.tar.gz
2）解壓文件到合適的目錄
[root@hadp-node1 hadoop]# tar -zxvf pig-0.17.0.tar.gz -C /usr/local/hadoop/
3）設(shè)置環(huán)境變量
export PIG_HOME=/usr/local/hadoop/pig-0.17.0
export PIG_CLASSPATH=$HADOOP_HOME/etc/hadoop/ #顯式設(shè)置HADOOP_HOME變量，確保庫和你實際使用的HADOOP版本兼容

export PATH=$PATH:$PIG_HOME/bin
如果沒有設(shè)置JAVA環(huán)境變量，此時還需要設(shè)置JAVA_HOME，比如：
export JAVA_HOME=/usr/local/jdk1.7.0_51
說明：
PIG_CLASSPATH變量 是PIG配置MapReduce模式，讓Pig軟件找到Hadoop集群，這里是告訴pig軟件hadoop的配置文件在哪里，通過一系列配置文件core_site.xml hdfs-site.xml mapred-site.xml 可以找到關(guān)鍵參數(shù)NameNode 和 JobTracker 的位置以及端口信息，有了這些信息就可以對整個集群進行控制了。

4）驗證
執(zhí)行以下命令，查看Pig是否可用

到此，相信大家對“Hadoop和pig怎么安裝”有了更深的了解，不妨來實際操作一番吧！這里是億速云網(wǎng)站，更多相關(guān)內(nèi)容可以進入相關(guān)頻道進行查詢，關(guān)注我們，繼續(xù)學習！