Sqoop如何安裝、配置及基礎(chǔ)使用

這篇文章給大家分享的是有關(guān)Sqoop如何安裝、配置及基礎(chǔ)使用的內(nèi)容。小編覺(jué)得挺實(shí)用的，因此分享給大家做個(gè)參考，一起跟隨小編過(guò)來(lái)看看吧。

12. Sqoop

此主題介紹Sqoop的安裝、配置及基礎(chǔ)使用。

Sqoop基本信息

官網(wǎng)：http://sqoop.apache.org/
官方文檔：http://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html

12.1. 安裝 

wget http://mirror.bit.edu.cn/apache/sqoop/1.4.6/sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz
tar -zxf sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz
rm -rf sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz
mv sqoop-1.4.6.bin__hadoop-2.0.4-alpha ./frameworks/sqoop

12.2. 配置

vi ~/.profile

export SQOOP_HOME=/opt/workspaces/frameworks/sqoop

source ~/.profile

vi ./frameworks/sqoop/conf/sqoop-env.sh

export HADOOP_COMMON_HOME=/opt/workspaces/frameworks/hadoop
export HADOOP_MAPRED_HOME=/opt/workspaces/frameworks/hadoop
export HIVE_HOME=/opt/workspaces/frameworks/hive

下載mysql驅(qū)動(dòng)

wget -P ./frameworks/sqoop/lib http://central.maven.org/maven2/mysql/mysql-connector-java/5.1.36/mysql-connector-java-5.1.36.jar

12.3. 測(cè)試

./frameworks/sqoop/bin/sqoop version

12.4. 使用

從MySQL數(shù)據(jù)庫(kù)導(dǎo)入數(shù)據(jù)

./frameworks/sqoop/bin/sqoop import --connect jdbc:mysql://<host>:<port>/hive \
 --username hive --password hive \
 --table ROLES \
 --where 1=1 \
 --hive-import --hive-table hive_role

# 如何要啟用增量導(dǎo)入需要加上如下參數(shù)
--incremental lastmodified --check-column <source field> --last-value ''

感謝各位的閱讀！關(guān)于“Sqoop如何安裝、配置及基礎(chǔ)使用”這篇文章就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，讓大家可以學(xué)到更多知識(shí)，如果覺(jué)得文章不錯(cuò)，可以把它分享出去讓更多的人看到吧！