溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Sqoop2使用方法簡介

發(fā)布時間:2020-07-07 06:50:34 來源:網(wǎng)絡(luò) 閱讀:330 作者:去買大白兔 欄目:開發(fā)技術(shù)

1.sqoop2-shell 進(jìn)入 shell


2.show connector 顯示支持的連接方式

Sqoop2使用方法簡介Sqoop2使用方法簡介

Sqoop2使用方法簡介


3.show link -all 查看已有連接的信息


ink with id 1 and name .168.1.188-1464317401319 (Enabled: true, Created by Administrator at 5/27/16 10:50 AM, Updated by Administrator at 5/27/16 10:50 AM)

Using Connector generic-jdbc-connector with id 4

  Link configuration

    JDBC Driver Class: com.mysql.jdbc.Driver

    JDBC Connection String: ****************************************

    Username: 

    Password: 

    JDBC Connection Properties: 


4. create link -c 4 表示創(chuàng)建基于connector4 的link


創(chuàng)建的時候要輸入步驟3顯示的信息



5create job -f -t


-f 從哪個link

-t 到哪個link


(schema name,table name )和 table sql statement 是互斥的只能寫其中一個


table sql statement 要寫${CONDITIONS}


check column 和last value 兩個參數(shù)用作增量更新


這里選擇普通文件(TEXT_FILE)和不壓縮(NONE)的方式進(jìn)行導(dǎo)入,方便查看導(dǎo)入文件


Sqoop2使用方法簡介Sqoop2使用方法簡介




創(chuàng)建成功會返回id


用show job -jid 18  查看job,id為18的詳細(xì)信息



6.如果報錯,想要顯示具體的錯誤信息,可以執(zhí)行下列語句。

sqoop:000> set option -name verbose -value true

Verbose option was changed to true


設(shè)置前

Sqoop2使用方法簡介

Sqoop2使用方法簡介

設(shè)置后,可以在報錯信息中查看具體錯誤信息并排查。


Sqoop2使用方法簡介Sqoop2使用方法簡介




start job -jid 18 -s    

-s:表示實(shí)時顯示job的執(zhí)行進(jìn)度,默認(rèn)不寫的話,只會顯示到j(luò)ob開始



7status job -jid 18 

顯示 id為18的job的執(zhí)行狀態(tài)

Sqoop2使用方法簡介

Sqoop2使用方法簡介



顯示執(zhí)行成功


8.查看Hdfs控制臺

Sqoop2使用方法簡介Sqoop2使用方法簡介


表明已經(jīng)導(dǎo)入成功,如果還不放心 可以用

hadoop dfs -cat /tmp/xktest/文件名

來查看文件具體內(nèi)容是否和表中的相同。


向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI