hive動(dòng)態(tài)分區(qū)插入的實(shí)驗(yàn)步驟和總結(jié)

這篇文章主要講解了“hive動(dòng)態(tài)分區(qū)插入的實(shí)驗(yàn)步驟和總結(jié)”，文中的講解內(nèi)容簡單清晰，易于學(xué)習(xí)與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學(xué)習(xí)“hive動(dòng)態(tài)分區(qū)插入的實(shí)驗(yàn)步驟和總結(jié)”吧！

實(shí)驗(yàn)?zāi)康?br/> 1. 驗(yàn)證對分區(qū)表進(jìn)行動(dòng)態(tài)分區(qū)插入功能
2. 驗(yàn)證是否可以使用load進(jìn)行動(dòng)態(tài)分區(qū)插入

實(shí)驗(yàn)步驟
1. 在本地文件/home/grid/a.txt中寫入以下4行數(shù)據(jù)：
aaa,US,CA
aaa,US,CB
bbb,CA,BB
bbb,CA,BC

2. 建立非分區(qū)表并加載數(shù)據(jù)
CREATE TABLE t1 (name STRING, cty STRING, st STRING) ROW FORMAT DELIMITED FIELDS TERMINATED BY ',';
LOAD DATA LOCAL INPATH '/home/grid/a.txt' INTO TABLE t1;  
SELECT * FROM t1;  
dfs -ls /user/hive/warehouse/test.db/t1; 
執(zhí)行命令及結(jié)果如圖1所示。

圖1
3. 建立外部分區(qū)表并動(dòng)態(tài)加載數(shù)據(jù)
CREATE EXTERNAL TABLE t2 (name STRING) PARTITIONED BY (country STRING, state STRING);  
 
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict;
set hive.exec.max.dynamic.partitions.pernode=1000;
INSERT INTO TABLE t2 PARTITION (country, state) SELECT name, cty, st FROM t1;
INSERT INTO TABLE t2 PARTITION (country, state) SELECT name, cty, st FROM t1;
 
SELECT * FROM t2;  
dfs -ls /user/hive/warehouse/test.db/t2/; 
執(zhí)行命令及結(jié)果如圖2所示。

圖2
可以看到，向內(nèi)部分區(qū)表中加載了8條數(shù)據(jù)，動(dòng)態(tài)建立了目錄。

4. 編輯a.txt，使其有以下4行數(shù)據(jù)，然后在執(zhí)行下面的命令。
aaa,US,CD
aaa,US,CE
ccc,CB,BB
ccc,CB,BC
LOAD DATA LOCAL INPATH '/home/grid/a.txt' OVERWRITE INTO TABLE t1;
INSERT OVERWRITE TABLE t2 PARTITION (country, state) SELECT name, cty, st FROM t1;
SELECT * FROM t2;  
dfs -ls /user/hive/warehouse/test.db/t2/; 
dfs -ls /user/hive/warehouse/test.db/t2/country=US;
執(zhí)行命令及結(jié)果如圖3所示。

圖3
可以看到，現(xiàn)在表中有12條數(shù)據(jù)，OVERWRITE并沒有覆蓋原來的分區(qū)，而是追加了4條數(shù)據(jù)，并且動(dòng)態(tài)建立了新的分區(qū)目錄。
再次執(zhí)行一次下面的命令：
INSERT OVERWRITE TABLE t2 PARTITION (country, state) SELECT name, cty, st FROM t1;
SELECT * FROM t2;  
dfs -ls /user/hive/warehouse/test.db/t2/; 
dfs -ls /user/hive/warehouse/test.db/t2/country=US;
執(zhí)行命令及結(jié)果如圖4所示。

圖4
可以看到，現(xiàn)在表中還是12條數(shù)據(jù)，分區(qū)目錄也沒有變化。

在動(dòng)態(tài)分區(qū)插入上，內(nèi)外部分區(qū)表的行為相同，實(shí)驗(yàn)從略。

5. 使用LOAD做動(dòng)態(tài)分區(qū)插入
LOAD DATA LOCAL INPATH '/home/grid/a.txt' INTO TABLE t2 PARTITION (country, state);
執(zhí)行命令及結(jié)果如圖5所示。

圖5
可以看到，load命令不支持動(dòng)態(tài)分區(qū)插入。

總結(jié)：
1. OVERWRITE不會(huì)刪除已有的分區(qū)目錄，只會(huì)追加新的分區(qū)，并覆蓋已有分區(qū)的非分區(qū)數(shù)據(jù)。
2. 不能使用load進(jìn)行動(dòng)態(tài)分區(qū)插入

感謝各位的閱讀，以上就是“hive動(dòng)態(tài)分區(qū)插入的實(shí)驗(yàn)步驟和總結(jié)”的內(nèi)容了，經(jīng)過本文的學(xué)習(xí)后，相信大家對hive動(dòng)態(tài)分區(qū)插入的實(shí)驗(yàn)步驟和總結(jié)這一問題有了更深刻的體會(huì)，具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是億速云，小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章，歡迎關(guān)注！