hive增加了哪些功能

本篇內(nèi)容主要講解“hive增加了哪些功能”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實(shí)用性強(qiáng)。下面就讓小編來帶大家學(xué)習(xí)“hive增加了哪些功能”吧!

一、配置hive-site.xml

CDH版本先進(jìn)入Hive配置頁

選擇高級(jí)，找到hive-site.xml 的 Hive 客戶端高級(jí)配置代碼段配置項(xiàng)

然后點(diǎn)擊保存更改，分發(fā)配置就可以了。

二、建表

如果要支持delete和update，則必須輸出是AcidOutputFormat然后必須分桶。
而且目前只有ORCFileformat支持AcidOutputFormat，不僅如此建表時(shí)必須指定參數(shù)('transactional' = true)
如

1. USE test;

2. DROP TABLE IF EXISTS S1_AC_ACTUAL_PAYDETAIL;

3. CREATE TABLE IF NOT EXISTS S1_AC_ACTUAL_PAYDETAIL

4. (

5. INPUTDATE STRING,

6. SERIALNO STRING,

7. PAYDATE STRING,

8. ACTUALPAYDATE STRING,

9. CITY STRING,

10. PRODUCTID STRING,

11. SUBPRODUCTTYPE STRING,

12. ISP2P STRING,

13. ISCANCEL STRING,

14. CDATE STRING,

15. PAYTYPE STRING,

16. ASSETSOWNER STRING,

17. ASSETSOUTDATE STRING,

18. CPD DOUBLE,

19. PAYPRINCIPALAMT BIGINT,

20. PAYINTEAMT BIGINT,

21. A2 BIGINT,

22. A7 BIGINT,

23. A9 BIGINT,

24. A10 BIGINT,

25. A11 BIGINT,

26. A12 BIGINT,

27. A17 BIGINT,

28. A18 BIGINT,

29. PAYAMT BIGINT,

30. LOANNO STRING,

31. CREATEDATE STRING,

32. CUSTOMERID STRING,

33. etl_in_dt string

34. )

35. CLUSTERED BY (SERIALNO) --根據(jù)某個(gè)字段分桶

36. INTO 7 BUCKETS --分為多少個(gè)桶

37. ROW FORMAT DELIMITED

38. FIELDS TERMINATED BY ','

39. LINES TERMINATED BY '\n'

40. STORED AS ORC

41. LOCATION '/user/hive/test/S1_AC_ACTUAL_PAYDETAIL'

42. TBLPROPERTIES('transactional'='true');--增加額描述信息，比如最后一次修改信息，最后一個(gè)修改人。

注：由于cdh自動(dòng)的在元數(shù)據(jù)里面創(chuàng)建了COMPACTION_QUEUE表，所以博客中說的那個(gè)問題不存在

三、操作

執(zhí)行

1. update test.S1_AC_ACTUAL_PAYDETAIL set city='023' where SERIALNO = '20688947002';

操作100條數(shù)據(jù)，平均每條花費(fèi)2秒多，其中執(zhí)行花費(fèi)1秒左右。相對(duì)還是能接受的。

1. delete from test.S1_AC_ACTUAL_PAYDETAIL where SERIALNO = '20688947002';

四、總結(jié)

• 1、Hive可以通過修改參數(shù)達(dá)到修改和刪除數(shù)據(jù)的效果，但是速度遠(yuǎn)遠(yuǎn)沒有傳統(tǒng)關(guān)系型數(shù)據(jù)庫快

• 2、通過ORC的每個(gè)task只輸出單個(gè)文件和自帶索引的特性，以及數(shù)據(jù)的分桶操作，可以將要修改的數(shù)據(jù)鎖定在一個(gè)很小的文件塊，因此可以做到相對(duì)便捷的文件修改操作。因此數(shù)據(jù)的分桶操作非常重要，通常一些表單信息都會(huì)根據(jù)具體的表單id進(jìn)行刪除與修改，因此推薦使用表單ID作為分桶字段。

• 3、頻繁的update和delete操作已經(jīng)違背了hive的初衷。不到萬不得已的情況，還是使用增量添加的方式最好。

到此，相信大家對(duì)“hive增加了哪些功能”有了更深的了解，不妨來實(shí)際操作一番吧！這里是億速云網(wǎng)站，更多相關(guān)內(nèi)容可以進(jìn)入相關(guān)頻道進(jìn)行查詢，關(guān)注我們，繼續(xù)學(xué)習(xí)！