溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

如何永久自定義hive函數(shù)

發(fā)布時間:2021-12-11 11:26:37 來源:億速云 閱讀:341 作者:小新 欄目:云計算

這篇文章主要為大家展示了“如何永久自定義hive函數(shù)”,內(nèi)容簡而易懂,條理清晰,希望能夠幫助大家解決疑惑,下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“如何永久自定義hive函數(shù)”這篇文章吧。

永久自定義hive函數(shù)

1:做這件事的原因:

有一些函數(shù)是比較基礎(chǔ)的,公用的,每次都要create temporary function麻煩了,這樣的基礎(chǔ)函數(shù)需要直接集成到hive中去,避免每次都要創(chuàng)建。

2:步驟

本人擁有一個賬戶zb_test

自定義的函數(shù)已經(jīng)準(zhǔn)備好

如何永久自定義hive函數(shù)
 

登陸linux賬戶,修改該賬戶的home目錄下的.bashrc文件:

把CLASSPATH改成如下:

export CLASSPATH=$JAVA_HOME/lib:$JAVA_HOME/jre/lib:$SQOOP_HOME/lib:/opt/boh-2.0.0/hadoop/share/hadoop/

tools/lib/*:/opt/boh-2.0.0/hadoop/share/hadoop/common/lib/*:/opt/boh-2.0.0/hadoop/share/hadoop/common/*:/opt/boh-2.0.0/hive/li

b/*:$CLASSPATH(目的是自己編譯的時候要用到)

獲取hive-0.12.0-cdh6.0.0-src.tar.gz的源代碼

解壓,找到hive-exec-0.12.0-cdh6.0.0.jar包(hive函數(shù)跟這個有關(guān)),再解壓。

jar -xvf XXX.jar

編譯自定義函數(shù)的java文件,比如放在utf下

Javac ./utf/*

產(chǎn)生.class文件,放到abc目錄下。

把.class文件打成jar包

Jar -cvf ./hello.jar ./abc/*

產(chǎn)生一個jar包,叫hello.jar

把jar包放到/data/zb_test/目錄下

然后修改/data/zb_test/.bashrc文件的:

export CLASSPATH=/data/zb_test/hello.jar:$JAVA_HOME/lib:$JAVA_HOME/jre/lib:$SQOOP_HOME/lib:/opt/boh-2.0.0/hadoop/share/hadoop/tools/lib/*:/opt/boh-2.0.0/hadoop/share/hadoop/common/lib/*:/opt/boh-2.0.0/hadoop/share/hadoop/common/*:/opt/boh-2.0.0/hive/lib/*:$CLASSPATH(為了測試用的)

將函數(shù)test注冊到hive的函數(shù)列表中
修改$HIVE_HOME/src/ql/src/java/org/apache/hadoop/hive/ql/exec/FunctionRegistry.java文件
import org.apache.hadoop.hive.ql.udf.UDFTest;

registerUDF(“test”, UDFTest.class,false);

重要步驟:

1:把剛剛產(chǎn)生的所有的.class文件都放到修改$HIVE_HOME/src/ql/src/java/org/apache/hadoop/hive/ql/udf下面

2:然后編譯FunctionRegistry.java文件:編譯通過以后,我們找到hive-exec-0.12.0-cdh6.0.0.jar里面的$HIVE_HOME/src/ql/src/java/org/apache/hadoop/hive/ql/exec/FunctionRegistry.class文件,我們把替換了。

這些路徑都是在hive-exec-0.12.0-cdh6.0.0.jar解壓后的org的路徑下的。

其實(shí)把這兩個步驟做了以后,重新把剛剛解壓的hive-exec-0.12.0-cdh6.0.0.jar打成jar包,替換了hive里的,就可以了。

以上是“如何永久自定義hive函數(shù)”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學(xué)習(xí)更多知識,歡迎關(guān)注億速云行業(yè)資訊頻道!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI