Hadoop基礎框架有哪些

本篇內容介紹了“Hadoop基礎框架有哪些”的有關知識，在實際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領大家學習一下如何處理這些情況吧！希望大家仔細閱讀，能夠學有所成！

Pig

一種操作hadoop的輕量級腳本語言，最初又雅虎公司推出，不過現(xiàn)在正在走下坡路了。當初雅虎自己慢慢退出pig的維護之后將它開源貢獻到開源社區(qū)由所有愛好者來維護。不過現(xiàn)在還是有些公司在用，不過我認為與其使用pig不如使用hive。
Pig是一種數據流語言，用來快速輕松的處理巨大的數據。
Pig包含兩個部分：Pig Interface,Pig Latin。
Pig可以非常方便的處理HDFS和HBase的數據，和Hive一樣,Pig可以非常高效的處理其需要做的，通過直接操作Pig查詢可以節(jié)省大量的勞動和時間。當你想在你的數據上做一些轉換，并且不想編寫MapReduce jobs就可以用Pig.

Hive

不想用程序語言開發(fā)MapReduce的朋友比如DB們，熟悉SQL的朋友可以使用Hive開離線的進行數據處理與分析工作。
注意Hive現(xiàn)在適合在離線下進行數據的操作，就是說不適合掛在真實的生產環(huán)境中進行實時的在線查詢或操作，因為一個字“慢”。相反
起源于FaceBook,Hive在Hadoop中扮演數據倉庫的角色。建立在Hadoop集群的最頂層，對存儲在Hadoop群上的數據提供類SQL的接口進行操作。你可以用 HiveQL進行select,join,等等操作。
如果你有數據倉庫的需求并且你擅長寫SQL并且不想寫MapReduce jobs就可以用Hive代替。

HBase

HBase作為面向列的數據庫運行在HDFS之上，HDFS缺乏隨即讀寫操作，HBase正是為此而出現(xiàn)。HBase以Google BigTable為藍本，以鍵值對的形式存儲。項目的目標就是快速在主機內數十億行數據中定位所需的數據并訪問它。
HBase是一個數據庫，一個NoSql的數據庫，像其他數據庫一樣提供隨即讀寫功能，Hadoop不能滿足實時需要，HBase正可以滿足。如果你需要實時訪問一些數據，就把它存入HBase。

你可以用Hadoop作為靜態(tài)數據倉庫，HBase作為數據存儲，放那些進行一些操作會改變的數據。

Pig VS Hive

Hive更適合于數據倉庫的任務，Hive主要用于靜態(tài)的結構以及需要經常分析的工作。Hive與SQL相似促使其成為Hadoop與其他BI工具結合的理想交集。
Pig賦予開發(fā)人員在大數據集領域更多的靈活性，并允許開發(fā)簡潔的腳本用于轉換數據流以便嵌入到較大的 應用程序。
Pig相比Hive相對輕量，它主要的優(yōu)勢是相比于直接使用Hadoop Java APIs可大幅削減代碼量。正因為如此，Pig仍然是吸引大量的軟件開發(fā)人員。
Hive和Pig都可以與HBase組合使用，Hive和Pig還為HBase提供了高層語言支持，使得在HBase上進行數據統(tǒng)計處理變的非常簡單

Hive VS HBase

Hive是建立在Hadoop之上為了減少MapReduce jobs編寫工作的批處理系統(tǒng)，HBase是為了支持彌補Hadoop對實時操作的缺陷的項目 。
想象你在操作RMDB數據庫，如果是全表掃描，就用Hive+Hadoop,如果是索引訪問，就用HBase+Hadoop 。
Hive query就是MapReduce jobs可以從5分鐘到數小時不止，HBase是非常高效的，肯定比Hive高效的多。

“Hadoop基礎框架有哪些”的內容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業(yè)相關的知識可以關注億速云網站，小編將為大家輸出更多高質量的實用文章！