hadoop中性能指標(biāo)和日志的示例分析

小編給大家分享一下hadoop中性能指標(biāo)和日志的示例分析，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

Hadoop 指標(biāo)類型

Hadoopde 守護(hù)進(jìn)程的指標(biāo)根據(jù)它們所屬的上下文可以分為不同的組，如下所述：

JVM指標(biāo):這些指標(biāo)由集群中運(yùn)行的JVM產(chǎn)生包括JVM堆大小和垃圾回收相關(guān)指標(biāo)，例如當(dāng)前的堆內(nèi)存（MemHeapUsed）的使用情況和總GC計(jì)數(shù)（GcCount）。

RPC指標(biāo)：rpc上下文中的指標(biāo)包括主機(jī)名和端口等，還包括諸如發(fā)生字節(jié)數(shù)（SentBytes）、當(dāng)前打卡連接數(shù)（NumOpenConnections）和認(rèn)證失敗次數(shù)等指標(biāo)。

DFS指標(biāo)：dfs上下文中包括與NameNode、HDFS文件系統(tǒng)、DataNodes和JournalNodes相關(guān)指標(biāo)，DFS指標(biāo)可以告訴集群中是否存在大量的文件創(chuàng)建和刪除操作。

Hadoop的日志消息

可以通過瀏覽各個(gè)日志文件或通過Hadoop內(nèi)置的web界面訪問Spark和其他作業(yè)的hadoop日志消息。大多數(shù)時(shí)候，通過web界面訪問日志更好，因?yàn)榭梢怨?jié)省時(shí)間，并快速找到發(fā)生性能問題或者作業(yè)失敗的原因：

Hadoop生成兩種主要類型的日志：

它為守護(hù)程序（如NameNode和DataNode）生成日志。守護(hù)進(jìn)程日志主要由管理員使用，因?yàn)樗鼈冇兄c排除DataNode和NameNode等關(guān)鍵Hadoop服務(wù)的意外故障。

Hadoop還為集群中的運(yùn)行的每個(gè)應(yīng)用程序生成日志，hadoop應(yīng)用程序日志可以用于開發(fā)人員了解作業(yè)失敗和性能下降的原因。

可以通過多種方式查看hadoop的日志

Hadoop web UI 特別是ResourceManager webUi可以免除訪問日志存儲(chǔ)位置和查看日志文件的麻煩，還可以通過JobHistory web UI 查看日志

直接從日志文件檢查日志信息

對于某些應(yīng)用程序日志，如果開啟了日志聚合功能則將他們聚合到HDFS存儲(chǔ)。

通過yarn命令檢查：

yarn application命令可以管理一下任務(wù)：

列出集群中運(yùn)行的應(yīng)用程序

殺死正在運(yùn)行的的應(yīng)用程序

獲取正在運(yùn)行的應(yīng)用程序的狀態(tài)。

查看Yarn應(yīng)用程序

 yarn application -list 可以檢索所有作業(yè)的列表，不考慮它們的狀態(tài)。作業(yè)可以具有以下狀態(tài)：All、NEW、NEW_SAVING、SUMBMITTED、ACCEPTED、RUNNING、FINISHED、FAILED和KILLED。指定-appStates選項(xiàng)即可

yarn application -list -appStates running

檢查應(yīng)用程序的狀態(tài)

yarn application -status <application_id>

kill正在執(zhí)行的的作業(yè)

yarn application -kill <application_id>

檢查節(jié)點(diǎn)狀態(tài)

yarn node -all -list 列出集群的所有節(jié)點(diǎn)及其狀態(tài)

獲取作業(yè)日志

yarn logs 名利的語法：

yarn logs -applicationId <application_id>

只能獲取已經(jīng)結(jié)束的運(yùn)行的作業(yè)的日志。

Hadoop存儲(chǔ)日志的位置

1、hdfs：這是hadoop創(chuàng)建用于存儲(chǔ)作業(yè)執(zhí)行文件（如包含運(yùn)行作業(yè)hadoop參數(shù)的job.xml）的暫存目錄的位置。

2、NodeManager本地目錄：這是在本地文件系統(tǒng)上創(chuàng)建的目錄，hadoop在其中存儲(chǔ)由NodeManager服務(wù)生產(chǎn)的Shell腳本，以便執(zhí)行ApplicationMaster容器?？梢允褂脃arn-site.xml文件中的yarn.nodemanager.local.dir參數(shù)指定NodeManger本地目錄位置。

此參數(shù)可以提供NodeManager存儲(chǔ)其本地文件的目錄列表。在這些目錄下實(shí)際應(yīng)用程序的本地文件目錄${yarn.nodemanager.local-dir}/usercache/user/....。每個(gè)NodeManager在NodeManager本地目錄下的本地應(yīng)用程序緩存中

3、NodeManger日志目錄：這是linux上本地目錄，NodeManager在此存儲(chǔ)用戶運(yùn)行的應(yīng)用程序的實(shí)際日志文件。在此節(jié)點(diǎn)的NodeManager上執(zhí)行作業(yè)的所有容器及其應(yīng)用程序日志存儲(chǔ)在此目錄中。使用yarn.nodemanager.log-dirs參數(shù)指定NodeManager日志目錄的位置。

     不需要擔(dān)心nm-local-dirs目錄會(huì)填滿appcache子目錄下的作業(yè)文件，這些文件在作業(yè)完成時(shí)會(huì)被自動(dòng)刪除。但是某些作業(yè)確實(shí)包含大文件，配置屬性yarn.nodemanager.delete.debug-delay-sec指定在應(yīng)用程序后就保留本地日志目錄的時(shí)間，一點(diǎn)配置時(shí)間到期，NodeManager的deletionservicehi刪除應(yīng)用程序本地文件目錄結(jié)構(gòu)。

Hadoop存儲(chǔ)日志聚合

      啟用日志聚合之后，nodemanager會(huì)將所有容器日志連接到一個(gè)文件中并將它保存在HDFS中，可以使用yarn.nodemanager.remote-app-log-dir參數(shù)配置hadoop 在hdfs的哪里存儲(chǔ)聚合日志。一般配置在/tmp/hadoop/logs/

三種方式獲取應(yīng)用程序日志

1、從hdfs中獲取

2、通過hadoop 從web UI看，在未結(jié)束的應(yīng)用的中點(diǎn)擊applicationmaster，點(diǎn)擊頁簽下面的logs

    3、作業(yè)完成之后從JobHistoryServer UI查看

以上是“hadoop中性能指標(biāo)和日志的示例分析”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識，歡迎關(guān)注億速云行業(yè)資訊頻道！