溫馨提示×

您好，登錄后才能下訂單哦！

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

spark核心組件是什么

發(fā)布時(shí)間：2022-01-14 16:29:27 來源：億速云 閱讀：218 作者：柒染 欄目：云計(jì)算

本篇文章給大家分享的是有關(guān)spark核心組件是什么，小編覺得挺實(shí)用的，因此分享給大家學(xué)習(xí)，希望大家閱讀完這篇文章后可以有所收獲，話不多說，跟著小編一起來看看吧。

spark核心組件如下所示：

spark核心組件是什么

在SparkContext初始化的時(shí)候，會(huì)初始化一系列內(nèi)容：

查看內(nèi)存使用情況：

spark核心組件是什么

集群核心組件中的Block tracker是用于block和partition對(duì)應(yīng)關(guān)系的管理。

集群核心組件中的shuffle tracker是用于記錄shuffle操作的過程細(xì)節(jié)。

從集群中也可以看出，Executor在執(zhí)行任務(wù)的時(shí)候是采用多線程的方式執(zhí)行的并能夠在HDFS或者HBase等系統(tǒng)上讀取數(shù)據(jù)。

而在實(shí)際的Driver Program運(yùn)行的時(shí)候每個(gè)partition都會(huì)由一個(gè)task負(fù)責(zé)運(yùn)行的

spark核心組件是什么

以上就是spark核心組件是什么，小編相信有部分知識(shí)點(diǎn)可能是我們?nèi)粘９ぷ鲿?huì)見到或用到的。希望你能通過這篇文章學(xué)到更多知識(shí)。更多詳情敬請(qǐng)關(guān)注億速云行業(yè)資訊頻道。

向AI問一下細(xì)節(jié)

免責(zé)聲明：本站發(fā)布的內(nèi)容（圖片、視頻和文字）以原創(chuàng)、轉(zhuǎn)載和分享為主，文章觀點(diǎn)不代表本網(wǎng)站立場，如果涉及侵權(quán)請(qǐng)聯(lián)系站長郵箱：is@yisu.com進(jìn)行舉報(bào)，并提供相關(guān)證據(jù)，一經(jīng)查實(shí)，將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI
助
手