您好,登錄后才能下訂單哦!
這篇文章主要講解了“Spark的RDD操作有哪些”,文中的講解內(nèi)容簡單清晰,易于學(xué)習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習“Spark的RDD操作有哪些”吧!
Spark的RDD
在Spark中一切都是以RDD為基礎(chǔ)和核心的:
每個RDD的API如下所示:
Spark官方文檔中給出了的眾多的RDD:
RDD中的操作分為transformations和actions兩種:
下面舉一個例子來說明RDD的使用:
另外有兩個特殊的RDD:
他們都是controlling operations:
RDD在執(zhí)行的時候都是并行的:
Spark的高容錯機制lineage
基于DAG圖,lineage是輕量級而高效的:
操作之間相互具備lineage的關(guān)系,每個操作只關(guān)心其父操作,各個分片的數(shù)據(jù)之間互不影響,出現(xiàn)錯誤的時候只要恢復(fù)單個Split的特定部分即可:
感謝各位的閱讀,以上就是“Spark的RDD操作有哪些”的內(nèi)容了,經(jīng)過本文的學(xué)習后,相信大家對Spark的RDD操作有哪些這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!
免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。