溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

spark 部署模式是什么

發(fā)布時間:2021-07-07 16:40:02 來源:億速云 閱讀:217 作者:chen 欄目:大數(shù)據(jù)

這篇文章主要講解了“spark 部署模式是什么”,文中的講解內(nèi)容簡單清晰,易于學(xué)習(xí)與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“spark 部署模式是什么”吧!

  • spark有l(wèi)ocal模式,偽分布式,standalone,spakr on yarn,spark on messos。

    • local模式多用于開發(fā)測試

    • 偽分布式是極少使用的模式,它是在一個節(jié)點上模擬分布式

    • spakr on messos在國內(nèi)很少使用

    • standalone模式適合使用在數(shù)據(jù)規(guī)模不大,集群所部署大數(shù)據(jù)計算框架單一,整個集群計算資源可以全部提供給spark計算,無需考慮資源分配的問題

    • spark on yarn在國內(nèi)使用比較廣泛。 它具有以下優(yōu)勢:1. 避免搭建spark集群。spark只需要部署在一個節(jié)點上,通過該節(jié)點,將應(yīng)用提交給yarn集群處理。在擁有yarn集群的情況下,無需搭建spark集群就可以方便的運行spark應(yīng)用 2. 統(tǒng)一資源管理和調(diào)度。yarn是包括mr, spark在內(nèi)的多種大數(shù)據(jù)計算引擎的資源管理和調(diào)度的實現(xiàn)方式,yarn具有資源隔離機制,使得各種大數(shù)據(jù)計算任務(wù)可以穩(wěn)定的運行在集群中,而不會產(chǎn)生資源競爭問題。3. 資源彈性管理。yarn通過隊列的方式,根據(jù)不同類型應(yīng)用程序的資源壓力,彈性調(diào)度資源的使用量

感謝各位的閱讀,以上就是“spark 部署模式是什么”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對spark 部署模式是什么這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!

向AI問一下細節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI