您好,登錄后才能下訂單哦!
本篇內(nèi)容介紹了“服務(wù)器雪崩的場景怎么解決”的有關(guān)知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!
什么是應(yīng)用服務(wù)雪崩?
雪崩問題
分布式系統(tǒng)都存在這樣一個問題,由于網(wǎng)絡(luò)的不穩(wěn)定性,決定了任何一個服務(wù)的可用性都不是 100% 的。當(dāng)網(wǎng)絡(luò)不穩(wěn)定的時候,作為服務(wù)的提供者,自身可能會被拖死,導(dǎo)致服務(wù)調(diào)用者阻塞,最終可能引發(fā)雪崩連鎖效應(yīng)。
緩存雪崩
當(dāng)緩存服務(wù)器重啟或者大量緩存集中在某一個時間段失效,這樣在失效的時候,也會給后端系統(tǒng)(比如DB)帶來很大壓力,造成數(shù)據(jù)庫后端故障,從而引起應(yīng)用服務(wù)器雪崩。
雪崩效應(yīng)產(chǎn)生的幾種場景
流量激增:比如異常流量、用戶重試導(dǎo)致系統(tǒng)負(fù)載升高;
緩存刷新:假設(shè)A為client端,B為Server端,假設(shè)A系統(tǒng)請求都流向B系統(tǒng),請求超出了B系統(tǒng)的承載能力,就會造成B系統(tǒng)崩潰;
程序有Bug:代碼循環(huán)調(diào)用的邏輯問題,資源未釋放引起的內(nèi)存泄漏等問題;
硬件故障:比如宕機(jī),機(jī)房斷電,光纖被挖斷等。
數(shù)據(jù)庫嚴(yán)重瓶頸,比如:長事務(wù)、sql超時等。
線程同步等待:系統(tǒng)間經(jīng)常采用同步服務(wù)調(diào)用模式,核心服務(wù)和非核心服務(wù)共用一個線程池和消息隊列。如果一個核心業(yè)務(wù)線程調(diào)用非核心線程,這個非核心線程交由第三方系統(tǒng)完成,當(dāng)?shù)谌较到y(tǒng)本身出現(xiàn)問題,導(dǎo)致核心線程阻塞,一直處于等待狀態(tài),而進(jìn)程間的調(diào)用是有超時限制的,最終這條線程將斷掉,也可能引發(fā)雪崩;
緩存雪崩的解決方案
緩存失效的幾種情況:
1、緩存服務(wù)器掛了
2、高峰期緩存局部失效
3、熱點(diǎn)緩存失效
解決方案:
1、避免緩存集中失效,不同的key設(shè)置不同的超時時間
2、增加互斥鎖,控制數(shù)據(jù)庫請求,重建緩存。
3、提高緩存的HA,如:redis集群。
雪崩的整體解決方案
一般情況對于服務(wù)依賴的保護(hù)主要有3種解決方案:
(1)熔斷模式
這種模式主要是參考電路熔斷,如果一條線路電壓過高,保險絲會熔斷,防止火災(zāi)。放到我們的系統(tǒng)中,如果某個目標(biāo)服務(wù)調(diào)用慢或者有大量超時,此時,熔斷該服務(wù)的調(diào)用,對于后續(xù)調(diào)用請求,不在繼續(xù)調(diào)用目標(biāo)服務(wù),直接返回,快速釋放資源。如果目標(biāo)服務(wù)情況好轉(zhuǎn)則恢復(fù)調(diào)用。
重點(diǎn)監(jiān)控的機(jī)器性能指標(biāo)
cpu(Load) cpu使用率/負(fù)載
memory 內(nèi)存
mysql監(jiān)控長事務(wù)(這里與sql查詢超時是緊密結(jié)合的,需要重點(diǎn)監(jiān)控)
sql超時
線程數(shù)等
總之,除了cpu、內(nèi)存、線程數(shù)外,重點(diǎn)監(jiān)控數(shù)據(jù)庫端的長事務(wù)、sql超時等,絕大多數(shù)應(yīng)用服務(wù)器發(fā)生的雪崩場景,都是來源于數(shù)據(jù)庫端的性能瓶頸,從而先引起數(shù)據(jù)庫端大量瓶頸,最終拖累應(yīng)用服務(wù)器也發(fā)生雪崩,最后就是大面積的雪崩。
(2)隔離模式
這種模式就像對系統(tǒng)請求按類型劃分成一個個小島的一樣,當(dāng)某個小島被火少光了,不會影響到其他的小島。
例如可以對不同類型的請求使用線程池來資源隔離,每種類型的請求互不影響,如果一種類型的請求線程資源耗盡,則對后續(xù)的該類型請求直接返回,不再調(diào)用后續(xù)資源。這種模式使用場景非常多,例如將一個服務(wù)拆開,對于重要的服務(wù)使用單獨(dú)服務(wù)器來部署,再或者公司最近推廣的多中心。
(3)限流模式
上述的熔斷模式和隔離模式都屬于出錯后的容錯處理機(jī)制,而限流模式則可以稱為預(yù)防模式。限流模式主要是提前對各個類型的請求設(shè)置最高的QPS閾值,若高于設(shè)置的閾值則對該請求直接返回,不再調(diào)用后續(xù)資源。這種模式不能解決服務(wù)依賴的問題,只能解決系統(tǒng)整體資源分配問題,因為沒有被限流的請求依然有可能造成雪崩效應(yīng)。
熔斷設(shè)計
在熔斷的設(shè)計主要參考了hystrix的做法。其中最重要的是三個模塊:熔斷請求判斷算法、熔斷恢復(fù)機(jī)制、熔斷報警
(1)熔斷請求判斷機(jī)制算法:使用無鎖循環(huán)隊列計數(shù),每個熔斷器默認(rèn)維護(hù)10個bucket,每1秒一個bucket,每個blucket記錄請求的成功、失敗、超時、拒絕的狀態(tài),默認(rèn)錯誤超過50%且10秒內(nèi)超過20個請求進(jìn)行中斷攔截。
(2)熔斷恢復(fù):對于被熔斷的請求,每隔5s允許部分請求通過,若請求都是健康的(RT<250ms)則對請求健康恢復(fù)。
(3)熔斷報警:對于熔斷的請求打日志,異常請求超過某些設(shè)定則報警。
隔離設(shè)計
隔離的方式一般使用兩種
(1)線程池隔離模式:使用一個線程池來存儲當(dāng)前的請求,線程池對請求作處理,設(shè)置任務(wù)返回處理超時時間,堆積的請求堆積入線程池隊列。這種方式需要為每個依賴的服務(wù)申請線程池,有一定的資源消耗,好處是可以應(yīng)對突發(fā)流量(流量洪峰來臨時,處理不完可將數(shù)據(jù)存儲到線程池隊里慢慢處理)
(2)信號量隔離模式:使用一個原子計數(shù)器(或信號量)來記錄當(dāng)前有多少個線程在運(yùn)行,請求來先判斷計數(shù)器的數(shù)值,若超過設(shè)置的最大線程個數(shù)則丟棄改類型的新請求,若不超過則執(zhí)行計數(shù)操作請求來計數(shù)器+1,請求返回計數(shù)器-1。這種方式是嚴(yán)格的控制線程且立即返回模式,無法應(yīng)對突發(fā)流量(流量洪峰來臨時,處理的線程超過數(shù)量,其他的請求會直接返回,不繼續(xù)去請求依賴的服務(wù))
超時機(jī)制設(shè)計
(1)超時分兩種,一種是請求的等待超時,一種是請求運(yùn)行超時。
(2)等待超時:在任務(wù)入隊列時設(shè)置任務(wù)入隊列時間,并判斷隊頭的任務(wù)入隊列時間是否大于超時時間,超過則丟棄任務(wù)。
(3)運(yùn)行超時:直接可使用線程池提供的get方法。
如何提前發(fā)現(xiàn)雪崩
就是首先讓系統(tǒng)不雪崩,然后通過監(jiān)控發(fā)現(xiàn)請求正在接近或者超過閥值,然后再根據(jù)具體情況處理,這個接近或者超過閥值的過程,可以稱為 “提前發(fā)現(xiàn)雪崩”。
以上就是應(yīng)用服務(wù)雪崩的場景以及技術(shù)方案總結(jié)。
“服務(wù)器雪崩的場景怎么解決”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注億速云網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實用文章!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。