如何進(jìn)行實(shí)戰(zhàn)和剖析Sentinel 系統(tǒng)自適應(yīng)限流

1、Sentinel 系統(tǒng)自適應(yīng)概述

從官方了解到 Sentienl 系統(tǒng)自適應(yīng)限流是一個(gè)全局的概念，對(duì)應(yīng)用入口流量統(tǒng)一進(jìn)行統(tǒng)一控制，結(jié)合應(yīng)用的機(jī)器負(fù)載、CPU 使用率，總體平均響應(yīng)時(shí)間、入口 QPS 和并發(fā)線程數(shù)等幾個(gè)維度的監(jiān)控指標(biāo)從而決定是否調(diào)用進(jìn)行限流操作。為了有一個(gè)直觀的感受，我們可以從官方的運(yùn)維平臺(tái)看看其系統(tǒng)自適應(yīng)限流的操作界面：

 

在詳細(xì)分析系統(tǒng)自適應(yīng)實(shí)現(xiàn)原理之前我們先來思考一下 Sentinel 引入該機(jī)制的目的。

官方文檔針對(duì)這個(gè)問題有過仔細(xì)闡述，我們先來看看官方文檔對(duì)其闡述。

引入系統(tǒng)自適應(yīng)限流的主要的目的有如下兩個(gè)：

• 保證系統(tǒng)不被拖垮

• 在系統(tǒng)穩(wěn)定的前提下保證系統(tǒng)的吞吐量。

目前我們接觸的限流的防護(hù)思路都是設(shè)定一個(gè)指標(biāo)（闊值），例如系統(tǒng)的負(fù)載 load 超過某個(gè)闊值后就阻止或減少流量的繼續(xù)進(jìn)入，當(dāng)系統(tǒng)負(fù)載降低到某一水平后則恢復(fù)流量的進(jìn)入。通常都是被動(dòng)的，其實(shí)際效果取決于闊值設(shè)置是否合理，但往往設(shè)置合理不是一件容易的事情。

那 Sentinel 提供的系統(tǒng)自適應(yīng)是可以將設(shè)定的規(guī)則作為一個(gè)保護(hù)因子，而允許通過的流量由處理請(qǐng)求的能力來決定，即根據(jù)請(qǐng)求的響應(yīng)時(shí)間、當(dāng)前系統(tǒng)正在處理的請(qǐng)求速率來決定。

那 Sentinel 是如何實(shí)現(xiàn)的呢？接下來用源碼的手段來揭曉其實(shí)現(xiàn)原理。

2、系統(tǒng)自適應(yīng)限流原理

Sentinel 執(zhí)行系統(tǒng)限流的核心入口類為 SystemSlot，該類實(shí)現(xiàn)簡(jiǎn)單，如下圖所示：

 

2.1 自適應(yīng)限流檢測(cè)流程

系統(tǒng)自適應(yīng)限流檢測(cè)具體由 SystemRuleManager 的 checkSystem 方法實(shí)現(xiàn)，接下來詳細(xì)剖析其實(shí)現(xiàn)細(xì)節(jié)。

 

• 如果資源名稱為空，則直接跳過，這個(gè)是容錯(cuò)機(jī)制。

  如果系統(tǒng)自適應(yīng)開關(guān)為打開，直接放行，該開關(guān)初始化時(shí)為 false，在加載到一條系統(tǒng)自適應(yīng)配置規(guī)則時(shí)該狀態(tài)會(huì)設(shè)置為 true，具體在 loadSystemConf 中。

  如果資源的類型不是入口流量(EntryType.IN),則直接放行。

Step2：從QPS為維度驗(yàn)證是否需要被限流，其實(shí)現(xiàn)關(guān)鍵點(diǎn)如下：

• 當(dāng)前的qps，如果 ENTRY_NODE 為空則返回0，否則返回該統(tǒng)計(jì)節(jié)點(diǎn)的成功 qps，那 ENTRY_NODE 統(tǒng)計(jì)節(jié)點(diǎn)是“何許人也”，原來是 Sentinel 特定定義了一個(gè)資源，其名稱為total_inbound_traffic，用來采集所有入口調(diào)用的信息，當(dāng)資源進(jìn)入類型為 ENTRY_TYPE_IN 時(shí)，會(huì)自動(dòng)采集信息，其具體統(tǒng)計(jì)信息在 StatisticSlot 的 entry 方法中被調(diào)用，其截圖如下：
  

     

• 如果當(dāng)前調(diào)用的 QPS 大于設(shè)定的QPS，即觸發(fā)限流，那這個(gè) qps 又是在什么時(shí)候被設(shè)置的呢？也是在加載系統(tǒng)限流規(guī)則時(shí)被設(shè)置，如果一個(gè)應(yīng)用同一個(gè)限流點(diǎn)（LOAD、QPS)設(shè)置了多條規(guī)則，最小值生效。

Step3：關(guān)于線程數(shù)、響應(yīng)時(shí)間限流模式與QPS類似，就不再重復(fù)介紹。

 

Step4：如果當(dāng)前系統(tǒng)的負(fù)載超過了設(shè)定的闊值的處理邏輯，這里就是自適應(yīng)的核心所在，并不是超過負(fù)載就限流，而是需要根據(jù)當(dāng)前系統(tǒng)的請(qǐng)求處理能力進(jìn)行綜合判斷，具體邏輯在 checkBbr 方法中實(shí)現(xiàn)。關(guān)于如何獲得系統(tǒng)負(fù)載與 checkBbr 方法稍后會(huì)詳細(xì)介紹。

 

Step5：如果當(dāng)前CPU的負(fù)載超過了設(shè)置的闊值，觸發(fā)限流，那在JAVA中是如何獲取CPU的使用率的呢？稍后詳細(xì)介紹。

2.2 根據(jù)系統(tǒng)負(fù)載自適應(yīng)算法詳解

正如上面的第4步驟，根據(jù)系統(tǒng) Load 的會(huì)采用 TCP BBR 算法來評(píng)估是否限流，具體實(shí)現(xiàn)代碼如下：

 

• maxSuccessQps 的計(jì)算取當(dāng)前采樣窗口的最大值乘以1s內(nèi)滑動(dòng)窗口的個(gè)數(shù)，這里其實(shí)并不是十分準(zhǔn)確。

• minRt 最小響應(yīng)時(shí)間取自當(dāng)前采樣窗口中的最小響應(yīng)時(shí)間。
  故得出了上述計(jì)算公式，除以1000是因?yàn)?minRt 的時(shí)間單位是毫秒，統(tǒng)一為秒。從這里可以看出根據(jù)系統(tǒng)負(fù)載做限流，最終的判斷依據(jù)是線程數(shù)量。

2.3 JAVA如何獲得操作系統(tǒng)負(fù)載情況

在 Sentinel 中獲取操作系統(tǒng)負(fù)載情況的類：SystemStatusListener，每秒采集一次。

 

3、實(shí)踐思考

經(jīng)過上面的分析，Sentinel 中的系統(tǒng)自適應(yīng)其實(shí)指的是按照應(yīng)用所在機(jī)器的操作系統(tǒng)負(fù)載，再結(jié)合應(yīng)用本身的請(qǐng)求處理能力進(jìn)行的自適應(yīng)，操作系統(tǒng)的負(fù)載情況可以通過 top 命令輸出，其示例如下：