溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶(hù)服務(wù)條款》

Spring Cloud Alibaba之Sentinel實(shí)現(xiàn)熔斷限流功能的方法

發(fā)布時(shí)間:2021-04-30 10:37:45 來(lái)源:億速云 閱讀:217 作者:小新 欄目:開(kāi)發(fā)技術(shù)

這篇文章主要介紹Spring Cloud Alibaba之Sentinel實(shí)現(xiàn)熔斷限流功能的方法,文中介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們一定要看完!

sentinel簡(jiǎn)介

這個(gè)在阿里云有企業(yè)級(jí)的商用版本 應(yīng)用高可用服務(wù) AHAS;現(xiàn)在有免費(fèi)的入門(mén)級(jí)可以先體驗(yàn)下,之后再?zèng)Q定是否使用付費(fèi)的專(zhuān)業(yè)版或者是自己搭建。

官方文檔地址

Sentinel的github

本文示例代碼

sentinel功能概述

  • 流量控制:將隨機(jī)的請(qǐng)求調(diào)整為合適的形狀。即限制請(qǐng)求數(shù)量;

  • 熔斷降級(jí):當(dāng)檢測(cè)到調(diào)用鏈路中某個(gè)資源出現(xiàn)不穩(wěn)定的表現(xiàn),如請(qǐng)求響應(yīng)時(shí)間長(zhǎng)或者異常比例升高的時(shí)候,則對(duì)此資源的調(diào)用進(jìn)行限制,讓請(qǐng)求快速失敗,避免影響到其它的資源而導(dǎo)致級(jí)聯(lián)故障。 采用的手段:1.并發(fā)線程數(shù)的限制;2.通過(guò)響應(yīng)時(shí)間進(jìn)行降級(jí)

  • 系統(tǒng)負(fù)載保護(hù):Sentinel提供系統(tǒng)維度的自適應(yīng)保護(hù)能力。即在系統(tǒng)負(fù)載較高時(shí),自動(dòng)將流量轉(zhuǎn)發(fā)到其它集群中的機(jī)器上去, 使系統(tǒng)的入口流量和系統(tǒng)的負(fù)載達(dá)到一個(gè)平衡,保護(hù)系統(tǒng)能力范圍內(nèi)處理最多的請(qǐng)求。

sentinel和Hystrix的區(qū)別

  • 兩者的原則是一致的,都是當(dāng)一個(gè)資源出現(xiàn)問(wèn)題時(shí),讓其快速失敗,不波及到其它服務(wù)。

  • Hystrix采用的是線程池隔離的方式,優(yōu)點(diǎn)是做到了資源之間的隔離,缺點(diǎn)是增加了線程切換的成本

  • Sentinel采用的是通過(guò)并發(fā)線程的數(shù)量和響應(yīng)時(shí)間來(lái)對(duì)資源限制。

Sentinel規(guī)則

Sentinel默認(rèn)定義如下規(guī)則:

流控規(guī)則

通過(guò)QPS或并發(fā)線程數(shù)來(lái)做限制,里面的針對(duì)來(lái)源可以對(duì)某個(gè)微服務(wù)做限制,默認(rèn)是都限制。

  • 流控模式:

  • 直接:接口達(dá)到限流條件,開(kāi)啟限流;

  • 關(guān)聯(lián):當(dāng)關(guān)聯(lián)的資源達(dá)到限流條件時(shí),開(kāi)啟限流(適合做應(yīng)用讓步)

  • 鏈路:當(dāng)從某個(gè)接口過(guò)來(lái)的資源達(dá)到限流條件時(shí),開(kāi)啟限流(限制更細(xì)致)

關(guān)于配置規(guī)則:可以直接使用url地址來(lái)配置,也可以通過(guò)自定義名稱(chēng)來(lái)配置(需要在方法上添加@SentinelResource("order")注解才能達(dá)到效果,可以重復(fù))

鏈路限流不生效的問(wèn)題:由于sentinel基于filter開(kāi)發(fā)的攔截使用的鏈路收斂的模式,因此需要設(shè)置關(guān)閉鏈路收斂使鏈路收斂能夠生效,

spring:
   cloud:
     sentinel:
       filter:
         # 關(guān)閉鏈路收斂使鏈路收斂能夠生效
         enabled: false

降級(jí)規(guī)則

當(dāng)滿足設(shè)置的條件,對(duì)服務(wù)進(jìn)行降級(jí)。

根據(jù)平均響應(yīng)時(shí)間:當(dāng)資源的平均響應(yīng)時(shí)間超過(guò)閥值(以ms為單位)之后,資源進(jìn)入準(zhǔn)降級(jí)狀態(tài)。
如果接下來(lái)1秒持續(xù)進(jìn)入的n個(gè)請(qǐng)求的RT都持續(xù)超過(guò)這個(gè)閥值,則在接下來(lái)的時(shí)間窗口(單位s)之內(nèi)就會(huì)使這個(gè)方法進(jìn)行服務(wù)降級(jí)。

注意Sentinel默認(rèn)的最大時(shí)間為4900ms,超過(guò)這個(gè)時(shí)間將被默認(rèn)設(shè)置為4900ms;可以通過(guò)啟動(dòng)配置 -Dcsp.sentinel.statistic.max.rt=xxx來(lái)修改。

異常降級(jí):通過(guò)設(shè)置異常數(shù)或者異常比例來(lái)進(jìn)行服務(wù)降級(jí)。

熱點(diǎn)規(guī)則

必須使用@SentinelResource("order")注解來(lái)做標(biāo)記,將限流做到參數(shù)級(jí)別上去,并且可以配置排除參數(shù)值等于某個(gè)值時(shí)不做限流。

授權(quán)規(guī)則

通過(guò)配置黑白名單來(lái)設(shè)置是否允許通過(guò)。

自定義來(lái)源獲取規(guī)則:

import com.alibaba.csp.sentinel.adapter.servlet.callback.RequestOriginParser;
import org.apache.commons.lang3.StringUtils;
import org.springframework.stereotype.Component;

import javax.servlet.http.HttpServletRequest;

/**
* <p> sentinel自定義授權(quán)來(lái)源獲取規(guī)則 </p>
*/
@Component
public class RequestOriginParserDefinition implements RequestOriginParser {

  /**
   * 定義區(qū)分來(lái)源的規(guī)則:本質(zhì)上是通過(guò)獲取request域中獲取來(lái)源標(biāo)識(shí),然后交給流控應(yīng)用來(lái)進(jìn)行匹配處理
   *
   * @param request request域
   * @return 返回區(qū)分來(lái)源的值
   */
  @Override
  public String parseOrigin(HttpServletRequest request) {
      String client = request.getHeader("client");
      if(StringUtils.isNotBlank(client)){
          return "NONE";
      }
      return client;
  }
}

系統(tǒng)規(guī)則

系統(tǒng)保護(hù)規(guī)則是從應(yīng)用級(jí)別的入口流量進(jìn)行控制,從單臺(tái)機(jī)器的總體Load、RT、入口QPS、CPU使用率和線程數(shù)五個(gè)維度來(lái)監(jiān)控整個(gè)應(yīng)用數(shù)據(jù),讓系統(tǒng)跑到最大吞吐量的同時(shí)保證系統(tǒng)穩(wěn)定性。

  • Load(僅對(duì) Linux/Unix-like 機(jī)器生效):當(dāng)系統(tǒng) load1 超過(guò)閾值,且系統(tǒng)當(dāng)前的并發(fā)線程數(shù)超過(guò)系統(tǒng)容量時(shí)才會(huì)觸發(fā)系統(tǒng)保護(hù)。系統(tǒng)容量由系統(tǒng)的 maxQps * minRt 計(jì)算得出。設(shè)定參考值一般是 CPU cores * 2.5。

  • RT:當(dāng)單臺(tái)機(jī)器上所有入口流量的平均 RT 達(dá)到閾值即觸發(fā)系統(tǒng)保護(hù),單位是毫秒。

  • 線程數(shù):當(dāng)單臺(tái)機(jī)器上所有入口流量的并發(fā)線程數(shù)達(dá)到閾值即觸發(fā)系統(tǒng)保護(hù)。

  • 入口 QPS:當(dāng)單臺(tái)機(jī)器上所有入口流量的 QPS 達(dá)到閾值即觸發(fā)系統(tǒng)保護(hù)。

  • CPU使用率:當(dāng)單臺(tái)機(jī)器上所有入口流量的 CPU使用率達(dá)到閾值即觸發(fā)系統(tǒng)保護(hù)。

sentinel的使用

下面我們通過(guò)一些簡(jiǎn)單的示例來(lái)快速了解sentinel的使用。

安裝控制臺(tái)界面工具

在Sentinel的Github上下載安裝包https://github.com/alibaba/Sentinel/releases;就是一個(gè)jar包直接使用命令啟動(dòng)即可。

java -Dserver.port=9080 -Dcsp.sentinel.dashboard.server=localhost:9080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard.jar

-Dserver.port 是設(shè)置訪問(wèn)的端口號(hào);
sentinel-dashboard.jar 就是剛剛下載的jar包名稱(chēng);
為方便使用可以創(chuàng)建一個(gè)bat啟動(dòng)文件,在里面輸入上面的命令行,后面啟動(dòng)直接點(diǎn)擊這個(gè)bat文件即可。

從 Sentinel 1.6.0 起,Sentinel 控制臺(tái)引入基本的登錄功能,默認(rèn)用戶(hù)名和密碼都是 sentinel;啟動(dòng)成功后瀏覽器輸入http://127.0.0.1:9080 即可訪問(wèn)控制臺(tái)。
注意這個(gè)控制臺(tái)不是必須接入的,同時(shí)只有你的接口方法被訪問(wèn)過(guò)后控制臺(tái)里面才會(huì)顯示。

服務(wù)中使用

添加如下依賴(lài)包

<!--由于我們使用的spring-cloud,因此這里因此 sentinel的集成包來(lái)簡(jiǎn)化我們的配置 -->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
<!--sentinel 對(duì)dubbo的支持-->
<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-apache-dubbo-adapter</artifactId>
</dependency>

注意如果沒(méi)有使用dubbo那么無(wú)需引入sentinel-apache-dubbo-adapter; 比如之前使用的是feign和Hystrix搭配的,只需要將Hystrix的相關(guān)配置和依賴(lài)去掉,然后加入sentinel的依賴(lài)即可。

代碼中的使用示例1,如果我們只需對(duì)相關(guān)的http方法進(jìn)行限流,直接引入依賴(lài)的包即可;下面是我們向?qū)δ硞€(gè)方法進(jìn)行限流,因此使用使用@SentinelResource注解來(lái)配置。

@Service
public class SentinelDemoServiceImpl implements SentinelDemoService {

    /**
     * sentinel 熔斷限流示例1
     */
    @SentinelResource(value = "SentinelDemoService#sentinelDemo1", defaultFallback = "sentinelDemo1Fallback")
    @Override
    public String sentinelDemo1() {
        return "sentinel 示例1";
    }

    /**
     * 失敗的時(shí)候會(huì)調(diào)用此方法
     */
    public String sentinelDemo1Fallback(Throwable t) {
        if (BlockException.isBlockException(t)) {
            return "Blocked by Sentinel: " + t.getClass().getSimpleName();
        }
        return "Oops, failed: " + t.getClass().getCanonicalName();
    }

}

然后在控制臺(tái)配置相關(guān)的策略規(guī)則即可。

自定義Sentinel的異常返回

通過(guò)實(shí)現(xiàn)BlockExceptionHandler接口來(lái)自定義異常返回;注意之前的UrlBlockHandler 視乎已經(jīng)在新版中移除了。

@Component
public class SentinelExceptionHandler implements BlockExceptionHandler {

    /**
     * 異常處理
     *
     * @param request  請(qǐng)求
     * @param response 響應(yīng)
     * @param e        BlockException異常接口,包含Sentinel的五個(gè)異常
     *                 FlowException  限流異常
     *                 DegradeException  降級(jí)異常
     *                 ParamFlowException  參數(shù)限流異常
     *                 AuthorityException  授權(quán)異常
     *                 SystemBlockException  系統(tǒng)負(fù)載異常
     * @throws IOException IO異常
     */
    @Override
    public void handle(HttpServletRequest request, HttpServletResponse response, BlockException e) throws Exception {
        JSONObject responseData = new JSONObject();
        if (e instanceof FlowException) {
            responseData.put("message", "限流異常");
            responseData.put("code", "C5001");
        } else if (e instanceof DegradeException) {
            responseData.put("message", "降級(jí)異常");
            responseData.put("code", "C5002");
        } else if (e instanceof ParamFlowException) {
            responseData.put("message", "參數(shù)限流異常");
            responseData.put("code", "C5003");
        } else if (e instanceof AuthorityException) {
            responseData.put("message", "授權(quán)異常");
            responseData.put("code", "C5004");
        } else if (e instanceof SystemBlockException) {
            responseData.put("message", "系統(tǒng)負(fù)載異常");
            responseData.put("code", "C5005");
        }
        response.setContentType("application/json;charset=utf-8");
        response.getWriter().write(responseData.toJSONString());
    }
}

基于文件實(shí)現(xiàn)Sentinel規(guī)則的持久化

Sentinel 控制臺(tái)通過(guò) API 將規(guī)則推送至客戶(hù)端并更新到內(nèi)存中,接著注冊(cè)的寫(xiě)數(shù)據(jù)源會(huì)將新的規(guī)則保存到本地的文件中。

編寫(xiě)一個(gè)實(shí)現(xiàn)InitFunc接口的類(lèi),在里面定義持久化的方式,這里使用文件

public class FilePersistence implements InitFunc {

  @Value("spring.application.name")
  private String applicationName;

  @Override
  public void init() throws Exception {
      String ruleDir = System.getProperty("user.home") + "/sentinel-rules/" + applicationName;
      String flowRulePath = ruleDir + "/flow-rule.json";
      String degradeRulePath = ruleDir + "/degrade-rule.json";
      String systemRulePath = ruleDir + "/system-rule.json";
      String authorityRulePath = ruleDir + "/authority-rule.json";
      String paramFlowRulePath = ruleDir + "/param-flow-rule.json";

      this.mkdirIfNotExits(ruleDir);
      this.createFileIfNotExits(flowRulePath);
      this.createFileIfNotExits(degradeRulePath);
      this.createFileIfNotExits(systemRulePath);
      this.createFileIfNotExits(authorityRulePath);
      this.createFileIfNotExits(paramFlowRulePath);

      // 流控規(guī)則
      ReadableDataSource<String, List<FlowRule>> flowRuleRDS = new FileRefreshableDataSource<>(
              flowRulePath,
              flowRuleListParser
      );
      FlowRuleManager.register2Property(flowRuleRDS.getProperty());
      WritableDataSource<List<FlowRule>> flowRuleWDS = new FileWritableDataSource<>(
              flowRulePath,
              this::encodeJson
      );
      WritableDataSourceRegistry.registerFlowDataSource(flowRuleWDS);

      // 降級(jí)規(guī)則
      ReadableDataSource<String, List<DegradeRule>> degradeRuleRDS = new FileRefreshableDataSource<>(
              degradeRulePath,
              degradeRuleListParser
      );
      DegradeRuleManager.register2Property(degradeRuleRDS.getProperty());
      WritableDataSource<List<DegradeRule>> degradeRuleWDS = new FileWritableDataSource<>(
              degradeRulePath,
              this::encodeJson
      );
      WritableDataSourceRegistry.registerDegradeDataSource(degradeRuleWDS);

      // 系統(tǒng)規(guī)則
      ReadableDataSource<String, List<SystemRule>> systemRuleRDS = new FileRefreshableDataSource<>(
              systemRulePath,
              systemRuleListParser
      );
      SystemRuleManager.register2Property(systemRuleRDS.getProperty());
      WritableDataSource<List<SystemRule>> systemRuleWDS = new FileWritableDataSource<>(
              systemRulePath,
              this::encodeJson
      );
      WritableDataSourceRegistry.registerSystemDataSource(systemRuleWDS);

      // 授權(quán)規(guī)則
      ReadableDataSource<String, List<AuthorityRule>> authorityRuleRDS = new FileRefreshableDataSource<>(
              authorityRulePath,
              authorityRuleListParser
      );
      AuthorityRuleManager.register2Property(authorityRuleRDS.getProperty());
      WritableDataSource<List<AuthorityRule>> authorityRuleWDS = new FileWritableDataSource<>(
              authorityRulePath,
              this::encodeJson
      );
      WritableDataSourceRegistry.registerAuthorityDataSource(authorityRuleWDS);

      // 熱點(diǎn)參數(shù)規(guī)則
      ReadableDataSource<String, List<ParamFlowRule>> paramFlowRuleRDS = new FileRefreshableDataSource<>(
              paramFlowRulePath,
              paramFlowRuleListParser
      );
      ParamFlowRuleManager.register2Property(paramFlowRuleRDS.getProperty());
      WritableDataSource<List<ParamFlowRule>> paramFlowRuleWDS = new FileWritableDataSource<>(
              paramFlowRulePath,
              this::encodeJson
      );
      ModifyParamFlowRulesCommandHandler.setWritableDataSource(paramFlowRuleWDS);
  }

  private Converter<String, List<FlowRule>> flowRuleListParser = source -> JSON.parseObject(
          source,
          new TypeReference<List<FlowRule>>() {
          }
  );
  private Converter<String, List<DegradeRule>> degradeRuleListParser = source -> JSON.parseObject(
          source,
          new TypeReference<List<DegradeRule>>() {
          }
  );
  private Converter<String, List<SystemRule>> systemRuleListParser = source -> JSON.parseObject(
          source,
          new TypeReference<List<SystemRule>>() {
          }
  );

  private Converter<String, List<AuthorityRule>> authorityRuleListParser = source -> JSON.parseObject(
          source,
          new TypeReference<List<AuthorityRule>>() {
          }
  );

  private Converter<String, List<ParamFlowRule>> paramFlowRuleListParser = source -> JSON.parseObject(
          source,
          new TypeReference<List<ParamFlowRule>>() {
          }
  );

  private void mkdirIfNotExits(String filePath) throws IOException {
      File file = new File(filePath);
      if (!file.exists()) {
          file.mkdirs();
      }
  }

  private void createFileIfNotExits(String filePath) throws IOException {
      File file = new File(filePath);
      if (!file.exists()) {
          file.createNewFile();
      }
  }

  private <T> String encodeJson(T t) {
      return JSON.toJSONString(t);
  }
}

在resources下創(chuàng)建配置目錄META-INF/services,然后添加文件 com.alibaba.csp.sentinel.init.InitFunc;在文件中添加上面寫(xiě)的配置類(lèi)的全路徑top.vchar.order.config.FilePersistence

使用Nacos實(shí)現(xiàn)動(dòng)態(tài)規(guī)則配置

動(dòng)態(tài)規(guī)則擴(kuò)展文檔

添加如下依賴(lài)

<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-datasource-nacos</artifactId>
</dependency>

添加如下配置(具體可以參考SentinelProperties 配置類(lèi)):

spring:
  cloud:
    sentinel:
      datasource:
        flow:
          # 配置nacos的
          nacos:
            rule-type: FLOW
            server-addr: 127.0.0.1:8848
            namespace: public
            groupId: "DEFAULT_GROUP"
            dataId: dubbo-customer-demo-sentinel.rule
            username: nacos
            password: 123456

然后在nacos中創(chuàng)建一個(gè)配置文件 dubbo-customer-demo-sentinel.rule,類(lèi)型為text; 具體配置參數(shù)見(jiàn)官網(wǎng)說(shuō)明;下面是一個(gè)示例:

[
    {
        "resource": "SentinelDemoService#sentinelDemo2",
        "count": 0,
        "grade": 1,
        "limitApp":"default",
        "strategy":0,
        "controlBehavior":0,
        "clusterMode":false
    }
]

實(shí)際使用不建議這樣做,還是建議使用控制臺(tái)的方式;因?yàn)槭褂霉俜教峁┑募煞绞綍r(shí),nacos的時(shí)候會(huì)瘋狂的拉取數(shù)據(jù),同時(shí)只支持一個(gè)規(guī)則的配置;因此要么自己去基于nacos實(shí)現(xiàn),要么使用控制臺(tái)的方式;
且配置項(xiàng)很多,因此還是建議使用控制臺(tái)的方式來(lái)實(shí)現(xiàn),或者是對(duì)接其rest api接口,在實(shí)際操作中還是建議使用界面化的操作。

關(guān)于熔斷降級(jí)是如何實(shí)現(xiàn)自動(dòng)調(diào)用我們配置的Fallback方法

sentinel使用了spring的AOP切面編程功能攔截有@SentinelResource注解的類(lèi),具體查看com.alibaba.csp.sentinel.annotation.aspectj.SentinelResourceAspect類(lèi),在執(zhí)行實(shí)際的方法時(shí)使用try-catch進(jìn)行異常捕獲,
如果異常是BlockException的時(shí)候會(huì)調(diào)用handleBlockException方法(注意我們也可以配置自己自定義的異常也走這個(gè)方法),通過(guò)反射執(zhí)行配置的Fallback方法。

以上是“Spring Cloud Alibaba之Sentinel實(shí)現(xiàn)熔斷限流功能的方法”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對(duì)大家有幫助,更多相關(guān)知識(shí),歡迎關(guān)注億速云行業(yè)資訊頻道!

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI