溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Nginx輪詢算法底層如何實(shí)現(xiàn)

發(fā)布時間:2021-05-27 14:52:40 來源:億速云 閱讀:172 作者:小新 欄目:服務(wù)器

這篇文章主要介紹Nginx輪詢算法底層如何實(shí)現(xiàn),文中介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們一定要看完!

輪詢算法簡介

在工作中很多人都使用到了nginx,對nginx得配置也是爛熟于心,今天我主要想介紹一下nginx輪詢算法得幾種底層實(shí)現(xiàn)方式。

簡單輪詢算法

這種算法比較簡單,舉個例子就是你有三臺服務(wù)器



第一臺服務(wù)器192.168.1.1
第二臺服務(wù)器192.168.1.2
第三臺服務(wù)器192.168.1.3

第一個請求過來之后默認(rèn)訪問第一臺,第二個請求過來訪問第二臺,第三次請求過來訪問第三臺,第四次請求過來訪問第一臺,以此類推。以下是我代碼實(shí)現(xiàn)簡單得算法:

public class SimplePolling {

  /**
   * key是ip
   */
  public static List <String> ipService = new LinkedList <>();
  static {
    ipService.add("192.168.1.1");
    ipService.add("192.168.1.2");
    ipService.add("192.168.1.3");
  }
  public static int pos = 0;
  public static String getIp(){
    if(pos >= ipService.size()){
      //防止索引越界
      pos = 0;
    }
    String ip = ipService.get(pos);
    pos ++;
    return ip;

  }

  public static void main(String[] args) {
    for (int i = 0; i < 4; i++) {
      System.out.println(getIp());

    }
  }
}

模擬執(zhí)行4次執(zhí)行結(jié)果是

Nginx輪詢算法底層如何實(shí)現(xiàn)

此時如果我有一臺服務(wù)器性能比較好(比如192.168.1.1),我想讓這臺服務(wù)器處理多一點(diǎn)請求,此時就涉及到了權(quán)重得概率,這種算法就不能實(shí)現(xiàn),請看我后面描述的輪詢升級版算法。

加權(quán)輪詢算法

此時我需要把我前面3臺服務(wù)器都設(shè)置權(quán)重,比如第一臺設(shè)置5,第二臺設(shè)置1,第三臺設(shè)置1

第一臺服務(wù)器192.168.1.15
第二臺服務(wù)器192.168.1.21
第三臺服務(wù)器192.168.1.31

此時前5個請求都會訪問到第一臺服務(wù)器,第六個請求會訪問到第二臺服務(wù)器,第七個請求會訪問到第三臺服務(wù)器。

以下是我給出的代碼案例:

public class WeightPolling {

  /**
   * key是ip,value是權(quán)重
   */
  public static Map<String, Integer> ipService = new LinkedHashMap<>();
  static {
    ipService.put("192.168.1.1", 5);
    ipService.put("192.168.1.2", 1);
    ipService.put("192.168.1.3", 1);
  }
  public static int requestId = 0;
  public static int getAndIncrement() {
    return requestId++;
  }

  public static String getIp(){
    //獲取總的權(quán)重
    int totalWeight =0;
    for (Integer value : ipService.values()) {
      totalWeight+= value;
    }
    //獲取當(dāng)前輪詢的值
    int andIncrement = getAndIncrement();
    int pos = andIncrement% totalWeight;
    for (String ip : ipService.keySet()) {
      if(pos < ipService.get(ip)){
        return ip;
      }
      pos -= ipService.get(ip);
    }
    return null;
  }

  public static void main(String[] args) {
    for (int i = 0; i < 7; i++) {
      System.out.println(getIp());
    }
  }

}

此時運(yùn)行結(jié)果是

Nginx輪詢算法底層如何實(shí)現(xiàn)

可以看的第一臺服務(wù)器執(zhí)行了5次,后面2臺依次執(zhí)行一次,依次類推??赡苣阌X得這種算法還不錯。其實(shí)這種算法有一個缺點(diǎn)是,如果我第一臺服務(wù)器設(shè)置權(quán)重過大可能我需要很多次請求都執(zhí)行到第一臺服務(wù)器上去,這樣的情況分布是不均勻的,會造成某一臺服務(wù)器壓力過大導(dǎo)致崩潰。所以我后面要引入第三種算法來解決這個問題

平滑加權(quán)輪詢算法

這種算法可能比較復(fù)雜,我第一次看也有點(diǎn)不太明白,后面看過相關(guān)資料在結(jié)合我自己的理解給大家圖文解釋一下,這里我舉例的服務(wù)器配置和權(quán)重還是和上面一樣

請求當(dāng)前權(quán)重 = 自身權(quán)重+選中后當(dāng)前權(quán)重總權(quán)重當(dāng)前最大權(quán)重返回的ip選中后當(dāng)前權(quán)重=當(dāng)前最大權(quán)重-總權(quán)重
1{5,1,1}75192.168.1.1{-2,1,1}
2{3,2,2}73192.168.1.1{-4,2,2}
3{1,3,3}73192.168.1.2{1,-4,3}
4{6,-3,4}76192.168.1.1{-1,-3,4}
5{4,-2,5}75192.168.1.3{4,-2,-2}
6{9,-1,-1}79192.168.1.1{2,-1,-1}
7{7,0,0}77192.168.1.1{0,0,0}

由上圖可以看出第一臺服務(wù)器雖然權(quán)重設(shè)置的是5,但并不是第五次請求過來都是第一臺服務(wù)器執(zhí)行,而是分散執(zhí)行,調(diào)度序列是非常均勻的,且第 7 次調(diào)度時選中后當(dāng)前權(quán)重又回到 {0, 0, 0},實(shí)例的狀態(tài)同初始狀態(tài)一致,所以后續(xù)可以一直重復(fù)調(diào)度操作。

可能有的人還不能清楚的明白上一張圖表示的含義,我這里大概描述一下:

1.首先總權(quán)重不會變,默認(rèn)就是當(dāng)前設(shè)置的權(quán)重之和

2.在第一次請求進(jìn)來的時候我默認(rèn)初始化當(dāng)前權(quán)重選中值是{0,0,0},所以當(dāng)前權(quán)重的值就是{5+0,1+0,1+0},這里的5,1,1就是我們前面每臺服務(wù)器設(shè)置的權(quán)重。

3.這里我們可以得出第一次請求過來的最大權(quán)重是5。然后返回第一臺服務(wù)器ip

4.然后我們設(shè)置選中后當(dāng)前權(quán)重,這里就是當(dāng)前最大權(quán)重減去總權(quán)重(5-7),沒有選中的權(quán)重不變,這時候得到當(dāng)前權(quán)重選中權(quán)重的值{5-7,1,1}

5.在第二次請求過來的時候我們延續(xù)上面的2,3,4步驟執(zhí)行.

如果這里還有不懂得我下面會提供我自己用java代碼實(shí)現(xiàn)的算法:

public class Polling {

  /**
   * key是ip,value是權(quán)重
   */
  public static Map <String,Integer> ipService = new LinkedHashMap <>();
  static {
    ipService.put("192.168.1.1",5);
    ipService.put("192.168.1.2",1);
    ipService.put("192.168.1.3",1);
  }
  private static Map<String,Weight> weightMap = new LinkedHashMap <>();

  public static String getIp(){
    //計算總的權(quán)重
     int totalWeight = 0;
    for (Integer value : ipService.values()) {
      totalWeight+=value;
    }
    //首先判斷weightMap是否為空
    if(weightMap.isEmpty()){
      ipService.forEach((ip,weight)->{
        Weight weights = new Weight(ip, weight,0);
        weightMap.put(ip,weights);
      });
    }
    //給map中得對象設(shè)置當(dāng)前權(quán)重
    weightMap.forEach((ip,weight)->{
      weight.setCurrentWeight(weight.getWeight() + weight.getCurrentWeight());
    });

    //判斷最大權(quán)重是否大于當(dāng)前權(quán)重,如果為空或者小于當(dāng)前權(quán)重,則把當(dāng)前權(quán)重賦值給最大權(quán)重
    Weight maxWeight = null;
    for (Weight weight : weightMap.values()) {
      if(maxWeight ==null || weight.getCurrentWeight() > maxWeight.getCurrentWeight()){
        maxWeight = weight;
      }
    }
    //最后把當(dāng)前最大權(quán)重減去總的權(quán)重
    maxWeight.setCurrentWeight(maxWeight.getCurrentWeight() - totalWeight);
    //返回
    return maxWeight.getIp();
  }

  public static void main(String[] args) {
    //模擬輪詢7次取ip
    for (int i = 0; i < 7; i++) {
      System.out.println(getIp());
    }
  }

}

class Weight{
  /**
   * ip
   */
  private String ip;
  /**
   * 設(shè)置得權(quán)重
   */
  private int weight;
  /**
   * 當(dāng)前權(quán)重
   */
  private int currentWeight;

  public Weight(String ip, int weight,int currentWeight) {
    this.ip = ip;
    this.weight = weight;
    this.currentWeight = currentWeight;
  }

  public String getIp() {
    return ip;
  }

  public void setIp(String ip) {
    this.ip = ip;
  }

  public int getWeight() {
    return weight;
  }

  public void setWeight(int weight) {
    this.weight = weight;
  }

  public int getCurrentWeight() {
    return currentWeight;
  }

  public void setCurrentWeight(int currentWeight) {
    this.currentWeight = currentWeight;
  }
}

這里代碼得執(zhí)行結(jié)果是:

Nginx輪詢算法底層如何實(shí)現(xiàn)

可以看出此處執(zhí)行結(jié)果和表格里描述得結(jié)果一致。

總結(jié)

可能第三種算法理解起來有點(diǎn)復(fù)雜,如果看不懂圖表得意思可以先執(zhí)行下代碼,debugger一步步調(diào)試后還是很好理解。

以上是“Nginx輪詢算法底層如何實(shí)現(xiàn)”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對大家有幫助,更多相關(guān)知識,歡迎關(guān)注億速云行業(yè)資訊頻道!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI