Java怎么實(shí)現(xiàn)負(fù)載均衡算法

這篇文章主要講解了“Java怎么實(shí)現(xiàn)負(fù)載均衡算法”，文中的講解內(nèi)容簡(jiǎn)單清晰，易于學(xué)習(xí)與理解，下面請(qǐng)大家跟著小編的思路慢慢深入，一起來(lái)研究和學(xué)習(xí)“Java怎么實(shí)現(xiàn)負(fù)載均衡算法”吧！

什么是負(fù)載均衡（Load balancing）？

在網(wǎng)站創(chuàng)立初期，我們一般都使用單臺(tái)機(jī)器對(duì)臺(tái)提供集中式服務(wù)，但隨著業(yè)務(wù)量越來(lái)越大，無(wú)論性能還是穩(wěn)定性上都有了更大的挑戰(zhàn)。這時(shí)候我們就會(huì)想到通過(guò)擴(kuò)容的方式來(lái)提供更好的服務(wù)。我們一般會(huì)把多臺(tái)機(jī)器組成一個(gè)集群對(duì)外提供服務(wù)。然而，我們的網(wǎng)站對(duì)外提供的訪問(wèn)入口都是一個(gè)的，比如www.taobao.com。那么當(dāng)用戶在瀏覽器輸入www.taobao.com的時(shí)候如何將用戶的請(qǐng)求分發(fā)到集群中不同的機(jī)器上呢，這就是負(fù)載均衡在做的事情。

當(dāng)前大多數(shù)的互聯(lián)網(wǎng)系統(tǒng)都使用了服務(wù)器集群技術(shù)，集群即將相同服務(wù)部署在多臺(tái)服務(wù)器上構(gòu)成一個(gè)集群整體對(duì)外提供服務(wù)，這些集群可以是Web應(yīng)用服務(wù)器集群，也可以是數(shù)據(jù)庫(kù)服務(wù)器集群，還可以是分布式緩存服務(wù)器集群等。

在實(shí)際應(yīng)用中，在Web服務(wù)器集群之前總會(huì)有一臺(tái)負(fù)載均衡服務(wù)器，負(fù)載均衡設(shè)備的任務(wù)就是作為Web服務(wù)器流量的入口，挑選最合適的一臺(tái)Web服務(wù)器，將客戶端的請(qǐng)求轉(zhuǎn)發(fā)給它處理，實(shí)現(xiàn)客戶端到真實(shí)服務(wù)端的透明轉(zhuǎn)發(fā)。最近幾年很火的「云計(jì)算」以及分布式架構(gòu)，本質(zhì)上也是將后端服務(wù)器作為計(jì)算資源、存儲(chǔ)資源，由某臺(tái)管理服務(wù)器封裝成一個(gè)服務(wù)對(duì)外提供，客戶端不需要關(guān)心真正提供服務(wù)的是哪臺(tái)機(jī)器，在它看來(lái)，就好像它面對(duì)的是一臺(tái)擁有近乎無(wú)限能力的服務(wù)器，而本質(zhì)上，真正提供服務(wù)的是后端的集群。

軟件負(fù)載解決的兩個(gè)核心問(wèn)題是：選誰(shuí)、轉(zhuǎn)發(fā)，其中最著名的是LVS（Linux Virtual Server）。

一個(gè)典型的互聯(lián)網(wǎng)應(yīng)用的拓?fù)浣Y(jié)構(gòu)是這樣的：

負(fù)載均衡分類(lèi)

現(xiàn)在我們知道，負(fù)載均衡就是一種計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)，用來(lái)在多個(gè)計(jì)算機(jī)（計(jì)算機(jī)集群）、網(wǎng)絡(luò)連接、CPU、磁碟驅(qū)動(dòng)器或其它資源中分配負(fù)載，以達(dá)到最佳化資源使用、最大化吞吐率、最小化響應(yīng)時(shí)間、同時(shí)避免過(guò)載的目的。那么，這種計(jì)算機(jī)技術(shù)的實(shí)現(xiàn)方式有多種。大致可以分為以下幾種，其中最常用的是四層和七層負(fù)載均衡：

二層負(fù)載均衡

負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP（虛IP），集群中不同的機(jī)器采用相同IP地址，但機(jī)器的MAC地址不一樣。當(dāng)負(fù)載均衡服務(wù)器接受到請(qǐng)求之后，通過(guò)改寫(xiě)報(bào)文的目標(biāo)MAC地址的方式將請(qǐng)求轉(zhuǎn)發(fā)到目標(biāo)機(jī)器實(shí)現(xiàn)負(fù)載均衡。

三層負(fù)載均衡

和二層負(fù)載均衡類(lèi)似，負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP（虛IP），但集群中不同的機(jī)器采用不同的IP地址。當(dāng)負(fù)載均衡服務(wù)器接受到請(qǐng)求之后，根據(jù)不同的負(fù)載均衡算法，通過(guò)IP將請(qǐng)求轉(zhuǎn)發(fā)至不同的真實(shí)服務(wù)器。

四層負(fù)載均衡

四層負(fù)載均衡工作在OSI模型的傳輸層，由于在傳輸層，只有TCP/UDP協(xié)議，這兩種協(xié)議中除了包含源IP、目標(biāo)IP以外，還包含源端口號(hào)及目的端口號(hào)。四層負(fù)載均衡服務(wù)器在接受到客戶端請(qǐng)求后，以后通過(guò)修改數(shù)據(jù)包的地址信息（IP+端口號(hào)）將流量轉(zhuǎn)發(fā)到應(yīng)用服務(wù)器。

七層負(fù)載均衡

七層負(fù)載均衡工作在OSI模型的應(yīng)用層，應(yīng)用層協(xié)議較多，常用http、radius、DNS等。七層負(fù)載就可以基于這些協(xié)議來(lái)負(fù)載。這些應(yīng)用層協(xié)議中會(huì)包含很多有意義的內(nèi)容。比如同一個(gè)Web服務(wù)器的負(fù)載均衡，除了根據(jù)IP加端口進(jìn)行負(fù)載外，還可根據(jù)七層的URL、瀏覽器類(lèi)別、語(yǔ)言來(lái)決定是否要進(jìn)行負(fù)載均衡。

圖：四層和七層負(fù)載均衡

對(duì)于一般的應(yīng)用來(lái)說(shuō)，有了Nginx就夠了。Nginx可以用于七層負(fù)載均衡。但是對(duì)于一些大的網(wǎng)站，一般會(huì)采用DNS+四層負(fù)載+七層負(fù)載的方式進(jìn)行多層次負(fù)載均衡。

常用負(fù)載均衡工具

硬件負(fù)載均衡性能優(yōu)越，功能全面，但價(jià)格昂貴，一般適合初期或者土豪級(jí)公司長(zhǎng)期使用。因此軟件負(fù)載均衡在互聯(lián)網(wǎng)領(lǐng)域大量使用。常用的軟件負(fù)載均衡軟件有Nginx、LVS、HaProxy等。

Nginx/LVS/HAProxy是目前使用最廣泛的三種負(fù)載均衡軟件。

1、 LVS

LVS（Linux Virtual Server），也就是Linux虛擬服務(wù)器，是一個(gè)由章文嵩博士發(fā)起的自由軟件項(xiàng)目。使用LVS技術(shù)要達(dá)到的目標(biāo)是：通過(guò)LVS提供的負(fù)載均衡技術(shù)和Linux操作系統(tǒng)實(shí)現(xiàn)一個(gè)高性能、高可用的服務(wù)器群集，它具有良好可靠性、可擴(kuò)展性和可操作性。從而以低廉的成本實(shí)現(xiàn)最優(yōu)的服務(wù)性能。

LVS主要用來(lái)做四層負(fù)載均衡。

LVS架構(gòu)

LVS架設(shè)的服務(wù)器集群系統(tǒng)由三個(gè)部分組成：最前端的負(fù)載均衡層（Loader Balancer），中間的服務(wù)器群組層，用Server Array表示，最底層的數(shù)據(jù)共享存儲(chǔ)層，用Shared Storage表示。在用戶看來(lái)所有的應(yīng)用都是透明的，用戶只是在使用一個(gè)虛擬服務(wù)器提供的高性能服務(wù)。

LVS的各個(gè)層次的詳細(xì)介紹：

Load Balancer層：位于整個(gè)集群系統(tǒng)的最前端，有一臺(tái)或者多臺(tái)負(fù)載調(diào)度器（Director Server）組成，LVS模塊就安裝在Director Server上，而Director的主要作用類(lèi)似于一個(gè)路由器，它含有完成LVS功能所設(shè)定的路由表，通過(guò)這些路由表把用戶的請(qǐng)求分發(fā)給Server Array層的應(yīng)用服務(wù)器（Real Server）上。同時(shí)，在Director Server上還要安裝對(duì)Real Server服務(wù)的監(jiān)控模塊Ldirectord，此模塊用于監(jiān)測(cè)各個(gè)Real Server服務(wù)的健康狀況。在Real Server不可用時(shí)把它從LVS路由表中剔除，恢復(fù)時(shí)重新加入。

Server Array層：由一組實(shí)際運(yùn)行應(yīng)用服務(wù)的機(jī)器組成，Real Server可以是Web服務(wù)器、Mail服務(wù)器、FTP服務(wù)器、DNS服務(wù)器、視頻服務(wù)器中的一個(gè)或者多個(gè)，每個(gè)Real Server之間通過(guò)高速的LAN或分布在各地的WAN相連接。在實(shí)際的應(yīng)用中，Director Server也可以同時(shí)兼任Real Server的角色。

Shared Storage層：是為所有Real Server提供共享存儲(chǔ)空間和內(nèi)容一致性的存儲(chǔ)區(qū)域，在物理上一般由磁盤(pán)陣列設(shè)備組成，為了提供內(nèi)容的一致性，一般可以通過(guò)NFS網(wǎng)絡(luò)文件系統(tǒng)共享數(shù) 據(jù)，但NFS在繁忙的業(yè)務(wù)系統(tǒng)中，性能并不是很好，此時(shí)可以采用集群文件系統(tǒng)，例如Red hat的GFS文件系統(tǒng)、Oracle提供的OCFS2文件系統(tǒng)等。

從整個(gè)LVS結(jié)構(gòu)可以看出，Director Server是整個(gè)LVS的核心，目前用于Director Server的操作系統(tǒng)只能是Linux和FreeBSD，Linux2.6內(nèi)核不用任何設(shè)置就可以支持LVS功能，而FreeBSD作為 Director Server的應(yīng)用還不是很多，性能也不是很好。對(duì)于Real Server，幾乎可以是所有的系統(tǒng)平臺(tái)，Linux、windows、Solaris、AIX、BSD系列都能很好地支持。

2、Nginx

Nginx（發(fā)音同engine x）是一個(gè)網(wǎng)頁(yè)服務(wù)器，它能反向代理HTTP、HTTPS,、SMTP、POP3、IMAP的協(xié)議鏈接，以及一個(gè)負(fù)載均衡器和一個(gè)HTTP緩存。

Nginx主要用來(lái)做七層負(fù)載均衡。

并發(fā)性能：官方支持每秒5萬(wàn)并發(fā)，實(shí)際國(guó)內(nèi)一般到每秒2萬(wàn)并發(fā)，有優(yōu)化到每秒10萬(wàn)并發(fā)的。具體性能看應(yīng)用場(chǎng)景。

特點(diǎn)：

• 模塊化設(shè)計(jì)：良好的擴(kuò)展性，可以通過(guò)模塊方式進(jìn)行功能擴(kuò)展。

• 高可靠性：主控進(jìn)程和worker是同步實(shí)現(xiàn)的，一個(gè)worker出現(xiàn)問(wèn)題，會(huì)立刻啟動(dòng)另一個(gè)worker。

• 內(nèi)存消耗低：一萬(wàn)個(gè)長(zhǎng)連接（keep-alive）,僅消耗2.5MB內(nèi)存。

• 支持熱部署：不用停止服務(wù)器，實(shí)現(xiàn)更新配置文件，更換日志文件、更新服務(wù)器程序版本。

• 并發(fā)能力強(qiáng)：官方數(shù)據(jù)每秒支持5萬(wàn)并發(fā)；

• 功能豐富：優(yōu)秀的反向代理功能和靈活的負(fù)載均衡策略

Nginx的基本工作模式

一個(gè)master進(jìn)程，生成一個(gè)或者多個(gè)worker進(jìn)程。但這里master是使用root身份啟動(dòng)的，因?yàn)閚ginx要工作在80端口。而只有管理員才有權(quán)限啟動(dòng)小于低于1023的端口。master主要是負(fù)責(zé)的作用只是啟動(dòng)worker，加載配置文件，負(fù)責(zé)系統(tǒng)的平滑升級(jí)。其它的工作是交給worker。那當(dāng)worker被啟動(dòng)之后，也只是負(fù)責(zé)一些web最簡(jiǎn)單的工作，而其它的工作都是由worker中調(diào)用的模塊來(lái)實(shí)現(xiàn)的。

模塊之間是以流水線的方式實(shí)現(xiàn)功能的。流水線，指的是一個(gè)用戶請(qǐng)求，由多個(gè)模塊組合各自的功能依次實(shí)現(xiàn)完成的。比如：第一個(gè)模塊只負(fù)責(zé)分析請(qǐng)求首部，第二個(gè)模塊只負(fù)責(zé)查找數(shù)據(jù)，第三個(gè)模塊只負(fù)責(zé)壓縮數(shù)據(jù)，依次完成各自工作。來(lái)實(shí)現(xiàn)整個(gè)工作的完成。

它們是如何實(shí)現(xiàn)熱部署的呢？是這樣的，我們前面說(shuō)master不負(fù)責(zé)具體的工作，而是調(diào)用worker工作，它只是負(fù)責(zé)讀取配置文件，因此當(dāng)一個(gè)模塊修改或者配置文件發(fā)生變化，是由master進(jìn)行讀取，因此此時(shí)不會(huì)影響到worker工作。在master進(jìn)行讀取配置文件之后，不會(huì)立即把修改的配置文件告知worker。而是讓被修改的worker繼續(xù)使用老的配置文件工作，當(dāng)worker工作完畢之后，直接當(dāng)?shù)暨@個(gè)子進(jìn)程，更換新的子進(jìn)程，使用新的規(guī)則。

3、HAProxy

HAProxy也是使用較多的一款負(fù)載均衡軟件。HAProxy提供高可用性、負(fù)載均衡以及基于TCP和HTTP應(yīng)用的代理，支持虛擬主機(jī)，是免費(fèi)、快速并且可靠的一種解決方案。特別適用于那些負(fù)載特大的web站點(diǎn)。運(yùn)行模式使得它可以很簡(jiǎn)單安全的整合到當(dāng)前的架構(gòu)中，同時(shí)可以保護(hù)你的web服務(wù)器不被暴露到網(wǎng)絡(luò)上。

HAProxy是一個(gè)使用C語(yǔ)言編寫(xiě)的自由及開(kāi)放源代碼軟件，其提供高可用性、負(fù)載均衡，以及基于TCP和HTTP的應(yīng)用程序代理。

Haproxy主要用來(lái)做七層負(fù)載均衡。

常見(jiàn)負(fù)載均衡算法

上面介紹負(fù)載均衡技術(shù)的時(shí)候提到過(guò)，負(fù)載均衡服務(wù)器在決定將請(qǐng)求轉(zhuǎn)發(fā)到具體哪臺(tái)真實(shí)服務(wù)器時(shí)，是通過(guò)負(fù)載均衡算法來(lái)實(shí)現(xiàn)的。負(fù)載均衡算法可以分為兩類(lèi)：靜態(tài)負(fù)載均衡算法和動(dòng)態(tài)負(fù)載均衡算法。

• 靜態(tài)負(fù)載均衡算法包括：輪詢、比率、優(yōu)先權(quán)。

• 動(dòng)態(tài)負(fù)載均衡算法包括：最少連接數(shù)、最快響應(yīng)速度、觀察方法、預(yù)測(cè)法、動(dòng)態(tài)性能分配、動(dòng)態(tài)服務(wù)器補(bǔ)充、服務(wù)質(zhì)量、服務(wù)類(lèi)型、規(guī)則模式。

輪詢（Round Robin）：順序循環(huán)將請(qǐng)求一次順序循環(huán)地連接每個(gè)服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP 就把其從順序循環(huán)隊(duì)列中拿出，不參加下一次的輪詢，直到其恢復(fù)正常。

以輪詢的方式依次請(qǐng)求調(diào)度不同的服務(wù)器； 實(shí)現(xiàn)時(shí)，一般為服務(wù)器帶上權(quán)重；這樣有兩個(gè)好處：

• 針對(duì)服務(wù)器的性能差異可分配不同的負(fù)載；

• 當(dāng)需要將某個(gè)結(jié)點(diǎn)剔除時(shí)，只需要將其權(quán)重設(shè)置為0即可；

優(yōu)點(diǎn)：實(shí)現(xiàn)簡(jiǎn)單、高效；易水平擴(kuò)展

缺點(diǎn)：請(qǐng)求到目的結(jié)點(diǎn)的不確定，造成其無(wú)法適用于有寫(xiě)的場(chǎng)景（緩存，數(shù)據(jù)庫(kù)寫(xiě)）

應(yīng)用場(chǎng)景：數(shù)據(jù)庫(kù)或應(yīng)用服務(wù)層中只有讀的場(chǎng)景

隨機(jī)方式：請(qǐng)求隨機(jī)分布到各個(gè)結(jié)點(diǎn)；在數(shù)據(jù)足夠大的場(chǎng)景能達(dá)到一個(gè)均衡分布；

優(yōu)點(diǎn)：實(shí)現(xiàn)簡(jiǎn)單、易水平擴(kuò)展

缺點(diǎn)：同Round Robin，無(wú)法用于有寫(xiě)的場(chǎng)景

應(yīng)用場(chǎng)景：數(shù)據(jù)庫(kù)負(fù)載均衡，也是只有讀的場(chǎng)景

哈希方式：根據(jù)key來(lái)計(jì)算需要落在的結(jié)點(diǎn)上，可以保證一個(gè)同一個(gè)鍵一定落在相同的服務(wù)器上；

優(yōu)點(diǎn)：相同key一定落在同一個(gè)結(jié)點(diǎn)上，這樣就可用于有寫(xiě)有讀的緩存場(chǎng)景

缺點(diǎn)：在某個(gè)結(jié)點(diǎn)故障后，會(huì)導(dǎo)致哈希鍵重新分布，造成命中率大幅度下降

解決：一致性哈希 or 使用keepalived保證任何一個(gè)結(jié)點(diǎn)的高可用性，故障后會(huì)有其它結(jié)點(diǎn)頂上來(lái)

應(yīng)用場(chǎng)景：緩存，有讀有寫(xiě)

一致性哈希：在服務(wù)器一個(gè)結(jié)點(diǎn)出現(xiàn)故障時(shí)，受影響的只有這個(gè)結(jié)點(diǎn)上的key，最大程度的保證命中率； 如twemproxy中的ketama方案； 生產(chǎn)實(shí)現(xiàn)中還可以規(guī)劃指定子key哈希，從而保證局部相似特征的鍵能分布在同一個(gè)服務(wù)器上；

優(yōu)點(diǎn)：結(jié)點(diǎn)故障后命中率下降有限

應(yīng)用場(chǎng)景：緩存

根據(jù)鍵的范圍來(lái)負(fù)載：根據(jù)鍵的范圍來(lái)負(fù)載，前1億個(gè)鍵都存放到第一個(gè)服務(wù)器，1~2億在第二個(gè)結(jié)點(diǎn)。

優(yōu)點(diǎn)：水平擴(kuò)展容易，存儲(chǔ)不夠用時(shí)，加服務(wù)器存放后續(xù)新增數(shù)據(jù)

缺點(diǎn)：負(fù)載不均；數(shù)據(jù)庫(kù)的分布不均衡；

（數(shù)據(jù)有冷熱區(qū)分，一般最近注冊(cè)的用戶更加活躍，這樣造成后續(xù)的服務(wù)器非常繁忙，而前期的結(jié)點(diǎn)空閑很多）

適用場(chǎng)景：數(shù)據(jù)庫(kù)分片負(fù)載均衡

根據(jù)鍵對(duì)服務(wù)器結(jié)點(diǎn)數(shù)取模來(lái)負(fù)載：根據(jù)鍵對(duì)服務(wù)器結(jié)點(diǎn)數(shù)取模來(lái)負(fù)載；比如有4臺(tái)服務(wù)器，key取模為0的落在第一個(gè)結(jié)點(diǎn)，1落在第二個(gè)結(jié)點(diǎn)上。

優(yōu)點(diǎn)：數(shù)據(jù)冷熱分布均衡，數(shù)據(jù)庫(kù)結(jié)點(diǎn)負(fù)載均衡分布；

缺點(diǎn)：水平擴(kuò)展較難；

適用場(chǎng)景：數(shù)據(jù)庫(kù)分片負(fù)載均衡

純動(dòng)態(tài)結(jié)點(diǎn)負(fù)載均衡：根據(jù)CPU、IO、網(wǎng)絡(luò)的處理能力來(lái)決策接下來(lái)的請(qǐng)求如何調(diào)度。

優(yōu)點(diǎn)：充分利用服務(wù)器的資源，保證個(gè)結(jié)點(diǎn)上負(fù)載處理均衡

缺點(diǎn)：實(shí)現(xiàn)起來(lái)復(fù)雜，真實(shí)使用較少

不用主動(dòng)負(fù)載均衡：使用消息隊(duì)列轉(zhuǎn)為異步模型，將負(fù)載均衡的問(wèn)題消滅；負(fù)載均衡是一種推模型，一直向你發(fā)數(shù)據(jù)，那么將所有的用戶請(qǐng)求發(fā)到消息隊(duì)列中，所有的下游結(jié)點(diǎn)誰(shuí)空閑，誰(shuí)上來(lái)取數(shù)據(jù)處理；轉(zhuǎn)為拉模型之后，消除了對(duì)下行結(jié)點(diǎn)負(fù)載的問(wèn)題。

優(yōu)點(diǎn)：通過(guò)消息隊(duì)列的緩沖，保護(hù)后端系統(tǒng)，請(qǐng)求劇增時(shí)不會(huì)沖垮后端服務(wù)器；水平擴(kuò)展容易，加入新結(jié)點(diǎn)后，直接取queue即可；

缺點(diǎn)：不具有實(shí)時(shí)性；

應(yīng)用場(chǎng)景：不需要實(shí)時(shí)返回的場(chǎng)景；

比如，12036下訂單后，立刻返回提示信息：您的訂單進(jìn)去排隊(duì)了...等處理完畢后，再異步通知；

比率（Ratio）：給每個(gè)服務(wù)器分配一個(gè)加權(quán)值為比例，根椐這個(gè)比例，把用戶的請(qǐng)求分配到每個(gè)服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第2到第7 層的故障，BIG-IP 就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。

優(yōu)先權(quán)（Priority）：給所有服務(wù)器分組，給每個(gè)組定義優(yōu)先權(quán)，BIG-IP 用戶的請(qǐng)求，分配給優(yōu)先級(jí)最高的服務(wù)器組（在同一組內(nèi)，采用輪詢或比率算法，分配用戶的請(qǐng)求）；當(dāng)最高優(yōu)先級(jí)中所有服務(wù)器出現(xiàn)故障，BIG-IP 才將請(qǐng)求送給次優(yōu)先級(jí)的服務(wù)器組。這種方式，實(shí)際為用戶提供一種熱備份的方式。

最少的連接方式（Least Connection）：傳遞新的連接給那些進(jìn)行最少連接處理的服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第2到第7 層的故障，BIG-IP 就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。

最快模式（Fastest）：傳遞連接給那些響應(yīng)最快的服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP 就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。

觀察模式（Observed）：連接數(shù)目和響應(yīng)時(shí)間以這兩項(xiàng)的最佳平衡為依據(jù)為新的請(qǐng)求選擇服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。

預(yù)測(cè)模式（Predictive）：BIG-IP利用收集到的服務(wù)器當(dāng)前的性能指標(biāo)，進(jìn)行預(yù)測(cè)分析，選擇一臺(tái)服務(wù)器在下一個(gè)時(shí)間片內(nèi)，其性能將達(dá)到最佳的服務(wù)器相應(yīng)用戶的請(qǐng)求。(被BIG-IP 進(jìn)行檢測(cè))

動(dòng)態(tài)性能分配(Dynamic Ratio-APM):BIG-IP 收集到的應(yīng)用程序和應(yīng)用服務(wù)器的各項(xiàng)性能參數(shù)，動(dòng)態(tài)調(diào)整流量分配。

動(dòng)態(tài)服務(wù)器補(bǔ)充(Dynamic Server Act.):當(dāng)主服務(wù)器群中因故障導(dǎo)致數(shù)量減少時(shí)，動(dòng)態(tài)地將備份服務(wù)器補(bǔ)充至主服務(wù)器群。

服務(wù)質(zhì)量(QoS）:按不同的優(yōu)先級(jí)對(duì)數(shù)據(jù)流進(jìn)行分配。

服務(wù)類(lèi)型(ToS): 按不同的服務(wù)類(lèi)型（在Type of Field中標(biāo)識(shí)）負(fù)載均衡對(duì)數(shù)據(jù)流進(jìn)行分配。

規(guī)則模式：針對(duì)不同的數(shù)據(jù)流設(shè)置導(dǎo)向規(guī)則，用戶可自行。

負(fù)載均衡的幾種算法Java實(shí)現(xiàn)代碼

• 輪詢

•  

•  

•  

• 加權(quán)隨機(jī)負(fù)載均衡算法

•  

•  

•  

• 隨機(jī)負(fù)載均衡算法

•  

•  

•  

• 負(fù)載均衡 ip_hash算法.

•  

感謝各位的閱讀，以上就是“Java怎么實(shí)現(xiàn)負(fù)載均衡算法”的內(nèi)容了，經(jīng)過(guò)本文的學(xué)習(xí)后，相信大家對(duì)Java怎么實(shí)現(xiàn)負(fù)載均衡算法這一問(wèn)題有了更深刻的體會(huì)，具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是億速云，小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章，歡迎關(guān)注！