您好,登錄后才能下訂單哦!
本篇內(nèi)容介紹了“.NET中負(fù)載均衡怎么使用”的有關(guān)知識(shí),在實(shí)際案例的操作過程中,不少人都會(huì)遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!
負(fù)載均衡(Load Balance),簡稱 LB,就是將并發(fā)的用戶請(qǐng)求通過規(guī)則后平衡、分?jǐn)偟蕉嗯_(tái)服務(wù)器上進(jìn)行執(zhí)行,以此達(dá)到壓力分?jǐn)?、?shù)據(jù)并行的效果。常見的算法也有許多隨機(jī)、輪詢、加權(quán)等,今天我們就使用 C# 來實(shí)現(xiàn)這幾種算法,并講解在實(shí)際項(xiàng)目中的使用。
負(fù)載均衡算法在開發(fā)層面,使用場景其實(shí)并不多。通常在項(xiàng)目重構(gòu)、轉(zhuǎn)型、上線大版本新功能等,為了避免上線出現(xiàn) Bug 應(yīng)用功能 100% 的掛掉??梢栽诔绦蛑惺褂秘?fù)載均衡,將部分 HTTP 流量,打入項(xiàng)目中新的功能模塊,然后進(jìn)行監(jiān)控,出現(xiàn)問題可以及時(shí)進(jìn)行調(diào)整。
這樣 AB 測試的場景,也可以在運(yùn)維或者網(wǎng)關(guān)等其他層面實(shí)現(xiàn)流量分配。但現(xiàn)實(shí)是大多數(shù)公司項(xiàng)目因?yàn)橐恍┰驔]有這樣的支持,這時(shí)開發(fā)就可以在項(xiàng)目中使用代碼進(jìn)行實(shí)現(xiàn)。
有這樣一個(gè)需求,電商系統(tǒng)中,有一個(gè)預(yù)估運(yùn)費(fèi)的微服務(wù)(ShippingCharge )。此時(shí)上面領(lǐng)導(dǎo)來了需求,預(yù)估運(yùn)費(fèi)要改版,開發(fā)預(yù)估了一下改動(dòng)不小。經(jīng)過兩周的奮斗 ShippingCharge 需求終于開發(fā)測試好了,此時(shí)要上線,但是掐指一算,萬一有問題不就死翹翹了,而且還和錢相關(guān)。
此時(shí)負(fù)載均衡算法就派上用場了,我們可以讓 10% 的流量打入這次的改動(dòng),可以先進(jìn)行監(jiān)控,可以再全部切過來。實(shí)際項(xiàng)目中,使用的肯定是權(quán)重的,后面隨機(jī)、輪詢也簡單進(jìn)行介紹一下其實(shí)現(xiàn)。
假設(shè)在改動(dòng) ShippingCharge 時(shí),沒有修改舊的功能,是在 controller 下面,對(duì) call business 層換成了這次需求的,這樣我們就可以使用負(fù)載均衡,讓 10% 的流量打入新的 business,其余的依然走老的 business。
這里不會(huì)說的太精細(xì),會(huì)將核心實(shí)現(xiàn)代碼做介紹,實(shí)際項(xiàng)目中使用需要自己進(jìn)行一下結(jié)合,舉一反三哈
下面定義了一個(gè) ServiceCenterModel 主要用作承載需要負(fù)載均衡的對(duì)象信息,可以是 call 下游的 url,也可以是程序內(nèi)的某一算法標(biāo)
隨機(jī)算法的先對(duì)來講,較為簡單一些,主要根據(jù) Random 與 ServiceList 的數(shù)量結(jié)合實(shí)現(xiàn)。
如下:
/// <summary> /// 隨機(jī) /// </summary> public class RandomAlgorithm { /// <summary> /// Random Function /// </summary> private static readonly Random random = new Random(); /// <summary> /// serviceList /// </summary> /// <param name="serviceList">service url set</param> /// <returns></returns> public static string Get(List<ServiceCenterModel> serviceList) { if (serviceList == null) return null; if (serviceList.Count == 1) return serviceList[0].Service; // 返回一個(gè)小于所指定最大值的非負(fù)隨機(jī)數(shù) int index = random.Next(serviceList.Count); string url = serviceList[index].Service; return url; } }
模擬 10 次 http request,可以看到對(duì)OldBusiness、NewBusiness進(jìn)行了隨機(jī)的返回
public static void Main(string[] args) { // 模擬從配置中心讀取 Service var serviceList = new List<ServiceCenterModel>() { new ServiceCenterModel { Service ="OldBusiness"}, new ServiceCenterModel { Service ="NewBusiness"}, }; // 模擬 Http 請(qǐng)求次數(shù) for (int i = 0; i < 10; i++) { Console.WriteLine(RandomAlgorithm.Get(serviceList)); } }
輪詢的實(shí)現(xiàn)思路,將每次讀取 ServiceList 的 Index 放到靜態(tài)全局變量中,當(dāng)?shù)?ServiceList 最后一個(gè)時(shí)從0開始讀取。
如下:
/// <summary> /// 輪詢 /// </summary> public class PollingAlgorithm { private static Dictionary<string, int> _serviceDic = new Dictionary<string, int>(); private static SpinLock _spinLock = new SpinLock(); /// <summary> /// Get URL From Service List /// </summary> /// <param name="serviceList">Service URL Set</param> /// <param name="serviceName">Service Name</param> /// <returns></returns> public static string Get(List<ServiceCenterModel> serviceList, string serviceName) { if (serviceList == null || string.IsNullOrEmpty(serviceName)) return null; if (serviceList.Count == 1) return serviceList[0].Service; bool locked = false; _spinLock.Enter(ref locked);//獲取鎖 int index = -1; if (!_serviceDic.ContainsKey(serviceName)) // Not Exist _serviceDic.TryAdd(serviceName, index); else _serviceDic.TryGetValue(serviceName, out index); string url = string.Empty; ++index; if (index > serviceList.Count - 1) //當(dāng)前索引 > 最新服務(wù)最大索引 { index = 0; url = serviceList[0].Service; } else { url = serviceList[index].Service; } _serviceDic[serviceName] = index; if (locked) //釋放鎖 _spinLock.Exit(); return url; } }
模擬 10 次 http request,可以看到對(duì)OldBusiness、NewBusiness進(jìn)行了輪詢返回
public static void Main(string[] args) { // 模擬從配置中心讀取 Service var serviceList = new List<ServiceCenterModel>() { new ServiceCenterModel { Service ="OldBusiness"}, new ServiceCenterModel { Service ="NewBusiness"}, }; // 模擬 Http 請(qǐng)求次數(shù) for (int i = 0; i < 10; i++) { Console.WriteLine(PollingAlgorithm.Get(serviceList, "ShippingChargeBusiness")); } }
權(quán)重的實(shí)現(xiàn)思路,將配置權(quán)重的 Service 按照數(shù)量放置在一個(gè)集合中,然后按照輪詢的方式進(jìn)行讀取,需要注意的是這的 weight 只能配置大于 0 的整數(shù)。
如下:
/// <summary> /// 權(quán)重 /// </summary> public class WeightAlgorithm { private static ConcurrentDictionary<string, WeightAlgorithmItem> _serviceDic = new ConcurrentDictionary<string, WeightAlgorithmItem>(); private static SpinLock _spinLock = new SpinLock(); public static string Get(List<ServiceCenterModel> serviceList, string serviceName) { if (serviceList == null) return null; if (serviceList.Count == 1) return serviceList[0].Service; bool locked = false; _spinLock.Enter(ref locked);//獲取鎖 WeightAlgorithmItem weightAlgorithmItem = null; if (!_serviceDic.ContainsKey(serviceName)) { weightAlgorithmItem = new WeightAlgorithmItem() { Index = -1, Urls = new List<string>() }; BuildWeightAlgorithmItem(weightAlgorithmItem, serviceList); _serviceDic.TryAdd(serviceName, weightAlgorithmItem); } else { _serviceDic.TryGetValue(serviceName, out weightAlgorithmItem); weightAlgorithmItem.Urls.Clear(); BuildWeightAlgorithmItem(weightAlgorithmItem, serviceList); } string url = string.Empty; ++weightAlgorithmItem.Index; if (weightAlgorithmItem.Index > weightAlgorithmItem.Urls.Count - 1) //當(dāng)前索引 > 最新服務(wù)最大索引 { weightAlgorithmItem.Index = 0; url = serviceList[0].Service; } else { url = weightAlgorithmItem.Urls[weightAlgorithmItem.Index]; } _serviceDic[serviceName] = weightAlgorithmItem; if (locked) //釋放鎖 _spinLock.Exit(); return url; } private static void BuildWeightAlgorithmItem(WeightAlgorithmItem weightAlgorithmItem, List<ServiceCenterModel> serviceList) { serviceList.ForEach(service => //有幾個(gè)權(quán)重就加幾個(gè)實(shí)例 { for (int i = 0; i < service.Weight; i++) { weightAlgorithmItem.Urls.Add(service.Service); } }); } } public class WeightAlgorithmItem { public List<string> Urls { get; set; } public int Index { get; set; } }
模擬 10 次 http request,可以看到對(duì) OldBusiness 返回了 9 次,NewBusiness 返回了一次
public static void Main(string[] args) { // 模擬從配置中心讀取 Service var serviceList = new List<ServiceCenterModel>() { new ServiceCenterModel { Service ="OldBusiness",Weight = 9 }, new ServiceCenterModel { Service ="NewBusiness",Weight = 1 }, }; // 模擬 Http 請(qǐng)求次數(shù) for (int i = 0; i < 10; i++) { Console.WriteLine(WeightAlgorithm.Get(serviceList, "ShippingChargeBusiness")); } }
“.NET中負(fù)載均衡怎么使用”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識(shí)可以關(guān)注億速云網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實(shí)用文章!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請(qǐng)聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。