溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

nginx實現(xiàn)高并發(fā)的示例

發(fā)布時間:2021-03-04 15:01:48 來源:億速云 閱讀:162 作者:小新 欄目:編程語言

這篇文章主要介紹了nginx實現(xiàn)高并發(fā)的示例,具有一定借鑒價值,感興趣的朋友可以參考下,希望大家閱讀完這篇文章之后大有收獲,下面讓小編帶著大家一起了解一下。

  簡單來講,就是異步,非阻塞,使用了epoll和大量的底層代碼優(yōu)化。

  稍微詳細一點展開的話,就是nginx的特殊進程模型和事件模型的設(shè)計。

  進程模型

  nginx采用一個master進程,多個woker進程的模式。

  master進程主要負責(zé)收集、分發(fā)請求。當一個請求過來時,master拉起一個worker進程負責(zé)處理這個請求。

  master進程也要負責(zé)監(jiān)控woker的狀態(tài),保證高可靠性

  woker進程一般設(shè)置為跟cpu核心數(shù)一致。nginx的woker進程跟apache不一樣。apche的進程在同一時間只能處理一個請求,所以它會開很多個進程,幾百甚至幾千個。而nginx的woker進程在同一時間可以處理額請求數(shù)只受內(nèi)存限制,因此可以處理多個請求。

  事件模型

  nginx是異步非阻塞的。

  每進來一個request,會有一個worker進程去處理。但不是全程的處理,處理到什么程度呢?處理到可能發(fā)生阻塞的地方,比如向上游(后端)服務(wù)器轉(zhuǎn)發(fā)request,并等待請求返回。那么,這個處理的worker不會這么傻等著,他會在發(fā)送完請求后,注冊一個事件:“如果upstream返回了,告訴我一聲,我再接著干”。于是他就休息去了。此時,如果再有request 進來,他就可以很快再按這種方式處理。而一旦上游服務(wù)器返回了,就會觸發(fā)這個事件,worker才會來接手,這個request才會接著往下走。

  web server的工作性質(zhì)決定了每個request的大部份生命都是在網(wǎng)絡(luò)傳輸中,實際上花費在server機器上的時間片不多。這是幾個進程就解決高并發(fā)的秘密所在。

  IO多路復(fù)用模型epoll

  epoll() ,內(nèi)核維護一個鏈表,epoll_wait 直接檢查鏈表是不是空就知道是否有文件描述符準備好了。內(nèi)核實現(xiàn)epoll 是根據(jù)每個 sockfd 上面的與設(shè)備驅(qū)動程序建立起來的 回調(diào)函數(shù) 實現(xiàn)的。那么,某個 sockfd 上的事件發(fā)生時,與它對應(yīng)的回調(diào)函數(shù)就會被調(diào)用,來把這個 sockfd 加入鏈表,其他處于“空閑的”狀態(tài)的則不會。

  select() ,內(nèi)核采用 輪訓(xùn) 的方法來查看是否有fd 準備好,其中的保存 sockfd 的是類似數(shù)組的數(shù)據(jù)結(jié)構(gòu) fd_set,key 為 fd,value 為 0 或者 1。

  poll()

  【總結(jié)】:epoll 與 select 相比最大的優(yōu)點是不會隨著 sockfd 數(shù)目增長而降低效率。

  服務(wù)器端負載均衡 Nginx

  nginx 是客戶端所有請求統(tǒng)一交給 nginx,由 nginx 進行實現(xiàn)負載均衡請求轉(zhuǎn)發(fā),屬于服務(wù)器端負載均衡。

  既請求由 nginx 服務(wù)器端進行轉(zhuǎn)發(fā)。

  客戶端負載均衡 Ribbon

  Ribbon 是從 eureka 注冊中心服務(wù)器端上獲取服務(wù)注冊信息列表,緩存到本地,然后在本地實現(xiàn)輪詢負載均衡策略。

  既在客戶端實現(xiàn)負載均衡。

  應(yīng)用場景的區(qū)別:

  Nginx適合于服務(wù)器端實現(xiàn)負載均衡比如 Tomcat ,Ribbon適合與在微服務(wù)中RPC遠程調(diào)用實現(xiàn)本地服務(wù)負載均衡,比如 Dubbo、SpringCloud 中都是采用本地負載均衡。

  spring cloud的Netflix中提供了兩個組件實現(xiàn)軟負載均衡調(diào)用:ribbon和feign。

  Ribbon

  是一個基于 HTTP 和 TCP 客戶端的負載均衡器,它可以在客戶端配置 ribbonServerList(服務(wù)端列表),然后輪詢請求以實現(xiàn)均衡負載。

  springcloud的ribbon和nginx有什么區(qū)別?哪個性能好?

  nginx性能好,但ribbon可以剔除不健康節(jié)點,nginx剔除節(jié)點比較復(fù)雜。ribbon還可以配合熔斷器一起工作,ribbon是客戶端負載均衡,nginx是服務(wù)端負載均衡??蛻舳素撦d均衡,所有客戶端節(jié)點都維護自己要訪問的服務(wù)端清單。服務(wù)端負載均衡的軟件模塊會維護一個可用的服務(wù)清單,ribbon 是一個客戶端負載均衡器,可以簡單的理解成類似于 nginx的負載均衡模塊的功能。

感謝你能夠認真閱讀完這篇文章,希望小編分享的“nginx實現(xiàn)高并發(fā)的示例”這篇文章對大家有幫助,同時也希望大家多多支持億速云,關(guān)注億速云行業(yè)資訊頻道,更多相關(guān)知識等著你來學(xué)習(xí)!

向AI問一下細節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI