從 Nginx 優(yōu)秀的核心架構(gòu)設(shè)計(jì)，揭秘其為何能支持高并發(fā)？

目錄：

1. Nginx的整體架構(gòu)

2. Nginx的模塊化設(shè)計(jì)

3. Nginx的請求方式處理

4. Nginx事件驅(qū)動(dòng)模型

5. Nginx進(jìn)程處理模型

寫在前面

Nginx 是一個(gè) 免費(fèi)的，開源的，高性能的 HTTP 服務(wù)器和反向代理。以其高性能，穩(wěn)定性，豐富的功能，簡單的配置和低資源消耗而聞名。Nginx是一個(gè)Web服務(wù)器，也可以用作負(fù)載均衡器和 HTTP 緩存 。

很多高知名度的網(wǎng)站都使用 Nginx，比如：Netflix ， GitHub ， SoundCloud ， MaxCDN 等。

正文

1. Nginx的整體架構(gòu)

1.1. 主進(jìn)程

Nginx 啟動(dòng)時(shí)，會(huì)生成兩種類型的進(jìn)程，一個(gè)是主進(jìn)程 （ master ）， 一個(gè) （ windows版本的目前只有一個(gè)）或 多個(gè)工作進(jìn)程 （ worker ）。

主進(jìn)程并不處理網(wǎng)絡(luò)請求，主要負(fù)責(zé)調(diào)度工作進(jìn)程 ，也就是圖示的 3 項(xiàng)：

加載配置

啟動(dòng)工作進(jìn)程

非停升級

因此，Nginx 啟動(dòng)以后，查看操作系統(tǒng)的進(jìn)程列表，我們就能看到至少有兩個(gè)Nginx 進(jìn)程。

1.2. 工作進(jìn)程

服務(wù)器實(shí)際處理網(wǎng)絡(luò)請求及響應(yīng)的是工作進(jìn)程 （ worker ），在類 unix 系統(tǒng)上， Nginx可以配置多個(gè)worker ，而每個(gè) worker 進(jìn)程都可以同時(shí)處理數(shù)以千計(jì)的網(wǎng)絡(luò)請求 。

1.3. 模塊化設(shè)計(jì)

Nginx的worker進(jìn)程，包括核心和功能性模塊，核心模塊負(fù)責(zé)維持一個(gè)運(yùn)行循環(huán) （ run-loop ），執(zhí)行網(wǎng)絡(luò)請求處理的 不同階段 的模塊功能。

比如： 網(wǎng)絡(luò)讀寫 、 存儲(chǔ)讀寫、 內(nèi)容傳輸 、 外出過濾 ，以及將請求發(fā)往上游服務(wù)器等。

而其代碼的模塊化設(shè)計(jì) ，也使得我們可以根據(jù)需要對 功能模塊 進(jìn)行適當(dāng)?shù)?選擇 和 修改 ，編譯成具有 特定功能的服務(wù)器。

1.4. 事件驅(qū)動(dòng)模型

基于 異步及非阻塞的事件驅(qū)動(dòng)模型 ，可以說是 Nginx 得以獲得高并發(fā)、高性能的關(guān)鍵因素，同時(shí)也得益于對 Linux 、 Solaris 及類 BSD 等操作系統(tǒng)內(nèi)核中 事件通知 及 I/O 性能增強(qiáng)功能 的采用，如 kqueue 、 epoll 及 event ports 。

1.5. 代理（proxy）設(shè)計(jì)

代理設(shè)計(jì)，可以說是 Nginx 深入骨髓的設(shè)計(jì)，無論是對于 HTTP ，還是對于 FastCGI 、 Memcache 、 Redis 等的網(wǎng)絡(luò)請求或響應(yīng)，本質(zhì)上都采用了 代理機(jī)制 。所以， Nginx 天生就是高性能的 代理服務(wù)器 。

2. Nginx的模塊化設(shè)計(jì)

高度模塊化的設(shè)計(jì)是 Nginx 的架構(gòu)基礎(chǔ)。 Nginx 服務(wù)器被分解為多個(gè)模塊 ，每個(gè)模塊就是一個(gè)功能模塊 ，只負(fù)責(zé)自身的功能，模塊之間嚴(yán)格遵循 “高內(nèi)聚，低耦合” 的原則。

如下圖所示：

2.1. 核心模塊

核心模塊是 Nginx 服務(wù)器正常運(yùn)行 必不可少的模塊，提供錯(cuò)誤日志記錄 、 配置文件解析 、 事件驅(qū)動(dòng)機(jī)制 、 進(jìn)程管理 等核心功能。

2.2. 標(biāo)準(zhǔn)HTTP模塊

標(biāo)準(zhǔn) HTTP 模塊提供 HTTP 協(xié)議解析相關(guān)的功能，比如： 端口配置 、 網(wǎng)頁編碼設(shè)置 、 HTTP響應(yīng)頭設(shè)置 等等。

2.3. 可選HTTP模塊

可選 HTTP 模塊主要用于 擴(kuò)展 標(biāo)準(zhǔn)的 HTTP 功能，讓 Nginx 能處理一些特殊的服務(wù)，比如： Flash 多媒體傳輸 、解析 GeoIP 請求、 網(wǎng)絡(luò)傳輸壓縮 、 安全協(xié)議 SSL 支持等。

2.4. 郵件服務(wù)模塊

郵件服務(wù)模塊主要用于支持 Nginx 的 郵件服務(wù) ，包括對 POP3 協(xié)議、 IMAP 協(xié)議和 SMTP協(xié)議的支持。

2.5. 第三方模塊

第三方模塊是為了擴(kuò)展 Nginx 服務(wù)器應(yīng)用，完成開發(fā)者自定義功能，比如： Json 支持、 Lua 支持等。

3. Nginx的請求方式處理

Nginx 是一個(gè) 高性能 的 Web 服務(wù)器，能夠同時(shí)處理大量的并發(fā)請求 。它結(jié)合多進(jìn)程機(jī)制和 異步機(jī)制 ，異步機(jī)制使用的是 異步非阻塞方式 ，接下來就給大家介紹一下 Nginx 的 多線程機(jī)制 和 異步非阻塞機(jī)制 。

3.1. 多進(jìn)程機(jī)制

服務(wù)器每當(dāng)收到一個(gè)客戶端時(shí)，就有 服務(wù)器主進(jìn)程 （ master process ）生成一個(gè) 子進(jìn)程（ worker process ）出來和客戶端建立連接進(jìn)行交互，直到連接斷開，該子進(jìn)程就結(jié)束了。

使用 進(jìn)程 的好處是 各個(gè)進(jìn)程之間相互獨(dú)立 ， 不需要加鎖 ，減少了使用鎖對性能造成影響，同時(shí)降低編程的復(fù)雜度，降低開發(fā)成本。

其次，采用獨(dú)立的進(jìn)程，可以讓 進(jìn)程互相之間不會(huì)影響 ，如果一個(gè)進(jìn)程發(fā)生異常退出時(shí)，其它進(jìn)程正常工作， master 進(jìn)程則很快啟動(dòng)新的 worker 進(jìn)程，確保服務(wù)不會(huì)中斷，從而將風(fēng)險(xiǎn)降到最低。

缺點(diǎn)是操作系統(tǒng)生成一個(gè) 子進(jìn)程 需要進(jìn)行 內(nèi)存復(fù)制 等操作，在 資源 和 時(shí)間 上會(huì)產(chǎn)生一定的開銷。當(dāng)有 大量請求 時(shí)，會(huì)導(dǎo)致 系統(tǒng)性能下降 。

3.2. 異步非阻塞機(jī)制

每個(gè) 工作進(jìn)程 使用 異步非阻塞方式 ，可以處理多個(gè)客戶端請求 。

當(dāng)某個(gè) 工作進(jìn)程 接收到客戶端的請求以后，調(diào)用 IO 進(jìn)行處理，如果不能立即得到結(jié)果，就去處理其他請求 （即為非阻塞 ），而客戶端在此期間也無需等待響應(yīng) ，可以去處理其他事情（即為異步 ）

當(dāng) IO 返回時(shí)，就會(huì)通知此工作進(jìn)程，該進(jìn)程得到通知，暫時(shí)掛起當(dāng)前處理的事務(wù)去 響應(yīng)客戶端請求 。

4. Nginx事件驅(qū)動(dòng)模型

在 Nginx 的 異步非阻塞機(jī)制 中， 工作進(jìn)程在調(diào)用 IO 后，就去處理其他的請求，當(dāng) IO 調(diào)用返回后，會(huì)通知該工作進(jìn)程 。

對于這樣的系統(tǒng)調(diào)用，主要使用 Nginx 服務(wù)器的事件驅(qū)動(dòng)模型來實(shí)現(xiàn)，如下圖所示：

如上圖所示， Nginx 的 事件驅(qū)動(dòng)模型 由 事件收集器 、 事件發(fā)送器 和 事件處理器 三部分基本單元組成。

事件收集器：負(fù)責(zé)收集 worker 進(jìn)程的各種 IO 請求；

事件發(fā)送器：負(fù)責(zé)將 IO 事件發(fā)送到 事件處理器 ；

事件處理器：負(fù)責(zé)各種事件的 響應(yīng)工作 。

事件發(fā)送器將每個(gè)請求放入一個(gè) 待處理事件列表 ，使用非阻塞 I/O 方式調(diào)用 事件處理器來處理該請求。

其處理方式稱為 “多路 IO 復(fù)用方法” ，常見的包括以下三種： select 模型、 poll模型、 epoll 模型。

5. Nginx進(jìn)程處理模型

Nginx 服務(wù)器使用?master/worker?多進(jìn)程模式，多線程啟動(dòng)和執(zhí)行的流程如下：

主程序Master process啟動(dòng)后，通過一個(gè) for 循環(huán)來接收和處理外部信號

主進(jìn)程通過 fork() 函數(shù)產(chǎn)生 worker 子進(jìn)程 ，每個(gè) 子進(jìn)程 執(zhí)行一個(gè) for 循環(huán)來實(shí)現(xiàn) Nginx 服務(wù)器 對事件的接收 和 處理

一般推薦 worker 進(jìn)程數(shù) 與 CPU 內(nèi)核數(shù) 一致，這樣一來不存在 大量的子進(jìn)程 生成和管理任務(wù)，避免了進(jìn)程之間 競爭 CPU 資源 和 進(jìn)程切換 的開銷。

而且 Nginx 為了更好的利用 多核特性 ，提供了 CPU 親緣性 的綁定選項(xiàng)，我們可以將某 一個(gè)進(jìn)程綁定在某一個(gè)核上，這樣就不會(huì)因?yàn)?進(jìn)程的切換 帶來 Cache 的失效。

對于每個(gè)請求，有且只有一個(gè) 工作進(jìn)程 對其處理。首先，每個(gè) worker 進(jìn)程都是從 master進(jìn)程 fork 過來。在 master 進(jìn)程里面，先建立好需要 listen 的 socket（listenfd） 之后，然后再 fork 出多個(gè) worker 進(jìn)程。

所有 worker 進(jìn)程的 listenfd 會(huì)在 新連接 到來時(shí)變得 可讀 ，為保證只有一個(gè)進(jìn)程處理該連接，所有 worker 進(jìn)程在注冊 listenfd 讀事件前搶占 accept_mutex

搶到 互斥鎖 的那個(gè)進(jìn)程注冊 listenfd 讀事件 ，在讀事件里調(diào)用 accept 接受該連接。

當(dāng)一個(gè) worker 進(jìn)程在 accept 這個(gè)連接之后，就開始讀取請求 ， 解析請求 ， 處理請求，產(chǎn)生數(shù)據(jù)后，再返回給客戶端 ，最后才斷開連接 ，一個(gè)完整的請求就是這樣。

我們可以看到，一個(gè)請求，完全由 worker 進(jìn)程來處理，而且只在一個(gè) worker 進(jìn)程中處理。

如下圖所示：

在 Nginx 服務(wù)器的運(yùn)行過程中， 主進(jìn)程 和 工作進(jìn)程 需要進(jìn)程交互。交互依賴于 Socket 實(shí)現(xiàn)的管道來實(shí)現(xiàn)。

5.1. 主進(jìn)程與工作進(jìn)程交互

這條管道與普通的管道不同，它是由 主進(jìn)程 指向 工作進(jìn)程 的單向管道 ，包含主進(jìn)程向工作進(jìn)程發(fā)出的指令工，作進(jìn)程 ID 等。同時(shí)主進(jìn)程與外界通過信號通信 ；每個(gè)子進(jìn)程具備接收信號 ，并處理相應(yīng)的事件的能力。

5.2. 工作進(jìn)程與工作進(jìn)程交互

這種交互和 主進(jìn)程-工作進(jìn)程 交互基本一致，但是會(huì)通過主進(jìn)程間接完成，工作進(jìn)程之間是相互隔離的。

所以當(dāng)工作進(jìn)程 W1 需要向工作進(jìn)程 W2 發(fā)指令時(shí)，首先找到 W2 的 進(jìn)程ID ，然后將正確的指令寫入指向 W2 的 通道，W2 收到信號采取相應(yīng)的措施。

小結(jié)

通過這篇文章，我們對 Nginx 服務(wù)器的 整體架構(gòu) 有了一個(gè)整體的認(rèn)識。包括其 模塊化的設(shè)計(jì)、 多進(jìn)程 和 異步非阻塞 的請求處理方式、 事件驅(qū)動(dòng)模型 等。

通過這些理論知識，才能更好地領(lǐng)悟 Nginx 的設(shè)計(jì)思想。對于我們學(xué)習(xí) Nginx 來說有很大的幫助。

歡迎工作一到五年的Java工程師朋友們加入我的個(gè)人粉絲群（Java填坑之路：×××）群內(nèi)提供免費(fèi)的Java架構(gòu)學(xué)習(xí)資料（里面有高可用、高并發(fā)、高性能及分布式、Jvm性能調(diào)優(yōu)、Spring源碼，MyBatis，Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多個(gè)知識點(diǎn)的架構(gòu)資料）

合理利用自己每一分每一秒的時(shí)間來學(xué)習(xí)提升自己，不要再用"沒有時(shí)間“來掩飾自己思想上的懶惰！趁年輕，使勁拼，給未來的自己一個(gè)交代！