溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

如何在Node.js中使用cluster模塊

發(fā)布時間:2021-03-17 16:27:17 來源:億速云 閱讀:145 作者:Leah 欄目:web開發(fā)

這篇文章將為大家詳細(xì)講解有關(guān)如何在Node.js中使用cluster模塊,文章內(nèi)容質(zhì)量較高,因此小編分享給大家做個參考,希望大家閱讀完這篇文章后對相關(guān)知識有一定的了解。

方案一:多個node實例+多個端口

集群內(nèi)的node實例,各自監(jiān)聽不同的端口,再由反向代理實現(xiàn)請求到多個端口的分發(fā)。

  1. 優(yōu)點:實現(xiàn)簡單,各實例相對獨立,這對服務(wù)穩(wěn)定性有好處。

  2. 缺點:增加端口占用,進(jìn)程之間通信比較麻煩。

方案二:主進(jìn)程向子進(jìn)程轉(zhuǎn)發(fā)請求

集群內(nèi),創(chuàng)建一個主進(jìn)程(master),以及若干個子進(jìn)程(worker)。由master監(jiān)聽客戶端連接請求,并根據(jù)特定的策略,轉(zhuǎn)發(fā)給worker。

  1. 優(yōu)點:通常只占用一個端口,通信相對簡單,轉(zhuǎn)發(fā)策略更靈活。

  2. 缺點:實現(xiàn)相對復(fù)雜,對主進(jìn)程的穩(wěn)定性要求較高。

入門實例

在cluster模塊中,主進(jìn)程稱為master,子進(jìn)程稱為worker。

例子如下,創(chuàng)建與CPU數(shù)目相同的服務(wù)端實例,來處理客戶端請求。注意,它們監(jiān)聽的都是同樣的端口。

// server.js
var cluster = require('cluster');
var cpuNums = require('os').cpus().length;
var http = require('http');

if(cluster.isMaster){
 for(var i = 0; i < cpuNums; i++){
  cluster.fork();
 }
}else{
 http.createServer(function(req, res){
  res.end(`response from worker ${process.pid}`);
 }).listen(3000);

 console.log(`Worker ${process.pid} started`);
}

創(chuàng)建批處理腳本:./req.sh。

#!/bin/bash

# req.sh
for((i=1;i<=4;i++)); do  
 curl http://127.0.0.1:3000
 echo ""
done

輸出如下??梢钥吹?,響應(yīng)來自不同的進(jìn)程。

response from worker 23735
response from worker 23731
response from worker 23729
response from worker 23730

cluster模塊實現(xiàn)原理

了解cluster模塊,主要搞清楚3個問題:

  1. master、worker如何通信?

  2. 多個server實例,如何實現(xiàn)端口共享?

  3. 多個server實例,來自客戶端的請求如何分發(fā)到多個worker?

下面會結(jié)合示意圖進(jìn)行介紹,源碼級別的介紹,可以參考 筆者的github。

問題1:master、worker如何通信

這個問題比較簡單。master進(jìn)程通過 cluster.fork() 來創(chuàng)建 worker進(jìn)程。cluster.fork() 內(nèi)部 是通過 child_process.fork() 來創(chuàng)建子進(jìn)程。

也就是說:

  1. master進(jìn)程、worker進(jìn)程是父、子進(jìn)程的關(guān)系。

  2. master進(jìn)程、woker進(jìn)程可以通過IPC通道進(jìn)行通信。(重要)

問題2:如何實現(xiàn)端口共享

在前面的例子中,多個woker中創(chuàng)建的server監(jiān)聽了同個端口3000。通常來說,多個進(jìn)程監(jiān)聽同個端口,系統(tǒng)會報錯。

為什么我們的例子沒問題呢?

秘密在于,net模塊中,對 listen() 方法進(jìn)行了特殊處理。根據(jù)當(dāng)前進(jìn)程是master進(jìn)程,還是worker進(jìn)程:

  1. master進(jìn)程:在該端口上正常監(jiān)聽請求。(沒做特殊處理)

  2. worker進(jìn)程:創(chuàng)建server實例。然后通過IPC通道,向master進(jìn)程發(fā)送消息,讓master進(jìn)程也創(chuàng)建 server 實例,并在該端口上監(jiān)聽請求。當(dāng)請求進(jìn)來時,master進(jìn)程將請求轉(zhuǎn)發(fā)給worker進(jìn)程的server實例。

歸納起來,就是:master進(jìn)程監(jiān)聽特定端口,并將客戶請求轉(zhuǎn)發(fā)給worker進(jìn)程。

如下圖所示:

如何在Node.js中使用cluster模塊

問題3:如何將請求分發(fā)到多個worker

每當(dāng)worker進(jìn)程創(chuàng)建server實例來監(jiān)聽請求,都會通過IPC通道,在master上進(jìn)行注冊。當(dāng)客戶端請求到達(dá),master會負(fù)責(zé)將請求轉(zhuǎn)發(fā)給對應(yīng)的worker。

具體轉(zhuǎn)發(fā)給哪個worker?這是由轉(zhuǎn)發(fā)策略決定的??梢酝ㄟ^環(huán)境變量NODE_CLUSTER_SCHED_POLICY設(shè)置,也可以在cluster.setupMaster(options)時傳入。

默認(rèn)的轉(zhuǎn)發(fā)策略是輪詢(SCHED_RR)。

當(dāng)有客戶請求到達(dá),master會輪詢一遍worker列表,找到第一個空閑的worker,然后將該請求轉(zhuǎn)發(fā)給該worker。

master、worker內(nèi)部通信小技巧

在開發(fā)過程中,我們會通過 process.on('message', fn) 來實現(xiàn)進(jìn)程間通信。

前面提到,master進(jìn)程、worker進(jìn)程在server實例的創(chuàng)建過程中,也是通過IPC通道進(jìn)行通信的。那會不會對我們的開發(fā)造成干擾呢?比如,收到一堆其實并不需要關(guān)心的消息?

答案肯定是不會?那么是怎么做到的呢?

當(dāng)發(fā)送的消息包含cmd字段,且改字段以NODE_作為前綴,則該消息會被視為內(nèi)部保留的消息,不會通過message事件拋出,但可以通過監(jiān)聽'internalMessage'捕獲。

以worker進(jìn)程通知master進(jìn)程創(chuàng)建server實例為例子。worker偽代碼如下:

// woker進(jìn)程
const message = {
 cmd: 'NODE_CLUSTER',
 act: 'queryServer'
};
process.send(message);

master偽代碼如下:

worker.process.on('internalMessage', fn);

關(guān)于如何在Node.js中使用cluster模塊就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,可以學(xué)到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI