溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Redis單線程能支撐高并發(fā)的原因是什么

發(fā)布時(shí)間:2021-10-22 15:38:13 來源:億速云 閱讀:126 作者:iii 欄目:數(shù)據(jù)庫

本篇內(nèi)容介紹了“Redis單線程能支撐高并發(fā)的原因是什么”的有關(guān)知識(shí),在實(shí)際案例的操作過程中,不少人都會(huì)遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!

幾種 I/O 模型

為什么 Redis 中要使用 I/O 多路復(fù)用這種技術(shù)呢?

首先,Redis 是跑在單線程中的,所有的操作都是按照順序線性執(zhí)行的,但是由于讀寫操作等待用戶輸入或輸出都是阻塞的,所以 I/O 操作在一般情況下往往不能直接返回,這會(huì)導(dǎo)致某一文件的 I/O 阻塞導(dǎo)致整個(gè)進(jìn)程無法對(duì)其它客戶提供服務(wù),而 I/O 多路復(fù)用就是為了解決這個(gè)問題而出現(xiàn)的。

Blocking I/O

先來看一下傳統(tǒng)的阻塞 I/O 模型到底是如何工作的:當(dāng)使用 read 或者 write 對(duì)某一個(gè)**文件描述符(File Descriptor 以下簡稱 FD)**進(jìn)行讀寫時(shí),如果當(dāng)前 FD 不可讀或不可寫,整個(gè) Redis 服務(wù)就不會(huì)對(duì)其它的操作作出響應(yīng),導(dǎo)致整個(gè)服務(wù)不可用。

這也就是傳統(tǒng)意義上的,也就是我們在編程中使用最多的阻塞模型:

blocking-io

阻塞模型雖然開發(fā)中非常常見也非常易于理解,但是由于它會(huì)影響其他 FD 對(duì)應(yīng)的服務(wù),所以在需要處理多個(gè)客戶端任務(wù)的時(shí)候,往往都不會(huì)使用阻塞模型。

I/O 多路復(fù)用

雖然還有很多其它的 I/O 模型,但是在這里都不會(huì)具體介紹。

阻塞式的 I/O 模型并不能滿足這里的需求,我們需要一種效率更高的 I/O 模型來支撐 Redis 的多個(gè)客戶(redis-cli),這里涉及的就是 I/O 多路復(fù)用模型了:

I:O-Multiplexing-Mode

在 I/O 多路復(fù)用模型中,最重要的函數(shù)調(diào)用就是 select,該方法的能夠同時(shí)監(jiān)控多個(gè)文件描述符的可讀可寫情況,當(dāng)其中的某些文件描述符可讀或者可寫時(shí),select 方法就會(huì)返回可讀以及可寫的文件描述符個(gè)數(shù)。

關(guān)于 select 的具體使用方法,在網(wǎng)絡(luò)上資料很多,這里就不過多展開介紹了;

與此同時(shí)也有其它的 I/O 多路復(fù)用函數(shù) epoll/kqueue/evport,它們相比 select 性能更優(yōu)秀,同時(shí)也能支撐更多的服務(wù)。

Reactor 設(shè)計(jì)模式

Redis 服務(wù)采用 Reactor 的方式來實(shí)現(xiàn)文件事件處理器(每一個(gè)網(wǎng)絡(luò)連接其實(shí)都對(duì)應(yīng)一個(gè)文件描述符)

redis-reactor-pattern

文件事件處理器使用 I/O 多路復(fù)用模塊同時(shí)監(jiān)聽多個(gè) FD,當(dāng) accept、read、write 和 close 文件事件產(chǎn)生時(shí),文件事件處理器就會(huì)回調(diào) FD 綁定的事件處理器。

雖然整個(gè)文件事件處理器是在單線程上運(yùn)行的,但是通過 I/O 多路復(fù)用模塊的引入,實(shí)現(xiàn)了同時(shí)對(duì)多個(gè) FD 讀寫的監(jiān)控,提高了網(wǎng)絡(luò)通信模型的性能,同時(shí)也可以保證整個(gè) Redis 服務(wù)實(shí)現(xiàn)的簡單。

I/O 多路復(fù)用模塊

I/O 多路復(fù)用模塊封裝了底層的 select、epoll、avport 以及 kqueue 這些 I/O 多路復(fù)用函數(shù),為上層提供了相同的接口。

ae-module

在這里我們簡單介紹 Redis 是如何包裝 select 和 epoll 的,簡要了解該模塊的功能,整個(gè) I/O 多路復(fù)用模塊抹平了不同平臺(tái)上 I/O 多路復(fù)用函數(shù)的差異性,提供了相同的接口:

  • static int aeApiCreate(aeEventLoop *eventLoop)

  • static int aeApiResize(aeEventLoop *eventLoop, int setsize)

  • static void aeApiFree(aeEventLoop *eventLoop)

  • static int aeApiAddEvent(aeEventLoop *eventLoop, int fd, int mask)

  • static void aeApiDelEvent(aeEventLoop *eventLoop, int fd, int mask)

  • static int aeApiPoll(aeEventLoop *eventLoop, struct timeval *tvp)

同時(shí),因?yàn)楦鱾€(gè)函數(shù)所需要的參數(shù)不同,我們在每一個(gè)子模塊內(nèi)部通過一個(gè) aeApiState 來存儲(chǔ)需要的上下文信息:

// select typedef struct aeApiState {     fd_set rfds, wfds;     fd_set _rfds, _wfds; } aeApiState;  // epoll typedef struct aeApiState {     int epfd;     struct epoll_event *events; } aeApiState;

這些上下文信息會(huì)存儲(chǔ)在 eventLoop 的 void *state 中,不會(huì)暴露到上層,只在當(dāng)前子模塊中使用。

封裝 select 函數(shù)

select 可以監(jiān)控 FD 的可讀、可寫以及出現(xiàn)錯(cuò)誤的情況。

在介紹 I/O 多路復(fù)用模塊如何對(duì) select 函數(shù)封裝之前,先來看一下 select 函數(shù)使用的大致流程:

int fd = /* file descriptor */  fd_set rfds; FD_ZERO(&rfds); FD_SET(fd, &rfds)  for ( ; ; ) {     select(fd+1, &rfds, NULL, NULL, NULL);     if (FD_ISSET(fd, &rfds)) {         /* file descriptor `fd` becomes readable */     } }
  1. 初始化一個(gè)可讀的 fd_set 集合,保存需要監(jiān)控可讀性的 FD;

  2. 使用 FD_SET 將 fd 加入 rfds;

  3. 調(diào)用 select 方法監(jiān)控 rfds 中的 FD 是否可讀;

  4. 當(dāng) select 返回時(shí),檢查 FD 的狀態(tài)并完成對(duì)應(yīng)的操作。

而在 Redis 的 ae_select 文件中代碼的組織順序也是差不多的,首先在 aeApiCreate 函數(shù)中初始化 rfds 和 wfds:

static int aeApiCreate(aeEventLoop *eventLoop) {     aeApiState *state = zmalloc(sizeof(aeApiState));     if (!state) return -1;     FD_ZERO(&state->rfds);     FD_ZERO(&state->wfds);     eventLoop->apidata = state;     return 0; }

而 aeApiAddEvent 和 aeApiDelEvent 會(huì)通過 FD_SET 和 FD_CLR 修改 fd_set 中對(duì)應(yīng) FD 的標(biāo)志位:

static int aeApiAddEvent(aeEventLoop *eventLoop, int fd, int mask) {     aeApiState *state = eventLoop->apidata;     if (mask & AE_READABLE) FD_SET(fd,&state->rfds);     if (mask & AE_WRITABLE) FD_SET(fd,&state->wfds);     return 0; }

整個(gè) ae_select 子模塊中最重要的函數(shù)就是 aeApiPoll,它是實(shí)際調(diào)用 select 函數(shù)的部分,其作用就是在 I/O 多路復(fù)用函數(shù)返回時(shí),將對(duì)應(yīng)的 FD 加入 aeEventLoop 的 fired 數(shù)組中,并返回事件的個(gè)數(shù):

static int aeApiPoll(aeEventLoop *eventLoop, struct timeval *tvp) {     aeApiState *state = eventLoop->apidata;     int retval, j, numevents = 0;      memcpy(&state->_rfds,&state->rfds,sizeof(fd_set));     memcpy(&state->_wfds,&state->wfds,sizeof(fd_set));      retval = select(eventLoop->maxfd+1,                 &state->_rfds,&state->_wfds,NULL,tvp);     if (retval > 0) {         for (j = 0; j <= eventLoop->maxfd; j++) {             int mask = 0;             aeFileEvent *fe = &eventLoop->events[j];              if (fe->mask == AE_NONE) continue;             if (fe->mask & AE_READABLE && FD_ISSET(j,&state->_rfds))                 mask |= AE_READABLE;             if (fe->mask & AE_WRITABLE && FD_ISSET(j,&state->_wfds))                 mask |= AE_WRITABLE;             eventLoop->fired[numevents].fd = j;             eventLoop->fired[numevents].mask = mask;             numevents++;         }     }     return numevents; }

封裝 epoll 函數(shù)

Redis 對(duì) epoll 的封裝其實(shí)也是類似的,使用 epoll_create 創(chuàng)建 epoll 中使用的 epfd:

static int aeApiCreate(aeEventLoop *eventLoop) {     aeApiState *state = zmalloc(sizeof(aeApiState));      if (!state) return -1;     state->events = zmalloc(sizeof(struct epoll_event)*eventLoop->setsize);     if (!state->events) {         zfree(state);         return -1;     }     state->epfd = epoll_create(1024); /* 1024 is just a hint for the kernel */     if (state->epfd == -1) {         zfree(state->events);         zfree(state);         return -1;     }     eventLoop->apidata = state;     return 0; }

在 aeApiAddEvent 中使用 epoll_ctl 向 epfd 中添加需要監(jiān)控的 FD 以及監(jiān)聽的事件:

static int aeApiAddEvent(aeEventLoop *eventLoop, int fd, int mask) {     aeApiState *state = eventLoop->apidata;     struct epoll_event ee = {0}; /* avoid valgrind warning */     /* If the fd was already monitored for some event, we need a MOD      * operation. Otherwise we need an ADD operation. */     int op = eventLoop->events[fd].mask == AE_NONE ?             EPOLL_CTL_ADD : EPOLL_CTL_MOD;      ee.events = 0;     mask |= eventLoop->events[fd].mask; /* Merge old events */     if (mask & AE_READABLE) ee.events |= EPOLLIN;     if (mask & AE_WRITABLE) ee.events |= EPOLLOUT;     ee.data.fd = fd;     if (epoll_ctl(state->epfd,op,fd,&ee) == -1) return -1;     return 0; }

由于 epoll 相比 select 機(jī)制略有不同,在 epoll_wait 函數(shù)返回時(shí)并不需要遍歷所有的 FD 查看讀寫情況;在 epoll_wait 函數(shù)返回時(shí)會(huì)提供一個(gè) epoll_event 數(shù)組:

typedef union epoll_data {     void    *ptr;     int      fd; /* 文件描述符 */     uint32_t u32;     uint64_t u64; } epoll_data_t;  struct epoll_event {     uint32_t     events; /* Epoll 事件 */     epoll_data_t data; };

其中保存了發(fā)生的 epoll 事件(EPOLLIN、EPOLLOUT、EPOLLERR 和 EPOLLHUP)以及發(fā)生該事件的 FD。

aeApiPoll 函數(shù)只需要將 epoll_event 數(shù)組中存儲(chǔ)的信息加入 eventLoop 的 fired 數(shù)組中,將信息傳遞給上層模塊:

static int aeApiPoll(aeEventLoop *eventLoop, struct timeval *tvp) {     aeApiState *state = eventLoop->apidata;     int retval, numevents = 0;      retval = epoll_wait(state->epfd,state->events,eventLoop->setsize,             tvp ? (tvp->tv_sec*1000 + tvp->tv_usec/1000) : -1);     if (retval > 0) {         int j;          numevents = retval;         for (j = 0; j < numevents; j++) {             int mask = 0;             struct epoll_event *e = state->events+j;              if (e->events & EPOLLIN) mask |= AE_READABLE;             if (e->events & EPOLLOUT) mask |= AE_WRITABLE;             if (e->events & EPOLLERR) mask |= AE_WRITABLE;             if (e->events & EPOLLHUP) mask |= AE_WRITABLE;             eventLoop->fired[j].fd = e->data.fd;             eventLoop->fired[j].mask = mask;         }     }     return numevents; }

子模塊的選擇

因?yàn)?Redis 需要在多個(gè)平臺(tái)上運(yùn)行,同時(shí)為了最大化執(zhí)行的效率與性能,所以會(huì)根據(jù)編譯平臺(tái)的不同選擇不同的 I/O 多路復(fù)用函數(shù)作為子模塊,提供給上層統(tǒng)一的接口;在 Redis 中,我們通過宏定義的使用,合理的選擇不同的子模塊:

#ifdef HAVE_EVPORT #include "ae_evport.c" #else     #ifdef HAVE_EPOLL     #include "ae_epoll.c"     #else         #ifdef HAVE_KQUEUE         #include "ae_kqueue.c"         #else         #include "ae_select.c"         #endif     #endif #endif

因?yàn)?select 函數(shù)是作為 POSIX 標(biāo)準(zhǔn)中的系統(tǒng)調(diào)用,在不同版本的操作系統(tǒng)上都會(huì)實(shí)現(xiàn),所以將其作為保底方案:

redis-choose-io-function

Redis 會(huì)優(yōu)先選擇時(shí)間復(fù)雜度為 的 I/O 多路復(fù)用函數(shù)作為底層實(shí)現(xiàn),包括 Solaries 10 中的 evport、Linux 中的 epoll 和 macOS/FreeBSD 中的 kqueue,上述的這些函數(shù)都使用了內(nèi)核內(nèi)部的結(jié)構(gòu),并且能夠服務(wù)幾十萬的文件描述符。

但是如果當(dāng)前編譯環(huán)境沒有上述函數(shù),就會(huì)選擇 select 作為備選方案,由于其在使用時(shí)會(huì)掃描全部監(jiān)聽的描述符,所以其時(shí)間復(fù)雜度較差 ,并且只能同時(shí)服務(wù) 1024 個(gè)文件描述符,所以一般并不會(huì)以 select 作為第一方案使用。

總結(jié)

Redis 對(duì)于 I/O 多路復(fù)用模塊的設(shè)計(jì)非常簡潔,通過宏保證了 I/O 多路復(fù)用模塊在不同平臺(tái)上都有著優(yōu)異的性能,將不同的 I/O 多路復(fù)用函數(shù)封裝成相同的 API 提供給上層使用。

整個(gè)模塊使 Redis 能以單進(jìn)程運(yùn)行的同時(shí)服務(wù)成千上萬個(gè)文件描述符,避免了由于多進(jìn)程應(yīng)用的引入導(dǎo)致代碼實(shí)現(xiàn)復(fù)雜度的提升,減少了出錯(cuò)的可能性。

“Redis單線程能支撐高并發(fā)的原因是什么”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識(shí)可以關(guān)注億速云網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實(shí)用文章!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI