Java Web容器萬(wàn)級(jí)并發(fā)怎么實(shí)現(xiàn)

當(dāng)前的大部分 Java web 容器基于 Bio 線程模型，例如常見(jiàn)的 Tomcat ，默認(rèn) 200 線程，即 200 連接。由此帶來(lái)的問(wèn)題是，如果想提高并發(fā)，或者提高資源利用率，就得加大線程數(shù)。

如下圖：

 

于是出現(xiàn)了類 Netty 的 Reactor 線程模型。同時(shí)，Java 官方也設(shè)計(jì)了 Servlet 3 異步 API，可以通過(guò)返回類 Feature 的方式，實(shí)現(xiàn)異步編程。在某些情況下，也可以實(shí)現(xiàn)萬(wàn)級(jí)別并發(fā)。

 

但是，為什么 Java 社區(qū)的異步編程無(wú)法推廣開(kāi)來(lái)？究其原因，數(shù)據(jù)庫(kù)是罪魁禍?zhǔn)?，再往上看，其?shí)是 JDBC 的鍋，JDBC 定義了一套阻塞式的數(shù)據(jù)庫(kù) IO 通信模型。這導(dǎo)致每次請(qǐng)求，線程都阻塞在等待 DB 結(jié)果。進(jìn)而導(dǎo)致，服務(wù)器資源無(wú)法充分利用。

有沒(méi)有一種辦法，讓 Java web 應(yīng)用的整個(gè)鏈路都是非阻塞的呢？

答：有。

異步編程是提高生產(chǎn)力的關(guān)鍵。下圖是我們今天假設(shè)的模型：

 

其實(shí)非常簡(jiǎn)單。

我們讓 Tomcat 支持 Servlet 3 異步編程模型，接口返回 feature 即可，這個(gè)功能其實(shí)有很多web 容器都實(shí)現(xiàn)了。關(guān)鍵的是，我們讓 DB 客戶端和服務(wù)器都支持異步編程模型。讓 DB 像 netty 復(fù)用 IO 連接，業(yè)務(wù)線程只需要將 SQL 交給數(shù)據(jù)庫(kù) client 即可返回 feature，然后釋放當(dāng)前線程（再也不用阻塞，這是關(guān)鍵），等 DB 操作結(jié)果返回時(shí)，只需通知這個(gè) feature 即可。這將極大的提高線程的利用率，不夸張的說(shuō)，只需 8 條線程，就足以承受萬(wàn)級(jí)別的并發(fā)。

整個(gè)的調(diào)用流程如下圖：

 

我們看到，當(dāng)一個(gè) http 請(qǐng)求過(guò)來(lái)，整個(gè)流程是無(wú)阻塞的，不用等待 數(shù)據(jù)庫(kù) 返回結(jié)果，業(yè)務(wù)只需添加回調(diào)即可，當(dāng)數(shù)據(jù)庫(kù)結(jié)果返回時(shí)，自動(dòng)觸發(fā)回調(diào)。

當(dāng)然，這只是我的一個(gè)小設(shè)想，Mysql 要重寫連接器，我估計(jì)是太難了。但是，那些新一代的數(shù)據(jù)庫(kù)，是否能夠把連接器設(shè)計(jì)成支持異步、支持多路復(fù)用的呢？這樣，web 應(yīng)用的客戶端，就能夠把整個(gè)鏈路設(shè)計(jì)成異步的，這將節(jié)約很多資源，提高生產(chǎn)力。