您好,登錄后才能下訂單哦!
這篇文章主要介紹“springboot內(nèi)置tomcat支持最大的并發(fā)量問題怎么解決”的相關(guān)知識(shí),小編通過實(shí)際案例向大家展示操作過程,操作方法簡單快捷,實(shí)用性強(qiáng),希望這篇“springboot內(nèi)置tomcat支持最大的并發(fā)量問題怎么解決”文章能幫助大家解決問題。
SpringBoot內(nèi)置Tomcat,在默認(rèn)設(shè)置中,Tomcat的最大線程數(shù)是200,最大連接數(shù)是10000。支持的并發(fā)量是指連接數(shù),也就是說 支持最大并發(fā)量是一萬(默認(rèn))
1,是BIO,一個(gè)線程只處理一個(gè)Socket連接,
2,是NIO,一個(gè)線程處理多個(gè)Socket連接。
由于HTTP請(qǐng)求不會(huì)太耗時(shí),而且多個(gè)連接一般不會(huì)同時(shí)來消息,所以一個(gè)線程處理多個(gè)連接沒有太大問題。一個(gè)線程處理多個(gè)連接數(shù)會(huì)很慢 有可能會(huì)超時(shí)
server.tomcat.accept-count
:等待隊(duì)列長度,當(dāng)可分配的線程數(shù)全部用完之后,后續(xù)的請(qǐng)求將進(jìn)入等待隊(duì)列等待,等待隊(duì)列滿后則拒絕處理,默認(rèn)100。
server.tomcat.max-connections
:最大可被連接數(shù),默認(rèn)10000
server.tomcat.max-threads
:最大工作線程數(shù),默認(rèn)200,
server.tomcat.min-spare-threads
:最小工作線程數(shù),初始化分配線程數(shù),默認(rèn)10
默認(rèn)配置下,連接超過10000后會(huì)出現(xiàn)拒絕連接情況
默認(rèn)配置下,觸發(fā)的請(qǐng)求超過200+100后拒絕處理(最大工作線程數(shù)+等待隊(duì)列長度)
如果默認(rèn)配置無法滿足當(dāng)前需求 可以自己調(diào)優(yōu) 可以手動(dòng)修改配置來進(jìn)行處理并發(fā)
修改pro文件
server.port=7001 server.tomcat.accept-count=1000 server.tomcat.max-connections=10000 server.tomcat.max-threads=500 server.tomcat.min-spare-threads=100
然后 打包重啟項(xiàng)目
kill -9 9545 //殺死進(jìn)程
ps -ef | grep java //查看項(xiàng)目啟動(dòng)的端口
pstree -p 7968 | wc -l //查看進(jìn)程數(shù)
我們也可以使用配置文件, 可以新增WebServerConfiguration.java文件
import org.apache.catalina.connector.Connector; import org.apache.coyote.http11.Http11NioProtocol; import org.springframework.boot.web.embedded.tomcat.TomcatConnectorCustomizer; import org.springframework.boot.web.embedded.tomcat.TomcatServletWebServerFactory; import org.springframework.boot.web.server.ConfigurableWebServerFactory; import org.springframework.boot.web.server.WebServerFactoryCustomizer; import org.springframework.stereotype.Component; //當(dāng)Spring容器內(nèi)沒有TomcatEmbeddedServletContainerFactory這個(gè)bean時(shí),會(huì)吧此bean加載進(jìn)spring容器中 @Component public class WebServerConfiguration implements WebServerFactoryCustomizer<ConfigurableWebServerFactory> { @Override public void customize(ConfigurableWebServerFactory configurableWebServerFactory) { //使用對(duì)應(yīng)工廠類提供給我們的接口定制化我們的tomcat connector ((TomcatServletWebServerFactory)configurableWebServerFactory).addConnectorCustomizers(new TomcatConnectorCustomizer() { @Override public void customize(Connector connector) { Http11NioProtocol protocol = (Http11NioProtocol) connector.getProtocolHandler(); //定制化keepalivetimeout,設(shè)置30秒內(nèi)沒有請(qǐng)求則服務(wù)端自動(dòng)斷開keepalive鏈接 protocol.setKeepAliveTimeout(30000); //當(dāng)客戶端發(fā)送超過10000個(gè)請(qǐng)求則自動(dòng)斷開keepalive鏈接 protocol.setMaxKeepAliveRequests(10000); } }); } }
備注:
MySQL 數(shù)據(jù)庫 QPS 容量問題:
主鍵查詢: 千萬級(jí)別數(shù)據(jù) == 1-10 ms
唯一索引查詢: 千萬級(jí)別數(shù)據(jù) == 10-100 ms
非唯一索引查詢: 千萬級(jí)別數(shù)據(jù) == 100-1000ms
無索引數(shù)據(jù): 百萬級(jí)別數(shù)據(jù) == 1000ms+
MySQL 數(shù)據(jù)庫 TPS 容量問題:
非插入的更新刪除操作: 同查詢
插入操作: 1w~10w tps(依賴配置優(yōu)化)
1、Apache + Tomcat 結(jié)合起來用Apache負(fù)責(zé)靜態(tài)頁面,Tomcat負(fù)責(zé)動(dòng)態(tài)頁面,同時(shí)減少connectionTimeout的時(shí)間,以應(yīng)對(duì)并發(fā)量大線程回收來不及的情況。
2、壓力過大的問題,可以做負(fù)載均衡,一個(gè)TOMCAT無論如何也不可能擔(dān)當(dāng)如此多的線程負(fù)載,而且JVM過大,其內(nèi)存管理成本將顯著加大。2G的內(nèi)存,做3-4個(gè)TOMCAT實(shí)例(512RAM*4),更為科學(xué)合理。
3、數(shù)據(jù)庫連接池,不少人,都推薦使用C3P0,能提高訪問數(shù)據(jù)庫的并發(fā)性能好幾倍。
4、采用Tomcat集群可以最大程度的發(fā)揮服務(wù)器的性能,可以在配置較高的服務(wù)器上部署多個(gè)Tomcat,也可以在多臺(tái)服務(wù)器上分別部署Tomcat,Apache和Tomcat整合的方式還是JK方式。經(jīng)過驗(yàn)證,系統(tǒng)對(duì)大用戶量使用的響應(yīng)方面,Apache+3Tomccat集群> Apache+2Tomcat集群 > Apache集成Tomcat > 單個(gè)Tomcat。并且采用Apache+多Tomcat集群的部署方式時(shí),如果一個(gè)Tomcat出現(xiàn)宕機(jī),系統(tǒng)可以繼續(xù)使用,所以在硬件系統(tǒng)性能足夠優(yōu)越的情況下,需要盡量發(fā)揮軟件的性能,可以采用增加Tomcat集群的方式。
5、1. 設(shè)置MPM(Multi Processing Modules多道處理模塊)。ThreadPerChild,這個(gè)參數(shù)用于設(shè)置每個(gè)進(jìn)程的線程數(shù),在Windows環(huán)境下默認(rèn)值是64,最大值是1920,建議設(shè)置為100-500之間,服務(wù)器性能高的話值大一些,反之小一些。MaxRequestPerChild表示每個(gè)子進(jìn)程能夠處理的最大請(qǐng)求數(shù)。這個(gè)參數(shù)的值更大程度上取決于服務(wù)器的內(nèi)存,如果內(nèi)存比較大的話可以設(shè)置為很大的參數(shù),否則設(shè)置一個(gè)較小的值,建議值是3000.
2. 關(guān)閉DNS和名字解析 HostnameLookups off
3. 打開UseCanonicalName模塊 UseCanonicalName on
4. 關(guān)閉多余模塊 一般來說,不需要加載的模塊有,mod_include.so、mod_autoindex.so、mod_access.so、mod_auth.so.
5. 打開KeepAlive支持
KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000
根據(jù)實(shí)際經(jīng)驗(yàn),通過Apache和Tomcat集群的方式提高系統(tǒng)性能的效果十分明顯,這種方式可以最大化的利用硬件資源,通過多個(gè)Tomcat的處理來分擔(dān)單Tomcat時(shí)的壓力。
web server允許的最大連接數(shù)還受制于操作系統(tǒng)的內(nèi)核參數(shù)設(shè)置,通常Windows是2000個(gè)左右,Linux是1000個(gè)左右。
關(guān)于“springboot內(nèi)置tomcat支持最大的并發(fā)量問題怎么解決”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識(shí),可以關(guān)注億速云行業(yè)資訊頻道,小編每天都會(huì)為大家更新不同的知識(shí)點(diǎn)。
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請(qǐng)聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。