如何在SpringBoot中內嵌Tomcat並發容量

發現並發容器問題

#對單一介面進行6000執行緒壓測，每個執行緒請求5次，執行緒在5秒內創建完畢，當進行一半的時候，已經出現了請求回應時間過大及其錯誤率達到了43%。這個並發容量對於配置比較好點的伺服器相對來說有點弱。

深入SpringBoot底層了解原因

在SpringBoot官方文檔中提到了關於元資料的配置

可以看到，關於我們最常用的設定項目的連接埠的預設配置就在其中。

預設內嵌Tomcat配置

1、server.tomcat.accept-count：等待佇列長度，當可指派的執行緒數全部用完之後，後續的請求將進入等待佇列等待，等待佇列滿後則拒絕處理，預設100。

2、server.tomcat.max-connections：最大可被連線數，預設10000

3、server.tomcat.max-threads：最大工作執行緒數，預設200,

4、server.tomcat.min-spare-threads：最小工作執行緒數，初始化分配執行緒數，預設10

預設配置下，連線超過10000後會出現拒絕連線情況

預設配置下，觸發的請求超過200 100後拒絕處理(最大工作線程數等待隊列長度)

這些元資料Spring當然提供了外部配置功能

#

#更改内嵌tomcat参数
server.port=8080
## 等待队列长度，默认100。
server.tomcat.accept-count=1000
## 最大工作线程数，默认200。（4核8g内存，线程数经验值800，操作系统做线程之间的切换调度是有系统开销的，所以不是越多越好。）
server.tomcat.max-threads=800
## 最小工作空闲线程数，默认10。（适当增大一些，以便应对突然增长的访问量）
server.tomcat.min-spare-threads=100

SpringBoot內建Tomcat，在預設設定中，Tomcat的最大執行緒數是200，最大連線數是10000。支援的並發量是指連接數，200個執行緒如何處理10000條連接的？

目前Tomcat有三種處理連接的模式，一種是BIO，一個執行緒只處理一個連接，另一種就是NIO，一個執行緒處理多個連接。由於HTTP請求不會太耗時，而且多個連線一般不會同時來訊息，所以一個執行緒處理多個連線沒有太大問題。

還有一種是apr模式，後續會詳細介紹一下tomcat的這三種模式，這裡不做深入討論。

Tomcat啟動的時候，可以透過log看到Connector使用的是哪一種運作模式：

Starting ProtocolHandler ["http-bio-8080"]
Starting ProtocolHandler ["http-nio-8080"]
Starting ProtocolHandler ["http-apr-8080"]

預設值可以在spring-boot-autoconfigure-版本號.jar（例如： spring-boot-autoconfigure-2.1.0.RELEASE） 在套件中看到，解壓縮反編譯/web/ServerProperties.class檔案就可以看到預設設定。

客製化內嵌Tomcat開發

#關於KeepAlive

在使用Jmeter的Http請求中預設是開啟KeepAlive的

Http的KeepAlive請求為當我們的客戶端向我們的伺服器發送Http請求的時候，若帶上了KeepAlive的請求頭，則表明我們的Http客戶端希望跟在服務端之間建立一個KeepAlive的連接，這個連接對應的用處就是說，向我們的服務端發送完對應的回應之後，我們的服務端不要立刻斷開連接，而是等待嘗試復用連接。

此解決方案是用來解決Http的一個回應，無狀態，每次都要斷開連接，新建連接所帶來的耗時問題。

但如果說我們每個網頁請求打開之後都跟服務端保持一個長連接，那麼我們服務端的連接數很快就會被用完了，因此再最早的Http1.0的時候是沒有設計KeepAlive的請求的，但是現在的Http1.1加上KeepAlive請求，目的就是越來越多的移動端的設備，甚至於一些很複雜的網頁交互，需要在用戶瀏覽的過程當中，頻繁的向服務端發送請求，因此，建立一個KeepAlive連接，並非為了壓測的目的，而是真正的在應用場景上是有一些性能的好處的，無論是客戶端還是服務端，在做一些網絡通信的交互上面，無需每次都新建連接，斷開連接，耗費Tcp/Ip建連的時間，而僅需要發送數據即可。

但是這樣的設計也會帶來一些問題，如果說我們的服務端對KeepAlive的操作沒有做任何限制1.連接不做任何操作，不做任何響應，那麼這條連接對服務端來說就是一條費連接2.有一些攻擊者惡意利用KeepAlive連接向我們的服務端發送DDOS的攻擊，那服務端對應的連接只會成為攻擊者攻擊的後門，因此，為了安全，我們需要定制化Tomcat開發

配置

1、KeepAliveTimeOut：多少毫秒後客戶端不回應則斷開KeepAlive

##2、maxKeepAliveRequests：多少次請求後KeepAlive斷開失效

在SpringBoot官方文档中提到了对内嵌容器的配置

//当spring容器内没有TomcatEmbeddedServletContainerFactory这个bean时，会把bean加载进spring容器
@Configuration
public class WebServerConfiguration implements WebServerFactoryCustomizer<configurablewebserverfactory> {
@Override
public void customize(ConfigurableWebServerFactory factory) {
　　//使用对应工厂类提供给我们的接口定制化我们的tomcat connector
　　((TomcatServletWebServerFactory)factory).addConnectorCustomizers(new TomcatConnectorCustomizer() {
　　　　@Override
　　　　public void customize(Connector connector) {
　　　　　　Http11NioProtocol protocol= (Http11NioProtocol) connector.getProtocolHandler();
　　　　　　//定制KeepAliveTimeout，设置30秒内没有请求则服务器自动断开keepalive连接
　　　　　　protocol.setKeepAliveTimeout(30000);
　　　　　　//当客户端发送超过10000个请求则自动断开keepalive连接
　　　　　　protocol.setMaxKeepAliveRequests(10000);
　　　　}
　　});
}
}</configurablewebserverfactory>

以上是如何在SpringBoot中內嵌Tomcat並發容量的詳細內容。更多資訊請關注PHP中文網其他相關文章！