springboot内置的tomcat支持最大的并发量问题
springboot内置的tomcat支持最大的并发量
Tomcat有两种处理连接的模式
默认内嵌Tomcat配置
提高tomcat并发量的几种方法
总结
springboot内置的tomcat支持最大的并发量SpringBoot内置Tomcat，在默认设置中，Tomcat的最大线程数是200，最大连接数是10000。支持的并发量是指连接数，也就是说 支持最大并发量是一万(默认)
Tomcat有两种处理连接的模式1，是BIO，一个线程只处理一个Socket连接，
2，是NIO，一个线程处理多个Socket连接。
由于HTTP请求不会太耗时，而且多个连接一般不会同时来消息，所以一个线程处理多个连接没有太大问题。一个线程处理多个连接数会很慢 有可能会超时
默认内嵌Tomcat配置server.tomcat.accept-count：等待队列长度，当可分配的线程数全部用完之后，后续的请求将进入等待队列等待，等待队列满后则拒绝处理，默认100。
server.tomcat.max-connections：最大可被连接数，默认10000
server.tomcat.max-threads：最大工作线程数，默认200,
server.tomcat.min-spare-threads：最小工作线程数，初始化分配线程数，默认10
默认配置下，连接超过10000后会出现拒绝连接情况
默认配置下，触发的请求超过200+100后拒绝处理(最大工作线程数+等待队列长度)
如果默认配置无法满足当前需求 可以自己调优 可以手动修改配置来进行处理并发
修改pro文件
server.port=7001
server.tomcat.accept-count=1000
server.tomcat.max-connections=10000
server.tomcat.max-threads=500
server.tomcat.min-spare-threads=100
然后 打包重启项目
kill -9 9545 //杀死进程
ps -ef | grep java //查看项目启动的端口
pstree -p 7968 | wc -l //查看进程数
我们也可以使用配置文件, 可以新增WebServerConfiguration.java文件
import org.apache.catalina.connector.Connector;
import org.apache.coyote.http11.Http11NioProtocol;
import org.springframework.boot.web.embedded.tomcat.TomcatConnectorCustomizer;
import org.springframework.boot.web.embedded.tomcat.TomcatServletWebServerFactory;
import org.springframework.boot.web.server.ConfigurableWebServerFactory;
import org.springframework.boot.web.server.WebServerFactoryCustomizer;
import org.springframework.stereotype.Component;
//当Spring容器内没有TomcatEmbeddedServletContainerFactory这个bean时，会吧此bean加载进spring容器中
@Component
public class WebServerConfiguration implements WebServerFactoryCustomizer<ConfigurableWebServerFactory> {
@Override
public void customize(ConfigurableWebServerFactory configurableWebServerFactory) {
//使用对应工厂类提供给我们的接口定制化我们的tomcat connector
((TomcatServletWebServerFactory)configurableWebServerFactory).addConnectorCustomizers(new TomcatConnectorCustomizer() {
@Override
public void customize(Connector connector) {
Http11NioProtocol protocol = (Http11NioProtocol) connector.getProtocolHandler();
//定制化keepalivetimeout,设置30秒内没有请求则服务端自动断开keepalive链接
protocol.setKeepAliveTimeout(30000);
//当客户端发送超过10000个请求则自动断开keepalive链接
protocol.setMaxKeepAliveRequests(10000);
}
});
}
}
备注：
MySQL 数据库 QPS 容量问题：
主键查询： 千万级别数据 == 1-10 ms
唯一索引查询： 千万级别数据 == 10-100 ms
非唯一索引查询： 千万级别数据 == 100-1000ms
无索引数据： 百万级别数据 == 1000ms+
MySQL 数据库 TPS 容量问题：
非插入的更新删除操作： 同查询
插入操作： 1w~10w tps(依赖配置优化)
提高tomcat并发量的几种方法1、Apache + Tomcat 结合起来用Apache负责静态页面，Tomcat负责动态页面，同时减少connectionTimeout的时间，以应对并发量大线程回收来不及的情况。
2、压力过大的问题，可以做负载均衡，一个TOMCAT无论如何也不可能担当如此多的线程负载，而且JVM过大，其内存管理成本将显著加大。2G的内存，做3-4个TOMCAT实例（512RAM*4），更为科学合理。
3、数据库连接池，不少人，都推荐使用C3P0，能提高访问数据库的并发性能好几倍。
4、采用Tomcat集群可以最大程度的发挥服务器的性能，可以在配置较高的服务器上部署多个Tomcat，也可以在多台服务器上分别部署Tomcat，Apache和Tomcat整合的方式还是JK方式。经过验证，系统对大用户量使用的响应方面，Apache+3Tomccat集群> Apache+2Tomcat集群 > Apache集成Tomcat > 单个Tomcat。并且采用Apache+多Tomcat集群的部署方式时，如果一个Tomcat出现宕机，系统可以继续使用，所以在硬件系统性能足够优越的情况下，需要尽量发挥软件的性能，可以采用增加Tomcat集群的方式。
5、1. 设置MPM（Multi Processing Modules多道处理模块）。ThreadPerChild,这个参数用于设置每个进程的线程数，在Windows环境下默认值是64，最大值是1920，建议设置为100-500之间，服务器性能高的话值大一些，反之小一些。MaxRequestPerChild表示每个子进程能够处理的最大请求数。这个参数的值更大程度上取决于服务器的内存，如果内存比较大的话可以设置为很大的参数，否则设置一个较小的值，建议值是3000.
2. 关闭DNS和名字解析 HostnameLookups off
3. 打开UseCanonicalName模块 UseCanonicalName on
4. 关闭多余模块 一般来说，不需要加载的模块有，mod_include.so、mod_autoindex.so、mod_access.so、mod_auth.so.
5. 打开KeepAlive支持
KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000
根据实际经验，通过Apache和Tomcat集群的方式提高系统性能的效果十分明显，这种方式可以最大化的利用硬件资源，通过多个Tomcat的处理来分担单Tomcat时的压力。
web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。
总结以上为个人经验，希望能给大家一个参考，也希望大家多多支持软件开发网。
