tomcat 最大线程数 最大连接数

一、accept-count:最大等待数

官方文档的说明为:当所有的请求处理线程都在使用时,所能接收的连接请求的队列的最大长度。当队列已满时,任何的连接请求都将被拒绝。accept-count 的默认值为 100。
详细的来说:当调用 HTTP 请求数达到 tomcat 的最大线程数时,还有新的 HTTP 请求到来,这时 tomcat 会将该请求放在等待队列中,这个 acceptCount 就是指能够接受的最大等待数,默认 100。如果等待队列也被放满了,这个时候再来新的请求就会被 tomcat 拒绝(connection refused)。

二、maxConnections:最大连接数

官方文档的说明为:

这个参数是指在同一时间,tomcat 能够接受的最大连接数。对于 Java 的阻塞式 BIO,默认值是 maxthreads 的值;如果在 BIO 模式使用定制的 Executor 执行器,默认值将是执行器中 maxthreads 的值。对于 Java 新的 NIO 模式,maxConnections 默认值是 10000。
对于 windows 上 APR/native IO 模式,maxConnections 默认值为 8192,这是出于性能原因,如果配置的值不是 1024 的倍数,maxConnections 的实际值将减少到 1024 的最大倍数。
如果设置为 -1,则禁用 maxconnections 功能,表示不限制 tomcat 容器的连接数。
maxConnections 和 accept-count 的关系为:当连接数达到最大值 maxConnections 后,系统会继续接收连接,但不会超过 acceptCount 的值。

三、maxThreads:最大线程数

每一次 HTTP 请求到达 Web 服务,tomcat 都会创建一个线程来处理该请求,那么最大线程数决定了 Web 服务容器可以同时处理多少个请求。maxThreads 默认 200,肯定建议增加。但是,增加线程是有成本的,更多的线程,不仅仅会带来更多的线程上下文切换成本,而且意味着带来更多的内存消耗。JVM 中默认情况下在创建新线程时会分配大小为 1M 的线程栈,所以,更多的线程异味着需要更多的内存。线程数的经验值为:1 核 2g 内存为 200,线程数经验值 200;4 核 8g 内存,线程数经验值 800。

1.4.1 Tomcat 的高效配置

明白了 Tomcat 的 maxConnections、maxThreads、acceptCount 三大配置之后,可以通过 application.yml 配置文件来改变这个三个值,一个标准的示例如下:

server:
  tomcat:
    uri-encoding: UTF-8
    #最大工作线程数,默认200, 4核8g内存,线程数经验值800
    #操作系统做线程之间的切换调度是有系统开销的,所以不是越多越好。
    max-threads: 1000
    # 等待队列长度,默认100
   accept-count: 1000
    max-connections: 20000
    # 最小工作空闲线程数,默认10, 适当增大一些,以便应对突然增长的访问量
   min-spare-threads: 100

1.4.3 图解:maxConnections、maxThreads、acceptCount 关系

maxConnections、maxThreads、acceptCount 关系之间,具体的关系如何呢? 在疯狂创客圈社群中,有不少的同学对于这个问题是云里雾里的,并且多次进行求助。这里用一个形象的比喻,通俗易懂的解释一下 tomcat 的最大线程数(maxThreads)、最大等待数(acceptCount)和最大连接数(maxConnections)三者之间的关系。

我们可以把 tomcat 比做一个火锅店,流程是取号、入座、叫服务员,可以做一下三个形象的类比:
(1)acceptCount 最大等待数
可以类比为火锅店的排号处能够容纳排号的最大数量;排号的数量不是无限制的,火锅店的排号到了一定数据量之后,服务往往会说:已经客满。
(2)maxConnections 最大连接数
可以类比为火锅店的大堂的餐桌数量,也就是可以就餐的桌数。如果所有的桌子都已经坐满,则表示餐厅已满,已经达到了服务的数量上线,不能再有顾客进入餐厅了。
(3)maxThreads:最大线程数
可以类比为厨师的个数。每一个厨师,在同一时刻,只能给一张餐桌炒菜,就像极了 JVM 中的一条线程。

整个就餐的流程,大致如下:

(1)取号:如果 maxConnections 连接数没有满,就不需要取号,因为还有空余的餐桌,直接被大堂服务员领上餐桌,点菜就餐即可。如果 maxConnections 连接数满了,但是取号人数没有达到 acceptCount,则取号成功。如果取号人数已达到 acceptCount,则拿号失败,会得到 Tomcat 的 Connection refused connect 的回复信息。
(2)上桌:如果有餐桌空出来了,表示 maxConnections 连接数没有满,排队的人,可以进入大堂上桌就餐。
(3)就餐:就餐需要厨师炒菜。厨师的数量,比顾客的数量,肯定会少一些。一个厨师一定需要给多张餐桌炒菜,如果就餐的人越多,厨师也会忙不过来。这时候就可以增加厨师,一增加到上限 maxThreads 的值,如果还是不够,只能是拖慢每一张餐桌的上菜速度,这种情况,就是大家常见的 "上一道菜吃光了,下一道菜还没有上" 尴尬场景。