前言
以前的项目最近老是出现tomcat假死和崩溃的情况,就收集了一些关于tomcat调优的内容,mark一下。
监控
通过以下网址打开tomcat管理页面,默认端口为8080(如果不能打开则关闭服务器防火墙或者开放8080端口)
打开UC浏览器 查看更多精彩图片
右侧的 Server Status Manager APP 和 Host Manager代表tomcat的管理页面,想要进入这三个页面首先需要配置服务器上tomcat安装目录下的conf/tomcat-users.xml文件,如果不做配置则会返回403页面,如下:
打开UC浏览器 查看更多精彩图片
在conf/tomcat-users.xml添加如下配置,tomcat-users.xml配置示例如下
打开UC浏览器 查看更多精彩图片
再次重启tomcat后,就能进入Server Status Manager APP 和 Host Manager这三个页面了。
Server Status页面
打开UC浏览器 查看更多精彩图片
打开UC浏览器 查看更多精彩图片
Status-JVM
Free memory:剩余内存;
Total menory:总内存;
Max menory:最大内存;
Status-HTTP
Max threads:最大线程数;
Current thread count:当前线程数;
Current thread busy:当前忙碌线程数;
Max processing time:最大处理时间;
ms Processing time:最短处理时间;
Request count:请求数;
Error count:错误数;
Bytes received:接受字节;
Bytes sent:发送字节;
Manager APP页面
该页面用来管理Web项目,部署在Tomcat下的项目可以通过该页面来管理,如下:
打开UC浏览器 查看更多精彩图片
调优
1、Tomcat的运行模式有三种:
BIO
性能比较低下,没有经过任何优化处理和支持。一个线程处理一个请求。缺点:并发量高时,线程数较多,浪费资源。Tomcat7或以下,在Linux系统中默认使用这种方式。
NIO
nio(new I/O),是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。
利用Java的异步IO处理,可以通过少量的线程处理大量的请求。
Tomcat8在Linux系统中默认使用这种方式。
Tomcat7必须修改Connector配置来启动:
打开UC浏览器 查看更多精彩图片
APR
安装起来最困难,但是从操作系统级别来解决异步的IO问题,能够大幅度的提高性能。即Apache PortableRuntime,从操作系统层面解决IO阻塞问题。
Tomcat7或Tomcat8在Win7或以上的系统中启动默认使用这种方式。
Linux如果安装了apr和native,Tomcat直接启动就支持apr。
Tomcat启动的时候,可以通过log看到Connector使用的是哪一种运行模式:
打开UC浏览器 查看更多精彩图片
Tomcat7及以下版本启动启动NIO模式:
修改server.xml里的Connector节点,修改protocol为:org.apache.coyote.http11.Http11NioProtocol,如下:
打开UC浏览器 查看更多精彩图片
修改前:
打开UC浏览器 查看更多精彩图片
修改后:
打开UC浏览器 查看更多精彩图片
为什么它不直接改成NIO的形式呢?
这个方式是利用了jdk 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)为桥梁实现的,不改成这种优化方式就是为了兼容1.4之前的JAVA项目也能跑起来。
2、线程池(执行器)
Connector节点:
官方文档:https://tomcat.apache.org/tomcat-8.5-doc/config/http.html
默认的tomcat没有启用线程池,在tomcat中每一个用户请求都是一个线程,所以可以使用线程池提高性能。这里前台其实有一个调度线程,然后调度线程会放入线程池内,然后到到一定的时候线程池的任务变成工作线程。
开启线程池:
打开UC浏览器 查看更多精彩图片
maxThreads配置为500,但显示为-1,查询官方文档发现:
打开UC浏览器 查看更多精彩图片
意思是该属性配置处理并发请求的最大线程数,如果不配置默认值是200。如果配置了executor属性,这个属性会被忽略。注意斜体部分提到:如果executor设置了值,使用JMX查看的时候这个值会是-1,这是正常的。
详细参数解释如下:
将原有的Executor标签内容替换成如下内容
打开UC浏览器 查看更多精彩图片
maxThreads:最大并发数,默认设置 200,一般建议在 500 ~ 800,根据硬件设施和业务来判断
minSpareThreads:Tomcat 初始化时创建的线程数,默认设置 25
maxIdleTime:如果当前线程大于初始化线程,那空闲线程存活的时间,单位毫秒,默认60000=60秒=1分钟。
prestartminSpareThreads:在 Tomcat 初始化的时候就初始化 minSpareThreads 的参数值,如果不等于 true,minSpareThreads 的值就没啥效果了
maxQueueSize:最大的等待队列数,超过则拒绝请求
将原有的Connector标签内容替换成如下内容
打开UC浏览器 查看更多精彩图片
替换后访问速度肯定会比以前快
protocol:Tomcat 8 设置 nio2 更好:org.apache.coyote.http11.Http11Nio2Protocol
protocol:Tomcat 6 设置 nio 更好:org.apache.coyote.http11.Http11NioProtocol
protocol:Tomcat 8 设置 APR 性能飞快:org.apache.coyote.http11.Http11AprProtocol
connectionTimeout:Connector接受一个连接后等待的时间(milliseconds),默认值是60000。
maxConnections:这个值表示最多可以有多少个socket连接到tomcat上
enableLookups:禁用DNS查询
acceptCount:当tomcat起动的线程数达到最大时,接受排队的请求个数,默认值为100。
maxPostSize:设置由容器解析的URL参数的最大长度,-1(小于0)为禁用这个属性,默认为2097152(2M) 请注意, FailedRequestFilter 过滤器可以用来拒绝达到了极限值的请求。
maxHttpHeaderSize:http请求头信息的最大程度,超过此长度的部分不予处理。一般8K。
compression:是否启用GZIP压缩 on为启用(文本数据压缩) off为不启用, force 压缩所有数据
disableUploadTimeout:这个标志允许servlet容器使用一个不同的,通常长在数据上传连接超时。 如果不指定,这个属性被设置为true,表示禁用该时间超时。
compressionMinSize:当超过最小数据大小才进行压缩
acceptorThreadCount:用于接受连接的线程数量。增加这个值在多CPU的机器上,尽管你永远不会真正需要超过2。 也有很多非维持连接,您可能希望增加这个值。默认值是1。
compressableMimeType:配置想压缩的数据类型
URIEncoding:网站一般采用UTF-8作为默认编码。
processorCache:协议处理器缓存的处理器对象来提高性能。 该设置决定多少这些对象的缓存。-1意味着无限的,默认是200。 如果不使用Servlet 3.0异步处理,默认是使用一样的maxThreads设置。 如果使用Servlet 3.0异步处理,默认是使用大maxThreads和预期的并发请求的最大数量(同步和异步)。
tcpNoDelay:如果设置为true,TCP_NO_DELAY选项将被设置在服务器套接字,而在大多数情况下提高性能。这是默认设置为true。
connectionLinger:秒数在这个连接器将持续使用的套接字时关闭。默认值是 -1,禁用socket 延迟时间。
server:隐藏Tomcat版本信息,首先隐藏HTTP头中的版本信息
Executor节点:
打开UC浏览器 查看更多精彩图片
AJP协议
Tomcat最主要的功能是提供Servlet/JSP容器,尽管它也可以作为独立的Java Web服务器,但它对静态资源(如HTML文件或图像文件)的处理速度,以及提供的Web服务器管理功能方面都不如其他专业的HTTP服务器,如IIS和Apache服务器。因此在实际应用中,常常把Tomcat与其他HTTP服务器集成。对于不支持Servlet/JSP的HTTP服务器,可以通过Tomcat服务器来运行Servlet/JSP组件。
Tomcat服务器通过Connector连接器组件与客户程序建立连接,Connector组件负责接收客户的请求,以及把Tomcat服务器的响应结果发送给客户。默认情况下,Tomcat在server.xml中配置了两种连接器:
打开UC浏览器 查看更多精彩图片
第一个连接器监听8080端口,负责建立HTTP连接。在通过浏览器访问Tomcat服务器的Web应用时,使用的就是这个连接器。
第二个连接器监听8009端口,负责和其他的HTTP服务器建立连接。在把Tomcat与其他HTTP服务器集成时,就需要用到这个连接器。
在实际应用中,如果网站的访问量非常大,为了提高访问速度,可以将多个Tomcat服务器与Apache集成,让它们共同分担运行Servlet/JSP组件的任务。JK插件的loadbalancer(负载平衡器)负责根据在workers.properties文件中预先配置的lbfactor(负载平衡因数)为这些Tomcat服务器分配工作负荷,实现负载平衡。那么,Apache和Tomcat结合的时候,会有如下现象:
Apache会拦截所有请求,将servlet和JSP(.jsp结尾)请求通过AJP交给Tomcat处理,然后再把结果拿到Apache然后返回;
Apache将静态资源的访问,(类似html/css/jpg等类型的文件)自己直接处理不交给Tomcat,直接返回;
Apache和Tomcat结合之后,Tomcat的HTTP Connector永远不会被用到了,而是用AJP Connector;