您好,欢迎来到三六零分类信息网!老站,搜索引擎当天收录,欢迎发信息

Tomcat--性能优化

2024/11/14 23:53:04发布12次查看
一、jvm优化
1、内存优化。
2、垃圾回收策略优化。
二、server.xml的connector优化(connector是与http请求处理相关的容器,三个容器的初始化顺序为:server->service->connector)
     (1)指定使用nio模型来接受http请求 
     (2)http connector的优化,指定处理线程数目 
     (3)线程池
     (4)其他常规设置
三、设置session过期时间
四、apr插件提高tomcat性能
五、集群
六、问题定位
一、jvm优化linux修改tomcat_home/bin/catalina.sh,在前面加入
java_opts=-xx:permsize=64m -xx:maxpermsize=128m -xms512m -xmx1024m -duser.timezone=asia/shanghai
windows修改tomcat_home/bin/catalina.bat,在前面加入
set java_opts=-xx:permsize=64m -xx:maxpermsize=128m -xms512m -xmx1024m
1.内存调优 
内存方式的设置是在catalina.sh中,调整一下java_opts变量即可,因为后面的启动参数会把java_opts作为jvm的启动参数来处理。
具体设置如下: 
java_opts=$java_opts -xmx3550m -xms3550m -xss128k -xx:newratio=4 -xx:survivorratio=4
其各项参数如下: 
-xmx3550m:设置jvm最大可用内存为3550m。 heap size 最大不要超过可用物理内存的80%
-xms3550m:设置jvm促使内存为3550m。此值可以设置与-xmx相同,以避免每次垃圾回收完成后jvm重新分配内存。 
-xmn2g:设置年轻代大小为2g。整个堆大小=年轻代大小 + 年老代大小 + 持久代大小。持久代一般固定大小为64m,所以增大年轻代后,将会减小年老代大小。此值对系统性能影响较大,sun官方推荐配置为整个堆的3/8。 
-xss128k:设置每个线程的堆栈大小。jdk5.0以后每个线程堆栈大小为1m,以前每个线程堆栈大小为256k。更具应用的线程所需内存大小进行调整。在相同物理内存下,减小这个值能生成更多的线程。但是操作系统对一个进程内的线程数还是有限制的,不能无限生成,经验值在3000~5000左右。 
-xx:newratio=4:设置年轻代(包括eden和两个survivor区)与年老代的比值(除去持久代)。设置为4,则年轻代与年老代所占比值为1:4,年轻代占整个堆栈的1/5 
-xx:survivorratio=4:设置年轻代中eden区与survivor区的大小比值。设置为4,则两个survivor区与一个eden区的比值为2:4,一个survivor区占整个年轻代的1/6 
-xx:maxpermsize=16m:设置持久代大小为16m。 
-xx:maxtenuringthreshold=0:设置垃圾最大年龄。如果设置为0的话,则年轻代对象不经过survivor区,直接进入年老代。对于年老代比较多的应用,可以提高效率。如果将此值设置为一个较大值,则年轻代对象会在survivor区进行多次复制,这样可以增加对象再年轻代的存活时间,增加在年轻代即被回收的概论。
2.垃圾回收策略调优 
垃圾回收的设置也是在catalina.sh中,调整java_opts变量。 
具体设置如下: 
java_opts=$java_opts -xmx3550m -xms3550m -xss128k -xx:+useparallelgc  -xx:maxgcpausemillis=100 
具体的垃圾回收策略及相应策略的各项参数如下:
串行收集器(jdk1.5以前主要的回收方式)
-xx:+useserialgc:设置串行收集器 
并行收集器(吞吐量优先)
java -xmx3550m -xms3550m -xmn2g -xss128k -xx:+useparallelgc  -xx:maxgcpausemillis=100
-xx:+useparallelgc:选择垃圾收集器为并行收集器。此配置仅对年轻代有效。即上述配置下,年轻代使用并发收集,而年老代仍旧使用串行收集。 
-xx:parallelgcthreads=20:配置并行收集器的线程数,即:同时多少个线程一起进行垃圾回收。此值最好配置与处理器数目相等。 
-xx:+useparalleloldgc:配置年老代垃圾收集方式为并行收集。jdk6.0支持对年老代并行收集 
-xx:maxgcpausemillis=100:设置每次年轻代垃圾回收的最长时间,如果无法满足此时间,jvm会自动调整年轻代大小,以满足此值。 
-xx:+useadaptivesizepolicy:设置此选项后,并行收集器会自动选择年轻代区大小和相应的survivor区比例,以达到目标系统规定的最低相应时间或者收集频率等,此值建议使用并行收集器时,一直打开。
并发收集器(响应时间优先) 
示例:java -xmx3550m -xms3550m -xmn2g -xss128k -xx:+useconcmarksweepgc 
-xx:+useconcmarksweepgc:设置年老代为并发收集。测试中配置这个以后,-xx:newratio=4的配置失效了,原因不明。所以,此时年轻代大小最好用-xmn设置。 
-xx:+useparnewgc: 设置年轻代为并行收集。可与cms收集同时使用。jdk5.0以上,jvm会根据系统配置自行设置,所以无需再设置此值。 
-xx:cmsfullgcsbeforecompaction:由于并发收集器不对内存空间进行压缩、整理,所以运行一段时间以后会产生“碎片”,使得运行效率降低。此值设置运行多少次gc以后对内存空间进行压缩、整理。 
-xx:+usecmscompactatfullcollection:打开对年老代的压缩。可能会影响性能,但是可以消除碎片
3.小结 
在内存设置中需要做一下权衡 
1)内存越大,一般情况下处理的效率也越高,但同时在做垃圾回收的时候所需要的时间也就越长,在这段时间内的处理效率是必然要受影响的。 
2)在大多数的网络文章中都推荐 xmx和xms设置为一致,说是避免频繁的回收,这个在测试的时候没有看到明显的效果,内存的占用情况基本都是锯齿状的效果,所以这个还要根据实际情况来定。
二、server.xml的connection优化提高tomcat的并发能力一些方法1、apache + tomcat 结合起来用apache 负责静态页面,tomcat负责动态页面,同时减少connectiontimeout的时间,以应对并发量大线程回收来不及的情况。
2、压力过大的问题,可以做负载均衡,一个tomcat无论如何也不可能担当如此多的线程负载,而且jvm过大,其内存管理成本将显著加大。2g的内存,做3-4个tomcat实例(512ram*4),更为科学合理。
3、数据库连接池,不少人,都推荐使用c3p0,能提高访问数据库的并发性能好几倍。(有博文称使用tomcat自带的jdbc-pool更好,还没试过)
4、采用tomcat集群可以最大程度的发挥服务器的性能,可以在配置较高的服务器上部署多个tomcat,也可以在多台服务器上分别部署 tomcat,apache和tomcat整合的方式还是jk方式。经过验证,系统对大用户量使用的响应方面,apache+3tomccat集群> apache+2tomcat集群> apache集成tomcat >单个tomcat。并且采用apache+多tomcat集群的部署方式时,如果一个tomcat出现宕机,系统可以继续使用,所以在硬件系统性能足够优越的情况下,需要尽量发挥软件的性能,可以采用增加tomcat集群的方式。
5. 打开keepalive支持
keepalive on, keepalivetimeout 15 maxkeepaliverequests 1000
根据实际经验,通过apache和tomcat集群的方式提高系统性能的效果十分明显,这种方式可以最大化的利用硬件资源,通过多个tomcat的处理来分担单tomcat时的压力。
web server允许的最大连接数还受制于操作系统的内核参数设置,通常windows是2000个左右,linux是1000个左右。
1.指定使用nio模型来接受http请求 
protocol=org.apache.coyote.http11.http11nioprotocol 指定使用nio模型来接受http请求。默认是blockingio,配置为protocol=http/1.1 
acceptorthreadcount=2 使用nio模型时接收线程的数目 
2、指定处理线程数目 
<connector port="80" protocol="http/1.1" maxthreads="600" minsparethreads="100" maxsparethreads="500" acceptcount="700" connectiontimeout="20000" redirectport="8443" />
maxthreads=600       ///最大线程数
minsparethreads=100///初始化时创建的线程数
maxsparethreads=500///一旦创建的线程超过这个值,tomcat就会关闭不再需要的socket线程。
acceptcount=700//指定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理
这里是http connector的优化,如果使用apache和tomcat做集群的负载均衡,并且使用ajp协议做apache和tomcat的协议转发,那么还需要优化ajp connector。
<connector port="8009" protocol="ajp/1.3" maxthreads="600" minsparethreads="100" maxsparethreads="500" acceptcount="700" connectiontimeout="20000" redirectport="8443" />
3、线程池
由于tomcat有多个connector,所以tomcat线程的配置,又支持多个connector共享一个线程池。
首先。打开/conf/server.xml,增加
<executor name="tomcatthreadpool" nameprefix="catalina-exec-" maxthreads="500" minsparethreads="20" maxidletime="60000" />
最大线程500(一般服务器足以),最小空闲线程数20,线程最大空闲时间60秒。
然后,修改<connector ...>节点,增加executor属性,executor设置为线程池的名字:
<connector executor="tomcatthreadpool" port="80" protocol="http/1.1" connectiontimeout="60000" keepalivetimeout="15000" maxkeepaliverequests="1" redirectport="443" />
可以多个connector公用1个线程池,所以ajp connector也同样可以设置使用tomcatthreadpool线程池。
 4.其它常用设置 
maxhttpheadersize=8192 http请求头信息的最大程度,超过此长度的部分不予处理。一般8k。 
uriencoding=utf-8 指定tomcat容器的url编码格式。不要遗漏uriencoding=”gbk”,能使页面url传递中文参数时保证正确。
disableuploadtimeout=true 上传时是否使用超时机制 
enablelookups=false--是否反查域名,默认值为true。为了提高处理能力,应设置为false 
compression=on   打开压缩功能 。压缩会增加tomcat负担,最好采用nginx + tomcat 或者 apache + tomcat 方式,压缩交由nginx/apache 去做。
compressionminsize=10240 启用压缩的输出内容大小,默认为2kb 
nocompressionuseragents=gozilla, traviata   对于以下的浏览器,不启用压缩 
compressablemimetype=text/html,text/xml,text/javascript,text/css,text/plain 哪些资源类型需要压缩 
5.小结 
关于tomcat的nio和threadpool,本身的引入就提高了处理的复杂性,所以对于效率的提高有多少,需要实际验证一下。 
三、设置session过期时间conf\web.xml中通过参数指定:
    <session-config>            <session-timeout>180</session-timeout>          </session-config>  单位为分钟。
四、apr插件提高tomcat性能  tomcat可以使用apr来提供超强的可伸缩性和性能,更好地集成本地服务器技术.
  apr(apache portable runtime)是一个高可移植库,它是apache http server 2.x的核心。apr有很多用途,包括访问高级io功能(例如sendfile,epoll和openssl),os级别功能(随机数生成,系统状态等等),本地进程管理(共享内存,nt管道和unix sockets)。这些功能可以使tomcat作为一个通常的前台web服务器,能更好地和其它本地web技术集成,总体上让java更有效率作为一个高性能web服务器平台而不是简单作为后台容器。
  在产品环境中,特别是直接使用tomcat做web服务器的时候,应该使用tomcat native来提高其性能  
  要测apr给tomcat带来的好处最好的方法是在慢速网络上(模拟internet),将tomcat线程数开到300以上的水平,然后模拟一大堆并发请求。
  如果不配apr,基本上300个线程狠快就会用满,以后的请求就只好等待。但是配上apr之后,并发的线程数量明显下降,从原来的300可能会马上下降到只有几十,新的请求会毫无阻塞的进来。
  在局域网环境测,就算是400个并发,也是一瞬间就处理/传输完毕,但是在真实的internet环境下,页面处理时间只占0.1%都不到,绝大部分时间都用来页面传输。如果不用apr,一个线程同一时间只能处理一个用户,势必会造成阻塞。所以生产环境下用apr是非常必要的。
(1)安装apr tomcat-nativeapr-1.3.8.tar.gz   安装在/usr/local/apr     #tar zxvf apr-1.3.8.tar.gz     #cd apr-1.3.8#./configure;make;make install          apr-util-1.3.9.tar.gz  安装在/usr/local/apr/lib     #tar zxvf apr-util-1.3.9.tar.gz     #cd apr-util-1.3.9       #./configure --with-apr=/usr/local/apr ----with-java-home=jdk;make;make install          #cd apache-tomcat-6.0.20/bin       #tar zxvf tomcat-native.tar.gz       #cd tomcat-native/jni/native       #./configure --with-apr=/usr/local/apr;make;make install        (2)设置 tomcat 整合 apr     修改 tomcat 的启动 shell (startup.sh),在该文件中加入启动参数:       catalina_opts=$catalina_opts -djava.library.path=/usr/local/apr/lib 。     (3)判断安装成功:     如果看到下面的启动日志,表示成功。      2007-4-26 15:34:32 org.apache.coyote.http11.http11aprprotocol init
五、集群方案单个tomcat的处理性能是有限的,当并发量较大的时候,就需要有部署多套来进行负载均衡了。
集群的关键点有以下几点: 
1.引入负载端 
软负载可以使用nginx或者apache来进行,主要是使用一个分发的功能 
参考: 
(nginx负载) 
(apache负载)
2.共享session处理 
目前的处理方式有如下几种: 
1).使用tomcat本身的session复制功能 
参考(session复制的配置) 
方案的有点是配置简单,缺点是当集群数量较多时,session复制的时间会比较长,影响响应的效率 
2).使用第三方来存放共享session 
目前用的较多的是使用memcached来管理共享session,借助于memcached-sesson-manager来进行tomcat的session管理 
参考(使用msm管理tomcat集群session) 
3).使用黏性session的策略 
对于会话要求不太强(不涉及到计费,失败了允许重新请求下等)的场合,同一个用户的session可以由nginx或者apache交给同一个tomcat来处理,这就是所谓的session sticky策略,目前应用也比较多 
参考:(tomcat session sticky) 
nginx默认不包含session sticky模块,需要重新编译才行(windows下我也不知道怎么重新编译) 
优点是处理效率高多了,缺点是强会话要求的场合不合适 
3、每个站点一个实例。启动多个tomcat.
不要使用tomcat的虚拟主机,每个站点一个实例。即,启动多个tomcat.
这也是php运维在这里常犯的错误,php的做法是一个web下面放置多个虚拟主机,而不是每个主机启动一个web服务器。tomcat 是多线程,共享内存,任何一个虚拟主机中的应用出现崩溃,会影响到所有应用程序。采用多个实例方式虽然开销比较大,但保证了应用程序隔离与安全。
4.小结 
以上是实现集群的要点,其中1和2可以组合使用,具体场景具体分析吧~
六、问题定位 对于tomcat的处理耗时较长的问题主要有当时的并发量、session数、内存及内存的回收等几个方面造成的。出现问题之后就要进行分析了。
1.关于tomcat的session数目 
这个可以直接从tomcat的web管理界面去查看即可 
或者借助于第三方工具lambda probe来查看,它相对于tomcat自带的管理稍微多了点功能,但也不多
2.监视tomcat的内存使用情况 
使用jdk自带的jconsole可以比较明了的看到内存的使用情况,线程的状态,当前加载的类的总量等 
jdk自带的jvisualvm可以下载插件(如gc等),可以查看更丰富的信息。如果是分析本地的tomcat的话,还可以进行内存抽样等,检查每个类的使用情况
3.打印类的加载情况及对象的回收情况 
这个可以通过配置jvm的启动参数,打印这些信息(到屏幕(默认也会到catalina.log中)或者文件),具体参数如下: 
-xx:+printgc:输出形式:[gc 118250k->113543k(130112k), 0.0094143 secs] [full gc 121376k->10414k(130112k), 0.0650971 secs] 
-xx:+printgcdetails:输出形式:[gc [defnew: 8614k->781k(9088k), 0.0123035 secs] 118250k->113543k(130112k), 0.0124633 secs] [gc [defnew: 8614k->8614k(9088k), 0.0000665 secs][tenured: 112761k->10414k(121024k), 0.0433488 secs] 121376k->10414k(130112k), 0.0436268 secs] 
-xx:+printgctimestamps -xx:+printgc:printgctimestamps可与上面两个混合使用,输出形式:11.851: [gc 98328k->93620k(130112k), 0.0082960 secs] 
-xx:+printgcapplicationconcurrenttime:打印每次垃圾回收前,程序未中断的执行时间。可与上面混合使用。输出形式:application time: 0.5291524 seconds 
-xx:+printgcapplicationstoppedtime:打印垃圾回收期间程序暂停的时间。可与上面混合使用。输出形式:total time for which application threads were stopped: 0.0468229 seconds 
-xx:printheapatgc: 打印gc前后的详细堆栈信息 
-xloggc:filename:与上面几个配合使用,把相关日志信息记录到文件以便分析
-verbose:class 监视加载的类的情况 
-verbose:gc 在虚拟机发生内存回收时在输出设备显示信息 
-verbose:jni 输出native方法调用的相关情况,一般用于诊断jni调用错误信息
4.添加jms远程监控 
对于部署在局域网内其它机器上的tomcat,可以打开jmx监控端口,局域网其它机器就可以通过这个端口查看一些常用的参数(但一些比较复杂的功能不支持),同样是在jvm启动参数中配置即可,配置如下: 
-dcom.sun.management.jmxremote.ssl=false  -dcom.sun.management.jmxremote.authenticate=false 
-djava.rmi.server.hostname=192.168.71.38 设置jvm的jms监控监听的ip地址,主要是为了防止错误的监听成127.0.0.1这个内网地址 
-dcom.sun.management.jmxremote.port=1090 设置jvm的jms监控的端口 
-dcom.sun.management.jmxremote.ssl=false 设置jvm的jms监控不实用ssl 
-dcom.sun.management.jmxremote.authenticate=false 设置jvm的jms监控不需要认证
5.专业点的分析工具有 
ibm isa,jprofiler等,具体监控及分析方式去网上搜索即可。 
以上就是tomcat--性能优化的详细内容。
该用户其它信息

VIP推荐

免费发布信息,免费发布B2B信息网站平台 - 三六零分类信息网 沪ICP备09012988号-2
企业名录 Product