该设置多大的线程池呢?以及根据什么原则来设计这个线程池呢?
思路:
tomcat接受一个request后处理过程中,会涉及到cpu和IO时间。其中IO等待时间,cpu被动放弃执行,其他线程就可以利用这段时间片进行操作。所以我们可以采用服务器IO优化的通用规则。
线程大小 = ( (线程io时间 + 线程cpu) / 线程cpu time) * cpu核数
例子:
线程io时间为100ms(IO操作比如数据库查询,同步远程调用等),线程cpu时间10ms,服务器物理机核数为4个。通过上面的公式,我们计算出来的大小是 ((100 + 10 )/10 ) *4 = 44。理论上我们有依据,但是实际计算过程中我们怎么知道线程IO时间和cpu时间呢?
代码:
通过java 实现内置的filter接口,我们可以拿到一个request消耗的总时间
public class MoniterFilter implements Filter {
@Override
public void doFilter(ServletRequest request, ServletResponse response,
FilterChain chain) throws IOException,
ServletException {
long start = System.currentTimeMillis();
String params = getQueryString(httpRequest);
try {
chain.doFilter(httpRequest, httpResponse);
} finally {
logger.info("access url [{}{}], cost time [{}] ms )", uri,
params, cost);
}
private String getQueryString(HttpServletRequest req) {
StringBuilder buffer = new StringBuilder("?");
Enumeration
try {
while (emParams.hasMoreElements()) {
String sParam = emParams.nextElement();
String sValues = req.getParameter(sParam);
buffer.append(sParam).append("=").append(sValues).append("&");
}
return buffer.substring(0, buffer.length() - 1);
} catch (Exception e) {
}
return "";
}
}
通过添加切面来监控线程IO耗时(jdk,cglib)
public class DaoInterceptor implements MethodInterceptor {
private static final Logger logger = LoggerFactory.getLogger(DaoInterceptor.class);
@Override
public Object invoke(MethodInvocation invocation) throws Throwable {
StopWatch watch = new StopWatch();
watch.start();
Object result = null;
Throwable t = null;
try {
result = invocation.proceed();
} catch (Throwable e) {
t = e == null ? null : e.getCause();
throw e;
} finally {
watch.stop();
logger.info("({}ms)", watch.getTotalTimeMillis());
}
return result;
}
}
通过上述代码就可以计算出相应时间,从而计算出线程大小啦。
请记住:计算出的数值只是存在理论情况下,我们还是需要通过压测工具(loadrunner,jmeter)来压一下服务器,同时根据qps值来动态微调刚才计算出的线程池大小。
性能测试之tomcat线程池设置原理
发表于:2017-01-09
作者:网络转载
来源:
- 周排行
- 月排行
-   稳定性测试怎么做,这篇文章彻底讲透了!
-   Docker容器网络性能测试和调优策略
-   性能测试中TPS上不去的几种原因浅析
-   浅谈性能测试——软中断高问题排查
-   Beego、Nginx性能测试
-   用户愿意等待的时间-性能指标与建议
-   面试被问什么时候开始性能测试?如何答?
-   稳定性测试怎么做,这篇文章彻底讲透了!
-   浅谈性能测试——软中断高问题排查
-   干货|性能测试模型初探及应用方法分析
-   可靠性测试的基础知识——软件可靠性测试
-   Docker容器网络性能测试和调优策略
-   性能测试的需求分析
-   性能测试中的指标和术语