今天就跟大家聊聊有關(guān)Java中怎么設(shè)置線程池的大小,可能很多人都不太了解,為了讓大家更加了解,小編給大家總結(jié)了以下內(nèi)容,希望大家根據(jù)這篇文章可以有所收獲。
讓客戶滿意是我們工作的目標(biāo),不斷超越客戶的期望值來自于我們對(duì)這個(gè)行業(yè)的熱愛。我們立志把好的技術(shù)通過有效、簡(jiǎn)單的方式提供給客戶,將通過不懈努力成為客戶在信息化領(lǐng)域值得信任、有價(jià)值的長期合作伙伴,公司提供的服務(wù)項(xiàng)目有:國際域名空間、網(wǎng)頁空間、營銷軟件、網(wǎng)站建設(shè)、建華網(wǎng)站維護(hù)、網(wǎng)站推廣。
這個(gè)說法到底是不是正確的呢?
其實(shí)這是極不正確的。那為什么呢?
首先我們從反面來看,假設(shè)這個(gè)說法是成立的,那我們?cè)谝慌_(tái)服務(wù)器上部署多少個(gè)服務(wù)都無所謂了。因?yàn)榫€程池的大小只能服務(wù)器的核數(shù)有關(guān),所以這個(gè)說法是不正確的。那具體應(yīng)該怎么設(shè)置大小呢?
假設(shè)這個(gè)應(yīng)用是兩者混合型的,其中任務(wù)即有 CPU 密集,也有 IO 密集型的,那么我們改怎么設(shè)置呢?是不是只能拋硬盤來決定呢?
那么我們到底該怎么設(shè)置線程池大小呢?有沒有一些具體實(shí)踐方法來指導(dǎo)大家落地呢?讓我們來深入地了解一下。
Little's Law(利特爾法則)
一個(gè)系統(tǒng)請(qǐng)求數(shù)等于請(qǐng)求的到達(dá)率與平均每個(gè)單獨(dú)請(qǐng)求花費(fèi)的時(shí)間之乘積
假設(shè)服務(wù)器單核的,對(duì)應(yīng)業(yè)務(wù)需要保證請(qǐng)求量(QPS):10 ,真正處理一個(gè)請(qǐng)求需要 1 秒,那么服務(wù)器每個(gè)時(shí)刻都有 10 個(gè)請(qǐng)求在處理,即需要 10 個(gè)線程
同樣,我們可以使用利特爾法則(Little's law)來判定線程池大小。我們只需計(jì)算請(qǐng)求到達(dá)率和請(qǐng)求處理的平均時(shí)間。然后,將上述值放到利特爾法則(Little's law)就可以算出系統(tǒng)平均請(qǐng)求數(shù)。估算公式如下
*線程池大小 = ((線程 IO time + 線程 CPU time )/線程 CPU time ) CPU數(shù)目**
具體實(shí)踐
通過公式,我們了解到需要 3 個(gè)具體數(shù)值
一個(gè)請(qǐng)求所消耗的時(shí)間 (線程 IO time + 線程 CPU time) 該請(qǐng)求計(jì)算時(shí)間 (線程 CPU time) CPU 數(shù)目
請(qǐng)求消耗時(shí)間
Web 服務(wù)容器中,可以通過 Filter 來攔截獲取該請(qǐng)求前后消耗的時(shí)間
public class MoniterFilter implements Filter { private static final Logger logger = LoggerFactory.getLogger(MoniterFilter.class); @Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { long start = System.currentTimeMillis(); HttpServletRequest httpRequest = (HttpServletRequest) request; HttpServletResponse httpResponse = (HttpServletResponse) response; String uri = httpRequest.getRequestURI(); String params = getQueryString(httpRequest); try { chain.doFilter(httpRequest, httpResponse); } finally { long cost = System.currentTimeMillis() - start; logger.info("access url [{}{}], cost time [{}] ms )", uri, params, cost); } private String getQueryString(HttpServletRequest req) { StringBuilder buffer = new StringBuilder("?"); Enumeration
CPU 計(jì)算時(shí)間
CPU 計(jì)算時(shí)間 = 請(qǐng)求總耗時(shí) - CPU IO time
假設(shè)該請(qǐng)求有一個(gè)查詢 DB 的操作,只要知道這個(gè)查詢 DB 的耗時(shí)(CPU IO time),計(jì)算的時(shí)間不就出來了嘛,我們看一下怎么才能簡(jiǎn)潔,明了的記錄 DB 查詢的耗時(shí)。
通過(JDK 動(dòng)態(tài)代理/ CGLIB)的方式添加 AOP 切面,來獲取線程 IO 耗時(shí)。代碼如下,請(qǐng)參考:
public class DaoInterceptor implements MethodInterceptor { private static final Logger logger = LoggerFactory.getLogger(DaoInterceptor.class); @Override public Object invoke(MethodInvocation invocation) throws Throwable { StopWatch watch = new StopWatch(); watch.start(); Object result = null; Throwable t = null; try { result = invocation.proceed(); } catch (Throwable e) { t = e == null ? null : e.getCause(); throw e; } finally { watch.stop(); logger.info("({}ms)", watch.getTotalTimeMillis()); } return result; } }
CPU 數(shù)目
邏輯 CPU 個(gè)數(shù) ,設(shè)置線程池大小的時(shí)候參考的 CPU 個(gè)數(shù)
cat /proc/cpuinfo| grep "processor"| wc -l
看完上述內(nèi)容,你們對(duì)Java中怎么設(shè)置線程池的大小有進(jìn)一步的了解嗎?如果還想了解更多知識(shí)或者相關(guān)內(nèi)容,請(qǐng)關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,感謝大家的支持。