流量預(yù)警和限流方案中，比較常用的有兩種。第一種滑窗模式，通過統(tǒng)計(jì)多個(gè)單元時(shí)間的訪問次數(shù)來進(jìn)行控制，當(dāng)單位時(shí)間的訪問次數(shù)達(dá)到的某個(gè)峰值時(shí)進(jìn)行限流。第二種為響應(yīng)模式，通過控制當(dāng)前活躍請求數(shù)，來進(jìn)行流量控制。下面來簡單分析下兩種的優(yōu)缺點(diǎn)。

站在用戶的角度思考問題，與客戶深入溝通，找到靜樂網(wǎng)站設(shè)計(jì)與靜樂網(wǎng)站推廣的解決方案，憑借多年的經(jīng)驗(yàn)，讓設(shè)計(jì)與互聯(lián)網(wǎng)技術(shù)結(jié)合，創(chuàng)造個(gè)性化、用戶體驗(yàn)好的作品，建站類型包括：成都網(wǎng)站設(shè)計(jì)、成都網(wǎng)站建設(shè)、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣、域名注冊、虛擬空間、企業(yè)郵箱。業(yè)務(wù)覆蓋靜樂地區(qū)。

1、滑窗模式

模式分析:

在每次有訪問進(jìn)來時(shí)，我們判斷前N個(gè)單位時(shí)間里總訪問量是否超過了設(shè)置的閾值，若超過則不允許執(zhí)行。

這種模式的實(shí)現(xiàn)的方式更加契合流控的本質(zhì)意義。理解較為簡單。但由于訪問量的預(yù)先不可預(yù)見性，會(huì)發(fā)生單位時(shí)間的前半段有大量的請求涌入，而后半段則拒絕所有請求的情況發(fā)生。（一般，需要會(huì)將單位時(shí)間切的足夠的細(xì)來解決這個(gè)問題）其次，我們很難確定這個(gè)閾值設(shè)置在多少比較合適，只能通過經(jīng)驗(yàn)或者模擬（如壓測）來進(jìn)行估計(jì)，不過即使是壓測也很難估計(jì)的準(zhǔn)確，線上每臺(tái)機(jī)器的硬件參數(shù)的不同，或者同一臺(tái)機(jī)子在不同的時(shí)間點(diǎn)其可以接受的閾值也不盡相同（系統(tǒng)中），每個(gè)時(shí)間點(diǎn)導(dǎo)致能夠承受的大閾值也不盡相同，我們無法考慮的周全。

所以滑窗模式往往用來對(duì)某一資源的保護(hù)上（或者說是承諾比較合適：我對(duì)某一接口的提供者承諾過，最高調(diào)用量不超過XX），如對(duì)db的保護(hù)，對(duì)某一服務(wù)的調(diào)用的控制上。因?yàn)閷?duì)于我們應(yīng)用來說，db或某一接口就是一共單一的整體。

代碼實(shí)現(xiàn)思路：

每一個(gè)窗（單位時(shí)間）就是一個(gè)獨(dú)立的計(jì)數(shù)器（原子計(jì)數(shù)器），用以數(shù)組保存。將當(dāng)前時(shí)間以某種方式（比如取模）映射到數(shù)組的一項(xiàng)中。每次訪問先對(duì)當(dāng)前窗內(nèi)計(jì)數(shù)器+1，再計(jì)算前N個(gè)單元格的訪問量綜合，超過閾值則限流。

這里有個(gè)問題，時(shí)間永遠(yuǎn)是遞增的，單純的取模，會(huì)導(dǎo)致數(shù)組過長，使用內(nèi)存過多，我們可以用環(huán)形隊(duì)列來解決這個(gè)問題。

2、響應(yīng)模式

模式分析：

每次操作執(zhí)行時(shí)，我們通過判斷當(dāng)前正在執(zhí)行的訪問數(shù)是否超過某個(gè)閾值在決定是否限流。

該模式看著思路比較的另類，但卻有其獨(dú)到之處。實(shí)際上我們限流的根本是為了保護(hù)資源，防止系統(tǒng)接受的請求過多，應(yīng)接不暇，拖慢系統(tǒng)中其他接口的服務(wù)，造成雪崩。也就是說我們真正需要關(guān)心的是那些運(yùn)行中的請求，而那些已經(jīng)完成的請求已是過去時(shí)，不再是需要關(guān)心的了。

我們來看看其閾值的計(jì)算方式，對(duì)于一個(gè)請求來說，響應(yīng)時(shí)間rt/qps是一個(gè)比較容易獲取的參數(shù)，那么我們這樣計(jì)算：qps/1000*rt。

此外，一個(gè)應(yīng)用往往是個(gè)復(fù)雜的系統(tǒng)，提供的服務(wù)或者暴露的請求、資源不止一個(gè)。內(nèi)部GC、定時(shí)任務(wù)的執(zhí)行、其他服務(wù)訪問的驟增，外部依賴方、db的抖動(dòng)，抑或是代碼中不經(jīng)意間的一個(gè)bug。都可能導(dǎo)致相應(yīng)時(shí)間的變化，導(dǎo)致系統(tǒng)同時(shí)可以執(zhí)行請求的變化。而這種模式，則能恰如其分的自動(dòng)做出調(diào)整，當(dāng)系統(tǒng)不適時(shí)，rt增加時(shí)，會(huì)自動(dòng)的對(duì)qps做出適應(yīng)。

代碼實(shí)現(xiàn)思路:

當(dāng)訪問開始時(shí)，我們對(duì)當(dāng)前計(jì)數(shù)器（原子計(jì)數(shù)器）+1，當(dāng)完成時(shí)，-1。該計(jì)數(shù)器即為當(dāng)前正在執(zhí)行的請求數(shù)。只需判斷這個(gè)計(jì)數(shù)器是否超過閾值即可。

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場景需求。

當(dāng)前文章：關(guān)于兩種限流模式-創(chuàng)新互聯(lián)
文章路徑：http://weahome.cn/article/ghohp.html