這篇文章主要講解了“怎么處理重復(fù)請求/并發(fā)請求的”,文中的講解內(nèi)容簡單清晰,易于學(xué)習(xí)與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“怎么處理重復(fù)請求/并發(fā)請求的”吧!
成都創(chuàng)新互聯(lián)公司是專業(yè)的多倫網(wǎng)站建設(shè)公司,多倫接單;提供網(wǎng)站設(shè)計、成都網(wǎng)站建設(shè),網(wǎng)頁設(shè)計,網(wǎng)站設(shè)計,建網(wǎng)站,PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);采用PHP框架,可快速的進行多倫網(wǎng)站開發(fā)網(wǎng)頁制作和功能擴展;專業(yè)做搜索引擎喜愛的網(wǎng)站,專業(yè)的做網(wǎng)站團隊,希望更多企業(yè)前來合作!
你可能會想到的是,只要請求有唯一的請求編號,那么就能借用redis做這個去重——只要這個唯一請求編號在redis存在,證明處理過,那么就認(rèn)為是重復(fù)的
代碼大概如下:
String KEY = "REQ12343456788";//請求唯一編號 long expireTime = 1000;// 1000毫秒過期,1000ms內(nèi)的重復(fù)請求會認(rèn)為重復(fù) long expireAt = System.currentTimeMillis() + expireTime; String val = "expireAt@">
上面的方案能解決具備唯一請求編號的場景,例如每次寫請求之前都是服務(wù)端返回一個唯一編號給客戶端,客戶端帶著這個請求號做請求,服務(wù)端即可完成去重攔截。
但是,很多的場景下,請求并不會帶這樣的唯一編號!那么我們能否針對請求的參數(shù)作為一個請求的標(biāo)識呢?
先考慮簡單的場景,假設(shè)請求參數(shù)只有一個字段reqParam,我們可以利用以下標(biāo)識去判斷這個請求是否重復(fù)。用戶ID:接口名:請求參數(shù)
String KEY = "dedup:U="+userId + "M=" + method + "P=" + reqParam;
那么當(dāng)同一個用戶訪問同一個接口,帶著同樣的reqParam過來,我們就能定位到他是重復(fù)的了。
但是問題是,我們的接口通常不是這么簡單,以目前的主流,我們的參數(shù)通常是一個JSON。那么針對這種場景,我們怎么去重呢?
假設(shè)我們把請求參數(shù)(JSON)按KEY做升序排序,排序后拼成一個字符串,作為KEY值呢?但這可能非常的長,所以我們可以考慮對這個字符串求一個MD5作為參數(shù)的摘要,以這個摘要去取代reqParam的位置。
String KEY = "dedup:U="+userId + "M=" + method + "P=" + reqParamMD5;
這樣,請求的唯一標(biāo)識就打上了!
注:MD5理論上可能會重復(fù),但是去重通常是短時間窗口內(nèi)的去重(例如一秒),一個短時間內(nèi)同一個用戶同樣的接口能拼出不同的參數(shù)導(dǎo)致一樣的MD5幾乎是不可能的。
上面的問題其實已經(jīng)是一個很不錯的解決方案了,但是實際投入使用的時候可能發(fā)現(xiàn)有些問題:某些請求用戶短時間內(nèi)重復(fù)的點擊了(例如1000毫秒發(fā)送了三次請求),但繞過了上面的去重判斷(不同的KEY值)。
原因是這些請求參數(shù)的字段里面,是帶時間字段的,這個字段標(biāo)記用戶請求的時間,服務(wù)端可以借此丟棄掉一些老的請求(例如5秒前)。如下面的例子,請求的其他參數(shù)是一樣的,除了請求時間相差了一秒:
//兩個請求一樣,但是請求時間差一秒 String req = "{\n" + "\"requestTime\" :\"20190101120001\",\n" + "\"requestValue\" :\"1000\",\n" + "\"requestKey\" :\"key\"\n" + "}"; String req2 = "{\n" + "\"requestTime\" :\"20190101120002\",\n" + "\"requestValue\" :\"1000\",\n" + "\"requestKey\" :\"key\"\n" + "}";
這種請求,我們也很可能需要擋住后面的重復(fù)請求。所以求業(yè)務(wù)參數(shù)摘要之前,需要剔除這類時間字段。還有類似的字段可能是GPS的經(jīng)緯度字段(重復(fù)請求間可能有極小的差別)。
public class ReqDedupHelper { /** * * @param reqJSON 請求的參數(shù),這里通常是JSON * @param excludeKeys 請求參數(shù)里面要去除哪些字段再求摘要 * @return 去除參數(shù)的MD5摘要 */ public String dedupParamMD5(final String reqJSON, String... excludeKeys) { String decreptParam = reqJSON; TreeMap paramTreeMap = JSON.parseObject(decreptParam, TreeMap.class); if (excludeKeys!=null) { ListdedupExcludeKeys = Arrays.asList(excludeKeys); if (!dedupExcludeKeys.isEmpty()) { for (String dedupExcludeKey : dedupExcludeKeys) { paramTreeMap.remove(dedupExcludeKey); } } } String paramTreeMapJSON = JSON.toJSONString(paramTreeMap); String md5deDupParam = jdkMD5(paramTreeMapJSON); log.debug("md5deDupParam = {}, excludeKeys = {} {}", md5deDupParam, Arrays.deepToString(excludeKeys), paramTreeMapJSON); return md5deDupParam; } private static String jdkMD5(String src) { String res = null; try { MessageDigest messageDigest = MessageDigest.getInstance("MD5"); byte[] mdBytes = messageDigest.digest(src.getBytes()); res = DatatypeConverter.printHexBinary(mdBytes); } catch (Exception e) { log.error("",e); } return res; } }
下面是一些測試日志:
public static void main(String[] args) { //兩個請求一樣,但是請求時間差一秒 String req = "{\n" + "\"requestTime\" :\"20190101120001\",\n" + "\"requestValue\" :\"1000\",\n" + "\"requestKey\" :\"key\"\n" + "}"; String req2 = "{\n" + "\"requestTime\" :\"20190101120002\",\n" + "\"requestValue\" :\"1000\",\n" + "\"requestKey\" :\"key\"\n" + "}"; //全參數(shù)比對,所以兩個參數(shù)MD5不同 String dedupMD5 = new ReqDedupHelper().dedupParamMD5(req); String dedupMD52 = new ReqDedupHelper().dedupParamMD5(req2); System.out.println("req1MD5 = "+ dedupMD5+" , req2MD5="+dedupMD52); //去除時間參數(shù)比對,MD5相同 String dedupMD53 = new ReqDedupHelper().dedupParamMD5(req,"requestTime"); String dedupMD54 = new ReqDedupHelper().dedupParamMD5(req2,"requestTime"); System.out.println("req1MD5 = "+ dedupMD53+" , req2MD5="+dedupMD54); }
日志輸出:
req1MD5 = 9E054D36439EBDD0604C5E65EB5C8267 , req2MD5=A2D20BAC78551C4CA09BEF97FE468A3F req1MD5 = C2A36FED15128E9E878583CAAAFEFDE9 , req2MD5=C2A36FED15128E9E878583CAAAFEFDE9
日志說明:
一開始兩個參數(shù)由于requestTime是不同的,所以求去重參數(shù)摘要的時候可以發(fā)現(xiàn)兩個值是不一樣的
第二次調(diào)用的時候,去除了requestTime再求摘要(第二個參數(shù)中傳入了”requestTime”),則發(fā)現(xiàn)兩個摘要是一樣的,符合預(yù)期。
至此,我們可以得到完整的去重解決方案,如下:
String userId= "12345678";//用戶 String method = "pay";//接口名 String dedupMD5 = new ReqDedupHelper().dedupParamMD5(req,"requestTime");//計算請求參數(shù)摘要,其中剔除里面請求時間的干擾 String KEY = "dedup:U=" + userId + "M=" + method + "P=" + dedupMD5; long expireTime = 1000;// 1000毫秒過期,1000ms內(nèi)的重復(fù)請求會認(rèn)為重復(fù) long expireAt = System.currentTimeMillis() + expireTime; String val = "expireAt@" + expireAt; // NOTE:直接SETNX不支持帶過期時間,所以設(shè)置+過期不是原子操作,極端情況下可能設(shè)置了就不過期了,后面相同請求可能會誤以為需要去重,所以這里使用底層API,保證SETNX+過期時間是原子操作 Boolean firstSet = stringRedisTemplate.execute((RedisCallback) connection -> connection.set(KEY.getBytes(), val.getBytes(), Expiration.milliseconds(expireTime), RedisStringCommands.SetOption.SET_IF_ABSENT)); final boolean isConsiderDup; if (firstSet != null && firstSet) { isConsiderDup = false; } else { isConsiderDup = true; }
感謝各位的閱讀,以上就是“怎么處理重復(fù)請求/并發(fā)請求的”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對怎么處理重復(fù)請求/并發(fā)請求的這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!