前陣子開發(fā)了公司領(lǐng)劵中心的項(xiàng)目，這個(gè)項(xiàng)目是以redis作為關(guān)鍵技術(shù)落地的。
先說一下領(lǐng)劵中心的項(xiàng)目吧，這個(gè)項(xiàng)目就類似京東app的領(lǐng)劵中心，當(dāng)然圖是截取京東的，公司的就不截了。。。
其中有一個(gè)功能叫做領(lǐng)劵的訂閱推送。什么是領(lǐng)劵的訂閱推送？就是用戶訂閱了該劵的推送，在可領(lǐng)取前的一分鐘就要把提醒信息推送到用戶的app中。本來這個(gè)訂閱功能應(yīng)該是消息中心那邊做的，但他們說這個(gè)短時(shí)間內(nèi)做不了。所以讓我這個(gè)負(fù)責(zé)優(yōu)惠劵的做了-.-!。具體方案就是到具體的推送時(shí)間點(diǎn)了，coupon系統(tǒng)調(diào)用消息中心的推送接口，把信息推送出去。
下面我們分析一下這個(gè)功能的業(yè)務(wù)情景。公司目前注冊(cè)用戶6000W+，是哪家就不要打聽了。。。比如有一張無門檻的優(yōu)惠劵下單立減20元，那么搶這張劵的人就會(huì)比較多，我們保守估計(jì)10W+，百萬級(jí)別不好說。我們初定為20W萬人，那么這20W條推送信息要在一分鐘推送完成！并且一個(gè)用戶是可以訂閱多張劵的。所以我們知道了這個(gè)訂閱功能的有兩個(gè)突出的難點(diǎn)：
1、推送的實(shí)效性：推送慢了，用戶會(huì)抱怨沒有及時(shí)通知他們錯(cuò)過了開搶時(shí)機(jī)。
2、推送的體量大：爆款的神劵，人人都想搶！
然而推送體量又會(huì)影響到推送的實(shí)效性。這真是一個(gè)讓人頭疼的問題！
那就讓我們把問題一個(gè)個(gè)解決掉吧！
推送的實(shí)效性的問題：當(dāng)用戶在領(lǐng)劵中心訂閱了某個(gè)劵的領(lǐng)取提醒后，在后臺(tái)就會(huì)生成一條用戶的訂閱提醒記錄，里面記錄了在哪個(gè)時(shí)間點(diǎn)給用戶發(fā)送推送信息。所以問題就變成了系統(tǒng)如何快速實(shí)時(shí)選出哪些要推送的記錄！
方案1：MQ的延遲投遞。MQ雖然支持消息的延遲投遞但尺度太大1s 5s 10s 30s 1m，用來做精確時(shí)間點(diǎn)投遞不行！并且用戶執(zhí)行訂閱之后又取消訂閱的話，要把發(fā)出去的MQ消息delete掉這個(gè)操作有點(diǎn)頭大，短時(shí)間內(nèi)難以落地！并且用戶可以取消之后再訂閱，這又涉及到去重的問題。所以MQ的方案否掉。
方案2：傳統(tǒng)定時(shí)任務(wù)。這個(gè)相對(duì)來說就簡(jiǎn)單一點(diǎn)，用定時(shí)任務(wù)是去db里面load用戶的訂閱提醒記錄，從中選出當(dāng)前可以推送的記錄。但有句話說得好任何脫離實(shí)際業(yè)務(wù)的設(shè)計(jì)都是耍流氓~。下面我們就分析一下傳統(tǒng)的定時(shí)任務(wù)到底適不適合我們的這個(gè)業(yè)務(wù)!
綜上所述我們就知道了一般傳統(tǒng)的定時(shí)任務(wù)存在以下缺點(diǎn)：
1、性能瓶頸。只有一臺(tái)機(jī)在處理，在大體量數(shù)據(jù)面前力不從心！
2、實(shí)效性差。定時(shí)任務(wù)的頻率不能太高，太高會(huì)業(yè)務(wù)數(shù)據(jù)庫造成很大的壓力！
3、單點(diǎn)故障。萬一跑的那臺(tái)機(jī)掛了，那整個(gè)業(yè)務(wù)不可用了-。- 這是一個(gè)很可怕的事情！
所以傳統(tǒng)定時(shí)任務(wù)也不太適合這個(gè)業(yè)務(wù)。。。
那我們是不是就束手無策了呢？其實(shí)不是的! 我們只要對(duì)傳統(tǒng)的定時(shí)任務(wù)做一個(gè)簡(jiǎn)單的改造！就可以把它變成可以同時(shí)多機(jī)跑,并且實(shí)效性可以精確到秒級(jí)，并且拒絕單點(diǎn)故障的定時(shí)任務(wù)集群！這其中就要借助我們的強(qiáng)大的redis了。
方案3：定時(shí)任務(wù)集群
首先我們要定義定時(shí)任務(wù)集群要解決的三個(gè)問題！
1、實(shí)效性要高
2、吞吐量要大
3、服務(wù)要穩(wěn)定，不能有單點(diǎn)故障
下面是整個(gè)定時(shí)任務(wù)集群的架構(gòu)圖。
架構(gòu)很簡(jiǎn)單：我們把用戶的訂閱推送記錄存儲(chǔ)到redis集群的sortedSet隊(duì)列里面,并且以提醒用戶提醒時(shí)間戳作為score值，然后在我們個(gè)每業(yè)務(wù)server里面起一個(gè)定時(shí)器頻率是秒級(jí)，我的設(shè)定就是1s，然后經(jīng)過負(fù)載均衡之后從某個(gè)隊(duì)列里面獲取要推送的用戶記錄進(jìn)行推送。下面我們分析以下這個(gè)架構(gòu)
1、性能：除去帶寬等其它因素，基本與機(jī)器數(shù)成線性相關(guān)。機(jī)器數(shù)量越多吞吐量越大，機(jī)器數(shù)量少時(shí)相對(duì)的吞吐量就減少。
2、實(shí)效性：提高到了秒級(jí)，效果還可以接受。
3、單點(diǎn)故障？不存在的！除非redis集群或者所有server全掛了。。。。
這里解析一下為什么用redis？
第一redis 可以作為一個(gè)高性能的存儲(chǔ)db，性能要比MySQL好很多，并且支持持久化，穩(wěn)定性好。
第二redis SortedSet隊(duì)列天然支持以時(shí)間作為條件排序，完美滿足我們選出要推送的記錄。
ok~既然方案已經(jīng)有了那如何在一天時(shí)間內(nèi)把這個(gè)方案落地呢？是的我設(shè)計(jì)出這個(gè)方案到基本編碼完成，時(shí)間就是一天。。。因?yàn)闀r(shí)間太趕鳥。
首先我們以u(píng)ser_id作為key，然后mod隊(duì)列數(shù)hash到redis SortedSet隊(duì)列里面。為什么要這樣呢，因?yàn)槿绻脩敉瑫r(shí)訂閱了兩張劵并且推送時(shí)間很近，這樣的兩條推送就可以合并成一條~，并且這樣hash也相對(duì)均勻。下面是部分代碼的截圖：
然后要決定隊(duì)列的數(shù)量，一般正常來說我們有多少臺(tái)處理的服務(wù)器就定義多少條隊(duì)列。因?yàn)殛?duì)列太少，會(huì)造成隊(duì)列競(jìng)爭(zhēng)，太多可能會(huì)導(dǎo)致記錄得不到及時(shí)處理。
然而最佳實(shí)踐是隊(duì)列數(shù)量應(yīng)該是可動(dòng)態(tài)配置化的，因?yàn)榫€上的集群機(jī)器數(shù)是會(huì)經(jīng)常變的。大促的時(shí)候我們會(huì)加機(jī)器是不是，并且業(yè)務(wù)量增長(zhǎng)了，機(jī)器數(shù)也是會(huì)增加是不是~。所以我是借用了淘寶的diamond進(jìn)行隊(duì)列數(shù)的動(dòng)態(tài)配置。
我們每次從隊(duì)列里面取多少條記錄也是可以動(dòng)態(tài)配置的
這樣就可以隨時(shí)根據(jù)實(shí)際的生產(chǎn)情況調(diào)整整個(gè)集群的吞吐量~。 所以我們的定時(shí)任務(wù)集群還是具有一個(gè)特性就是支持動(dòng)態(tài)調(diào)整~。
最后一個(gè)關(guān)鍵組件就是負(fù)載均衡了。這個(gè)是非常重要的！因?yàn)檫@個(gè)做得不好就會(huì)可能導(dǎo)致多臺(tái)機(jī)競(jìng)爭(zhēng)同時(shí)處理一個(gè)隊(duì)列，影響整個(gè)集群的效率！在時(shí)間很緊的情況下我就用了一個(gè)簡(jiǎn)單實(shí)用的利用redis一個(gè)自增key 然后 mod 隊(duì)列數(shù)量算法。這樣就很大程度上就保證不會(huì)有兩臺(tái)機(jī)器同時(shí)去競(jìng)爭(zhēng)一條隊(duì)列~.
最后我們算一下整個(gè)集群的吞吐量
10（機(jī)器數(shù)） * 2000（一次拉取數(shù)） = 20000。然后以MQ的形式把消息推送到消息中心，發(fā)MQ是異步的，算上其它處理0.5s。
其實(shí)發(fā)送20W的推送也就是10幾s的事情。
ok~ 到這里我們整個(gè)定時(shí)任務(wù)集群就差不多基本落地好了。如果你問我后面還有什么可以完善的話那就是：
1、加監(jiān)控， 集群怎么可以木有監(jiān)控呢，萬一出問題有任務(wù)堆積怎么辦~
2、加上可視化界面。
3、最好有智能調(diào)度，增加任務(wù)優(yōu)先級(jí)。優(yōu)先級(jí)高的任務(wù)先運(yùn)行嘛。
4、資源調(diào)度，萬一機(jī)器數(shù)量不夠，力不從心，優(yōu)先保證重要任務(wù)執(zhí)行。
目前項(xiàng)目已上前線，運(yùn)行平穩(wěn)~。
喜歡文章記得點(diǎn)個(gè)贊，感謝支持！
創(chuàng)新互聯(lián)www.cdcxhl.cn，專業(yè)提供香港、美國(guó)云服務(wù)器，動(dòng)態(tài)BGP最優(yōu)骨干路由自動(dòng)選擇，持續(xù)穩(wěn)定高效的網(wǎng)絡(luò)助力業(yè)務(wù)部署。公司持有工信部辦法的idc、isp許可證， 機(jī)房獨(dú)有T級(jí)流量清洗系統(tǒng)配攻擊溯源，準(zhǔn)確進(jìn)行流量調(diào)度，確保服務(wù)器高可用性。佳節(jié)活動(dòng)現(xiàn)已開啟，新人活動(dòng)云服務(wù)器買多久送多久。
重慶分公司
重慶分公司
