真实的国产乱ⅩXXX66竹夫人,五月香六月婷婷激情综合,亚洲日本VA一区二区三区,亚洲精品一区二区三区麻豆

成都創(chuàng)新互聯(lián)網(wǎng)站制作重慶分公司

高并發(fā)場景下緩存+數(shù)據(jù)庫雙寫不一致的問題分析與解決方案

這期內(nèi)容當(dāng)中小編將會(huì)給大家?guī)碛嘘P(guān)高并發(fā)場景下緩存+數(shù)據(jù)庫雙寫不一致的問題分析與解決方案,文章內(nèi)容豐富且以專業(yè)的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。

成都創(chuàng)新互聯(lián)公司專業(yè)提供成都主機(jī)托管四川主機(jī)托管成都服務(wù)器托管四川服務(wù)器托管,支持按月付款!我們的承諾:貴族品質(zhì)、平民價(jià)格,機(jī)房位于中國電信/網(wǎng)通/移動(dòng)機(jī)房,川西大數(shù)據(jù)中心服務(wù)有保障!

redis是企業(yè)級(jí)系統(tǒng)高并發(fā)、高可用架構(gòu)中非常重要的一個(gè)環(huán)節(jié)。Redis主要解決了關(guān)系型數(shù)據(jù)庫并發(fā)量低的問題,有助于緩解關(guān)系型數(shù)據(jù)庫在高并發(fā)場景下的壓力,提高系統(tǒng)的吞吐量(具體Redis是如何提高系統(tǒng)的性能、吞吐量,后面會(huì)專門講)。

而我們?cè)赗edis的實(shí)際使用過程中,難免會(huì)遇到緩存與數(shù)據(jù)庫雙寫時(shí)數(shù)據(jù)不一致的問題,這也是我們必須要考慮的問題。如果還有同學(xué)不了解這個(gè)問題,可以搬小板凳來聽聽啦。

 

一、數(shù)據(jù)庫+緩存雙寫不一致問題引入

要講數(shù)據(jù)庫+緩存雙寫不一致的問題,就需要先講一下這個(gè)問題是怎么發(fā)生的。我們選擇電商系統(tǒng)中要求數(shù)據(jù)實(shí)時(shí)性較高的庫存服務(wù)來舉例講講這個(gè)問題。

庫存可能會(huì)修改,每次修改數(shù)據(jù)庫的同時(shí)也都要去更新這個(gè)緩存數(shù)據(jù);;每次庫存的數(shù)據(jù),在緩存中一旦過期,或者是被清理掉了,前端對(duì)庫存數(shù)據(jù)的請(qǐng)求都會(huì)發(fā)送給庫存服務(wù),去獲取相應(yīng)的數(shù)據(jù)。

庫存這一塊,寫數(shù)據(jù)庫的時(shí)候,直接更新redis緩存嗎?實(shí)際上不是,因?yàn)闆]有這么簡單。這里,其實(shí)就涉及到了一個(gè)問題,數(shù)據(jù)庫與緩存雙寫,數(shù)據(jù)不一致的問題。圍繞和結(jié)合實(shí)時(shí)性較高的庫存服務(wù),把數(shù)據(jù)庫與緩存雙寫不一致問題以及其解決方案,給大家分享一下。

 

二、各種級(jí)別的不一致問題及解決方案

 

1.最初級(jí)的緩存不一致問題及解決方案

問題

如果是先修改數(shù)據(jù)庫,再刪除緩存的方案,會(huì)有問題,試想,如果刪除緩存失敗了,那么會(huì)導(dǎo)致數(shù)據(jù)庫中是新數(shù)據(jù),緩存中是舊數(shù)據(jù),出現(xiàn)數(shù)據(jù)不一致的情況。

解決思路

反過來,先刪除緩存,再修改數(shù)據(jù)庫。讀緩存讀不到,查數(shù)據(jù)庫更新緩存的時(shí)候就拿到了最新的庫存數(shù)據(jù)。如果刪除緩存成功了,而修改數(shù)據(jù)庫失敗了,那么數(shù)據(jù)庫中依舊是舊數(shù)據(jù),緩存中是空的,那么數(shù)據(jù)不會(huì)不一致。因?yàn)樽x的時(shí)候緩存沒有,則讀數(shù)據(jù)庫中舊數(shù)據(jù),然后更新到緩存中。

 

2.比較復(fù)雜的數(shù)據(jù)不一致問題分析

當(dāng)庫存數(shù)據(jù)發(fā)生了變更,我們先刪除了緩存,然后要去修改數(shù)據(jù)庫。

設(shè)想一下,如果這個(gè)時(shí)候修改數(shù)據(jù)庫的操作還沒來及完成,突然一個(gè)請(qǐng)求過來,去讀緩存,發(fā)現(xiàn)緩存空了,去查詢數(shù)據(jù)庫,查到了修改前的舊數(shù)據(jù),放到了緩存中。

數(shù)據(jù)變更的操作完成后數(shù)據(jù)庫的庫存被修改成了新值,但緩存中又變成了舊數(shù)據(jù)。那么這個(gè)時(shí)候是不是還會(huì)出現(xiàn)緩存和數(shù)據(jù)庫不一致的情況?

 

3.為何上億流量高并發(fā)時(shí)會(huì)出現(xiàn)該問題?

上述問題,只有在對(duì)一個(gè)數(shù)據(jù)在并發(fā)的進(jìn)行讀寫的時(shí)候,才可能會(huì)出現(xiàn)。

其實(shí)如果并發(fā)量很低的話,特別是讀并發(fā)很低,每天訪問量就1萬次,那么很少的情況下,會(huì)出現(xiàn)剛才描述的那種不一致的場景。

但是問題是,高并發(fā)了以后,問題是很多的。如果每天的是上億的流量,每秒并發(fā)讀是幾萬,每秒只要有數(shù)據(jù)更新的請(qǐng)求,就可能會(huì)出現(xiàn)上述的數(shù)據(jù)庫+緩存不一致的情況。

怎么解決?

 

4.更新與讀取操作進(jìn)行異步串行化

這里說一種解決方案。

不就是還沒更新數(shù)據(jù)庫的就查數(shù)據(jù)庫讀到舊數(shù)據(jù)嗎?不就是因?yàn)樽x在更新前面了嗎?那我就讓你排隊(duì)執(zhí)行唄。

 
4.1 異步串行化

我在系統(tǒng)內(nèi)部維護(hù)n個(gè)內(nèi)存隊(duì)列,更新數(shù)據(jù)的時(shí)候,根據(jù)數(shù)據(jù)的唯一標(biāo)識(shí),將該操作路由之后,發(fā)送到其中一個(gè)jvm內(nèi)部的內(nèi)存隊(duì)列中(對(duì)同一數(shù)據(jù)的請(qǐng)求發(fā)送到同一個(gè)隊(duì)列)。讀取數(shù)據(jù)的時(shí)候,如果發(fā)現(xiàn)數(shù)據(jù)不在緩存中,并且此時(shí)隊(duì)列里有更新庫存的操作,那么將重新讀取數(shù)據(jù)+更新緩存的操作,根據(jù)唯一標(biāo)識(shí)路由之后,也將發(fā)送到同一個(gè)jvm內(nèi)部的內(nèi)存隊(duì)列中。然后每個(gè)隊(duì)列對(duì)應(yīng)一個(gè)工作線程,每個(gè)工作線程串行地拿到對(duì)應(yīng)的操作,然后一條一條的執(zhí)行。

這樣的話,一個(gè)數(shù)據(jù)變更的操作,先執(zhí)行刪除緩存,然后再去更新數(shù)據(jù)庫,但是還沒完成更新的時(shí)候,如果此時(shí)一個(gè)讀請(qǐng)求過來,讀到了空的緩存,那么可以先將緩存更新的請(qǐng)求發(fā)送到隊(duì)列中,此時(shí)會(huì)在隊(duì)列中積壓,排在剛才更新庫的操作之后,然后同步等待緩存更新完成,再讀庫。

 
4.2 讀操作去重

多個(gè)讀庫更新緩存的請(qǐng)求串在同一個(gè)隊(duì)列中是沒意義的,因此可以做過濾,如果發(fā)現(xiàn)隊(duì)列中已經(jīng)有了該數(shù)據(jù)的更新緩存的請(qǐng)求了,那么就不用再放進(jìn)去了,直接等待前面的更新操作請(qǐng)求完成即可,待那個(gè)隊(duì)列對(duì)應(yīng)的工作線程完成了上一個(gè)操作(數(shù)據(jù)庫的修改)之后,才會(huì)去執(zhí)行下一個(gè)操作(讀庫更新緩存),此時(shí)會(huì)從數(shù)據(jù)庫中讀取最新的值,然后寫入緩存中。

如果請(qǐng)求還在等待時(shí)間范圍內(nèi),不斷輪詢發(fā)現(xiàn)可以取到值了,那么就直接返回;如果請(qǐng)求等待的時(shí)間超過一定時(shí)長,那么這一次直接從數(shù)據(jù)庫中讀取當(dāng)前的舊值。(返回舊值不是又導(dǎo)致緩存和數(shù)據(jù)庫不一致了么?那至少可以減少這個(gè)情況發(fā)生,因?yàn)榈却瑫r(shí)也不是每次都是,幾率很小吧。這里我想的是,如果超時(shí)了就直接讀舊值,這時(shí)候僅僅是讀庫后返回而不放緩存)

 

5.高并發(fā)的場景下,該方案要注意的問題

高并發(fā)的場景下,該解決方案其實(shí)還是有一些問題需要特別注意的。

 
5.1 讀請(qǐng)求長時(shí)阻塞

由于讀請(qǐng)求進(jìn)行了非常輕度的異步化,所以一定要注意讀超時(shí)的問題,每個(gè)讀請(qǐng)求必須在超時(shí)時(shí)間范圍內(nèi)返回。

該解決方案,最大的風(fēng)險(xiǎn)點(diǎn)在于,數(shù)據(jù)更新很頻繁的情況下導(dǎo)致隊(duì)列中積壓了大量更新操作在里面,然后讀請(qǐng)求會(huì)發(fā)生大量的超時(shí),最后導(dǎo)致大量的請(qǐng)求直接走數(shù)據(jù)庫取到了舊值。所以,務(wù)必通過一些模擬真實(shí)的測試,看看更新數(shù)據(jù)頻繁的場景下是怎樣的。

另外一點(diǎn),因?yàn)橐粋€(gè)隊(duì)列中,可能會(huì)積壓針對(duì)多個(gè)數(shù)據(jù)項(xiàng)的更新操作,因此需要根據(jù)自己的業(yè)務(wù)情況進(jìn)行測試,確定一個(gè)實(shí)例中創(chuàng)建多少個(gè)內(nèi)存隊(duì)列,且可能需要部署多個(gè)服務(wù),每個(gè)服務(wù)分?jǐn)傄恍?shù)據(jù)的更新操作。

如果一個(gè)內(nèi)存隊(duì)列里積壓100個(gè)商品的庫存修改操作,每個(gè)庫存修改操作要耗費(fèi)10ms去完成,那么最后一個(gè)商品的讀請(qǐng)求,可能等待10 * 100 = 1000ms = 1s后,才能得到數(shù)據(jù)。

這個(gè)時(shí)候就導(dǎo)致讀請(qǐng)求的長時(shí)阻塞。

一定要做根據(jù)實(shí)際業(yè)務(wù)系統(tǒng)的運(yùn)行情況,去進(jìn)行一些壓力測試,和模擬線上環(huán)境,去看看最繁忙的時(shí)候,內(nèi)存隊(duì)列可能會(huì)擠壓多少更新操作,可能會(huì)導(dǎo)致最后一個(gè)更新操作對(duì)應(yīng)的讀請(qǐng)求,會(huì)hang多少時(shí)間。如果讀請(qǐng)求在200ms返回,而且你計(jì)算過后,哪怕是最繁忙的時(shí)候,積壓10個(gè)更新操作,最多等待200ms,那還可以的。

如果一個(gè)內(nèi)存隊(duì)列可能積壓的更新操作特別多,那么你就要加機(jī)器,讓每個(gè)機(jī)器上部署的服務(wù)實(shí)例處理更少的數(shù)據(jù),那么每個(gè)內(nèi)存隊(duì)列中積壓的更新操作就會(huì)越少。

Tips:
其實(shí)根據(jù)之前的項(xiàng)目經(jīng)驗(yàn),一般來說數(shù)據(jù)的寫頻率是很低的,因此實(shí)際上正常來說,在隊(duì)列中積壓的更新操作應(yīng)該是很少的。

針對(duì)讀高并發(fā),讀緩存架構(gòu)的項(xiàng)目,一般寫請(qǐng)求相對(duì)讀來說,是非常非常少的,每秒的QPS能到幾百就不錯(cuò)了。

假如一秒500的寫操作,可以看成5份,每200ms就100個(gè)寫操作。對(duì)于單機(jī)器,如果有20個(gè)內(nèi)存隊(duì)列,每個(gè)內(nèi)存隊(duì)列,可能就積壓5個(gè)寫操作,每個(gè)寫操作性能測試后,一般在20ms左右就完成。

那么針對(duì)每個(gè)內(nèi)存隊(duì)列中的數(shù)據(jù)的讀請(qǐng)求,也就最多hang一會(huì)兒,200ms以內(nèi)肯定能返回了。

假如寫QPS擴(kuò)大10倍,但是經(jīng)過剛才的測算,就知道,單機(jī)支撐寫QPS幾百?zèng)]問題,那么就擴(kuò)容機(jī)器,擴(kuò)容10倍的機(jī)器,10臺(tái)機(jī)器,每個(gè)機(jī)器20個(gè)隊(duì)列,200個(gè)隊(duì)列。

大部分的情況下,應(yīng)該是這樣的:大量的讀請(qǐng)求過來,都是直接走緩存取到數(shù)據(jù)的。少量情況下,可能遇到讀和數(shù)據(jù)更新沖突的情況。如上所述,那么此時(shí)更新操作如果先入隊(duì)列,之后可能會(huì)瞬間來了對(duì)這個(gè)數(shù)據(jù)大量的讀請(qǐng)求,但是因?yàn)樽隽巳ブ氐膬?yōu)化,所以也就一個(gè)更新緩存的操作跟在它后面。

等數(shù)據(jù)更新完了,讀請(qǐng)求觸發(fā)的緩存更新操作也完成,然后臨時(shí)等待的讀請(qǐng)求全部可以讀到緩存中的數(shù)據(jù)。

 
5.2 讀請(qǐng)求并發(fā)量過高

這里還必須做好壓力測試,確保恰巧碰上上述情況的時(shí)候,還有一個(gè)風(fēng)險(xiǎn),就是突然間大量讀請(qǐng)求會(huì)在幾十毫秒的延時(shí)hang在服務(wù)上,看服務(wù)能不能抗的住,需要多少機(jī)器才能抗住最大的極限情況的峰值。

但是因?yàn)椴⒉皇撬械臄?shù)據(jù)都在同一時(shí)間更新,緩存也不會(huì)同一時(shí)間失效,所以每次可能也就是少數(shù)數(shù)據(jù)的緩存失效了,然后那些數(shù)據(jù)對(duì)應(yīng)的讀請(qǐng)求過來,并發(fā)量應(yīng)該也不會(huì)特別大。

Tips:
如果按1:99的比例計(jì)算寫和讀的請(qǐng)求,那么每秒5萬的讀QPS,可能只有500次更新操作。
如果一秒有500的寫QPS,那么要測算好,可能寫操作影響的數(shù)據(jù)有500條,這500條數(shù)據(jù)在緩存中失效后,可能導(dǎo)致多少讀緩存的請(qǐng)求,發(fā)送讀請(qǐng)求到庫存服務(wù)來,要求更新緩存。

一般來說,按1:2的話,每秒鐘有1000個(gè)讀請(qǐng)求去讀這500個(gè)正在更新庫的數(shù)據(jù),就會(huì)有1000個(gè)請(qǐng)求hang在庫存服務(wù)上,如果規(guī)定每個(gè)請(qǐng)求200ms就返回,那么每個(gè)讀請(qǐng)求最多hang多少時(shí)間,這個(gè)一定要測算好。

在同一時(shí)間最多hang住的可能也就是單機(jī)200個(gè)讀請(qǐng)求,最壞的同時(shí)hang住,單機(jī)hang200個(gè)讀請(qǐng)求,還是ok的。

但是假如1:20,每秒更新500條數(shù)據(jù),這500秒數(shù)據(jù)對(duì)應(yīng)的讀請(qǐng)求,會(huì)有20 * 500 = 1萬,1萬個(gè)讀請(qǐng)求全部hang在庫存服務(wù)上,就死定了。

 
5.3 多服務(wù)實(shí)例部署的請(qǐng)求路由

可能這個(gè)庫存服務(wù)部署了多個(gè)實(shí)例,那么必須保證說,執(zhí)行數(shù)據(jù)更新操作,以及執(zhí)行緩存更新操作的請(qǐng)求,對(duì)于同一商品的讀寫請(qǐng)求全部路由到同一臺(tái)機(jī)器上??梢宰约喝プ龇?wù)間的按照某個(gè)請(qǐng)求的參數(shù)做hash路由,也可以通過nginx服務(wù)器hash路由的功能路由到相同的服務(wù)實(shí)例上。

 
5.4 熱點(diǎn)商品的路由問題,導(dǎo)致請(qǐng)求的傾斜

萬一某個(gè)商品的讀寫請(qǐng)求特別高,全部打到相同的機(jī)器的相同的隊(duì)列里面去了,可能造成某臺(tái)機(jī)器的壓力過大。

但是因?yàn)橹挥性谏唐窋?shù)據(jù)更新的時(shí)候才會(huì)清空緩存,然后才會(huì)導(dǎo)致讀寫并發(fā),所以更新頻率不是太高的話,這個(gè)問題的影響并不是特別大。

但是的確可能某些機(jī)器的負(fù)載會(huì)高一些。

 

一般來說,就是如果你的系統(tǒng)不是嚴(yán)格要求緩存+數(shù)據(jù)庫必須一致性的話,緩存可以稍微的跟數(shù)據(jù)庫偶爾有不一致的情況,那最好不要上述的串行化的這個(gè)方案,因?yàn)樽x請(qǐng)求和寫請(qǐng)求串行化,串到一個(gè)內(nèi)存隊(duì)列里去,這樣是可以保證一定不會(huì)出現(xiàn)不一致的情況。但是,串行化之后,就會(huì)導(dǎo)致系統(tǒng)的吞吐量會(huì)大幅度的降低,你就需要用比正常情況下多幾倍的機(jī)器去支撐線上的一個(gè)請(qǐng)求。

上述就是小編為大家分享的高并發(fā)場景下緩存+數(shù)據(jù)庫雙寫不一致的問題分析與解決方案了,如果剛好有類似的疑惑,不妨參照上述分析進(jìn)行理解。如果想知道更多相關(guān)知識(shí),歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道。


文章題目:高并發(fā)場景下緩存+數(shù)據(jù)庫雙寫不一致的問題分析與解決方案
網(wǎng)頁鏈接:http://weahome.cn/article/geocjd.html

其他資訊

在線咨詢

微信咨詢

電話咨詢

028-86922220(工作日)

18980820575(7×24)

提交需求

返回頂部