創(chuàng)新互聯(lián)www.cdcxhl.cn八線動態(tài)BGP香港云服務(wù)器提供商,新人活動買多久送多久,劃算不套路!
創(chuàng)新互聯(lián)公司成立與2013年,先為大方等服務(wù)建站,大方等地企業(yè),進(jìn)行企業(yè)商務(wù)咨詢服務(wù)。為大方企業(yè)網(wǎng)站制作PC+手機(jī)+微官網(wǎng)三網(wǎng)同步一站式服務(wù)解決您的所有建站問題。這期內(nèi)容當(dāng)中小編將會給大家?guī)碛嘘P(guān)PHP結(jié)合MySQL進(jìn)行千萬級數(shù)據(jù)處理的方法,文章內(nèi)容豐富且以專業(yè)的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。
mysql分表思路
一張一億的訂單表,可以分成五張表,這樣每張表就只有兩千萬數(shù)據(jù),分擔(dān)了原來一張表的壓力,分表需要根據(jù)某個條件進(jìn)行分,這里可以根據(jù)地區(qū)來分表,需要一個中間件來控制到底是去哪張表去找到自己想要的數(shù)據(jù)。
中間件:根據(jù)主表的自增id作為中間件(什么樣的字段適合做中間件?要具備唯一性)
怎么分發(fā)?主表插入之后返回一個id,根據(jù)這個id和表的數(shù)量進(jìn)行取模,余數(shù)是幾就往哪張表中插入數(shù)據(jù)。
注意:子表中的id要與主表的id保持一致
以后只有插入操作會用到主表,修改,刪除,讀取,均不需要用到主表
1,什么是消息隊列?
消息傳播過程中保存消息的容器
2,消息隊列產(chǎn)生的歷史原因
消息隊列的特點:先進(jìn)先出
把要執(zhí)行的sql語句先保存在消息隊列中,然后依次按照順利異步插入的數(shù)據(jù)庫中
應(yīng)用:新浪,把瞬間的評論先放入消息隊列,然后通過定時任務(wù)把消息隊列里面的sql語句依次插入到數(shù)據(jù)庫中
操作子表進(jìn)行修改
這樣修改有一個問題,主表和子表的數(shù)據(jù)會出現(xiàn)不一致,如何讓主表和字表數(shù)據(jù)一致?
redis隊列保持主表子表數(shù)據(jù)一致修改完成后將要修改主表的數(shù)據(jù),存入redis隊列中
然后linux定時任務(wù)(contble)循環(huán)執(zhí)行redis隊列中的sql語句,同步更新主表的內(nèi)容
mysql分布式之分表(查,刪)查詢只需要查詢子表,不要查詢總表
刪除,先根據(jù)id找到要刪除的子表,然后刪除,然后往消息隊列中壓入一條刪除總表數(shù)據(jù)的sql語句
然后執(zhí)行定時任務(wù)刪除總表數(shù)據(jù)
定時任務(wù):
mysql分布式之分庫分庫思路分庫原理圖:
mysql分布式之分庫(增)
注意:操作完一個數(shù)據(jù)庫一定要把數(shù)據(jù)庫連接關(guān)閉,不然mysql會以為一直連接的同一個數(shù)據(jù)庫
還是取模確定加載哪個配置文件連接哪個數(shù)據(jù)庫
mysql分布式之分庫(改)原理同新增
mysql分布式之分庫(查,刪)原理類似
刪除
執(zhí)行隊列
將數(shù)據(jù)放入緩存中,節(jié)省數(shù)據(jù)庫開銷,先去緩存中查,如果有直接取出,如果沒有,去數(shù)據(jù)庫查,然后存入緩存中
在編輯信息之后需要刪除緩存,不然一直讀取的是緩存的數(shù)據(jù)而不是修改過的數(shù)據(jù)
上述就是小編為大家分享的PHP結(jié)合MySQL進(jìn)行千萬級數(shù)據(jù)處理的方法了,如果剛好有類似的疑惑,不妨參照上述分析進(jìn)行理解。如果想知道更多相關(guān)知識,歡迎關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司行業(yè)資訊頻道。