小編給大家分享一下MongoDB分片鍵的示例分析,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!
成都創(chuàng)新互聯(lián)公司服務(wù)項目包括鯉城網(wǎng)站建設(shè)、鯉城網(wǎng)站制作、鯉城網(wǎng)頁制作以及鯉城網(wǎng)絡(luò)營銷策劃等。多年來,我們專注于互聯(lián)網(wǎng)行業(yè),利用自身積累的技術(shù)優(yōu)勢、行業(yè)經(jīng)驗、深度合作伙伴關(guān)系等,向廣大中小型企業(yè)、政府機構(gòu)等提供互聯(lián)網(wǎng)行業(yè)的解決方案,鯉城網(wǎng)站推廣取得了明顯的社會效益與經(jīng)濟效益。目前,我們服務(wù)的客戶以成都為中心已經(jīng)輻射到鯉城省份的部分城市,未來相信會繼續(xù)擴大服務(wù)區(qū)域并繼續(xù)獲得客戶的支持與信任!
MongoDB版本:3.6
一、分片鍵類別
1.升序片鍵
升序片鍵例如:日期時間字段、自增字段。
2.隨機分發(fā)片鍵
隨機分發(fā)片鍵例如:用戶名、郵件名、UUID、MD5值或者是其它的一些沒有規(guī)律的值的列。
3.基于位置的片鍵
基于位置的片鍵例如:IP、經(jīng)緯度、居住地址等。
二、分片策略
1.范圍分片
創(chuàng)建分片時,只在主分片上創(chuàng)建了一個塊{ "username" : { "$minKey" : 1 } } -->> { "username" : { "$maxKey" : 1 } } on : rs-a Timestamp(1, 0)
。
至少得3個不同的值才會進行塊切分,相同的值只會在一個分片塊中。比如對一個name字段進行范圍分區(qū),如果一直往name字段插入"a",那么它會一直存儲主分片的{ "username" : { "$minKey" : 1 } } -->> { "username" : { "$maxKey" : 1 } }
中,直到name出現(xiàn)三個不同的值,比如“a”,“b”,“c”這個時候就會進行分片。當然這只是測試,現(xiàn)實中不會對這種粗粒度的字段單獨做分片。
2.hashed分片
創(chuàng)建分片時,默認在每個分片上創(chuàng)建了兩個數(shù)據(jù)塊。但是當前每個塊上面是沒有數(shù)據(jù)的。
3.組合分片
組合分片是比較好的一種分片的選擇,好的組合分片可以同時解決熱點和隨機讀IO問題。例如:
sh.shardCollection("test.bbbb",{"username":1,"_id":1});
4.標簽分片
比如對于一些日志非查詢文檔,可以通過標簽將其只插入到某個分片中。例如
sh.addTagRange("test.log",{ "_id" : { "$minKey" : 1 } }, { "_id" : { "$maxKey" : 1 } },"tag_rs-a");
可以在config庫中的tag文檔中查看設(shè)置的標簽信息。
use config db.tags.find();
三、標簽
可以通過標簽將特定范圍的數(shù)據(jù)在指定的分片中。
將{ "_id" : 18000 } -->> { "_id" : 26000 }
范圍的數(shù)據(jù)保存到rs-a的分片上,這部分數(shù)據(jù)跨越了兩個數(shù)據(jù)塊。
1.為分片指定tag
sh.addShardTag("rs-a","tag_rs-a"); sh.addShardTag("rs-b","tag_rs-b"); sh.addShardTag("rs-c","tag_rs-c");
2.創(chuàng)建規(guī)則
sh.addTagRange("test.person",{ "_id" : 18000 }, { "_id" : 26000 },"tag_rs-a");
數(shù)據(jù){ "_id" : 18000 } -->> { "_id" : 26000 }
已經(jīng)被移動到了rs-a分片上。
四、分片案例
分片策略沒有絕對的好壞,針對不同的業(yè)務(wù)場景選擇不同的分片策略。
1.分片情景
1.所有的分片讀寫都均勻。
2.數(shù)據(jù)訪問均勻,而不是隨機性的訪問;由于新數(shù)據(jù)都是先在內(nèi)存中創(chuàng)建,盡量避免需要從磁盤訪問新數(shù)據(jù)。
3.盡量避免由于數(shù)據(jù)塊的數(shù)據(jù)移動導致數(shù)據(jù)從磁盤加載到內(nèi)存中從而導致熱數(shù)據(jù)被清理出內(nèi)存。
4.組合字段分片可能會是理想的分片方案。
分片鍵公式: {coarseLocality:1,search:1}
coarseLocality:應該是一個大粒度的局部字段。比如MONTH月份升序字段。
search:是一個經(jīng)常用來查找的字段。
2.分片案例
案例1.使用日期字段、自增字段、時間戳分片的問題
有一個網(wǎng)站瀏覽記錄表,表中有一個createtime字段用來記錄每天記錄的插入時間。
對于這類文檔不太適合使用createtime字段作為分片字段,因為讀寫可能都會集中在最新的分片上。使用自增字段也存在同樣的問題
案例2.大粒度字段分片問題
有一個五大洲的用戶文檔表,表中有一個continent字段存儲用戶所在洲。
如果使用continent作為分片字段會存在以下幾個問題:
1.分片的粒度太大了,會導致最后每一個分片的數(shù)據(jù)都非常的大而且沒有再分的可能。而且也有可能會導致磁盤空間不夠的情況。
2.可能會導致某個分片在某個時間點的訪問量遠遠大于其他分片。
案例3:使用月份和用戶名進行組合分片
有一個用戶操作記錄集合,業(yè)務(wù)需要查詢用戶最近一個月操作記錄。集合有month,userName鍵
使用{month:1,userName:1}
分片情景如下:
month保證熱數(shù)據(jù)優(yōu)于內(nèi)存。
userName:保證數(shù)據(jù)的隨機性,避免集中過熱問題。
存在的問題:對于新文檔由于很多月份還不存在,會導致新數(shù)據(jù)都是往最后一個分片上面插入數(shù)據(jù),存在熱讀寫問題,最后通過均衡器對數(shù)據(jù)塊進行移動。
數(shù)據(jù)測試
sh.shardCollection("test.news",{"month":1,"username":1 });
----插入1月數(shù)據(jù)10萬記錄
for(var i=0;i<100000;i++){db.news.insert({"_id":i,"month":"1","username":Math.random(),"createdate":new Date()})}
----插入2月數(shù)據(jù)10萬記錄
for(var i=100000;i<200000;i++){ db.news.insert({"_id":i,"month":"2","username":Math.random(),"createdate":new Date()})}
新數(shù)據(jù)往一直往最末尾的分片(rs-a)上插,因為這個時候"month":2在最大的分片上。 { "month" : "1", "username" : 0.9258836896982892 } -->> { "month" : { "$maxKey" : 1 }, "username" : { "$maxKey" : 1 } } on : rs-a Timestamp(3, 1)
數(shù)據(jù)插入完之后均衡器將rs-c上的一個塊分給了rs-a
----插入全部月份數(shù)據(jù)。
for(var a=1;a<13;a++) { for(var i=0;i<20000;i++){ db.news.insert({"month":a,"username":Math.random(),"createdate":new Date()})} }
保證每個月的數(shù)據(jù)都均勻的分布到不同的分片上,并且隨著時間的推移舊的數(shù)據(jù)可能就不會被使用也不會被移動。
注意:這個案例比較特殊,因為對于日志集合比較舊的數(shù)據(jù)基本上是不會被查詢的,所以借助了month鍵作為了分片鍵保證了熱數(shù)據(jù)優(yōu)先存儲于內(nèi)存,對于整張表都是熱數(shù)據(jù)比如登入用戶集合就不適合這種分片方式,hashed會更適合。
案例4:使用隊列
隊列不僅在容災中非常的有用,而且在常規(guī)的突發(fā)流量下也非常的有用。隊列可以吸收短時間內(nèi)爆發(fā)的大量請求。也可以把隊列反過來用,即緩存MongoDB返回的結(jié)果。
比如:RabbitMQ
案例5:使用用戶名和創(chuàng)建時間進行組合分片
用戶名:保證數(shù)據(jù)的隨機性,避免熱點問題
創(chuàng)建時間:保證單個數(shù)據(jù)塊過大問題
五、設(shè)計集合注意事項
1.集合的鍵數(shù)量應該是固定的,包括嵌套文檔的數(shù)量都應該提前規(guī)劃好。
2.盡量都是做原子更新,而不是某個鍵的值受其它鍵值更新的影響。比如num1,num2,total如果num鍵的值是經(jīng)常會被更新的那么這種設(shè)計就不好,因為total也要對應跟著變,而mongodb本身計算能力就很弱。
看完了這篇文章,相信你對“MongoDB分片鍵的示例分析”有了一定的了解,如果想了解更多相關(guān)知識,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,感謝各位的閱讀!