真实的国产乱ⅩXXX66竹夫人,五月香六月婷婷激情综合,亚洲日本VA一区二区三区,亚洲精品一区二区三区麻豆

成都創(chuàng)新互聯(lián)網(wǎng)站制作重慶分公司

Mycat分庫分表的簡單實踐

   MySQL的使用場景中,讀寫分離只是方案中的一部分,想要擴展,勢必會用到分庫分表,可喜的是Mycat里已經(jīng)做到了,今天花時間測試了一下,感覺還不錯。

成都創(chuàng)新互聯(lián)專注為客戶提供全方位的互聯(lián)網(wǎng)綜合服務(wù),包含不限于網(wǎng)站設(shè)計、網(wǎng)站建設(shè)、甕安網(wǎng)絡(luò)推廣、成都小程序開發(fā)、甕安網(wǎng)絡(luò)營銷、甕安企業(yè)策劃、甕安品牌公關(guān)、搜索引擎seo、人物專訪、企業(yè)宣傳片、企業(yè)代運營等,從售前售中售后,我們都將竭誠為您服務(wù),您的肯定,是我們最大的嘉獎;成都創(chuàng)新互聯(lián)為所有大學生創(chuàng)業(yè)者提供甕安建站搭建服務(wù),24小時服務(wù)熱線:028-86922220,官方網(wǎng)址:www.cdcxhl.com

關(guān)于分庫分表

    當然自己也理了一下,分庫分表的這些內(nèi)容,如果分成幾個策略或者階段,大概有下面的幾種。Mycat分庫分表的簡單實踐

最上面的第一種是直接拆表,比如數(shù)據(jù)庫db1下面有test1,test2,test3三個表,通過中間件看到的還是表test,里面的數(shù)據(jù)做了這樣的拆分,能夠咋一定程度上分解壓力,如果細細品來,和分區(qū)表的套路有些像。

  接下來的幾類也是不斷完善,把表test拆解到多個庫中,多個服務(wù)器中,如果做了讀寫分離,全套的方案這樣的拆解改進還是很大的。如此來看,數(shù)據(jù)庫中間件做了很多應(yīng)用和數(shù)據(jù)庫之間的很多事情,能夠流行起來除了技術(shù)原因還是有很多其他的因素。 

分庫分表的測試環(huán)境模擬

  如果要在一臺服務(wù)器上測試分庫分表,而且要求架構(gòu)方案要全面,作為技術(shù)可行性的一個判定參考,是否可以實現(xiàn)呢。

   如果模擬一主兩從的架構(gòu),模擬服務(wù)分布在3臺服務(wù)器上,這樣的方案需要創(chuàng)建9個實例,每個實例上有3個db需要分別拆分。

   大體的配置如下:

  master1:   端口33091  

(m1)slave1: 端口33092

(m1)slave2: 端口33093

   master2:  端口33071

(m2)slave1: 端口33072

(m2)slave2: 端口33073

master3:  端口33061

(m3)slave1: 端口33062

(m3)slave2: 端口33063

畫個圖來說明一下,其中db1,db2,db3下面有若個表,需要做sharding

Mycat分庫分表的簡單實踐

所以我們需要模擬的就是這個事情。

使用Mycat碰到的幾個小問題解惑

使用Mycat的時候碰到了幾個小問題,感覺比較有代表性,記錄了一下。

問題1:

手下是使用Mycat連接到數(shù)據(jù)庫之后,如果不切換到具體的數(shù)據(jù)庫下,使用[數(shù)據(jù)庫名].[表名]的方式會拋出下面的錯誤,可見整個過程中,Mycat攔截了SQL信息做了過濾,在轉(zhuǎn)換的時候找不到目標路由。當然實際使用中,規(guī)范使用肯定不會有這個問題。

mysql> select * from db1.shard_auto;
ERROR 1064 (HY000):  find no Route:select * from db1.shard_auto
問題2:
在配置了sharding策略之后,insert語句拋出了下面的錯誤,這個是對語法的一個基本的要求。
mysql> insert into shard_mod_long values(1,'aa',date);
ERROR 1064 (HY000): partition table, insert must provide ColumnList
問題3:

如果sharding策略配置有誤,很可能出現(xiàn)表訪問正常,但是DML會有問題,提示數(shù)據(jù)沖突了。至于如何配置sharding,下面會講。
mysql> select *from shard_mod_long;
Empty set (0.00 sec)

mysql> insert into shard_mod_long(ID,name,shard_date) values(1,'aa',current_date);
ERROR 1105 (HY000): Duplicate entry '1' for key 'PRIMARY'
問題4:
如果sharding的配置有誤,很可能出現(xiàn)多份冗余數(shù)據(jù)。

查看執(zhí)行計劃就一目了然,通過data_node可以看到數(shù)據(jù)指向了多個目標庫。

mysql> explain insert into shard_auto(ID,name,shard_date) values(1,'aa',current_date);
+-----------+------------------------------------------------+
| DATA_NODE | SQL                                                                    |
+-----------+------------------------------------------------+
| pxcNode11 | insert into shard_auto(ID,name,shard_date) values(1,'aa',current_date) |
| pxcNode21 | insert into shard_auto(ID,name,shard_date) values(1,'aa',current_date) |
| pxcNode31 | insert into shard_auto(ID,name,shard_date) values(1,'aa',current_date) |
+-----------+------------------------------------------------+

這種情況如果有一定的需求還是蠻不錯的,做sharding可惜了。問題就在于下面的這個table配置。

需要去掉 type="global"的屬性,讓它sharding。

Mycat里面的sharding策略

 Mycat的分片策略很豐富,這個是超出自己的預期的,也是Mycat的一大亮點。

大體分片規(guī)則如下,另外還有一些其他分片方式這里不全部列舉:
(1)分片枚舉:sharding-by-intfile
(2)主鍵范圍:auto-sharding-long
(3)一致性hash:sharding-by-murmur
(4)字符串hash解析:sharding-by-stringhash
(5)按日期(天)分片:sharding-by-date
(6)按單月小時拆分:sharding-by-hour
(7)自然月分片:sharding-by-month

在開始之前,我們要創(chuàng)建下面的表來模擬幾個sharding的場景,表名根據(jù)需求可以改變。
create table shard_test(ID int primary key, name varchar(20),shard_date date); 

主鍵范圍分片

主鍵范圍分片是參考了主鍵值,按照主鍵值的分布來分布數(shù)據(jù)庫在不同的庫中,我們現(xiàn)在對應(yīng)的sharding節(jié)點上創(chuàng)建同樣的表結(jié)構(gòu)。

關(guān)于sharding的策略,需要修改rule.xml文件。

常 用的sharding策略已經(jīng)在Mycat里面實現(xiàn)了,如果要自行實現(xiàn)也可以定制。比如下面的規(guī)則,是基于主鍵字段ID來做sharding,分布的算法 是rang-long,引用了function rang-long,這個function是在對應(yīng)的一個Java類中實現(xiàn)的。

       
               
                        ID
                        rang-long
               


                        class="io.mycat.route.function.AutoPartitionByLong">
                autopartition-long.txt
當 然主鍵的范圍是不固定的,可以根據(jù)需求來定制,比如按照一百萬為單位,或者1000位單位,文件是 autopartition-long.txt  文件的內(nèi)容默認如下,模板里是分為了3個分片,如果要定制更多的就需要繼續(xù)配置了,目前來看這個配置只能夠承載15億的數(shù)據(jù)量,可以根據(jù)需求繼續(xù)擴展定 制。           
# range start-end ,data node index
# K=1000,M=10000.
0-500M=0
500M-1000M=1
1000M-1500M=2

插入一些數(shù)據(jù)來驗證一下,我們可以查看執(zhí)行計劃來做基本的驗證,配置無誤,數(shù)據(jù)就根據(jù)規(guī)則流向了指定的數(shù)據(jù)庫下的表里。

mysql> explain insert into shard_auto(ID,name,shard_date) values(1,'aa',current_date);
+-----------+------------------------------------------------+
| DATA_NODE | SQL                                                                    |
+-----------+------------------------------------------------+
| pxcNode11 | insert into shard_auto(ID,name,shard_date) values(1,'aa',current_date) |
+-----------+------------------------------------------------+

還有一個查看sharding效果的小方法,比如我插入一個極大的值,保證和其他數(shù)據(jù)不在一個分片上,我們運行查詢語句兩次,結(jié)果會有點變化。

sharing的效果
mysql> select *from shard_auto;
+---------+------+------------+
| ID      | name | shard_date |
+---------+------+------------+
|       1 | aa   | 2017-09-06 |
|       2 | bb   | 2017-09-06 |
| 5000001 | aa   | 2017-09-06 |
+---------+------+------------+
3 rows in set (0.00 sec)
稍作停頓,繼續(xù)運行。
mysql> select *from shard_auto;
+---------+------+------------+
| ID      | name | shard_date |
+---------+------+------------+
| 5000001 | aa   | 2017-09-06 |
|       1 | aa   | 2017-09-06 |
|       2 | bb   | 2017-09-06 |
+---------+------+------------+
3 rows in set (0.01 sec)

Hash分片

   Hash分片其實企業(yè)級應(yīng)用尤其廣泛,我覺得很的一個原因是通過這種數(shù)據(jù)路由的方式,得到的數(shù)據(jù)情況是基本可控的,和業(yè)務(wù)的關(guān)聯(lián)起來比較直接。很多拆分方法都是根據(jù)mod方法來平均分布數(shù)據(jù)。

  sharding的策略在rule.xml里面配置,還是默認的mod-long規(guī)則,引用了算法mod-long,這里是根據(jù)sharding的節(jié)點數(shù)來做的,默認是3個。

  
               
                        id
                        mod-long
               

       

       
       
               
                3
       

比如查看兩次insert的結(jié)果情況。

mysql> explain insert into shard_mod_long(ID,name,shard_date) values(4,'dd',current_date);
+-----------+------------------------------------------------+
| DATA_NODE | SQL                                                                        |
+-----------+------------------------------------------------+
| pxcNode22 | insert into shard_mod_long(ID,name,shard_date) values(4,'dd',current_date) |
+-----------+------------------------------------------------+

mysql> explain insert into shard_mod_long(ID,name,shard_date) values(5,'ee',current_date);
+-----------+------------------------------------------------+
| DATA_NODE | SQL                                                                        |
+-----------+------------------------------------------------+
| pxcNode23 | insert into shard_mod_long(ID,name,shard_date) values(5,'ee',current_date) |
+-----------+------------------------------------------------+
可以看到數(shù)據(jù)還是遵循了節(jié)點的規(guī)律,平均分布。

  至于schema.xml的配置,是整個分庫的核心,我索性也給出一個配置來,供參考。


   
   

       
       
       


       

       


       
       
       
       

       
       
       
       
                    writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
           
            show slave status
           
           
       

                     writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
           
            show slave status
           
           
       

                    writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
           
            show slave status
           
           
       

 


網(wǎng)頁標題:Mycat分庫分表的簡單實踐
文章鏈接:http://weahome.cn/article/jschso.html

在線咨詢

微信咨詢

電話咨詢

028-86922220(工作日)

18980820575(7×24)

提交需求

返回頂部

    <blockquote id="igcbi"><p id="igcbi"></p></blockquote>