本篇文章為大家展示了MySQL中如何實現(xiàn)分庫分表,內(nèi)容簡明扼要并且容易理解,絕對能使你眼前一亮,通過這篇文章的詳細介紹希望你能有所收獲。
創(chuàng)新互聯(lián)公司是創(chuàng)新、創(chuàng)意、研發(fā)型一體的綜合型網(wǎng)站建設公司,自成立以來公司不斷探索創(chuàng)新,始終堅持為客戶提供滿意周到的服務,在本地打下了良好的口碑,在過去的十年時間我們累計服務了上千家以及全國政企客戶,如成都酒店設計等企業(yè)單位,完善的項目管理流程,嚴格把控項目進度與質(zhì)量監(jiān)控加上過硬的技術實力獲得客戶的一致表揚。
一、 背景介紹
1.大數(shù)據(jù)量的存儲需要大量的資源;
2.數(shù)據(jù)量的不斷增長要求數(shù)據(jù)庫存儲具有可擴展性;
3.在保證大數(shù)據(jù)量的情況下,要保證性能、高可用性等質(zhì)量要求;
4.現(xiàn)有框架中沒有徹底解決大數(shù)據(jù)量的存儲問題;
5.等海量存儲方案價格不菲,采用MySQL進行分庫分表節(jié)約IT成本。
1. 風險評估
1) DBA數(shù)據(jù)庫管理的資源和規(guī)范要求;
2. 業(yè)務數(shù)據(jù)量規(guī)模和變化的影響
1) 對于事先可規(guī)劃的中等以上數(shù)據(jù)規(guī)模,采用單庫分表(一個數(shù)據(jù)庫實例,分多張表)、讀寫分離、或者多庫多表(多個數(shù)據(jù)庫實例,多張表)可以滿足業(yè)務需求,且相應設計和實現(xiàn)相對簡單,不易出錯。
2) 對于初期數(shù)據(jù)規(guī)模不可準確預知,但隨著業(yè)務發(fā)展數(shù)據(jù)規(guī)模不斷增長的系統(tǒng),要求數(shù)據(jù)存儲具有可擴展性。這種可擴展性通過分庫分表解決,要求分庫分表在路由上具有極強的伸縮性,這也是分庫分表的難點,本方案提出一個循序漸進的實現(xiàn)路線逐步解決這個問題。
3. 技術積累
1) 公司已有簡單的分庫分表方案
2) 這個方案缺乏擴展性
3) 本方案將提出短期實現(xiàn)一定擴展性、中長期高可擴展性的方案
4. 開源或產(chǎn)品
1) 商業(yè)版數(shù)據(jù)庫Sharding:MySQL Proxy,提供MySQL協(xié)議接口(非JDBC),主從結(jié)構(gòu),可以負載平衡,讀寫分離,failover等,lua語法復雜,不支持大數(shù)據(jù)量的分庫分表;
2) Amoeba,支持分數(shù)據(jù)庫實例,每個數(shù)據(jù)相同的表,不支持事務;類似MySQL Proxy,設計上拋棄lua,更簡單;
3) 阿里集團研究院開源的CobarClient,主要面向小規(guī)模的數(shù)據(jù)庫sharding集群訪問,基于ibatis,需要規(guī)劃數(shù)據(jù)規(guī)模,缺乏擴展性;另外有Cobar,阿里集團內(nèi)部的一個完整DAL層,實現(xiàn)完整JDBC代理;
4) HibernateShards,Hibernate提供的sharding,支持分數(shù)據(jù)庫實例,比較復雜,事先規(guī)劃數(shù)據(jù)規(guī)模,和框架不符;
5) guzz,多庫(虛擬的數(shù)據(jù)庫,實際數(shù)據(jù)庫的路由規(guī)則仍然自定義)、表分切、讀寫分離,以及多臺數(shù)據(jù)庫之間透明的分布式事務支持,設計目標是支持大型在線生產(chǎn)應用;需完全替換ibatis;完全和框架不符。
6) TDDL,淘寶的DAL,很強的分庫分表能力,仍然需要數(shù)據(jù)量實現(xiàn)規(guī)劃,動態(tài)擴展有限。
7) 以上某些產(chǎn)品在一定程度上可以滿足我們的需求,但不能徹底解決我們大數(shù)據(jù)量可擴展的問題。
1. 和沒有引入分庫分表時相比,每次操作最大延遲<1ms;
1. 垂直分庫,不同業(yè)務數(shù)據(jù)使用不同數(shù)據(jù)庫實例存儲
2. 數(shù)據(jù)切分:
a) 根據(jù)切分字段Hash取模;
b) 確定需要切分的數(shù)據(jù),盡量將可能進行關聯(lián)的分片數(shù)據(jù)放在一個數(shù)據(jù)庫實例中,例如同一用戶的基本信息、好友信息或者文件信息等;
3. 短期:分庫分表
a) 數(shù)據(jù)庫實例編號遞增
b) 每個數(shù)據(jù)庫內(nèi)分表序號從1遞增,不全局編號
c) 基于數(shù)據(jù)源(ibatis基礎上)攔截建立訪問層,應用感知
d) 應用需在底層進行數(shù)據(jù)源、分布式事務考慮和管理等
e) 可擴展性:只支持向上擴展,不支持收縮
4. 長期:數(shù)據(jù)庫訪問層
a) 建立靈活的數(shù)據(jù)切分和路由規(guī)則
b) 支持MySQL集群
c) 讀寫分離和負載均衡
d) 可用性探測
e) 分布式事務
f) 對應用透明
上述內(nèi)容就是MySQL中如何實現(xiàn)分庫分表,你們學到知識或技能了嗎?如果還想學到更多技能或者豐富自己的知識儲備,歡迎關注創(chuàng)新互聯(lián)行業(yè)資訊頻道。