溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

MySQL中如何實(shí)現(xiàn)分庫(kù)分表

發(fā)布時(shí)間:2021-08-04 17:30:53 來源:億速云 閱讀:298 作者:Leah 欄目:數(shù)據(jù)庫(kù)

本篇文章為大家展示了MySQL中如何實(shí)現(xiàn)分庫(kù)分表,內(nèi)容簡(jiǎn)明扼要并且容易理解,絕對(duì)能使你眼前一亮,通過這篇文章的詳細(xì)介紹希望你能有所收獲。

一、    背景介紹

1.大數(shù)據(jù)量的存儲(chǔ)需要大量的資源;

2.?dāng)?shù)據(jù)量的不斷增長(zhǎng)要求數(shù)據(jù)庫(kù)存儲(chǔ)具有可擴(kuò)展性;

3.在保證大數(shù)據(jù)量的情況下,要保證性能、高可用性等質(zhì)量要求;

4.現(xiàn)有框架中沒有徹底解決大數(shù)據(jù)量的存儲(chǔ)問題;

5.等海量存儲(chǔ)方案價(jià)格不菲,采用MySQL進(jìn)行分庫(kù)分表節(jié)約IT成本。

二、    可行性分析

1.     風(fēng)險(xiǎn)評(píng)估

1)       DBA數(shù)據(jù)庫(kù)管理的資源和規(guī)范要求;

2.    業(yè)務(wù)數(shù)據(jù)量規(guī)模和變化的影響

1)       對(duì)于事先可規(guī)劃的中等以上數(shù)據(jù)規(guī)模,采用單庫(kù)分表(一個(gè)數(shù)據(jù)庫(kù)實(shí)例,分多張表)、讀寫分離、或者多庫(kù)多表(多個(gè)數(shù)據(jù)庫(kù)實(shí)例,多張表)可以滿足業(yè)務(wù)需求,且相應(yīng)設(shè)計(jì)和實(shí)現(xiàn)相對(duì)簡(jiǎn)單,不易出錯(cuò)。

2)       對(duì)于初期數(shù)據(jù)規(guī)模不可準(zhǔn)確預(yù)知,但隨著業(yè)務(wù)發(fā)展數(shù)據(jù)規(guī)模不斷增長(zhǎng)的系統(tǒng),要求數(shù)據(jù)存儲(chǔ)具有可擴(kuò)展性。這種可擴(kuò)展性通過分庫(kù)分表解決,要求分庫(kù)分表在路由上具有極強(qiáng)的伸縮性,這也是分庫(kù)分表的難點(diǎn),本方案提出一個(gè)循序漸進(jìn)的實(shí)現(xiàn)路線逐步解決這個(gè)問題。

3.    技術(shù)積累

1)       公司已有簡(jiǎn)單的分庫(kù)分表方案

2)       這個(gè)方案缺乏擴(kuò)展性

3)       本方案將提出短期實(shí)現(xiàn)一定擴(kuò)展性、中長(zhǎng)期高可擴(kuò)展性的方案

4.    開源或產(chǎn)品

1)       商業(yè)版數(shù)據(jù)庫(kù)Sharding:MySQL Proxy,提供MySQL協(xié)議接口(非JDBC),主從結(jié)構(gòu),可以負(fù)載平衡,讀寫分離,failover等,lua語法復(fù)雜,不支持大數(shù)據(jù)量的分庫(kù)分表;

2)       Amoeba,支持分?jǐn)?shù)據(jù)庫(kù)實(shí)例,每個(gè)數(shù)據(jù)相同的表,不支持事務(wù);類似MySQL Proxy,設(shè)計(jì)上拋棄lua,更簡(jiǎn)單;

3)       阿里集團(tuán)研究院開源的CobarClient,主要面向小規(guī)模的數(shù)據(jù)庫(kù)sharding集群訪問,基于ibatis,需要規(guī)劃數(shù)據(jù)規(guī)模,缺乏擴(kuò)展性;另外有Cobar,阿里集團(tuán)內(nèi)部的一個(gè)完整DAL層,實(shí)現(xiàn)完整JDBC代理;

4)       HibernateShards,Hibernate提供的sharding,支持分?jǐn)?shù)據(jù)庫(kù)實(shí)例,比較復(fù)雜,事先規(guī)劃數(shù)據(jù)規(guī)模,和框架不符;

5)       guzz,多庫(kù)(虛擬的數(shù)據(jù)庫(kù),實(shí)際數(shù)據(jù)庫(kù)的路由規(guī)則仍然自定義)、表分切、讀寫分離,以及多臺(tái)數(shù)據(jù)庫(kù)之間透明的分布式事務(wù)支持,設(shè)計(jì)目標(biāo)是支持大型在線生產(chǎn)應(yīng)用;需完全替換ibatis;完全和框架不符。

6)       TDDL,淘寶的DAL,很強(qiáng)的分庫(kù)分表能力,仍然需要數(shù)據(jù)量實(shí)現(xiàn)規(guī)劃,動(dòng)態(tài)擴(kuò)展有限。

7)       以上某些產(chǎn)品在一定程度上可以滿足我們的需求,但不能徹底解決我們大數(shù)據(jù)量可擴(kuò)展的問題。

三、    性能指標(biāo)

1.       和沒有引入分庫(kù)分表時(shí)相比,每次操作最大延遲<1ms;

四、    特性列表和RoadMap

1.     垂直分庫(kù),不同業(yè)務(wù)數(shù)據(jù)使用不同數(shù)據(jù)庫(kù)實(shí)例存儲(chǔ)

2.     數(shù)據(jù)切分:

a)       根據(jù)切分字段Hash取模;

b)       確定需要切分的數(shù)據(jù),盡量將可能進(jìn)行關(guān)聯(lián)的分片數(shù)據(jù)放在一個(gè)數(shù)據(jù)庫(kù)實(shí)例中,例如同一用戶的基本信息、好友信息或者文件信息等;

3.     短期:分庫(kù)分表

a)       數(shù)據(jù)庫(kù)實(shí)例編號(hào)遞增

b)       每個(gè)數(shù)據(jù)庫(kù)內(nèi)分表序號(hào)從1遞增,不全局編號(hào)

c)       基于數(shù)據(jù)源(ibatis基礎(chǔ)上)攔截建立訪問層,應(yīng)用感知

d)       應(yīng)用需在底層進(jìn)行數(shù)據(jù)源、分布式事務(wù)考慮和管理等

e)       可擴(kuò)展性:只支持向上擴(kuò)展,不支持收縮

4.     長(zhǎng)期:數(shù)據(jù)庫(kù)訪問層

a)       建立靈活的數(shù)據(jù)切分和路由規(guī)則

b)       支持MySQL集群

c)       讀寫分離和負(fù)載均衡

d)       可用性探測(cè)

e)       分布式事務(wù)

f)        對(duì)應(yīng)用透明

上述內(nèi)容就是MySQL中如何實(shí)現(xiàn)分庫(kù)分表,你們學(xué)到知識(shí)或技能了嗎?如果還想學(xué)到更多技能或者豐富自己的知識(shí)儲(chǔ)備,歡迎關(guān)注億速云行業(yè)資訊頻道。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI