溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

mysql適合分表的情況有哪些

發(fā)布時間:2022-06-28 11:43:51 來源:億速云 閱讀:343 作者:iii 欄目:MySQL數(shù)據(jù)庫

今天小編給大家分享一下mysql適合分表的情況有哪些的相關(guān)知識點,內(nèi)容詳細,邏輯清晰,相信大部分人都還太了解這方面的知識,所以分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后有所收獲,下面我們一起來了解一下吧。

mysql中適合分表的情況:1、數(shù)據(jù)量過大,正常運維影響業(yè)務(wù)訪問時,例如對數(shù)據(jù)庫進行備份需要大量的磁盤IO和網(wǎng)絡(luò)IO、對一個表進行DDL修改會鎖住全表、對大表進行訪問與更新出現(xiàn)鎖等待;2、隨著業(yè)務(wù)發(fā)展,需要對某些字段垂直拆分;3、單表中的數(shù)據(jù)量快速增長,當性能接近瓶頸時,就需要考慮水平切分。

本教程操作環(huán)境:windows7系統(tǒng)、mysql8版本、Dell G3電腦。

并不是所有表都需要進行切分,主要還是看數(shù)據(jù)的增長速度。切分后會在某種程度上提升業(yè)務(wù)的復(fù)雜度,數(shù)據(jù)庫除了承載數(shù)據(jù)的存儲和查詢外,協(xié)助業(yè)務(wù)更好的實現(xiàn)需求也是其重要工作之一。

不到萬不得已不用輕易使用分庫分表這個大招,避免"過度設(shè)計"和"過早優(yōu)化"。分庫分表之前,不要為分而分,先盡力去做力所能及的事情,例如:升級硬件、升級網(wǎng)絡(luò)、讀寫分離、索引優(yōu)化等等。當數(shù)據(jù)量達到單表的瓶頸時候,再考慮分庫分表。

那么mysql中什么時候考慮分表

1、數(shù)據(jù)量過大,正常運維影響業(yè)務(wù)訪問

這里說的運維,指:

  • 對數(shù)據(jù)庫備份,如果單表太大,備份時需要大量的磁盤IO和網(wǎng)絡(luò)IO。例如1T的數(shù)據(jù),網(wǎng)絡(luò)傳輸占50MB時候,需要20000秒才能傳輸完畢,整個過程的風(fēng)險都是比較高的

  • 對一個很大的表進行DDL修改時,MySQL會鎖住全表,這個時間會很長,這段時間業(yè)務(wù)不能訪問此表,影響很大。如果使用pt-online-schema-change,使用過程中會創(chuàng)建觸發(fā)器和影子表,也需要很長的時間。在此操作過程中,都算為風(fēng)險時間。將數(shù)據(jù)表拆分,總量減少,有助于降低這個風(fēng)險。

  • 大表會經(jīng)常訪問與更新,就更有可能出現(xiàn)鎖等待。將數(shù)據(jù)切分,用空間換時間,變相降低訪問壓力

2、隨著業(yè)務(wù)發(fā)展,需要對某些字段垂直拆分

舉個例子,假如項目一開始設(shè)計的用戶表如下:

mysql適合分表的情況有哪些

在項目初始階段,這種設(shè)計是滿足簡單的業(yè)務(wù)需求的,也方便快速迭代開發(fā)。而當業(yè)務(wù)快速發(fā)展時,用戶量從10w激增到10億,用戶非常的活躍,每次登錄會更新 last_login_name 字段,使得 user 表被不斷update,壓力很大。而其他字段:id, name, personal_info 是不變的或很少更新的,此時在業(yè)務(wù)角度,就要將 last_login_time 拆分出去,新建一個 user_time 表。

personal_info 屬性是更新和查詢頻率較低的,并且text字段占據(jù)了太多的空間。這時候,就要對此垂直拆分出 user_ext 表了。

3、數(shù)據(jù)量快速增長

隨著業(yè)務(wù)的快速發(fā)展,單表中的數(shù)據(jù)量會持續(xù)增長,當性能接近瓶頸時,就需要考慮水平切分,做分庫分表了。此時一定要選擇合適的切分規(guī)則,提前預(yù)估好數(shù)據(jù)容量

業(yè)務(wù)案例分析

1、用戶中心業(yè)務(wù)場景

用戶中心是一個非常常見的業(yè)務(wù),主要提供用戶注冊、登錄、查詢/修改等功能,其核心表為:

mysql適合分表的情況有哪些

任何脫離業(yè)務(wù)的架構(gòu)設(shè)計都是耍流氓,在進行分庫分表前,需要對業(yè)務(wù)場景需求進行梳理:

  • 用戶側(cè):前臺訪問,訪問量較大,需要保證高可用和高一致性。主要有兩類需求:


    • 用戶登錄:通過login_name/phone/email查詢用戶信息,1%請求屬于這種類型

    • 用戶信息查詢:登錄之后,通過uid來查詢用戶信息,99%請求屬這種類型

  • 運營側(cè):后臺訪問,支持運營需求,按照年齡、性別、登陸時間、注冊時間等進行分頁的查詢。是內(nèi)部系統(tǒng),訪問量較低,對可用性、一致性的要求不高。

2、水平切分方法

當數(shù)據(jù)量越來越大時,需要對數(shù)據(jù)庫進行水平切分,上文描述的切分方法有"根據(jù)數(shù)值范圍"和"根據(jù)數(shù)值取模"。

"根據(jù)數(shù)值范圍":以主鍵uid為劃分依據(jù),按uid的范圍將數(shù)據(jù)水平切分到多個數(shù)據(jù)庫上。例如:user-db1存儲uid范圍為0~1000w的數(shù)據(jù),user-db2存儲uid范圍為1000w~2000wuid數(shù)據(jù)。

  • 優(yōu)點是:擴容簡單,如果容量不夠,只要增加新db即可。

  • 不足是:請求量不均勻,一般新注冊的用戶活躍度會比較高,所以新的user-db2會比user-db1負載高,導(dǎo)致服務(wù)器利用率不平衡

"根據(jù)數(shù)值取模":也是以主鍵uid為劃分依據(jù),按uid取模的值將數(shù)據(jù)水平切分到多個數(shù)據(jù)庫上。例如:user-db1存儲uid取模得1的數(shù)據(jù),user-db2存儲uid取模得0的uid數(shù)據(jù)。

  • 優(yōu)點是:數(shù)據(jù)量和請求量分布均均勻

  • 不足是:擴容麻煩,當容量不夠時,新增加db,需要rehash。需要考慮對數(shù)據(jù)進行平滑的遷移。

非uid的查詢方法

水平切分后,對于按uid查詢的需求能很好的滿足,可以直接路由到具體數(shù)據(jù)庫。而按非uid的查詢,例如login_name,就不知道具體該訪問哪個庫了,此時需要遍歷所有庫,性能會降低很多。

對于用戶側(cè),可以采用"建立非uid屬性到uid的映射關(guān)系"的方案;對于運營側(cè),可以采用"前臺與后臺分離"的方案。

1、建立非uid屬性到uid的映射關(guān)系

  • 映射關(guān)系

例如:login_name不能直接定位到數(shù)據(jù)庫,可以建立login_name→uid的映射關(guān)系,用索引表或緩存來存儲。當訪問login_name時,先通過映射表查詢出login_name對應(yīng)的uid,再通過uid定位到具體的庫。

映射表只有兩列,可以承載很多數(shù)據(jù),當數(shù)據(jù)量過大時,也可以對映射表再做水平切分。這類kv格式的索引結(jié)構(gòu),可以很好的使用cache來優(yōu)化查詢性能,而且映射關(guān)系不會頻繁變更,緩存命中率會很高。

  • 基因法

分庫基因:假如通過uid分庫,分為8個庫,采用uid%8的方式進行路由,此時是由uid的最后3bit來決定這行User數(shù)據(jù)具體落到哪個庫上,那么這3bit可以看為分庫基因。

2、前臺與后臺分離

對于用戶側(cè),主要需求是以單行查詢?yōu)橹?,需要建立login_name/phone/email到uid的映射關(guān)系,可以解決這些字段的查詢問題。

而對于運營側(cè),很多批量分頁且條件多樣的查詢,這類查詢計算量大,返回數(shù)據(jù)量大,對數(shù)據(jù)庫的性能消耗較高。此時,如果和用戶側(cè)公用同一批服務(wù)或數(shù)據(jù)庫,可能因為后臺的少量請求,占用大量數(shù)據(jù)庫資源,而導(dǎo)致用戶側(cè)訪問性能降低或超時。

這類業(yè)務(wù)最好采用"前臺與后臺分離"的方案,運營側(cè)后臺業(yè)務(wù)抽取獨立的service和db,解決和前臺業(yè)務(wù)系統(tǒng)的耦合。由于運營側(cè)對可用性、一致性的要求不高,可以不訪問實時庫,而是通過binlog異步同步數(shù)據(jù)到運營庫進行訪問。在數(shù)據(jù)量很大的情況下,還可以使用ES搜索引擎或Hive來滿足后臺復(fù)雜的查詢方式。

以上就是“mysql適合分表的情況有哪些”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家閱讀完這篇文章都有很大的收獲,小編每天都會為大家更新不同的知識,如果還想學(xué)習(xí)更多的知識,請關(guān)注億速云行業(yè)資訊頻道。

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI