溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

怎么解決數(shù)據(jù)庫分庫分表無限擴容問題

發(fā)布時間:2021-11-06 11:26:36 來源:億速云 閱讀:366 作者:iii 欄目:web開發(fā)

這篇文章主要講解了“怎么解決數(shù)據(jù)庫分庫分表無限擴容問題”,文中的講解內(nèi)容簡單清晰,易于學(xué)習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習“怎么解決數(shù)據(jù)庫分庫分表無限擴容問題”吧!

單體應(yīng)用

每個創(chuàng)業(yè)公司基本都是從類似 SSM 和 SSH 這種架構(gòu)起來的,沒什么好講的,基本每個程序員都經(jīng)歷過。

RPC 應(yīng)用

當業(yè)務(wù)越來越大,我們需要對服務(wù)進行水平擴容,擴容很簡單,只要保證服務(wù)是無狀態(tài)的就可以了,如下圖:

怎么解決數(shù)據(jù)庫分庫分表無限擴容問題

當業(yè)務(wù)又越來越大,我們的服務(wù)關(guān)系錯綜復(fù)雜,同時,有很多服務(wù)訪問都是不需要連接 DB 的,只需要連接緩存即可,那么就可以做成分離的,減少 DB  寶貴的連接。

如下圖:

怎么解決數(shù)據(jù)庫分庫分表無限擴容問題

我相信大部分公司都是在這個階段。Dubbo 就是為了解決這個問題而生的。

分庫分表

如果你的公司產(chǎn)品很受歡迎,業(yè)務(wù)繼續(xù)高速發(fā)展,數(shù)據(jù)越來越多,SQL 操作越來越慢,那么數(shù)據(jù)庫就會成為瓶頸。

那么你肯定會想到分庫分表,不論通過 ID Hash 或者 Range 的方式都可以,如下圖:

怎么解決數(shù)據(jù)庫分庫分表無限擴容問題

這下應(yīng)該沒問題了吧。任憑你用戶再多,并發(fā)再高,我只要無限擴容數(shù)據(jù)庫,無限擴容應(yīng)用,就可以了。

這也是本文的標題,分庫分表就能解決無限擴容嗎?實際上,像上面的架構(gòu),并不能解決。

其實,這個問題和 RPC 的問題有點類似:數(shù)據(jù)庫連接過多!

通常,我們的 RPC 應(yīng)用由于是使用中間件進行數(shù)據(jù)庫訪問,應(yīng)用實際上是不知道到底要訪問哪個數(shù)據(jù)庫的,訪問數(shù)據(jù)庫的規(guī)則由中間件決定,例如 Sharding  JDBC。

這就導(dǎo)致,這個應(yīng)用必須和所有的數(shù)據(jù)庫連接,就像我們上面的架構(gòu)圖一樣,一個 RPC 應(yīng)用需要和 3 個 MySQL 連接。

如果是 30 個 RPC 應(yīng)用,每個 RPC 的數(shù)據(jù)庫連接池大小是 8,每個 MySQL 需要維護 240 個連接。

我們知道,MySQL 默認連接數(shù)是 100,最大連接數(shù)是 16384,也就是說,假設(shè)每個應(yīng)用的連接池大小是 8 ,超過 2048  個應(yīng)用就無法再繼續(xù)連接了,也就無法繼續(xù)擴容了。

注意,由于每個物理庫有很多邏輯庫,再加上微服務(wù)運動如火如荼,2048 并沒有看起來那么大。

也許你說,我可以通過前面加一個 Proxy 來解決連接數(shù)的問題,實際上,代理的性能也會成為問題,為什么?

代理的連接數(shù)也是不能超過 16384 的,如果并發(fā)超過 16384,變成 163840,那么 Proxy 也解決不了問題。

怎么辦?讓我們再看看上面的架構(gòu)圖:

怎么解決數(shù)據(jù)庫分庫分表無限擴容問題

我們發(fā)現(xiàn),問題是出在“每個 RPC 應(yīng)用都要連所有的庫”,導(dǎo)致擴容應(yīng)用的同時,每個數(shù)據(jù)庫連接數(shù)就要增加。

就算增加數(shù)據(jù)庫,也不能解決連接數(shù)的問題。那怎么辦呢?

單元化

單元化,聽起來高大上,通常在一些 XXX 大會上,分享“關(guān)于兩地三中心”,“三地五中心”,“異地多活”等等牛逼的名詞的時候,單元化也會一起出現(xiàn)。

這里我們不討論那么牛逼的,就只說“數(shù)據(jù)庫連接數(shù)過多” 的問題。實際上,思路很簡單:我們不讓應(yīng)用連接所有的數(shù)據(jù)庫就可以了。

假設(shè)我們根據(jù) Range 分成了 10 個庫,現(xiàn)在有 10 個應(yīng)用,我們讓每個應(yīng)用只連一個庫,當應(yīng)用增多變成 20 個,數(shù)據(jù)庫的連接不夠用了,我們就將  10 個庫分成 20 個庫。

這樣,無論你應(yīng)用擴容到多少個,都可以解決數(shù)據(jù)庫連接數(shù)過多的問題。

注意:做這件事的前提是,你必須保證,訪問你這個應(yīng)用的 Request 請求的數(shù)據(jù)庫一定是在這個應(yīng)用的。

換個說法,當用戶從 DNS 那里進來的時候,就知道自己要去那個應(yīng)用了,所以,規(guī)則在 DNS  之前就定好了,雖然這有點夸張,但肯定在進應(yīng)用之前就知道要去哪個庫了。

所以,這通常需要一個規(guī)則,例如通過用戶 ID Hash,由配置中心廣播 Hash 規(guī)則。

這樣,所有的組件都能保持一致的規(guī)則,從而正確的訪問到數(shù)據(jù)庫,如下圖:

怎么解決數(shù)據(jù)庫分庫分表無限擴容問題

感謝各位的閱讀,以上就是“怎么解決數(shù)據(jù)庫分庫分表無限擴容問題”的內(nèi)容了,經(jīng)過本文的學(xué)習后,相信大家對怎么解決數(shù)據(jù)庫分庫分表無限擴容問題這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI