MySQL怎樣使用分片解決500億數(shù)據(jù)存儲(chǔ)問題？

這是一個(gè)關(guān)于我們在多個(gè) MySQL 服務(wù)器上分割數(shù)據(jù)的技術(shù)研究。我們在 2012 年年初完成了這個(gè)分片方法，它仍是我們今天用來存儲(chǔ)核心數(shù)據(jù)的系統(tǒng)。

在我們討論如何分割數(shù)據(jù)之前，讓我們先了解一下我們的數(shù)據(jù)。心情照明，巧克力草莓，星際迷航語錄……

Pinteres 是你感興趣的所有東西的發(fā)現(xiàn)引擎。從數(shù)據(jù)的角度來說，Pinterest 是世界上最大的人類興趣圖集。有超過 500 億的 Pin 被 Pin 友們保存在 10 億塊圖板上。 用戶再次 Pin，喜歡其他人的 Pin（粗略地說是一個(gè)淺顯的復(fù)制品），關(guān)注其他 Pin 友，畫板和興趣，然后查看主頁上所訂閱 Pin 友的所有資訊。 太好了！ 現(xiàn)在讓它擴(kuò)大規(guī)模！

成長的痛

在 2011 年我們?nèi)〉昧顺晒Α?在 一些 評估報(bào)告里，我們的發(fā)展比其他的初創(chuàng)公司要快得多。在 2011 年 9 月，我們每一項(xiàng)基礎(chǔ)設(shè)備都超出了負(fù)載。我們應(yīng)用了一些 NoSQL 技術(shù)，所有這些技術(shù)都導(dǎo)致了災(zāi)難性的后果。 同時(shí)，大量用于讀的 MySQL 從服務(wù)器產(chǎn)生了大量令人惱火的 bugs，特別是緩存。我們重構(gòu)了整個(gè)數(shù)據(jù)存儲(chǔ)模式。為了使之有效，我們仔細(xì)制定了我們的要求。

業(yè)務(wù)要求

我們的全部系統(tǒng)需要非常穩(wěn)定，易于操作和易于擴(kuò)展。 我們希望支持?jǐn)?shù)據(jù)庫能從開始的小存儲(chǔ)量，能隨著業(yè)務(wù)發(fā)展而擴(kuò)展。

所有 Pin 友 生成的內(nèi)容在網(wǎng)站上必須隨時(shí)可以訪問。

支持以確定的順序請求訪問 N 個(gè) Pin 在畫板中展示（像按照創(chuàng)建的時(shí)間，或者按照用戶特定的順序）。對于喜歡的 Pin 友和 Pin 友的 Pin 列表等也能按照特定的順序展示。

為了簡單起見，更新一般要保證最好的效果。為了獲取最終一致性，你需要一些額外的東西，如分布式 事務(wù)日志。這是一件有趣并（不）簡單的事情。

解決思路及要點(diǎn)備注

解決方案由于需要將海量的數(shù)據(jù)切片分布到多個(gè)數(shù)據(jù)庫實(shí)例上，不能使用關(guān)系數(shù)據(jù)庫的連接、外鍵或索引等方法整合整個(gè)數(shù)據(jù)。想想就知道，關(guān)聯(lián)的子查詢不能跨越不同的數(shù)據(jù)庫實(shí)例。

我們的方案需要負(fù)載平衡數(shù)據(jù)訪問。我們憎恨數(shù)據(jù)遷移，尤其是逐個(gè)記錄進(jìn)行遷移，因關(guān)系的復(fù)雜性，這樣非常容易發(fā)生錯(cuò)誤且加重系統(tǒng)不必要的復(fù)雜性。如果必須要遷移數(shù)據(jù)，最好是邏輯節(jié)點(diǎn)集的整體遷移。

為了達(dá)到方案實(shí)施的可靠迅速，我們需要在我們的分布式數(shù)據(jù)平臺(tái)上使用最易于實(shí)現(xiàn)、最健壯的技術(shù)方案。

每個(gè)實(shí)例上的所有的數(shù)據(jù)將被完全復(fù)制到一個(gè)從實(shí)例上，作為數(shù)據(jù)備份。我們使用的是高可用性的 MapReduce (分布式計(jì)算環(huán)境) 的 S3 。我們前端的業(yè)務(wù)邏輯訪問后臺(tái)數(shù)據(jù)，只訪問數(shù)據(jù)庫的 主實(shí)例。永遠(yuǎn)不要讓您的前端業(yè)務(wù)去讀寫訪問從實(shí)例 。因?yàn)樗c 主實(shí)例 數(shù)據(jù)同步存在延遲，會(huì)造成莫名其妙的錯(cuò)誤，一旦將數(shù)據(jù)切片并分布，沒有一絲理由讓你前端業(yè)務(wù)從 從實(shí)例 上讀寫數(shù)據(jù)。

最后，我們需要精心設(shè)計(jì)一個(gè)優(yōu)秀的方案生成和解析我們所有數(shù)據(jù)對象的 全局唯一標(biāo)識(shí)（ UUID ） 。

我們的切片方案

不管怎樣，我們需要設(shè)計(jì)符合我們需求的，健壯的，性能優(yōu)良和可維護(hù)的數(shù)據(jù)分布解決方案。換句話說，它不能稚嫩（未經(jīng)廣泛驗(yàn)證）。因此，我們的基礎(chǔ)設(shè)計(jì)建立在 MySQL 之上，參見  we chose a mature technology（選擇成熟技術(shù)） 。設(shè)計(jì)之初，我們自然會(huì)跳開不用那些號(hào)稱具有自動(dòng)分布（auto-scaling）新技術(shù)能力的數(shù)據(jù)庫產(chǎn)品，諸如 MongoDB，Cassandra 和 Membase 之類的產(chǎn)品，因?yàn)樗鼈兯坪鯇?shí)施簡單卻適用性太差（常常發(fā)生莫名其妙的錯(cuò)誤導(dǎo)致崩潰）。

旁白：強(qiáng)烈建議從底層基礎(chǔ)入手，避免時(shí)髦新鮮的東東 — 扎扎實(shí)實(shí)把 MySQL 學(xué)好用好。相信我，字字都是淚。

MySQL 是成熟、穩(wěn)定并且就是好使的關(guān)系型數(shù)據(jù)庫產(chǎn)品。不僅我們用它，包括許多知名大公司也使用它作為后臺(tái)數(shù)據(jù)支撐，存儲(chǔ)著海量的數(shù)據(jù)。（譯注：大概幾年前，由于 MySQL 隨著 SUN 被 Oracle 的收購，歸到 Oracle 名下。許多公司，如 google，facebook 等由于擔(dān)心 MySQL 的開源問題，紛紛轉(zhuǎn)到由 MySQL 原作者開發(fā)的另一個(gè)開源數(shù)據(jù)庫 MariaDB 下）MySQL 支持我們對數(shù)據(jù)庫要求按序數(shù)據(jù)請求，查詢指定范圍數(shù)據(jù)及行（記錄）級(jí)上的事務(wù)處理的技術(shù)要求。MySQL 有一堆功能特性，但我們不需要那些。由于 MySQL 本身是個(gè)單體解決方案，可我們卻要把我們的數(shù)據(jù)切片。（譯注：此處的意思是，一個(gè)單實(shí)例管理海量的數(shù)據(jù)，勢必造成性能問題。現(xiàn)在把一個(gè)海量整體數(shù)據(jù)切片成一個(gè)個(gè)單體數(shù)據(jù)集，需要一個(gè)強(qiáng)有力的技術(shù)解決方案，把一個(gè)個(gè)的單體整合成一個(gè)整體，提高性能還不出錯(cuò)）下面是我們的設(shè)計(jì)方案：

我們起始使用 8 臺(tái) EC2 服務(wù)器，每臺(tái)服務(wù)器都運(yùn)行一個(gè) MySQL 實(shí)例：

每個(gè) MySQL 服務(wù)器各自以 主 - 主備份（ master-master replicated ）到 1 臺(tái)冗余主機(jī)作為災(zāi)難恢復(fù)。我們前臺(tái)業(yè)務(wù)只從主服務(wù)實(shí)例讀 / 寫數(shù)據(jù) 。我建議你也這么做，它簡化許多事情，避免延遲故障。（譯注：主 - 主備份（ master-master replicated ） 是 MySQL 數(shù)據(jù)庫本身提供的功能，指兩臺(tái)機(jī)器互做備份的一種模式，相對其它模式，如 主 - 從備份，兩臺(tái)機(jī)器數(shù)據(jù)完全一致，后臺(tái)同步，每臺(tái)機(jī)器有自己單獨(dú) IP 都可訪問，可并發(fā)讀 / 寫訪問。但原文作者一再強(qiáng)調(diào)的是雖然這兩臺(tái)互為冗余使用 主 - 主備份，都可訪問。但你邏輯上區(qū)分 主 - 從，永遠(yuǎn)只從其中一個(gè)進(jìn)行讀 / 寫。例如，圖中所示， MySQL001A 和 MySQL001B 間 主 - 主備份，但你只從 MySQL001A 進(jìn)行讀 / 寫訪問。另：他們使用了 16 臺(tái)機(jī)器，另 8 臺(tái)做從機(jī)的可能不是 EC2 也未必）

每個(gè) MySQL 實(shí)例可以有多個(gè)數(shù)據(jù)庫：

注意每個(gè)數(shù)據(jù)庫是如何唯一地命名為 db00000，db00001，直到 dbNNNN。每個(gè)數(shù)據(jù)庫都是我們數(shù)據(jù)庫的分片。我們做了一個(gè)設(shè)計(jì)，一旦一塊數(shù)據(jù)被分配到一個(gè)分片中，它就不會(huì)移出那個(gè)分片。但是，你可以通過將分片移動(dòng)到其他機(jī)器來獲得更大的容量（我們將在后面討論這一點(diǎn)）。

我們維護(hù)著一個(gè)配置數(shù)據(jù)庫表，此表中記錄這切片數(shù)據(jù)庫在哪臺(tái)機(jī)器上：

[
{“range”: (0,511), “master”: “MySQL001A”, “slave”: “MySQL001B”},
{“range”: (512, 1023), “master”: “MySQL002A”, “slave”: “MySQL002B”},
 ...
{“range”: (3584, 4095), “master”: “MySQL008A”, “slave”: “MySQL008B”}
]

這個(gè)配置表僅當(dāng)遷移切片數(shù)據(jù)庫或替換主機(jī)時(shí)修改。例如，一個(gè)主實(shí)例主機(jī)宕掉了，我們會(huì)提升它的從實(shí)例主機(jī)為主實(shí)例，然后盡快頂替一個(gè)新機(jī)器當(dāng)從實(shí)例主機(jī)。配置腳本保留在 ZooKeeper 上，當(dāng)出現(xiàn)上述修改時(shí)，通過腳本發(fā)送到維護(hù)切片服務(wù)的機(jī)器上進(jìn)行配置改變。（譯注：可發(fā)現(xiàn)原作者一直強(qiáng)調(diào)的，前端業(yè)務(wù)僅從邏輯主實(shí)例讀寫數(shù)據(jù)的好處）。

每個(gè)切片數(shù)據(jù)庫保持相同的數(shù)據(jù)庫表及表結(jié)構(gòu)，諸如，有 pins ，boards ，users_has_pins ，users_likes_pins ，pin_liked_by_user 等數(shù)據(jù)庫表。 在布署時(shí)同步構(gòu)建。

分布數(shù)據(jù)到切片服務(wù)器設(shè)計(jì)方案

我們組合 切片 ID（shard ID） 、數(shù)據(jù)類型標(biāo)識(shí)和 局部 ID（local ID） 形成 64 位的 全局唯一標(biāo)識(shí)（ID） 。切片 ID（shard ID） 占 16 個(gè)位（bit）， 數(shù)據(jù)類型標(biāo)識(shí)占 10 個(gè)位（bit）， 局部 ID（local ID） 占 36 個(gè)位 (bit)。 明眼人馬上會(huì)發(fā)現(xiàn)，這才 62 位。我過去的分布及整合數(shù)據(jù)經(jīng)驗(yàn)告訴我，保留幾位留做擴(kuò)展是無價(jià)寶。因此，我保留了 2 位（設(shè)為 0）。（譯注：這里解釋一下，根據(jù)后面的運(yùn)算和說明，任何對象的唯一標(biāo)識(shí) ID 是 64 位，最高 2 位始終為 0，之后是 36 位的局部標(biāo)識(shí)，之后是 10 位類型標(biāo)識(shí)，最后是 16 位的切片標(biāo)識(shí)。局部標(biāo)識(shí)可表示 2^36 達(dá) 600 多億個(gè) ID 。數(shù)據(jù)類型可表示 2^10 達(dá) 1024 個(gè)對象類型，切片標(biāo)識(shí)可細(xì)分成 2^16 達(dá) 65536 個(gè)切片數(shù)據(jù)庫。前面說的方案切了 4096 個(gè)切片數(shù)據(jù)庫）

ID = (shard ID << 46) | (type ID << 36) | (local ID<<0)
以 Pin: https://www.pinterest.com/pin/241294492511... 為例，讓我們解構(gòu)這個(gè) Pin 對象的 全局 ID 標(biāo)識(shí) 241294492511762325 ：
Shard ID = (241294492511762325 >> 46) & 0xFFFF = 3429
Type ID  = (241294492511762325 >> 36) & 0x3FF = 1
Local ID = (241294492511762325 >>  0) & 0xFFFFFFFFF = 7075733

可知這個(gè) Pin 對象在 3429 切片數(shù)據(jù)庫里。 假設(shè) Pin 對象 數(shù)據(jù)類型標(biāo)識(shí)為 1，它的記錄在 3429 切片數(shù)據(jù)庫里的 pin 數(shù)據(jù)表中的 7075733 記錄行中。舉例，假設(shè)切片 3429 數(shù)據(jù)庫在 MySQL012A 中，我們可利用下面語句得到其數(shù)據(jù)記錄：（譯注：這里原作者泛泛舉例，若按其前面方案例子來說，3429 應(yīng)在 MySQL007A 上）

conn = MySQLdb.connect(host=”MySQL012A”)
conn.execute(“SELECT data FROM db03429.pins where local_id=7075733”)

有兩種類型的數(shù)據(jù)：對象或關(guān)系。對象包含對象本身細(xì)節(jié)。 如 Pin 。

存儲(chǔ)對象的數(shù)據(jù)庫表

對象庫表中的每個(gè)記錄，表示我們前端業(yè)務(wù)中的一個(gè)對象，諸如：Pins（釘便簽）, users（用戶），boards（白板）和 comments（注釋），每個(gè)這樣的記錄在數(shù)據(jù)庫表中設(shè)計(jì)一個(gè)標(biāo)識(shí) ID 字段（這個(gè)字段在表中作為記錄的 自增主鍵「auto-incrementing primary key」 ，也就是我們前面提到的 局部 ID「 local ID」 ），和一個(gè) blob 數(shù)據(jù)字段 -- 使用 JSON 保存對象的具體數(shù)據(jù) --。

CREATE TABLE pins (
  local_id INT PRIMARY KEY AUTO_INCREMENT,
  data TEXT,
  ts TIMESTAMP DEFAULT CURRENT_TIMESTAMP
) ENGINE=InnoDB;

舉例，一個(gè) Pin 對象形狀如下：

{“details”: “New Star Wars character”, “l(fā)ink”: “http://webpage.com/asdf”, “user_id”: 241294629943640797, “board_id”: 241294561224164665, …}

創(chuàng)建一個(gè) Pin 對象，收集所有的數(shù)據(jù)構(gòu)成 JSON blob 數(shù)據(jù)。然后，確定它的 切片 ID「 shard ID」 (我們更樂意把 Pin 對象的切片數(shù)據(jù)放到跟其所在 白板「 board」 對象相同的切片數(shù)據(jù)庫里，這不是強(qiáng)制設(shè)計(jì)規(guī)則）。Pin 對象的數(shù)據(jù)類型標(biāo)識(shí)為 1。連接到 切片 ID 指示的切片數(shù)據(jù)庫，插入（insert）Pin 對象的 JOSON 數(shù)據(jù)到 Pin 對象數(shù)據(jù)庫表中，MySQL 操作成功后將會(huì)返回 自增主鍵「auto-incrementing primary key」 給你，這個(gè)作為此 Pin 對象的 局部 ID「 local ID」?，F(xiàn)在，我們有了 shard 、類型值、local ID 這些必要信息，就可以構(gòu)建出此 Pin 對象的 64 位 ID 。（譯注：原作者提到的，他們的前端業(yè)務(wù)所用到的每種對象都保存在一個(gè)對象數(shù)據(jù)庫表里，每個(gè)對象記錄都通過一個(gè)全局唯一 ID 去找到它，但這個(gè)全局唯一 ID 并不是數(shù)據(jù)庫表中的 局部 ID，由于切片的緣故。原作者一直在講這個(gè)設(shè)計(jì)及其原理。這樣設(shè)計(jì)的目的為了海量數(shù)據(jù)切片提高性能，還要易用，可維護(hù)，可擴(kuò)展。后面，作者會(huì)依次講解到）

編輯一個(gè) Pin 對象，使用 MySQL 事務(wù)「transaction」 在 Pin 對象的數(shù)據(jù)記錄上 讀出 -- 修改 -- 寫回「read-modify-write」 Pin 對象的 JOSON 數(shù)據(jù)字段：

> BEGIN
> SELECT blob FROM db03429.pins WHERE local_id=7075733 FOR UPDATE
[修改 json blob]
> UPDATE db03429.pins SET blob=’<修改后的 blob>’ WHERE local_id=7075733
> COMMIT

編輯一個(gè) Pin 對象，您當(dāng)然可以直接刪除這個(gè)對象在 MySQL 數(shù)據(jù)庫表中的數(shù)據(jù)記錄。但是，請仔細(xì)想一下，是否在對象的 JSON 數(shù)據(jù)上加個(gè)叫做「 active」的域，把剔除工作交由前端中間業(yè)務(wù)邏輯去處理或許會(huì)更好呢。

（譯注：學(xué)過關(guān)系數(shù)據(jù)庫的應(yīng)知道，自增主鍵在記錄表中是固實(shí)，在里面刪除記錄，會(huì)造成孔洞。當(dāng)多了，勢必造成數(shù)據(jù)庫性能下降。數(shù)據(jù)庫只負(fù)責(zé)保存數(shù)據(jù)和高性能地查詢、讀寫數(shù)據(jù)，其數(shù)據(jù)間的關(guān)系完全靠設(shè)計(jì)精良的對象全局 ID 通過中間件邏輯去維護(hù) 這樣的設(shè)計(jì)理念一直貫穿在作者的行文中。只有理解了這點(diǎn)您才能抓住這篇文章的核心）

關(guān)系映射數(shù)據(jù)庫表

關(guān)系映射表表示的是前端業(yè)務(wù)對象間的關(guān)系。諸如：一個(gè)白板（board）上有哪些釘便簽（Pin）， 一個(gè)釘便簽（Pin）在哪些白板（board）上等等。表示這種關(guān)系的 MySQL 數(shù)據(jù)庫表包括 3 個(gè)字段：一個(gè) 64 位的「from」ID， 一個(gè) 64 位的「to」ID 和一個(gè)順序號(hào)。每個(gè)字段上都做索引方便快速查詢。其記錄保存在根據(jù)「from」字段 ID 解構(gòu)出來的切片 ID 指示出的切片數(shù)據(jù)庫上。

CREATE TABLE board_has_pins (
  board_id INT,
  pin_id INT,
  sequence INT,
  INDEX(board_id, pin_id, sequence)
) ENGINE=InnoDB;

（譯注：這里的關(guān)系映射指前端業(yè)務(wù)對象間的關(guān)系用數(shù)據(jù)庫表來運(yùn)維，并不指我上節(jié)注釋中說到的關(guān)系數(shù)據(jù)庫的關(guān)系映射。作者開篇就講到，由于切片，不能做關(guān)系數(shù)據(jù)庫表間的關(guān)系映射的，如一對一，一對多，多對多等關(guān)系關(guān)聯(lián)）

關(guān)系映射表是單向的，如 board_has_pins（板含便簽）表方便根據(jù) board （白板）ID 查詢其上有多少 Pin（釘便簽）。若您需要根據(jù) Pin（釘便簽）ID 查詢其都在哪些 board（白板）上，您可另建個(gè)表 pin_owned_by_board（便簽屬于哪些白板）表，其中 sequence 字段表示 Pin 在 board 上的順序號(hào)。（由于數(shù)據(jù)分布在切片數(shù)據(jù)庫上，我們的 ID 本身無法表示其順序）我們通常將一個(gè)新的 Pin 對象加到 board 上時(shí)，將其 sequence 設(shè)為當(dāng)時(shí)的系統(tǒng)時(shí)間。sequence 可被設(shè)為任意整數(shù)，設(shè)為當(dāng)時(shí)的系統(tǒng)時(shí)間，保證新建的對象的 sequence 總是大于舊對象的。這是個(gè)方便易行的方法。您可通過下面的語句從關(guān)系映射表中查詢對象數(shù)據(jù)集：

SELECT pin_id FROM board_has_pins 
WHERE board_id=241294561224164665 ORDER BY sequence 
LIMIT 50 OFFSET 150

語句會(huì)查出 50 個(gè) pin_ids（便簽 ID ）, 隨后可用這些對象 ID 查詢其具體信息。

我們只在業(yè)務(wù)應(yīng)用層進(jìn)行這些關(guān)系的映射，如 board_id -> pin_ids -> pin objects （從 白板 ID -> 便簽 IDs -> 便簽對象）。 這種設(shè)計(jì)一個(gè)非常棒的特性是，您可以分開緩存這些關(guān)系映射對。例如，我們緩存 pin_id -> pin object （便簽 ID -> 便簽對象）關(guān)系映射在 memcache（內(nèi)存緩存）集群服務(wù)器上，board_id -> pin_ids （白板 ID -> 便簽 IDs）關(guān)系映射緩存在 redis 集群服務(wù)器上。這樣，可以非常適合我們優(yōu)化緩存技術(shù)策略。

增大服務(wù)能力

在我們的系統(tǒng)中，提升服務(wù)處理能力主要三個(gè)途徑。最容易的是升級(jí)機(jī)器（更大的空間，更快的硬盤速度，更多的內(nèi)存，無論什么解決系統(tǒng)瓶頸的升級(jí)都算）

另一個(gè)途徑，擴(kuò)大切片范圍。最初，我們設(shè)計(jì)只切片了 4096 個(gè)數(shù)據(jù)庫，相比我們設(shè)計(jì)的 16 位的切片 ID，還有許多空間，因?yàn)?16 位可表示 65536 個(gè)數(shù)。某些時(shí)間節(jié)點(diǎn)，若我們再提供 8 臺(tái)機(jī)器運(yùn)行 8 個(gè) MySQL 數(shù)據(jù)庫實(shí)例，提供從 4096 到 8192 的切片數(shù)據(jù)庫，之后，新的數(shù)據(jù)將只往這個(gè)區(qū)間的切片數(shù)據(jù)庫上存放。并行計(jì)算的數(shù)據(jù)庫有 16 臺(tái)，服務(wù)能力必然提升。

最后的途徑，遷移切片數(shù)據(jù)庫主機(jī)到新切片主機(jī)（局部切片擴(kuò)容）以提升能力。例如，我們想將前例中的 MySQL001A 切片主機(jī)（其上是 0 到 511 編號(hào)的切片數(shù)據(jù)庫）擴(kuò)展分布到 2 臺(tái)切片主機(jī)上。同我們設(shè)計(jì)地，我們創(chuàng)建一個(gè)新的 master-master 互備份主機(jī)對作為新切片主機(jī)（命名為 MySQL009A 和 B）并從 MySQL001A 上整體復(fù)制數(shù)據(jù)。

當(dāng)數(shù)據(jù)復(fù)制完成后，我們修改切片配置，MySQL001A 只負(fù)責(zé) 0 到 255 的切片數(shù)據(jù)庫，MySQL009A 只負(fù)責(zé) 256 到 511 的切片數(shù)據(jù)庫?，F(xiàn)在 2 臺(tái)中每臺(tái)主機(jī)只負(fù)責(zé)過去主機(jī)負(fù)責(zé)的一半的任務(wù)，服務(wù)能力提升。

一些特性說明

對于舊系統(tǒng)已產(chǎn)生的業(yè)務(wù)對象數(shù)據(jù)，要根據(jù)設(shè)計(jì)，對業(yè)務(wù)對象要生成它們在新系統(tǒng)中的 UUIDs，你應(yīng)意識(shí)到它們放到哪兒（哪個(gè)切片數(shù)據(jù)庫）由你決定。（譯注：你可以規(guī)劃舊數(shù)據(jù)在切片數(shù)據(jù)庫上的分布）但是，在放入到切片數(shù)據(jù)庫時(shí)，只有在插入記錄時(shí)，數(shù)據(jù)庫才會(huì)返回插入對象的 local ID，有了這個(gè)，才能構(gòu)建對象的 UUID。

（譯注：在遷移時(shí)要考慮好業(yè)務(wù)對象間關(guān)系的建立，通過 UUID）

對于那些在已有大量數(shù)據(jù)的數(shù)據(jù)庫表，曾使用過修改表結(jié)構(gòu)類命令 （ALTERs）-- 諸如添加個(gè)字段之類的 -- 的人來說，您知道那是一個(gè) 非常 漫長和痛苦的過程。我們的設(shè)計(jì)是絕不使用 MySQL 上 ALTERs 級(jí)別的命令（當(dāng)已有數(shù)據(jù)時(shí)）。在我們的業(yè)務(wù)系統(tǒng) Pinterest 上，我們使用最后一個(gè) ALTER 語句大概是在 3 年前了。 對于對象表中對象，如果您需要添加個(gè)對象屬性字段，您添加到對象數(shù)據(jù)的 JOSON blob 字段里。您可以給新對象屬性設(shè)定個(gè)默認(rèn)值，當(dāng)訪問到舊對象的數(shù)據(jù)時(shí)，若舊對象沒有新屬性，您可以給其添加上新屬性默認(rèn)值。對于關(guān)系映射表來說，干脆，直接建立新的關(guān)系映射表以符合您的需要。這些您都清楚了！讓您的系統(tǒng)揚(yáng)帆起行吧！

模轉(zhuǎn)（mod）數(shù)據(jù)庫的切片

模轉(zhuǎn)數(shù)據(jù)切片（mod shard）名稱僅僅是像 Mod Squad，實(shí)則完全不同。

一些業(yè)務(wù)對象需要通過非 ID （non-ID）的方式查詢訪問。（譯注： 此 ID 指之前設(shè)計(jì)說明中的 64 位 UUID）舉例來說，如果一名 Pin 友（Pinner）是以他（她）的 facebook 注冊帳號(hào)注冊登錄我們的業(yè)務(wù)平臺(tái)上的。我們需將其 facebook ID 與我們的 Pin 友（Pinner）的 ID 映射。 facebook ID 對于我們系統(tǒng)只是一串二進(jìn)制位的數(shù)。（譯注：暗示我們不能像我們系統(tǒng)平臺(tái)的設(shè)計(jì)那樣解構(gòu)別的平臺(tái)的 ID，也談不上如何設(shè)計(jì)切片，只是把它們保存起來，并設(shè)計(jì)使之與我們的 ID 映射）因此，我們需要保存它們，也需要把它們分別保存在切片數(shù)據(jù)庫上。我們稱之為模轉(zhuǎn)數(shù)據(jù)切片（mod shard）其它的例子還包括 IP 地址、用戶名和用戶電子郵件等。

模轉(zhuǎn)數(shù)據(jù)切片（mod shard）類似前述我們業(yè)務(wù)系統(tǒng)的數(shù)據(jù)切片設(shè)計(jì)。但是，你需要按照其輸入的原樣進(jìn)行查詢。如何確定其切片位置，需要用到哈希和模數(shù)運(yùn)算。哈希函數(shù)將任意字串轉(zhuǎn)換成定長數(shù)值，而模數(shù)設(shè)為系統(tǒng)已有切片數(shù)據(jù)庫的切片數(shù)量，取模后，其必然落在某個(gè)切片數(shù)據(jù)庫上。結(jié)果是其數(shù)據(jù)將保存在已有切片數(shù)據(jù)庫上。舉例：

shard = md5(“1.2.3.4") % 4096

（譯注：mod shard 這個(gè)詞，我網(wǎng)上找遍了，試圖找到一個(gè)較準(zhǔn)確權(quán)威的中文翻譯！無果，因?yàn)?mod 這個(gè)詞有幾種意思，最近的是 module 模塊、模組，同時(shí)它也是模運(yùn)算符（%）。我根據(jù)原文意思，翻譯為 模轉(zhuǎn) ?；蚩煞g為 模式，但個(gè)人感覺意思模糊。不當(dāng)之處，請指正。另，原作者舉的例子是以 IP 地址舉例的，哈希使用的是 md5，相比其它，雖老但性能最好）

在這個(gè)例子中分片是 1524。 我們維護(hù)一個(gè)類似于 ID 分片的配置文件：

[{“range”:    (0,  511), “master”: “msdb001a”, “slave”: “msdb001b”},
  {“range”:  (512, 1023), “master”: “msdb002a”, “slave”: “msdb002b”},
  {“range”: (1024, 1535), “master”: “msdb003a”, “slave”: “msdb003b”},
…]

因此，為了找到 IP 為 1.2.3.4 的數(shù)據(jù)，我們將這樣做:

conn = MySQLdb.connect(host=”msdb003a”)
conn.execute(“SELECT data FROM msdb001a.ip_data WHERE ip='1.2.3.4'”)

你失去了一些分片好的屬性，例如空間位置。你必須從一開始就設(shè)置分片的密鑰（它不會(huì)為你制作密鑰）。最好使用不變的 id 來表示系統(tǒng)中的對象。這樣，當(dāng)用戶更改其用戶名時(shí)，您就不必更新許多引用。

最后的提醒

這個(gè)系統(tǒng)作為 Pinterest 的數(shù)據(jù)支撐已良好運(yùn)行了 3.5 年，現(xiàn)在看來還會(huì)繼續(xù)運(yùn)行下去。設(shè)計(jì)實(shí)現(xiàn)這樣的系統(tǒng)是直觀、容易的。但是讓它運(yùn)行起來，尤其遷移舊數(shù)據(jù)卻太不易了。若您的業(yè)務(wù)平臺(tái)面臨著急速增長的痛苦且您想切片自己的數(shù)據(jù)庫。建議您考慮建立一個(gè)后端集群服務(wù)器（優(yōu)先建議 pyres）腳本化您遷移舊數(shù)據(jù)到切片數(shù)據(jù)庫的邏輯，自動(dòng)化處理。我保證無論您想得多周到，多努力，您一定會(huì)丟數(shù)據(jù)或丟失數(shù)據(jù)之間的關(guān)聯(lián)。我真的恨死隱藏在復(fù)雜數(shù)據(jù)關(guān)系中的那些搗蛋鬼。因此，您需要不斷地遷移，修正，再遷移... 你需要極大的耐心和努力。直到您確定您不再需要為了舊數(shù)據(jù)遷移而往您的切片數(shù)據(jù)庫中再操作數(shù)據(jù)為止。

這個(gè)系統(tǒng)的設(shè)計(jì)為了數(shù)據(jù)的分布切片，已盡最大的努力做到最好。它本身不能提供給你數(shù)據(jù)庫事務(wù) ACID 四要素中的 Atomicity（原子性）、Consistency（一致性）、Isolation（隔離性）哇嘔！聽起來很壞呀，不用擔(dān)心。您可能不能利用數(shù)據(jù)庫本身提供的功能很好地保證這些。但是，我提醒您，一切盡在您的掌握中，您只是讓它運(yùn)行起來，滿足您的需要就好。設(shè)計(jì)簡單直接就是王道，（譯注：也許需要您做許多底層工作，但一切都在您的控制之中）主要是它運(yùn)行起來超快！ 如果您擔(dān)心 A（原子性）、I（隔離性）和 C（一致性），寫信給我，我有成堆的經(jīng)驗(yàn)讓您克服這些問題。

還有最后的問題，如何災(zāi)難恢復(fù)，啊哈？ 我們創(chuàng)建另外的服務(wù)去維護(hù)著切片數(shù)據(jù)庫，我們保存切片配置在 ZooKeeper 上。當(dāng)單點(diǎn)主服務(wù)器宕掉時(shí)，我們有腳本自動(dòng)地提升主服務(wù)器對應(yīng)的從服務(wù)器立即頂上。之后，以最快的速度運(yùn)行新機(jī)器頂上從服務(wù)器的缺。直至今日，我們從未使用過類似自動(dòng)災(zāi)難恢復(fù)的服務(wù)。

以上就是MySQL  如何利用分片來解決 500 億數(shù)據(jù)的存儲(chǔ)問題的詳細(xì)內(nèi)容，更多請關(guān)注億速云其它相關(guān)文章！