Mysql Innodb體系結(jié)構(gòu)

Innodb體系結(jié)構(gòu)

• Innodb存儲引擎主要包括內(nèi)存池以及后臺線程。

• 內(nèi)存池：多個內(nèi)存塊組成一個內(nèi)存池，主要維護進程/線程的內(nèi)部數(shù)據(jù)、緩存磁盤數(shù)據(jù)，修改文件前先修改內(nèi)存、redo log

• 后臺線程：刷新內(nèi)存池中的額

內(nèi)存

緩沖池

• Innodb的數(shù)據(jù)以頁的形式存儲在磁盤，因此采用內(nèi)存作為緩存頁數(shù)據(jù)。

• 讀頁數(shù)據(jù)時，先將磁盤上的頁數(shù)據(jù)“FIX”到緩沖池，下次讀即可直接從緩沖池中讀。

• 修改數(shù)據(jù)時，先修改緩沖池中的頁數(shù)據(jù)，然后刷新到磁盤，并不是每次都刷新而是通過Checkpoint機制刷新到磁盤。

• 數(shù)據(jù)頁類型：索引頁、數(shù)據(jù)頁、undo頁、插入緩沖(insert buffer)、自適應(yīng)哈希索引、鎖信息、數(shù)據(jù)字典信息等

• 緩存池通過LRU算法管理。

LRU、Free List、Flush List

• 普通LRU：最頻繁的處于列表前端，最少使用處于尾端，先釋放列表尾端的頁。

• Innodb LRU：在LRU隊列中加入midpoint位置，默認值5/8，表示新讀取的頁加入到列表的5/8位置。midpoint之后列表成為old表，之前稱為new表。即列表尾端到表尾37%為old表，其余為new表。new表存放活躍數(shù)據(jù)。

• Free List：數(shù)據(jù)庫啟動時LRU表為空，頁均存放在Free List中。需要使用時從該表中獲取。

• Flush List管理緩存中被修改過的頁。

• unzip_LRU，壓縮頁大小為1、2、4、8KB，其還是屬于LRU管理。unzip_LRU對不同大小頁分開管理，采用伙伴算法分配內(nèi)存。

redo log buffer

redo log先都寫入該buffer，而后按一定頻率刷新到磁盤（1s/次），默認8M。其刷到磁盤主要一下幾個情況：

1. Master Thread每秒執(zhí)行一次。

2. 事物提交時。

3. redo log buffer剩余空間小于1/2。

額外的內(nèi)存池

對一些數(shù)據(jù)結(jié)構(gòu)本身的內(nèi)存分配是從額外內(nèi)存池分配。

線程

Master Thread

負責(zé)將緩存池中的數(shù)據(jù)異步刷新到磁盤，包括臟頁。合并插入緩存（INSERT BUFFER）、UNDO頁的回收等。

IO Thread

Innodb中大量使用AIO處理寫請求，IO Thread則主要處理這些請求的回調(diào)，包括write、read、insert buffer和log IO Thread。

Purge Thread

主要用來回收undo log，Innodb1.1之前由Master Thread負責(zé)。

Page Cleaner Thread

清理已提交事物的UNDO log。

Checkpoint

事務(wù)型數(shù)據(jù)庫一般采用Write Ahead Log策略，當(dāng)事物提交時先寫redo log而后修改內(nèi)存中的頁。當(dāng)數(shù)據(jù)庫宕機對于還未寫入磁盤的修改數(shù)據(jù)可以通過redo log恢復(fù)。Checkpoint作用在于保證該點之前的所有修改的頁均已刷新到磁盤，這之前的redo log在恢復(fù)數(shù)據(jù)時可以不需要了。

Sharp Checkpoint

發(fā)生在數(shù)據(jù)庫關(guān)閉時，將所有臟頁寫入磁盤，數(shù)據(jù)庫運行時一般不使用。

Fuzzy Checkpoint

只刷新部分部分臟頁。

1. Master Thread Checkpoint：Master Thread異步已一定頻率刷新一定比例臟頁。

2. Flush_LRU_LIST Checkpoint：為了保證LRU中有一定數(shù)量的空閑頁，Page Clear Thread將對LRU中尾端頁進行移除，如果存在臟頁則做刷新。

3. Async/Sync Flush Checkpoint：為了保證redo log循環(huán)使用（覆蓋），對于需要將redo文件中不可用的臟頁進行刷新到磁盤。

4. Dirty Page too much Checkpoint：臟頁數(shù)量太多。

Master Thread工作方式

Innodb 1.2.x之前

主要包括主loop、background loop、flush loop和suspend loop。其中的參數(shù)可以配置。

Innodb 1.2.x

Master Thread中的臟頁刷新功能完全由Page Cleaner Thread執(zhí)行。

+ View Code

nnodb關(guān)鍵特性

插入緩沖

• 當(dāng)插入數(shù)據(jù)需要更新非聚集索引時，如果每次都更新則需要進行多次隨機IO，因此將這些值寫入緩沖對相同頁的進行合并提高IO性能。

• 插入非聚集索引時，先判斷該索引頁是否在緩沖池中，在則直接插入。否則寫入到Insert Buffer對象。

• 條件：二級索引，索引不能是unique(因為如果是unique則必須保證唯一性，此時得檢查所有索引頁，還是隨機IO了)

• Change Buffer：包括Insert Buffer、Delete Buffer、Purge Buffer，update操作包括將記錄標(biāo)記為已刪除和真正將記錄刪除兩個過程，對應(yīng)后兩個Buffer。

• Insert Buffer內(nèi)部是一顆B+樹

• Merge Insert Buffer三種情況：

1. 對應(yīng)的索引頁被讀入緩沖池。

2. 對應(yīng)的索引頁的可用空間小于1/32，則強制進行合并。

3. Master Thread中的合并插入緩沖。

兩次寫

在對臟頁刷新到磁盤時，如果某一頁還沒寫完就宕機，此時該頁數(shù)據(jù)已經(jīng)混亂無法通過redo實現(xiàn)恢復(fù)。innodb提供了doublewrite機制，其刷新臟頁步驟如下：

自適應(yīng)哈希索引

InnoDB存儲引擎會監(jiān)控對表上索引的查找，如果觀察到建立哈希索引可以帶來速度的提升，則建立哈希索引，所以稱之為自適應(yīng)（adaptive） 的。自適應(yīng)哈希索引通過緩沖池的B+樹構(gòu)造而來，因此建立的速度很快。而且不需要將整個表都建哈希索引，InnoDB存儲引擎會自動根據(jù)訪問的頻率和模式 來為某些頁建立哈希索引。

異步IO

linux和windows中提供異步IO，其可以對連續(xù)的頁做合并連續(xù)頁的IO操作使隨機IO變順序IO。

刷新鄰接頁

刷新頁時判斷相鄰頁是否也是臟頁。