溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

發(fā)布時間:2021-10-08 17:08:16 來源:億速云 閱讀:130 作者:柒染 欄目:MySQL數(shù)據(jù)庫

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的,很多新手對此不是很清楚,為了幫助大家解決這個難題,下面小編將為大家詳細(xì)講解,有這方面需求的人可以來學(xué)習(xí)下,希望你能有所收獲。

最開始了解mysql實現(xiàn)的時候,總聽到redo log, WAL(write-ahead logging),undo log這些關(guān)鍵詞,了解到redo log主要是用于實現(xiàn)事務(wù)的持久化的。為了進一步了解redo log,看了下相關(guān)代碼(源碼版本: mysql 8.0.12),這里簡單總結(jié)下,主要介紹redo log是如何產(chǎn)生,如何落盤,以及最終通知用戶的。

由于學(xué)習(xí)mysql的時間不長,mysql代碼也非常龐大,自己看的也只是其中一小部分,文中有理解得不對的地方,歡迎大家糾正指導(dǎo),共同學(xué)習(xí)。

redo log的產(chǎn)生

讀寫事務(wù)在執(zhí)行的過程中,會不斷的產(chǎn)生redo log。申請數(shù)據(jù)頁、修改數(shù)據(jù)頁、記錄undo log等,都會產(chǎn)生redo log。mysql將用戶事務(wù)拆分成一個個mtr(mini transaction),redo log最初產(chǎn)生時就是被記錄到mtr中的,并伴隨著mtr的提交而提交,最終落到硬盤上。

redo log 的提交

mtr在提交時,會將mtr中的redo log寫到系統(tǒng)變量log_sys的log buffer中。mysql8.0一個新特性就是redo log提交的無鎖化。在8.0以前,各個用戶線程都是通過互斥量競爭,串行的寫log buffer,因此能保證lsn的順序無間隔增長。8.0時用戶線程可以并發(fā)寫log buffer,如果某個用戶線程寫log buffer成功后,就將自己寫的lsn以前的log buffer刷盤,則有可能導(dǎo)致其他用戶線程寫log buffer還沒完成就被刷盤。

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

圖一

為了解決這個問題,mysql 8.0引入了Link_buf這個數(shù)據(jù)結(jié)構(gòu)來避免log buffer的空洞。Link_buf實際是一個定長數(shù)組,像滑動窗口一樣跟蹤log buffer一段區(qū)間的寫入情況,隨著log buffer中寫入連續(xù)redo log不斷向前推進。

Link_buf的數(shù)據(jù)結(jié)構(gòu)如圖:

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

圖二

當(dāng)用戶在log buffer的start_lsn-end_lsn間寫下redo log時,會標(biāo)記Link_buf相應(yīng)的位置,即將m_link[start_lsn%m_capacity]賦值為為end_lsn-start_lsn。

redo log記錄到log buffer的過程如下:

1.首先,各用戶線程寫redo log時,先根據(jù)redo log長度,向系統(tǒng)全局原子變量log_sys.sn獲取本次redo log日志的start_lsn, end_lsn。原子變量sn能保證各線程獲得的start_lsn-end_lsn區(qū)間連續(xù)無空洞;

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

圖三

2.用戶線程申請到start_lsn-end_lsn區(qū)間后,需要先等待到Link_buf推進到自己可以使用的位置。

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

圖四

如圖所示,start_lsn0-end_lsn0,start_lsn2-end_lsn2, start_lsn3-end_lsn3為三個用戶線程新申請的lsn區(qū)間;start_lsn1-end_lsn1對應(yīng)的區(qū)間已經(jīng)標(biāo)記到link_buf上;start_lsn3-end_lsn3距離tail太遠(yuǎn),需要等待link_buf推進才能使用;

3.寫入log buffer后,再將start_lsn->end_lsn的范圍標(biāo)記到link_buf(注意:因為只在start_lsn%capacity的位置標(biāo)記link_buf,所以即使end_lsn超過(m_tail, m_tail+m_capacity)也不影響);

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

圖五

4.用戶線程提交事務(wù)時設(shè)置事件log_sys.writer_event,觸發(fā)log_writer線程將日志從redo log buffer寫到系統(tǒng)緩存(log_writer線程自己也會輪詢link_buf判斷是否寫入了新的日志);

5.log_writer線程推進m_tail,并將m_tail前的log buffer落盤。

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

圖六

redo log 的落盤及通知

前面簡述了redo log是如何提交的,在redo log提交以及落盤時,涉及多個線程,他們的關(guān)系如下:

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

圖七

用戶線程在讀寫事務(wù)提交時,會產(chǎn)生一些redo log,并隨著mtr提交而記錄到redo log buffer中,隨后用戶線程嘗試設(shè)置writer_event觸發(fā)log_writer線程寫日志,并監(jiān)聽屬于自己的flush_events[i]事件;

log_writer線程推進Link_buf.m_tail,將最大連續(xù)lsn前的redo log寫入系統(tǒng)緩存,并設(shè)置flusher_event觸發(fā)log_flusher線程;

log_flusher線程將已寫入系統(tǒng)緩存的日志刷盤,并設(shè)置flush_notifier_event觸發(fā)log_flush_notifier線程通知用戶;

log_flush_notifier根據(jù)已刷盤的lsn換算出需要觸發(fā)的事件,通知用戶線程。

具體實現(xiàn)時,通過log_sys中的幾個成員變量,跟進redo log的寫入情況。其中l(wèi)og_sys.recent_writtern.m_tail表示log buffer最大連續(xù)范圍;log_sys.write_lsn表示寫入到系統(tǒng)緩存的位置;log_sys.flushed_to_disk_lsn表示已落盤的位置。各標(biāo)記的推進過程如下:

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

圖八

通知用戶線程

用戶提交事務(wù)時,會根據(jù)innodb_flush_log_at_trx_commit參數(shù),調(diào)用log_wait_for_write或log_wait_for_flush,來等待redo log寫入到系統(tǒng)緩存或刷到硬盤。用戶線程的通知是通過log_sys.flush_events事件數(shù)組來實現(xiàn)的,為了避免一次通知的flush_events過多,flush_events會像桶一樣劃分給不同的用戶線程:redo log是以一個個log block劃分的,假設(shè)log_sys.flush_events數(shù)組長度為m,則第n個log block的刷盤,由flush_events[n%m]事件監(jiān)聽。當(dāng)log buffer的第L1個log block到第L2個log block被刷盤時,會設(shè)置L1-L2之間的log block所屬的flush_events,從而redo log在L1-L2之間的用戶線程都會收到通知。

MySQL 8.0源碼redo log的產(chǎn)生以及用法是怎樣的

圖九

mysql8.0通過redo log無鎖化,解決了用戶線程寫redo log時競爭鎖帶來的性能影響。同時將redo log寫文件、redo log刷盤從用戶線程中剝離出來,抽成單獨的線程,用戶線程只負(fù)責(zé)將redo log寫入到log buffer,不再關(guān)心redo log的落盤細(xì)節(jié),只需等待log_writer線程或log_flusher線程的通知。

看完上述內(nèi)容是否對您有幫助呢?如果還想對相關(guān)知識有進一步的了解或閱讀更多相關(guān)文章,請關(guān)注億速云行業(yè)資訊頻道,感謝您對億速云的支持。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI