溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

TiDB用什么保證備份的一致性

發(fā)布時(shí)間:2021-11-30 14:23:29 來源:億速云 閱讀:149 作者:柒染 欄目:數(shù)據(jù)庫

TiDB用什么保證備份的一致性,針對(duì)這個(gè)問題,這篇文章詳細(xì)介紹了相對(duì)應(yīng)的分析和解答,希望可以幫助更多想解決這個(gè)問題的小伙伴找到更簡單易行的方法。

背景

作為一名MySQL DBA,就應(yīng)該了解MySQL備份無論是邏輯備份還是物理備份,都會(huì)使用FLUSH TABLES WITH READ LOCK(下面簡稱FTWRL)鎖來保證數(shù)據(jù)庫備份的一致性。

描述FTWRL鎖對(duì)一致性的影響

先拿,MySQL邏輯備份MySQLDump舉例。

MySQLDump,為了保證備份一致性,需要添加2個(gè)參數(shù)     

--single-transaction  --master-data=2 。

在開啟--single-transaction后,MySQLDump的備份流程大概就是,在MySQL中會(huì)執(zhí)行如下操作。

1、刷新表flush tables 用來防止DDL操作。

2、執(zhí)行FTWRL鎖,這個(gè)時(shí)候整個(gè)數(shù)據(jù)庫整體被鎖住,讓數(shù)據(jù)庫處于一個(gè)一致性的狀態(tài)。

3、設(shè)置當(dāng)前session(回話)事務(wù)的隔離級(jí)別為RR。

4、記錄當(dāng)前的MySQLbinlog的位置,或者GTID信息。

5、解鎖。#從加鎖到解鎖執(zhí)行速度會(huì)很快,前提是沒有鎖沖突,如果有鎖沖突,就會(huì)到鎖等待的一個(gè)狀態(tài)。

物理備份xtrabackup,物理備份執(zhí)行FTWRL鎖的時(shí)間相對(duì)較長,下面來看一下xtrabackup對(duì)FTWRL鎖的流程。

  •  執(zhí)行FTWRL鎖。

  •  拷貝frm、MYD、MYI、etc拷貝。

  •  等待redo的拷貝完成。

  •  記錄當(dāng)前的MySQLbinlog的位置,或者GTID信息。

  •  解鎖。

xtrabackup加鎖是為了保證在數(shù)據(jù)庫中如果有MyiSAM表,盡量保證MyiSAM表的備份一致性。

#之前有個(gè)同學(xué)說。物理備份加FTWRL鎖會(huì)比邏輯備份加鎖時(shí)間短,這個(gè)結(jié)論其實(shí)是錯(cuò)誤的。物理備份加鎖的時(shí)間完全取決一下當(dāng)前數(shù)據(jù)庫里有沒有MyiSAM表,MyiSAM表的大小。

TiDB是用什么保證數(shù)據(jù)庫一致性的

先說TiDB官方推薦的邏輯備份mydumper, 一開始我以為mydumper也是用FTWRL鎖來保證備份的一致性。結(jié)果我今天在看文檔的時(shí)候發(fā)現(xiàn),這個(gè)結(jié)論是錯(cuò)誤的。

官方對(duì)mydumper進(jìn)行了優(yōu)化和修改。先看一下官方的描述。下面內(nèi)容來自TiDB官方文檔。

1、對(duì)于 TiDB 可以設(shè)置 tidb_snapshot 的值指定備份數(shù)據(jù)的時(shí)間點(diǎn),從而保證備份的一致性,而不是通過 FLUSH TABLES WITH READ LOCK 來保證備份一致性。

2、使用 TiDB 的隱藏列 _tidb_rowid 優(yōu)化了單表內(nèi)數(shù)據(jù)的并發(fā)導(dǎo)出性能。

大家先記住 TiDB 是通過 tidb_snapshot,來實(shí)現(xiàn)備份,而不是FTWRL鎖來保證。這么設(shè)計(jì)會(huì)有什么問題?能保證數(shù)據(jù)備份的一致性嗎?

要解答這個(gè)問題,要簡單說一下TiDB的架構(gòu)設(shè)計(jì)。

TiDB的存儲(chǔ)節(jié)點(diǎn)是TiKV,下面主要針對(duì)TiKV來說。先把TiKV,理解為很大的一個(gè)Key-value的存儲(chǔ)器。

TiDB用什么保證備份的一致性

(圖1選自TiDB官方文檔)

這塊跟備份其實(shí)沒有什么關(guān)系,先讓大家大概了解一下TiKV存什么。

下面的內(nèi)容就跟備份有關(guān)系了,TiDB 的MVCC(多版本控制器)實(shí)現(xiàn)是在TiKV中。TiKV中加了MVCC,key和value這樣的。

TiDB用什么保證備份的一致性

我認(rèn)為version就是TSO(全局唯一遞增時(shí)間戳),我是通過TiDB二階段提交中發(fā)現(xiàn)的。

如果不是的話version的版本信息就會(huì)存在PD里面,這樣設(shè)計(jì)的話會(huì)增加PD的壓力,感覺不現(xiàn)實(shí)。

針對(duì)上面描述有一個(gè)小的結(jié)論TiKV里面會(huì)存儲(chǔ)歷史key的信息。

下面還是來一個(gè)問答來解答上面的疑問。

問:TiDB是通過什么來保證數(shù)據(jù)的一致性的?

答:是基于TiKV里面的MVCC來保證的,根據(jù)當(dāng)前的的時(shí)間戳信息,來下發(fā)命令 

sql="SET SESSION tidb_snapshot = '415599012634951683'"。

這個(gè)session就會(huì)讀到這個(gè)時(shí)間點(diǎn)的歷史版本的數(shù)據(jù)。

下一步的操作,只要把所有的表和里面的數(shù)據(jù)掃出來就可以了。

問:通過MVCC實(shí)現(xiàn)的備份,能達(dá)到一致性嗎?(因?yàn)闆]有鎖)

答:是可以的,大家可以看一下我之前寫的《淺析TiDB二階段提交》那篇文章中里面有寫到,只有事務(wù)成功提交才能會(huì)寫入到TiKV中,才會(huì)有TSO(全局唯一遞增時(shí)間戳)。也就是TiKV中里面的key都是成功提交的。

那么在備份的過程中提交的成功的事務(wù)是不會(huì)被掃到的。

因?yàn)閭浞葸^程中提交的事務(wù)的tso(全局唯一遞增時(shí)間戳)會(huì)大于當(dāng)前的備份發(fā)起的tso(全局唯一遞增時(shí)間戳)。

問: 使用了MVCC的備份方式,會(huì)有哪些問題?

答:我認(rèn)為最大的問題就是 在備份的過程中老的key被GC(垃圾清理)掉,解決這個(gè)問題的最好的辦法,可以把GC(垃圾清理)時(shí)間設(shè)置的長一點(diǎn)。

UPDATE mysql.tidb SET VARIABLE_VALUE = '800h' WHERE VARIABLE_NAME = 'tikv_gc_life_time';

可以設(shè)置為800h(根據(jù)時(shí)間情況而定),備份結(jié)束后要修改回來,否則會(huì)浪費(fèi)存儲(chǔ)空間。

通過上面的描述,大家應(yīng)該會(huì)了解到TiDB對(duì)備份的一致性處理的相關(guān)細(xì)節(jié)。

在TiDB4.0的分布式備份恢復(fù)工具br,在這塊處理是類似的。也是利用MVCC的方式來實(shí)現(xiàn)的。

最后在安利一下TiDB4.0的備份工具br。備份的速度快,消耗資源相對(duì)較低。下面的案例僅供參考大家感興趣的話 我可以做一下詳細(xì)的測試,留言刷起來。

機(jī)器描述:三臺(tái)騰訊云4C8G SSD50G,Sysbench 壓力10張表每張表1千萬條數(shù)據(jù)。

TiDB用什么保證備份的一致性

整體大概5分鐘左右,brlog里面會(huì)記錄相關(guān)信息。

開始時(shí)間16:44:27.009 結(jié)束時(shí)間16:49:40.395

TiDB用什么保證備份的一致性

TiDB用什么保證備份的一致性

相同環(huán)境我用mydumper測,mydumper運(yùn)行在tidb的節(jié)點(diǎn)上。

mydumper是4個(gè)線程數(shù)(默認(rèn)線程數(shù))

他備份的過程中把tidb壓的OOM了。

#可以用-r參數(shù)控制每個(gè)并發(fā)處理的數(shù)據(jù)量來避免。

TiDB用什么保證備份的一致性

TiDB用什么保證備份的一致性

大概是我的機(jī)器配置低,而且mydumper和tidb-server是同一臺(tái)機(jī)器。

關(guān)于TiDB用什么保證備份的一致性問題的解答就分享到這里了,希望以上內(nèi)容可以對(duì)大家有一定的幫助,如果你還有很多疑惑沒有解開,可以關(guān)注億速云行業(yè)資訊頻道了解更多相關(guān)知識(shí)。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI