溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

怎么理解mysql GTID主從復(fù)制

發(fā)布時(shí)間:2021-11-11 16:48:26 來源:億速云 閱讀:143 作者:iii 欄目:MySQL數(shù)據(jù)庫

本篇內(nèi)容介紹了“怎么理解mysql GTID主從復(fù)制”的有關(guān)知識,在實(shí)際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!

一、GTID的概述:

1、全局事物標(biāo)識:global transaction identifieds。

2、GTID事物是全局唯一性的,且一個(gè)事務(wù)對應(yīng)一個(gè)GTID。

3、一個(gè)GTID在一個(gè)服務(wù)器上只執(zhí)行一次,避免重復(fù)執(zhí)行導(dǎo)致數(shù)據(jù)混亂或者主從不一致。

4、GTID用來代替classic的復(fù)制方法,不在使用binlog+pos開啟復(fù)制。而是使用master_auto_postion=1的方式自動(dòng)匹配GTID斷點(diǎn)進(jìn)行復(fù)制。

5、MySQL-5.6.5開始支持的,MySQL-5.6.10后開始完善。

6、在傳統(tǒng)的slave端,binlog是不用開啟的,但是在GTID中,slave端的binlog是必須開啟的,目的是記錄執(zhí)行過的GTID(強(qiáng)制)。

二、GTID的組成部分:

前面是server_uuid:后面是一個(gè)序列號

例如:server_uuid:sequence number

7800a22c-95ae-11e4-983d-080027de205a:10

UUID:每個(gè)mysql實(shí)例的唯一ID,由于會傳遞到slave,所以也可以理解為源ID。

Sequence number:在每臺MySQL服務(wù)器上都是從1開始自增長的序列,一個(gè)數(shù)值對應(yīng)一個(gè)事務(wù)。

三、GTID比傳統(tǒng)復(fù)制的優(yōu)勢:

1、更簡單的實(shí)現(xiàn)failover,不用以前那樣在需要找log_file和log_Pos。

2、更簡單的搭建主從復(fù)制。

3、比傳統(tǒng)復(fù)制更加安全。

4、GTID是連續(xù)沒有空洞的,因此主從庫出現(xiàn)數(shù)據(jù)沖突時(shí),可以用添加空事物的方式進(jìn)行跳過。

四、GTID的工作原理:

1、master更新數(shù)據(jù)時(shí),會在事務(wù)前產(chǎn)生GTID,一同記錄到binlog日志中。

2、slave端的i/o 線程將變更的binlog,寫入到本地的relay log中。

3、sql線程從relay log中獲取GTID,然后對比slave端的binlog是否有記錄。

4、如果有記錄,說明該GTID的事務(wù)已經(jīng)執(zhí)行,slave會忽略。

5、如果沒有記錄,slave就會從relay log中執(zhí)行該GTID的事務(wù),并記錄到binlog。

6、在解析過程中會判斷是否有主鍵,如果沒有就用二級索引,如果沒有就用全部掃描。

要點(diǎn):

1、slave在接受master的binlog時(shí),會校驗(yàn)master的GTID是否已經(jīng)執(zhí)行過(一個(gè)服務(wù)器只能執(zhí)行一次)。

2、為了保證主從數(shù)據(jù)的一致性,多線程只能同時(shí)執(zhí)行一個(gè)GTID。

六、使用GTID搭建mysql的主從復(fù)制的主要參數(shù):

[mysqld]

#GTID:

gtid_mode=on

enforce_gtid_consistency=on

server_id=2003306    #每天實(shí)例的server_id都要不一樣

#binlog

log-bin=mysqlbin

log-slave-updates=1   #允許下端接入slave

binlog_format=row      #強(qiáng)烈建議,其他格式可能造成數(shù)據(jù)不一致

#relay log

skip_slave_start=1

注意:建議使用mysql-5.6.5以上的最新版本。

(二)、啟動(dòng)GTID的兩種方法:

方法一、

1、如果是在已經(jīng)跑的服務(wù)器,你需要重啟一下mysql server。

2、啟動(dòng)之前,一定要先關(guān)閉master的寫入,保證所有slave端都已經(jīng)和master端數(shù)據(jù)保持同步。

3、所有slave需要加上skip_slave_start=1的配置參數(shù),避免啟動(dòng)后還是使用老的復(fù)制協(xié)議。

方法二、

1、如果是新搭建的服務(wù)器,直接啟動(dòng)就行了。

七、master-slave搭建的注意事項(xiàng):

(一)、使用GTID的方式,把salve端掛載master端:

1、啟動(dòng)以后最好不要立即執(zhí)行事務(wù),而是先change master上。

2、然后在執(zhí)行事務(wù),當(dāng)然知不是必須的。

3、使用下面的sql切換slave到新的master。

stop slave;

change master to

master_host = 192.168.100.200,

master_port = 3306,

master_user = abobo,

master_password=123,

master_auto_position = 1;

(二)、如果給已經(jīng)運(yùn)行的GTID的master端添加一個(gè)新的slave

有兩種方法:

方法一、適用于master也是新建不久的情況。

1、如果你的master所有的binlog還在??梢赃x擇類似于上面的方法,安裝slave,直接change master to到master端。

2、原理是直接獲取master所有的GTID并執(zhí)行。

3、優(yōu)點(diǎn):簡單方便。

4、缺點(diǎn):如果binlog太多,數(shù)據(jù)完全同步需要時(shí)間較長,并且master一開始就啟用了GTUD。

方法二、適用于擁有較大數(shù)據(jù)的情況。(推薦)

1、通過master或者其他slave的備份搭建新的slave。(看第三部分)

2、原理:獲取master的數(shù)據(jù)和這些數(shù)據(jù)對應(yīng)的GTID范圍,然后通過slave設(shè)置@@global.gtid_purged跳過備份包含的gtid。

3、優(yōu)點(diǎn):是可以避免第一種方法的不足。

4、缺點(diǎn):相對來說有點(diǎn)復(fù)雜。

(三)、通過備份搭建新的slave:(方法二的擴(kuò)展)

兩種方法:

方法一、mysqldump的方式:

1、在備份的時(shí)候指定--master-data=2(來保存binlog的文件號和位置的命令)。

2、使用mysqldump的命令在dump文件里可以看到下面兩個(gè)信息:

SET @@SESSION.SQL_LOG_BIN=0;

SET @@GLOBAL.GTID_PURGED='7800a22c-95ae-11e4-983d-080027de205a:1-8';

3、將備份還原到slave后,使用change master to命令掛載master端。

注意:在mysql5.6.9以后的命令才支持這個(gè)功能。

方法二、percona Xtrabackup

1、Xtrabackup_binlog_info文件中,包含global.gtid_purged='XXXXXX:XXXX'的信息。

2、然后到slave去手工的 SET GLOBAL.GTID_PURGED='XXXXXX:XXXX'。

3、恢復(fù)備份,開啟change master to 命令。

注意:如果系統(tǒng)運(yùn)行了很久,無法找到GTID的編號了,可以通過上面的方式進(jìn)行查找。

八、GTID如何跳過事務(wù)沖突:

1、這個(gè)功能主要跳過事務(wù),代替原來的set global sql_slave_skip_counter = 1。

2、由于在這個(gè)GTID必須是連續(xù)的,正常情況同一個(gè)服務(wù)器產(chǎn)生的GTID是不會存在空缺的。所以不能簡單的skip掉一個(gè)事務(wù),只能通過注入空事物的方法替換掉一個(gè)實(shí)際操作事務(wù)。

3、注入空事物的方法:

stop slave;

set gtid_next='xxxxxxx:N';

begin;commit;

set gtid_next='AUTOMAIC';

start slave;

4、這里的xxxxx:N 也就是你的slave sql thread報(bào)錯(cuò)的GTID,或者說是你想要跳過的GTID。

九、GTID的參數(shù)注釋:

[master]>show global variables like '%gtid%';

1、enforce_gtid_consistency:開啟gtid的一些安全限制(介意開啟)。

2、gtid_executed:全局和seeeion級別都可以用。用來保存已經(jīng)執(zhí)行過的GTIDs。

貼士:show  master status\G;輸出結(jié)果中的Executed_Gtid_Set和gitd_executed一致。reset master時(shí),此值會被清空。

3、gtid_owned:全局和session級別都可用,全局表示所有服務(wù)器擁有GTIDs,session級別表示當(dāng)前client擁有所有GTIDs。(此功能用的少)

4、gtid_mode:是否開啟GTID功能。

5、gtid_purged:全局參數(shù),設(shè)置在binlog中,已經(jīng)purged的GTIDs,并且purged掉的GTIDs會包含到gtid_executed中。

貼士:從而導(dǎo)致slave不會再去master請求這些GTIDs,并且Executed_Gtid_Set為空時(shí),才可以設(shè)置此值。

6、gtid_next:這個(gè)時(shí)session級別的參數(shù):

[master]>show session variables like '%gtid_next%';

十、關(guān)于GTID的一些功能限制:

(一)、更新非事務(wù)引擎:

1、Case重現(xiàn):

master:對一個(gè)innodb表做一個(gè)多sql更新的事物,效果是產(chǎn)生一個(gè)GTID。

slave:對應(yīng)的表是MYISAM引擎,執(zhí)行這個(gè)GTID的第一個(gè)語句后就會報(bào)錯(cuò),因?yàn)榉鞘聞?wù)引擎一個(gè)sql就是一個(gè)事務(wù)。

2、錯(cuò)誤編號:

last_Errno:1756

3、異常恢復(fù)方案:

(1)、簡單的stop slave; start slave;就能夠忽略錯(cuò)誤。但是這個(gè)時(shí)候主從的一致性已經(jīng)出現(xiàn)問題。需要手工的把slave差的數(shù)據(jù)補(bǔ)上。

(2)、首先將引擎調(diào)整為一樣的,slave也改為事務(wù)引擎。

(二)、不支持 create table ....select statements

1、case重現(xiàn):

master:直接執(zhí)行一個(gè)create table select * from table;的sql

2、報(bào)錯(cuò):

error 1786

3、原理:

由于create table ...select語句會生成兩個(gè)sql,一個(gè)是DDL創(chuàng)建表SQL,一個(gè)是insert into 插入數(shù)據(jù)的sql。由于DDL會導(dǎo)致自動(dòng)提交,所以這個(gè)sql至少需要兩個(gè)GTID,但是GTID模式下,只能給這個(gè)sql生成一個(gè)GTID,如果強(qiáng)制執(zhí)行會導(dǎo)致和上面更新非事務(wù)引擎一樣的結(jié)果。

(三)、一個(gè)sql同事操作innodb引擎和myisam引擎:

case重現(xiàn):t1表是innodb,t2表是myisam

1、update t1,t2 set t1.id=1000,t2.id=1000 where t1.id=t2.id;

2、報(bào)錯(cuò):1785

3、原理和第二個(gè)相同。

(四)、在一個(gè)replication grouop 中,所有的mysql必須要統(tǒng)一開啟或者關(guān)閉GTID功能。

1、case重現(xiàn):

將一個(gè)未開啟gtid的slave通過原始的binlog和pos方式連接到開啟GTID的master。

2、報(bào)錯(cuò):

The slave IO thread stops because the master has @@GLOBAL.GTID_MODE ON and this server has @@GLOBAL.GTID_MODE OFF。

(五)、在一個(gè)replication group中,如果開啟GTID以后,就不再允許使用classic的復(fù)制方式:

1、case重現(xiàn):

將一個(gè)開啟gtid的slave通過原始的binlog和pos方式連接到開啟GTID的master。

2、報(bào)錯(cuò):

ERROR 1776(HY000):Parameters MASTER_LOG_FILE,MASTER_LOG_POS,RELAY_LOG_FILE and RELAY_LOG_POS cannot be set when MASTER_AUTO_POSITION is active。

(六)、GTID_MODE是not online的:

需要重啟才能生效,官方暫時(shí)不支持平滑的從classic replication切換到GTID replication。

貼士:

由于GTID開啟需要重啟系統(tǒng),一個(gè)復(fù)制組中所有的實(shí)例必須統(tǒng)一開啟或者關(guān)閉GTID,開啟GTID以后不能在使用classic復(fù)制。

問題:

也就是說在線業(yè)務(wù)必須統(tǒng)一關(guān)閉,然后再啟動(dòng),會導(dǎo)致服務(wù)中斷。

解決方案:

1、針對這種情況,社區(qū)有兩種對應(yīng)的平滑升級的方案:

一種是booking.com出品,這兩個(gè)差別在淘寶9月份數(shù)據(jù)庫月報(bào)里有說明,加了一個(gè)橋接的服務(wù)器,既可以運(yùn)行GTID模式下,也可以運(yùn)行classic模式下。

另外一種是facebook.com出品。所有的slave可以在開啟GTID模式的情況下,可以連接到?jīng)]有開啟GTID模式的master。

2、可以關(guān)閉一個(gè)部分,停止寫操作,但是讀不用,將另一部分改成GTID模式。

(七)、Temporary tables。

1、create temporary table和drop temporary table語句一樣在GTID環(huán)境下不支持。

如果--enforce_gtid_consistency參數(shù)開啟,并且autocommit=1,那么可以使用。

(八)、關(guān)于Errant transaction

1、Errant transaction:所謂的errant transaction也就是沒有規(guī)范的從master執(zhí)行,而是直接從slave執(zhí)行的事務(wù)。

2、由于GTID協(xié)議的原因,最開始已經(jīng)提過(參見GTID architecture)。

3、如果slave有errant transaction產(chǎn)生,由于GTID協(xié)議中的規(guī)則,很容易導(dǎo)致failover失敗。主要有兩種情況:

a、在slave上做了無用的或者臨時(shí)的errant transaction操作,如果該slave升級成為master的話,連接到它的所有數(shù)據(jù)庫都會獲取到這個(gè)事務(wù)。如果一樣就會產(chǎn)生沖突。

b、由于做了這個(gè)errant transaction這個(gè)事務(wù)以后,其他的slave還沒有獲取這個(gè)errant transaction的GTID,需要從master上發(fā)同步給其他的slave,但是主的binlog又被刪掉了,這時(shí)將會報(bào)錯(cuò)。

4、總之:盡量避免產(chǎn)生errant transaction??梢酝ㄟ^:set sql_log_bin=off的方式在slave執(zhí)行sql,但是也要考慮到數(shù)據(jù)一致性。

“怎么理解mysql GTID主從復(fù)制”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識可以關(guān)注億速云網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實(shí)用文章!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI