MHA高可用集群

MHA高可用集群

文章目錄

一、MHA 簡(jiǎn)介：
二、部署 MHA：
第一步：三臺(tái)主從服務(wù)器安裝 mysql
第二步：修改 mysql 的主配置文件：/etc/my.cnf ，注意三臺(tái)服務(wù)器的 server-id 不能一樣
第三步：三臺(tái)服務(wù)器啟動(dòng) mysql 服務(wù)
第四步：配置 Mysql 主從同步（一主兩從）
第五步：安裝 MHA
第六步：?jiǎn)?dòng) MHA

一、MHA 簡(jiǎn)介：

MHA（Master High Availability）

（1）簡(jiǎn)介

目前在MySQL高可用方面是一個(gè)相對(duì)成熟的解決方案，它由日本DeNA公司youshimaton（現(xiàn)就職于Facebook公司）開發(fā)，是一套優(yōu)秀的作為MySQL高可用性環(huán)境下故障切換和主從提升的高可用軟件。在MySQL故障切換過程中，MHA能做到在0~30秒之內(nèi)自動(dòng)完成數(shù)據(jù)庫(kù)的故障切換操作，并且在進(jìn)行故障切換的過程中，MHA能在最大程度上保證數(shù)據(jù)的一致性，以達(dá)到真正意義上的高可用。

（2）該軟件由兩部分組成：

MHA Manager（管理節(jié)點(diǎn)）和MHA Node（數(shù)據(jù)節(jié)點(diǎn)）。MHA Manager可以單獨(dú)部署在一臺(tái)獨(dú)立的機(jī)器上管理多個(gè)master-slave集群，也可以部署在一臺(tái)slave節(jié)點(diǎn)上。MHA Node運(yùn)行在每臺(tái)MySQL服務(wù)器上，MHA Manager會(huì)定時(shí)探測(cè)集群中的master節(jié)點(diǎn)，當(dāng)master出現(xiàn)故障時(shí)，它可以自動(dòng)將最新數(shù)據(jù)的slave提升為新的master，然后將所有其他的slave重新指向新的master。整個(gè)故障轉(zhuǎn)移過程對(duì)應(yīng)用程序完全透明。

（3）工作原理：

1、在MHA自動(dòng)故障切換過程中，MHA試圖從宕機(jī)的主服務(wù)器上保存二進(jìn)制日志，最大程度的保證數(shù)據(jù)的不丟失，但這并不總是可行的。例如，如果主服務(wù)器硬件故障或無法通過ssh訪問，MHA沒法保存二進(jìn)制日志，只進(jìn)行故障轉(zhuǎn)移而丟失了最新的數(shù)據(jù)。使用MySQL 5.5的半同步復(fù)制，可以大大降低數(shù)據(jù)丟失的風(fēng)險(xiǎn)。MHA可以與半同步復(fù)制結(jié)合起來。如果只有一個(gè)slave已經(jīng)收到了最新的二進(jìn)制日志，MHA可以將最新的二進(jìn)制日志應(yīng)用于其他所有的slave服務(wù)器上，因此可以保證所有節(jié)點(diǎn)的數(shù)據(jù)一致性。

2、順序：

① 從宕機(jī)崩潰的master保存二進(jìn)制日志事件（binlog events）;
② 識(shí)別含有最新更新的slave；
③ 應(yīng)用差異的中繼日志（relay log）到其他的slave；
④ 應(yīng)用從master保存的二進(jìn)制日志事件（binlog events）；
⑤ 提升一個(gè)slave為新的master；
⑥ 使其他的slave連接新的master進(jìn)行復(fù)制

二、部署 MHA：

（1）需求：

本案例要求通過MHA 監(jiān)控MySQL 數(shù)據(jù)庫(kù)在故障時(shí)進(jìn)行自動(dòng)切換，不影響業(yè)務(wù)。

（2）思路：

安裝MySQL數(shù)據(jù)庫(kù)
配置MySQL 一主兩從
安裝MHA軟件
配置無密碼認(rèn)證
配置MySQL、MHA 高可用
模擬 master 故障切換

（3）操作系統(tǒng)：Cent0S7…6 版本， MHA版本是0.57版本

一、在三臺(tái)服務(wù)器上安裝mysql數(shù)據(jù)庫(kù)

（MySQL版本請(qǐng)使用5.6.36；cmake版本請(qǐng)使用2.8.6），因?yàn)槿_(tái)安裝操作都一致，這邊演示在 master 上的安裝順序。
為了實(shí)驗(yàn)的方便，修改主機(jī)名

#修改服務(wù)器名稱，將manster服務(wù)器的主機(jī)名改為manster
hostnamectl set-hostname manster
 su
 #修改服務(wù)器名稱，將slave1服務(wù)器的主機(jī)名改為slaveq
hostnamectl set-hostname slave1
 su
 #修改服務(wù)器名稱，將slave2服務(wù)器的主機(jī)名改為slave2
hostnamectl set-hostname slave2
 su

#安裝編譯依懶環(huán)境
yum -y install gcc gcc-c++ ncurses ncurses-devel bison perl-Module-Install cmake

#掛載軟件包
mount.cifs //192.168.100.3/mha /mnt
Password for root@//192.168.100.3/mha:  
#安裝gmake編譯軟件
cd /mnt
tar zxvf cmake-2.8.6.tar.gz -C /opt
cd /opt/cmake-2.8.6/
./configure
gmake && gmake install

#安裝mysql數(shù)據(jù)庫(kù)
[root@localhost cmake-2.8.6]# cd /mnt
[root@localhost mnt]# tar zxvf mysql-5.6.36.tar.gz -C /opt
#編譯mysql
cd /opt/mysql-5.6.36/
cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql \
-DDEFAULT_CHARSET=utf8 \
-DDEFAULT_COLLATION=utf8_general_ci \
-DWITH_EXTRA_CHARSETS=all \
-DSYSCONFDIR=/etc
#安裝
make && make install
#設(shè)置環(huán)境變量
cp support-files/my-default.cnf /etc/my.cnf
cp support-files/mysql.server /etc/rc.d/init.d/mysqld
chmod +x /etc/rc.d/init.d/mysqld
chkconfig --add mysqld
echo "PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile
source /etc/profile
#創(chuàng)建mysql數(shù)據(jù)庫(kù)，并授權(quán)
groupadd mysql
useradd -M -s /sbin/NOlogin mysql -g mysql
chown -R mysql.mysql /usr/local/mysql
mkdir -p /data/mysql
#初始化數(shù)據(jù)庫(kù)
/usr/local/mysql/scripts/mysql_install_db \
--basedir=/usr/local/mysql \
--datadir=/usr/local/mysql/data \
--user=mysql

二、修改 mysql 的主配置文件：/etc/my.cnf ，注意三臺(tái)服務(wù)器的 server-id 不能一樣

---配置主服務(wù)器：
vim /etc/my.cnf
[mysql]
server-id = 1
#開啟二進(jìn)制日志
log_bin = master-bin
#允許從服務(wù)器進(jìn)行同步
log-slave-updates = true

---配置從服務(wù)器1：
vim /etc/my.cnf
[mysql]
server-id = 2
#開啟二進(jìn)制日志
log_bin = master-bin
 #使用中繼日志進(jìn)行同步
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index

---配置從服務(wù)器2：
vim /etc/my.cnf
[mysql]
server-id = 3
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index

三、三臺(tái)服務(wù)器啟動(dòng) mysql 服務(wù)

#在三臺(tái)服務(wù)器上分別創(chuàng)建這兩個(gè)個(gè)軟鏈接
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

#啟動(dòng)mysql
/usr/local/mysql/bin/mysqld_safe --user=mysql &
#關(guān)閉防火墻和安全功能
systemctl stop firewalld.service
setenforce 0

四、配置 Mysql 主從同步（一主兩從）

1、mysql主從配置相對(duì)簡(jiǎn)單。需要注意的是授權(quán)
在所有數(shù)據(jù)庫(kù)節(jié)點(diǎn)上授權(quán)兩個(gè)用戶，一個(gè)是從數(shù)據(jù)庫(kù)同步使用用戶myslave，一個(gè)是manager使用監(jiān)控用戶

mysql -u root -p             //進(jìn)入數(shù)據(jù)庫(kù)

mysql> grant replication slave on *.* to 'myslave'@'192.168.45.%' identified by '123';
mysql> grant all privileges on *.* to 'mha'@'192.168.45.%' identified by 'manager';
mysql> flush privileges;  //刷新數(shù)據(jù)庫(kù)
#在數(shù)據(jù)庫(kù)上添加下列授權(quán)（理論上不需要）以主機(jī)名授權(quán)（MHA檢查時(shí)是通過主機(jī)名的形式）
mysql> grant all privileges on *.* to 'mha'@'master' identified by 'manager';
mysql> grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
mysql> grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';

在master服務(wù)器上查看二進(jìn)制文件和同步點(diǎn)

show master status;

在兩臺(tái)從服務(wù)器上設(shè)置同步

#在兩臺(tái)從服務(wù)器上都執(zhí)行下列的命令，同步主服務(wù)器的日志
mysql>  change master to master_host='192.168.45.133',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=1292;
mysql>  start slave;    //開啟slave
mysql> show slave status\G;  //查看slave

設(shè)置兩個(gè)從庫(kù)為只讀模式

mysql> set global read_only=1;
mysql> flush privileges;   //刷新數(shù)據(jù)庫(kù)

安裝MHA

在所有服務(wù)器上安裝MHA依懶的環(huán)境，首先安裝epel源

yum install epel-release --nogpgcheck -y

yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

在所有服務(wù)器上安裝 node

#修改服務(wù)器名稱，將manager服務(wù)器的主機(jī)名改為manager
hostnamectl set-hostname manager
 su
#掛載軟件包
mount.cifs //192.168.100.3/mha /mnt
#解壓安裝node
cd ~
tar zxvf /mnt/mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57/
perl Makefile.PL
 make && make install

在manger服務(wù)器上安裝manager（注意：一定要安裝node組件才能安裝manager組件）

#關(guān)閉防火墻
systemctl stop firewalld.service 
setenforce 0
#解壓并安裝manager
cd ~
tar zxvf /mnt/mha4mysql-manager-0.57.tar.gz
mha4mysql-manager-0.57/
perl Makefile.PL 
make && make install

manager服務(wù)器安裝后在 usr/local/bin 目錄下面會(huì)生成幾個(gè)工具：

• masterha_check_repl 檢查mysql復(fù)制狀況
• masterha_master_monitor 檢查master是否宕機(jī)
• masterha_check_ssh 檢查MHA的SSH配置情況
• masterha_master_switch 控制故障轉(zhuǎn)移
• masterha_check_status 檢查當(dāng)前MHA運(yùn)行狀態(tài)
• masterha_conf_host 添加或刪除配置的server信息
• masterha_stop 關(guān)閉manager
• masterha_manager 啟動(dòng)manager的腳本

  node安裝后在/usr/local/bin下面會(huì)生成的幾個(gè)腳本（通常由MHA Manager的腳本觸發(fā)，無需人為操作）

• apply_diff_relay_logs ：識(shí)別差異的中繼日志事件并將其差異的事件應(yīng)用于其他的 slave；
• save_binary_logs：保存和復(fù)制 master 的二進(jìn)制日志；
• filter_mysqlbinlog ：去除不必要的 ROLLBACK 事件 （MHA 已不再使用這個(gè)工具）；
• purge_relay_logs：清除中繼日志（不會(huì)阻塞 SQL 線程）；

  配置無密碼訪問

1、在manager配置所有數(shù)據(jù)庫(kù)節(jié)點(diǎn)的無密碼認(rèn)證
ssh-keygen -t rsa
ssh-copy-id 192.168.45.133
ssh-copy-id 192.168.45.130
ssh-copy-id 192.168.45.134

2、在master上配置到數(shù)據(jù)庫(kù)節(jié)點(diǎn)slave1和slave2的無密碼認(rèn)證
ssh-keygen -t rsa
ssh-copy-id 192.168.45.130
ssh-copy-id 192.168.45.134

3、在slave1上配置到數(shù)據(jù)庫(kù)節(jié)點(diǎn)master'和slave2的無密碼認(rèn)證
ssh-keygen -t rsa
ssh-copy-id 192.168.45.133
ssh-copy-id 192.168.45.134

4、在slave2上配置到數(shù)據(jù)庫(kù)節(jié)點(diǎn)slave1和master的無密碼認(rèn)證
ssh-keygen -t rsa
ssh-copy-id 192.168.45.133
ssh-copy-id 192.168.45.130

配置MHA

1、在manager節(jié)點(diǎn)上復(fù)制相關(guān)腳本到/usr/local目錄

cp -ra /root/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin/
ls scripts/
 master_ip_failover：自動(dòng)切換時(shí) VIP 管理的腳本；
 master_ip_online_change：在線切換時(shí) VIP 的管理；
 power_manager：故障發(fā)生后關(guān)閉主機(jī)的腳本；
 send_report：因故障切換后發(fā)送報(bào)警的腳本；

將自動(dòng)切換時(shí) VIP 管理的腳本復(fù)制到 /usr/local/bin/目錄下：

cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin/

重新編寫 master_ip_failover 腳本：

vim /usr/local/bin/master_ip_failover
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
my $vip = '192.168.45.100';
my $brdc = '192.168.45.255';
my $ifdev = 'ens33';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
# A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

4、創(chuàng)建MHA軟件目錄并拷貝配置文件

mkdir /etc/masterha
 cp /root/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
 #編輯配置文件
vim /etc/masterha/app1.cnf

[server default]
#manager配置文件
manager_log=/var/log/masterha/app1/manager.log     
#manager日志
manager_workdir=/var/log/masterha/app1
#master保存binlog的位置，這里的路徑要與master里配置的bilog的相同
master_binlog_dir=/usr/local/mysql/data
#設(shè)置自動(dòng)failover時(shí)候的切換腳本。也就是上邊的那個(gè)腳本
master_ip_failover_script=/usr/local/bin/master_ip_failover
#設(shè)置手動(dòng)切換時(shí)候的切換腳本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#這個(gè)密碼是前文中創(chuàng)建監(jiān)控用戶的那個(gè)密碼
password=manager
remote_workdir=/tmp
#設(shè)置復(fù)制用戶密碼
repl_password=123
#設(shè)置復(fù)制用戶的用戶
repl_user=myslave
#設(shè)置發(fā)生切換后發(fā)生報(bào)警的腳本
reporl_script=/usr/local/send_report
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.45.130 -s 192.168.45.134
#設(shè)置故障發(fā)生關(guān)閉故障腳本主機(jī)
shutdown_script=""
#設(shè)置ssh的登錄用戶名
ssh_user=root
#設(shè)置監(jiān)控用戶
user=mha

[server1]
hostname=192.168.45.133
port=3306

[server2]
candidate_master=1
#設(shè)置為候選master，如果設(shè)置該參數(shù)以后，發(fā)送主從切換以后將會(huì)從此從庫(kù)升級(jí)為主庫(kù)
hostname=192.168.45.130
check_repl_delay=0
port=3306

[server3]
hostname=192.168.45.134
port=3306

測(cè)試 ssh 無密碼認(rèn)證，如果正常最后都會(huì)輸出 successful：

masterha_check_ssh -conf=/etc/masterha/app1.cnf

檢查建健康狀態(tài)

masterha_check_repl -conf=/etc/masterha/app1.cnf

在master上配置虛擬ip

/sbin/ifconfig ens33:1 192.168.45.100/24

啟動(dòng)manager

 nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

2、查看MHA狀態(tài)，可以看到當(dāng)前的master是mysql節(jié)點(diǎn)

masterha_check_status --conf=/etc/masterha/app1.cnf

故障模擬

1、啟動(dòng)監(jiān)控觀察日志饑記錄

 tailf /var/log/masterha/app1/manager.log

2、關(guān)掉master服務(wù)器

pkill -9 mysql

可以看到從庫(kù)的狀態(tài)，vip會(huì)切換到其中之一的從庫(kù)上：

此時(shí)，客戶機(jī)也可以通過虛擬ip，連接上數(shù)據(jù)庫(kù)：

mysql -h 192.168.45.100 -u root -p

---------------------------以上就是MHA 的架構(gòu)文件-----------