rsync+inotify實(shí)時(shí)同步

1 背景

在生產(chǎn)環(huán)境，有時(shí)會(huì)需要兩臺(tái)主機(jī)的特定目錄實(shí)現(xiàn)實(shí)時(shí)同步。比如，將NFS共享目錄的數(shù)據(jù)文件，自動(dòng)實(shí)時(shí)同步到備份的服務(wù)器特定目錄中

2 實(shí)時(shí)同步技術(shù)簡(jiǎn)介

2.1 實(shí)現(xiàn)實(shí)時(shí)同步的方法

inotify + rsync 方式實(shí)現(xiàn)數(shù)據(jù)同步
sersync ：金山公司周洋在 inotify 軟件基礎(chǔ)上進(jìn)行開發(fā)的，功能更加強(qiáng)大

2.2 工作原理

1.需要利用監(jiān)控服務(wù)（inotify），監(jiān)控同步數(shù)據(jù)服務(wù)器目錄中信息的變化
2.發(fā)現(xiàn)目錄中的數(shù)據(jù)產(chǎn)生變化，就利用rsync服務(wù)推送到備份服務(wù)器上

2.3 inotify

異步的文件系統(tǒng)事件監(jiān)控機(jī)制，利用事件驅(qū)動(dòng)機(jī)制，而無(wú)須通過(guò)諸如cron等的輪詢機(jī)制來(lái)獲取事件，linux內(nèi)核從2.6.13起支持 inotify，通過(guò)inotify可以監(jiān)控文件系統(tǒng)中添加、刪除，修改、移動(dòng)等各種事件

[root@CentOS7-02 ~]#grep -i inotify /boot/config-3.10.0-1062.el7.x86_64 
CONFIG_INOTIFY_USER=y

2.4 實(shí)現(xiàn)inotify的軟件

inotify-tools
sersync
lrsyncd

2.5 inotify+rsync使用方式

inotify 對(duì)同步數(shù)據(jù)目錄信息的監(jiān)控
rsync 完成對(duì)數(shù)據(jù)的同步
利用腳本進(jìn)行結(jié)合

3 實(shí)現(xiàn)inotify

3.1 前提條件，內(nèi)核版本不能小于2.6.13，執(zhí)行下面命令查看內(nèi)核是否支持inotify

# 列出下面的文件，說(shuō)明服務(wù)器內(nèi)核支持inotify
[root@CentOS7-02 ~]#ls -l /proc/sys/fs/inotify/
total 0
-rw-r--r-- 1 root root 0 Dec 20 19:42 max_queued_events
-rw-r--r-- 1 root root 0 Dec 20 19:42 max_user_instances
-rw-r--r-- 1 root root 0 Dec 20 19:42 max_user_watches

# inotify內(nèi)核參數(shù)說(shuō)明：
max_queued_events：inotify事件隊(duì)列最大長(zhǎng)度，如值太小會(huì)出現(xiàn) Event Queue Overflow 錯(cuò)誤，默認(rèn)值：16384
max_user_instances：每個(gè)用戶創(chuàng)建inotify實(shí)例最大值，默認(rèn)值：128
max_user_watches：可以監(jiān)視的文件數(shù)量（單進(jìn)程），默認(rèn)值：8192

#上面的參數(shù)可以通過(guò)修改/etc/sysctl.conf文件來(lái)調(diào)整大小，如下所示
[root@CentOS7-02 ~]#vim /etc/sysctl.conf
fs.inotify.max_queued_events=66666
fs.inotify.max_user_watches=100000

[root@CentOS7-02 ~]#sysctl -p
fs.inotify.max_queued_events = 66666
fs.inotify.max_user_watches = 100000

[root@CentOS7-02 ~]#cat /proc/sys/fs/inotify/*
66666
128
100000

3.2 inotify-tools工具

# 參考文檔：https://github.com/rvoicilas/inotify-tools/wiki
# 安裝（基于epel源）
[root@CentOS7-02 ~]#yum -y install inotify-tools

3.2.1 inotify-tools包主要工具

inotifywait： 在被監(jiān)控的文件或目錄上等待特定文件系統(tǒng)事件（open ，close，delete等）發(fā)生，常用于實(shí)時(shí)同步的目錄監(jiān)控
inotifywatch：收集被監(jiān)控的文件系統(tǒng)使用的統(tǒng)計(jì)數(shù)據(jù)，指文件系統(tǒng)事件發(fā)生的次數(shù)統(tǒng)計(jì)

3.2.1.1 inotifywait 命令常見選項(xiàng)

3.2.1.2 inotifywait的--timefmt時(shí)間格式

范例

--timefmt "%Y-%m-%d %H:%M"

3.2.1.3 inotifywait的--format格式定義

范例

--format "%T %w%f event: %;e"
--format '%T %w %f'

3.2.1.4 inotifywait -e選項(xiàng)指定的事件類型

范例

-e create,delete,moved_to,close_write, attrib

3.2.1.5 inotify使用范例

#監(jiān)控一次性事件
inotifywait /data

#持續(xù)前臺(tái)監(jiān)控
inotifywait -mrq /data

#持續(xù)后臺(tái)監(jiān)控，并記錄日志
inotifywait -o /root/inotify.log -drq /data --timefmt "%Y-%m-%d %H:%M" --format "%T %w%f event: %e"

#持續(xù)前臺(tái)監(jiān)控特定事件
inotifywait -mrq /data --timefmt "%F %H:%M" --format "%T %w%f event: %;e" -e
create,delete,moved_to,close_write,attrib

4 rsync

rsync 常用于做為 linux系統(tǒng)下的數(shù)據(jù)鏡像備份工具，實(shí)現(xiàn)實(shí)現(xiàn)遠(yuǎn)程同步，支持本地復(fù)制，或者與其他SSH、rsync主機(jī)同步數(shù)據(jù)，支持增量備份，配合任務(wù)計(jì)劃，rsync能實(shí)現(xiàn)定時(shí)或間隔同步，配合inotify或sersync，可以實(shí)現(xiàn)觸發(fā)式的實(shí)時(shí)數(shù)據(jù)同步
官方網(wǎng)站: http://rsync.samba.org/
軟件包：rsync，rsync-daemon（CentOS 8）
服務(wù)文件：/usr/lib/systemd/system/rsyncd.service
配置文件：/etc/rsyncd.conf
端口：873/tcp

4.1 rsync命令

4.1.1 命令格式

#Local:
rsync [OPTION...] SRC... [DEST]

#Access via remote shell:
Pull:
rsync [OPTION...] [USER@]HOST:SRC... [DEST]
Push:
rsync [OPTION...] SRC... [USER@]HOST:DEST

#Access via rsync daemon:
Pull:
rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
Push:
rsync [OPTION...] SRC... [USER@]HOST::DEST
rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST

4.1.2 工作方式

1. 本地文件系統(tǒng)上實(shí)現(xiàn)同步。命令行語(yǔ)法格式為上述"Local"段的格式。
2. 本地主機(jī)使用遠(yuǎn)程shell和遠(yuǎn)程主機(jī)通信。命令行語(yǔ)法格式為上述"Access via remote shell"段的格式。
3. 本地主機(jī)通過(guò)網(wǎng)絡(luò)套接字連接遠(yuǎn)程主機(jī)上的rsync daemon。命令行語(yǔ)法格式為上述"Access via rsync daemon"段的格式。

前兩者的本質(zhì)是通過(guò)本地或遠(yuǎn)程shell，而第3種方式則是讓遠(yuǎn)程主機(jī)上運(yùn)行rsyncd服務(wù)，使其監(jiān)聽在一個(gè)端口上，等待客戶端的連接。

4.1.3 常見選項(xiàng)

4.2 以獨(dú)立的方式運(yùn)行rsync

###### 服務(wù)器端操作 ######

# 創(chuàng)建rsync服務(wù)器的配置文件
vi /etc/rsyncd.conf
uid = root
gid = root
use chroot = no
max connections = 0
ignore errors
exclude = lost+found/
log file = /var/log/rsyncd.log
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsyncd.lock
reverse lookup = no
hosts allow = 192.168.7.0/24
[backup]
path = /backup/
comment = backup
read only = no
auth users = rsyncuser
secrets file = /etc/rsync.pass

# 準(zhǔn)備目錄
mkdir /backup

# 生成驗(yàn)證文件
echo "rsyncuser:123.com" > /etc/rsync.pass
chmod 600 /etc/rsync.pass

# 啟動(dòng)rsync服務(wù)
rsync --daemon #可加入/etc/rc.d/rc.local實(shí)現(xiàn)開機(jī)啟動(dòng)
systemctl start rsyncd #CentOS 7 以上版本

###### 客戶端操作 ######

# 配置密碼文件
echo "123.com" > /etc/rsync.pass
chmod 600 /etc/rsync.pass #此為必要項(xiàng)

# 測(cè)試數(shù)據(jù)同步
rsync -avz --delete --password-file=/etc/rsync.pass /data/ rsyncuser@rsync服務(wù)器IP::backup

5 編寫inotify_rsync.sh腳本實(shí)現(xiàn)實(shí)時(shí)同步

# 在客戶端執(zhí)行該腳本
#!/bin/bash
SRC='/data/'
DEST='rsyncuser@rsync服務(wù)器IP::backup'
inotifywait -mrq --timefmt '%Y-%m-%d %H:%M' --format '%T %w %f' -e create,delete,moved_to,close_write,attrib ${SRC} | while read DATE TIME DIR FILE ; do
    FILEPATH=${DIR}${FILE}
    rsync -az --delete --password-file=/etc/rsync.pass $SRC $DEST && echo "At ${TIME} on ${DATE}, file $FILEPATH was backuped up via rsync" >>  /var/log/changelist.log
done