预备知识
实时同步概述
什么是实时同步
实时同步是一种只要当前目录发生变化则会触发一个事件，事件触发后会将变化的目录同步至远程服务器。
为什么要实时同步
保证数据的连续性 ,减少人力维护成本
实时同步工具选择 , sersync+RSYNC(√) 、 inotify+rsync Inotify、lsyncd
是一个通知接口，用来监控文件系统的各种变化，如果文件存取，删除，移动。可以非常方便地实现文件异动告警，增量备份，并针对目录或文件的变化及时作出响应。 rsync+inotify可以实触发式实时同步增量备份，sersync是国人基于rsync+inotify‐tools的开发的工具，不仅保留了优点同时还强化了实时监控，文件过滤，简化,配置等功能，帮助用户提高运行效率，节省时间和网络资源。
实时同步实战
案例：实现web上传视频文件，实现是写入NFS至存储，当NFS存在新的数据则会实时的复制到备份服务器
角色 外网IP(NAT) 内网IP(LAN) 安装工具
web01 eth0:10.0.0.7 eth1:172.16.1.7
nfs-server eth0:10.0.0.31 eth1:172.16.1.31 rsync+inotify+sersync
backup eth0:10.0.0.41 eth1L172,16,1.41 rsync-server
配置文件
/app/sersync/conf/confxml.xml
[https://www.processon.com/view/link/5bf911c0e4b006dc83a24929]
image.png
[15:53 root@nfs01 ~]#vim /app/sersync/conf/confxml.xml
1 <?xml version="1.0" encoding="ISO-8859-1"?>
2 <head version="2.5">
3 <host hostip="localhost" port="8008"></host>
4 <debug start="false"/>
5 <fileSystem xfs="false"/> 文件系统\\修改为true
6 <filter start="false"> \\过滤
7 <exclude expression="(.*)\.svn"></exclude> \\排除--exclude
8 <exclude expression="(.*)\.gz"></exclude> \\排除--exclude
9 <exclude expression="^info/*"></exclude> \\排除--exclude
10 <exclude expression="^static/*"></exclude> \\排除--exclude
11 <delete start="true"/>
12 </filter>
13 </inotify> \\配置inotify的监控事件，实时监控目录变量 是否有变化
14 <createFolder start="true"/>
15 <createFile start="false"/>
16 <closeWrite start="true"/>
17 <moveFrom start="true"/>
18 <moveTo start="true"/>
19 <attrib start="false"/> \\文件属性
20 <modify start="false"/> \\mtime修改时间
21 </inotify> \\sersync什么时候用rsync推送
22
23 <sersync>
24 <localpath watch="/opt/tongbu"> \\要监控哪个目录 发生变量
25 <remote ip="127.0.0.1" name="tongbu1"/> \\rsync服务端ip name=模块名
26 <!--<remote ip="192.168.8.39" name="tongbu"/>-->
27 <!--<remote ip="192.168.8.40" name="tongbu"/>-->
28 </localpath>
29 <rsync> \\rsync命令配置
30 <commonParams params="-artuz"/> \\rsync的参数
31 <auth start="false" users="root" passwordfile="/etc/rsync.pas"/> \\认证哪个用户和密码文件
32 <userDefinedPort start="false" port="874"/><!-- port=874 -->
33 <timeout start="false" time="100"/><!-- timeout=100 -->
34 <ssh start="false"/>
35 </rsync>
36 <failLog path="/var/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
\\rsync错误日志指定的路径
37 <crontab start="false" schedule="600"><!--600mins--> \\定时任务
38 <crontabfilter start="false">
39 <exclude expression="*.php"></exclude>
40 <exclude expression="info/*"></exclude>
41 </crontabfilter>
42 </crontab>
43 <plugin start="false" name="command"/>
44 </sersync>
45
46 <plugin name="command">
47 <param prefix="/bin/sh" suffix="" ignoreError="true"/> <!--prefix /opt/tongbu/mmm.sh suffix-->
48 <filter start="false">
49 <include expression="(.*)\.php"/>
50 <include expression="(.*)\.sh"/>
51 </filter>
52 </plugin>
53
54 <plugin name="socket">
55 <localpath watch="/opt/tongbu">
56 <deshost ip="192.168.138.20" port="8009"/>
57 </localpath>
58 </plugin>
59 <plugin name="refreshCDN">
60 <localpath watch="/data0/htdocs/cms.xoyo.com/site/">
61 <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
62 <sendurl base="http://pic.xoyo.com/cms"/>
63 <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
64 </localpath>
65 </plugin>
66 </head>
在客户端修改此配置文件，如下内容即可
5 <fileSystem xfs="true"/>
23 <sersync>
24 <localpath watch="/upload">
25 <remote ip="172.16.1.41" name="nfsbackup"/>
26 <!--<remote ip="192.168.8.39" name="tongbu"/>-->
27 <!--<remote ip="192.168.8.40" name="tongbu"/>-->
28 </localpath>
29 <rsync>
30 <commonParams params="-az"/>
31 <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.password"/>
32 <userDefinedPort start="false" port="874"/><!-- port=874 -->
33 <timeout start="false" time="100"/><!-- timeout=100 -->
34 <ssh start="false"/>
35 </rsync>
36 <failLog path="/var/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins exe
backup服务器操作步骤如下
1.安装rsync
[root@backup ~]# yum install rsync -y
如果安装不上执行下面命令
[root@backup ~]# yum provides rsync
2.配置rsync服务
[root@backup ~]# cat /etc/rsyncd.conf
fake super = yes
uid = rsync
gid = rsync
use chroot = no
max connections = 2000
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.password
#####################################
[nfsbackup]
comment = by old0boy 14:18 2012-1-13
path = /nfsbackup
3.建立对应的密码文件并设置600权限
[root@backup ~]# echo "rsync_backup:123456" > /etc/rsync.password
[root@backup ~]# chmod 600 /etc/rsync.password
[root@backup ~]# ll /etc/rsync.password
-rw------- 1 root root 20 May 20 19:52 /etc/rsync.password
4,创建对应的用户
[root@backup ~]# useradd -s /sbin/nologin -M rsync
5.创建对应的目录，所有者设置为rsync
[root@backup ~]# mkdir -p /nfsbackup
[root@backup ~]# chown rsync.rsync /nfsbackup
[root@backup ~]# ll -d /nfsbackup
drwxr-xr-x 2 rsync rsync 6 May 24 16:53 /nfsbackup
6.启动rsync并设置开机自启
[root@backup ~]# systemctl enable rsyncd
[root@backup ~]# systemctl start rsyncd
NFS-server操作步骤如下
1.创建监视目录
[root@nfs01 /usr/local/sersync]# mkdir /nfsbackup
2.创建密码文件
[root@nfs01 /usr/local/sersync]# echo 123456 >/etc/rsync.password
[root@nfs01 /usr/local/sersync]# chmod 600 /etc/rsync.password
3.安装sersync
sersync需要de包含了inotify和rsync两个软件的功能。点击下载
[root@nfs01 ~]# mkdir -p /server/scripts
[root@nfs01 ~]# cd /server/scripts
通过传输工具将sersync压缩包传输都这个目录
[root@nfs01 scripts]# ll
-rw-r--r-- 1 root root 708025 May 23 10:11 sersync_installdir_64bit.zip
[root@nfs01 /server/scripts]# ll
drwxr-xr-x 3 root root 21 Dec 23 2012 sersync_installdir_64bit
-rw-r--r-- 1 root root 708025 May 23 10:11 sersync_installdir_64bit.zip
[root@nfs01 /server/scripts]# mv sersync_installdir_64bit/ /usr/local/
4.配置sersync
[root@nfs01 /usr/local]# cd /usr/local/sersync
[root@nfs01 /usr/local/sersync]# ll
total 0
drwxr-xr-x 2 root root 21 Dec 23 2012 bin
drwxr-xr-x 2 root root 25 Dec 23 2012 conf
drwxr-xr-x 2 root root 6 Dec 23 2012 logs
[root@nfs01 /usr/local/sersync]# cp conf/confxml.xml conf/confxml.xml.bak
[root@nfs01 /usr/local/sersync]# vim conf/confxml.xml
5 <fileSystem xfs="true"/>
24 <localpath watch="/nfsbackup"> #监视的目录
25 <remote ip="172.16.1.41" name="nfsbackup"/> #传输给哪个模块
30 <commonParams params="-az"/> #传输时使用的参数
31 <auth start="true" users="rsync_backup" #认证用户
passwordfile="/etc/rsync.password"/> #认证用户的密码文件
36 <failLog path="/var/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once--> #sersersync日志文件
5.sersync软件添加x权限并创建软连接到/sbin下
[root@nfs01 /usr/local/sersync]# chmod +x /usr/local/sersync/bin/sersync
[root@nfs01 /usr/local/sersync]# ln -s /usr/local/sersync/bin/sersync /sbin/sersync2
[root@nfs01 /usr/local/sersync]# ll -d /sbin/sersync2
lrwxrwxrwx 1 root root 30 May 25 11:43 /sbin/sersync2 -> /usr/local/sersync/bin/sersync
6.启动sersync服务守护模式
查看sersync启动参数
[root@nfs01 /usr/local/sersync]# sersync2 -h
set the system param
execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
参数-d:启用守护进程模式
参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍
c参数-n: 指定开启守护线程的数量，默认为10个
参数-o:指定配置文件，默认使用confxml.xml文件
参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块，使用 -m socket 开启socket模块
参数-m:单独启用其他模块，使用 -m http 开启http模块
不加-m参数，则默认执行同步程序
启动Sersync ，如果需要同时同步多个目录，那么配置多套环境
[root@nfs01 /usr/local/sersync]# sersync2 -rd -o /usr/local/sersync/conf/confxml.xml
检查测试：
1.nfs01创建文件
[root@nfs01 /usr/local/sersync]# touch /nfsbackup/oldboy{1..3}.txt
[root@nfs01 /usr/local/sersync]# ll /nfsbackup
total 0
-rw-r--r-- 1 root root 0 May 25 13:01 oldboy1.txt
-rw-r--r-- 1 root root 0 May 25 13:01 oldboy2.txt
-rw-r--r-- 1 root root 0 May 25 13:01 oldboy3.txt
2.backup端检查
[root@backup ~]# ll /nfsbackup
total 0
-rw-r--r-- 1 rsync rsync 0 May 25 13:01 oldboy10.txt
-rw-r--r-- 1 rsync rsync 0 May 25 13:01 oldboy1.txt
-rw-r--r-- 1 rsync rsync 0 May 25 13:01 oldboy2.txt
-rw-r--r-- 1 rsync rsync 0 May 25 13:01 oldboy3.txt
3.nfs01删除文件
[root@nfs01 /usr/local/sersync]# rm -rf /nfsbackup/*
[root@nfs01 /usr/local/sersync]# ll /nfsbackup
total 0
4.backup检查
[root@backup ~]# ll /nfsbackup
total 0
第二个实时同步方式
Lsyncd实时同步
lsyncd实时同步是指backup服务器和nfs服务器之间进行实时同步，将nfs共享目录和backup某一目录进行实时同步。
1、nfs下载lsyncd
yum install -y lsyncd 将源配置文件清空，/etc/lsyncd.conf
settings { ---设置
logfile = "/var/log/lsyncd/lsyncd.log", ---日志文件
statusFile = "/var/log/lsyncd/lsyncd.status", ---状态文件
inotifyMode = "CloseWrite", ---通知模式=关闭写
maxProcesses = 8, ---进程数
}
sync {
default.rsync, ---默认模式
source = "/data", ---源 客户端要同步的目录
target = "rsync_backup@172.16.1.41::backup", ---服务端的地址
delete= true, ---无差异同步=运行
exclude = { ".*" }, ---排除
delay = 1, ---延迟1秒 检测文件有变化后等待1秒同步
rsync = { ---这个模块专门配置rsync的配置
binary = "/usr/bin/rsync", ---rsync命令的路径
archive = true, ---是否存档
compress = true, ---三个参数 -avz
verbose = true,
password_file = "/etc/rsync.password", ---密码文件（和backup服务器一样权限600 密码一样）
_extra = {"--bwlimit=200"} ---速率、限速
}
}
注意：权限问题 使用运行的用户问题（/etc/rsyncd.conf uid和gid ）
2、配置完成后进行启动、检查、重启lsyncd
systemctl start lsyncd
systemctl status lsyncd
systemctl enable lsynncd
