day35-sersync

1.什么是实时同步
监控一个目录的变化,当该目录触发事件(创建、删除、修改)就执行动作,这个动作可以是rsync同步,也可以是其他。
2.为什么要实时同步
(1)能解决nfs单点故障换至云端(随时都需要留一个后手)
3.实时同步的原理
借助一个通知接口,inotify,inotify监控本地主机的事件(创建,删除,修改)则通知执行动作,这个动作可以是rsync同步。
4.实时同步的场景
(1)能解决nfs单点故障问题
(2)能够让本地快速切换至云端
5.实时同步工具选择
(1)inotify+rsync实现(写脚本来实现监控---->放在后台screen)
(2)sersync实时同步 (常用)
(3)lsyncd
https://github.com/wsgzao/sersync
6.实时同步案例演示
规划:
web 10.0.0.7 172.16.1.7 httpd\php
nfs 10.0.0.31 172.16.1.31 nfs-server inotify rsync sersync
backup 10.0.0.41 172.16.1.41 rsync-server nfs-server
(1).实现web上传视频,自动存储至NFS?

NFS服务端:10.0.0.31 172.16.1.31
①安装nfs

[root@nfs ~]# yum install nfs-utils -y

②配置

[root@nfs ~]# cat /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)

③根据配置初始化环境

[root@nfs ~]# groupadd -g 666 www
[root@nfs ~]# useradd -u666 -g666 www
[root@nfs ~]# mkdir /data
[root@nfs ~]# chown -R www.www /data/

④重新启动nfs服务

[root@nfs ~]# systemctl restart nfs-server
[root@nfs ~]# systemctl enable  nfs-server

WEB服务端操作:10.0.0.7 172.16.1.7
①安装httpd php

[root@web01 ~]# yum install httpd php -y

②配置httpd php

③启动httpd

[root@web01 ~]# systemctl start httpd

④模拟测试

[root@web01 ~]# echo "Oldboy Edu.com" > /var/www/html/index.html    (可以不测试)

WEB进行挂载,上传代码:

    [root@web01 ~]# mount -t nfs 172.16.1.31:/data /var/www/html/
    [root@web01 ~]# cd /var/www/html
    [root@web01 ~]# rz kaoshi.zip
    [root@web01 ~]# unzip kaoshi.zip

用户通过前端的web页面上传视频
如果上传出现3错误:请检查日志

    [root@web01 html]# tail -f /var/log/httpd/error_log
    

(2).当NFS的目录发生变化,则触发同步? (实时同步)
* 怎么监控/data? inotify
* 同步rsync ---> backup服务器 [backup模块] [data模块]


rsync服务 10.0.0.41 172.16.1.41
①安装rsync

    [root@backup ~]# yum install rsync -y

②配置rsync

    [root@backup ~]# vi /etc/rsyncd.conf
    uid = rsync
    gid = rsync
    port = 873
    fake super = yes
    use chroot = no
    max connections = 200
    timeout = 600
    ignore errors
    read only = false
    list = false
    auth users = rsync_backup
    secrets file = /etc/rsync.passwd
    log file = /var/log/rsyncd.log
    #####################################
    [backup]
    comment = welcome to oldboyedu backup!
    path = /backup
       [data]
    path = /data
③根据rsync配置初始化环境
    [root@backup ~]# useradd -M -s /sbin/nologin rsync
    [root@backup ~]# echo "rsync_backup:123456" > /etc/rsync.passwd
    [root@backup ~]# chmod 600 /etc/rsync.passwd
    [root@backup ~]# mkdir /backup /data -p 
    [root@backup ~]# chown -R rsync.rsync /backup/ /data/

④启动rsync

    [root@backup ~]# systemctl restart rsyncd 
    [root@backup ~]# systemctl enable rsyncd

nfs服务配置 10.0.0.31 172.16.1.31
①安装rsync inotify

    [root@nfs ~]# yum install rsync inotify-tools -y
②安装sersync  ( rsync inotify )
    [root@nfs ~]# wget https://github.com/wsgzao/sersync/raw/master/sersync2.5.4_64bit_binary_stable_final.tar.gz
    [root@nfs ~]# tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz -C /usr/local/
    [root@nfs ~]# mv /usr/local/GNU-Linux-x86/ /usr/local/sersync
    [root@nfs ~]# file /usr/local/sersync/confxml.xml
    [root@nfs ~]# echo "123456" > /etc/rsync.pass
    [root@nfs ~]# chmod 600 /etc/rsync.pass

③启动sersync

    [root@nfs ~]# /usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml
④建议: 手动执行该命令测试是否ok,这样方便排查问题
    [root@nfs ~]# cd /data && rsync -avz -R --delete ./  --timeout=100 rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass


(3)模拟NFS故障, web可以快速的切换到backup的NFS服务上?

①backup的权限是否和NFS的权限一致?
②backup上是否配置NFS服务?  是否共享了/data目录?
③模拟NFS故障,实现切换?

①backup的权限是否和NFS的权限一致? 10.0.0.41 172.16.1.41
修改如下内容:

[root@backup ~]# vim /etc/rsyncd.conf   
    uid = www
    gid = www
    .....
**创建用户**
[root@backup ~]# groupadd -g 666 www
    [root@backup ~]# useradd -g666 -u666 www
**修改权限**
    [root@backup ~]# chown -R www.www /data/ /backup/
**重启服务**
[root@backup ~]# systemctl restart rsyncd

②.backup服务器上是否配置NFS服务? 是否共享了/data目录?
安装NFS

[root@backup ~]# yum install nfs-utils -y

配置NFS

    [root@backup ~]# cat /etc/exports
    /data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
    [root@backup ~]# chown -R www.www /data/
**启动NFS**
[root@backup ~]# systemctl enable nfs-server
[root@backup ~]# systemctl start nfs-server

③模拟NFS故障,实现切换?

    [root@web01 ~]# umount -lf /var/www/html && mount -t nfs 172.16.1.41:/data /var/www/html

基于sersync海量文件实时同步
https://www.cnblogs.com/xuliangwei/p/10245289.html
S: 项目背景: *******
T: 项目任务: *******
A: 项目实施: *******
R: 产生价值: *******

S: 故障时间: *******
T: 故障分析: *******
A: 如何解决: *******
R: 结果: *******
[root@nfs01 sersync]# vim confxml.xml
5 <fileSystem xfs="true"/>
6 <filter start="false">
7 <exclude expression="(.).svn"></exclude>
8 <exclude expression="(.
).gz"></exclude>
9 <exclude expression="^info/"></exclude>
10 <exclude expression="^static/
"></exclude>
11 </filter>

12 <inotify>
13 <delete start="true"/>
14 <createFolder start="true"/>
15 <createFile start="true"/>
16 <closeWrite start="true"/>
17 <moveFrom start="true"/>
18 <moveTo start="true"/>
19 <attrib start="false"/>
20 <modify start="false"/>
21 </inotify>

23 <sersync>
24 <localpath watch="/data">
25 <remote ip="172.16.1.41" name="data"/>
28 </localpath>

29 <rsync>
30 <commonParams params="-az"/>
31 <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.pass"/>
32 <userDefinedPort start="false" port="874"/>
33 <timeout start="true" time="100"/>
34 <ssh start="false"/>
35 </rsync>

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 195,783评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,360评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 142,942评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,507评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,324评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,299评论 1 273
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,685评论 3 386
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,358评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,652评论 1 293
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,704评论 2 312
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,465评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,318评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,711评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,991评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,265评论 1 251
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,661评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,864评论 2 335

推荐阅读更多精彩内容

  • 1.什么是实时同步 监控一个目录的变化, 当该目录触发事件(创建\删除\修改) 就执行动作, 这个动作可以是 rs...
    矮寨坡的M3阅读 569评论 0 0
  • 1.什么是实时同步 监控一个目录的变化, 当该目录触发事件(创建\删除\修改) 就执行动作, 这个动作可以是 rs...
    UncleZ_strive阅读 108评论 0 0
  • inotify 定义 Inotify是一种强大的、细粒度的、异步的文件系统时间监控机制,通过Inotify可以监控...
    高博666阅读 498评论 0 0
  • 一、NFS服务耦合度 nfs耦合度: 是指nfs客户端和服务端关系过于紧密,当nfs服务没有正常启动的情况下,会使...
    荆俊玮阅读 319评论 0 0
  • 小时候,答案总在练习册的最后几页,答案写的是什么就是什么;多年以后,长大成人,我依旧习惯于找标准答案,一开始觉得答...
    十一而立阅读 158评论 0 0