2019-04-15

1、什么是rsync?

rsync，Rsync英文全称为Remote synchronization   缩写rsync
是开源、高速的、可实现本地以及远程，全量以及增量的数据复制（拷贝）工具。

2、全量和增量区别

全量复制：
[root@nfs01 ~]# cp -a /etc/ /opt/
[root@nfs01 ~]# \cp -a /etc/ /opt
[root@nfs01 ~]# touch /etc/oldboy.txt
[root@nfs01 ~]# \cp -a /etc/ /opt/
增量复制：
只复制oldboy.txt

3、rsync的作用

工作中需要定时/实时数据备份。本地服务器目录、不同机器、不同机房之间的数据备份。都可以用rsync完成。

4、rsync功能特性

   支持拷贝普通文件与特殊文件，如链接文件，设备文件等。
   支持排除指定文件或目录同步的功能，相当于打包命令tar的排除功能。
   可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变。
   可实现增量复制，既只复制发生变化的数据，因此数据传输效率很高。
   可以使用rcp,rsh,ssh等方式来配合进行隧道加密传输文件（rsync本身不对数据加密）。
   可以通过socket(进程方式)传输文件和数据（服务端和客户端）*。
   支持匿名或认证（无需系统用户）进程模式传输，安全的进行数据备份及镜像

5、增量复制原理

       使用 quick check算法，只对增量的部分复制，根据大小属性的变化进行复制。
       2.x比对差异后复制，3.x一边比对一边复制。

6、rsync三种工作模式介绍

1）本地（local）
       rsync就是一个命令
       rsync            [OPTION...]       SRC...        [DEST]
       rsync命令  参数选项    [源目录或文件]    目的目录或文件

命令操作：
      rsync命令
      a.把数据从一个地方复制到另一个地方（仅在一台机器增量）,相当于cp。
      b.通过加参数实现删除文件和清空文件内容的功能，相当于rm命令。
      c.查看属性信息功能，相当于ls。
      实践：
      a.拷贝实践

 [root@backup ~]# ls /opt
 [root@backup ~]# rsync /etc/hosts /opt
 [root@backup ~]# ls /opt
 hosts
 [root@backup ~]# \cp /etc/hosts /opt
 保持属性：
 [root@backup ~]# rsync -zrtopg /etc/hosts /opt/
 [root@backup ~]# ls -lhi /etc/hosts /opt/hosts
 16829878 -rw-r--r--. 1 root root 332 4月  12 11:24 /etc/hosts
    71373 -rw-r--r--  1 root root 332 4月  12 11:24 /opt/hosts

b.删除实践
删除文件内容：

[root@backup ~]# touch /null.txt #空文件
[root@backup ~]# cat /opt/hosts 
127.0.0.1    localhost localhost.localdomain localhost4 localhost4.localdomain4
::1          localhost localhost.localdomain localhost6 localhost6.localdomain6
172.16.1.5 lb01
172.16.1.6 lb02
172.16.1.7 web01
172.16.1.8 web02
172.16.1.9 web03
172.16.1.31 nfs01
172.16.1.41 backup
172.16.1.51 db01 db01.etiantian.org
172.16.1.61 m01

[root@backup ~]# rsync --delete /null.txt /opt/hosts  #让前面null.txt和后面hosts一样
rsync: --delete does not work without --recursive (-r) or --dirs (-d).
rsync error: syntax or usage error (code 1) at main.c(1567) [client=3.1.2]
[root@backup ~]# rsync -r --delete /null.txt /opt/hosts
[root@backup ~]# cat /opt/hosts 
删除目录下所有文件：
[root@backup ~]# mkdir /null
[root@backup ~]# rsyn  c -r --delete /null/ /opt/       #让后面opt和前面null目录内容保持一致
[root@backup ~]# ls /opt/

c.查看属性

[root@backup ~]# rsync /etc/hosts
-rw-r--r--            332 2019/04/12 11:24:41 hosts

2）远程Shell模式
借助类似ssh隧道传输数据，适合不同的机器之间复制。
异地拷贝，相当于scp，区别scp是远程全量拷贝)

拉门推门思考：
pull,拉：从远端拉取到本地。
语法：

rsync                    [OPTION...]    [USER@]HOST:SRC...               [DEST]
rsync命令          参数选项   [认证用户]@[主机地址]:[源路径]             本地路径

语法：
push,推：从本地推到远端。

rsync   [OPTION...]   SRC...     [USER@]HOST:[DEST]        
rsync命令 参数选项    本地路径 [认证用户]@[主机地址]:[目标路径]

push实践：
[root@nfs01 ~]# rsync -avz /etc/hosts root@172.16.1.41:/opt/          #加密传输。
The authenticity of host '172.16.1.41 (172.16.1.41)' can't be established.
ECDSA key fingerprint is SHA256:qZSBkrmOv7xO/63qOU1uLXkPyNVHdkqvrNAcAmXqNEk.
ECDSA key fingerprint is MD5:23:d0:cb:a9:f4:7c:0b:eb:2d:07:00:e1:a3:12:d8:33.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added '172.16.1.41' (ECDSA) to the list of known hosts.
root@172.16.1.41's password: 
sending incremental file list
hosts

sent 219 bytes  received 35 bytes  14.51 bytes/sec
total size is 332  speedup is 1.31
检查：
[root@backup ~]# cd /opt/
[root@backup /opt]# ls
hosts

rsync -avz /etc/hosts root@172.16.1.41:/opt/
rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/
上述命令是等价的。-e 指定通道  ssh ssh服务连接客户端  -p 22指定22端口。
[root@nfs01 ~]# rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/
root@172.16.1.41's password: 
sending incremental file list

sent 44 bytes  received 12 bytes  22.40 bytes/sec
total size is 332  speedup is 5.93

拉的命令：

rsync -avz root@172.16.1.41:/opt/hosts /opt
rsync -avz -e "ssh -p 22" root@172.16.1.41:/opt/hosts /opt

推拉：
a.参照物，执行命令的机器
b.root@172.16.1.41 使用的用户和主机，就用主机和用户的密码。

强调一个重点：适合rsync
null和null/ 区别，null是目录和目录下的内容，
null/只是目录下的内容，不含本身。

3）rsync守护进程模式
首先要搭建rsync服务端(要有守护进程)，然后才能在客户端实现推拉数据。
企业运维的重要模式，重点讲。
客户端语法暂时不讲。
rsync服务模式：*****开启后台进程，接受别人访问。

7、rsync命令参数

-v, --verbose  显示输出过程
-z, --compress 压缩
-a, --archive  多参数集合(-rtopgDl)
-r, --recursive 递归
-t, --times    保持修改时间属性
-o, --owner    保持属主不变
-p, --perms    保持权限不变
-g, --group    保持用户组不变
-l, --links    保持拷贝软连接
-q, --quiet    安静的拷贝
--bwlimit=KBPS 限制I/O带宽，KBytes per second。
--delete       删除
--exclude      排除
--exclude-from 从文件中排除

8、rsync守护进程应用实践
（1）以下操作都是在backup服务器

1）安装
[root@backup /]# rsync --version
rsync  version 3.1.2  protocol version 31
2）配置文件/etc/rsyncd.conf
cp /etc/rsyncd.conf{,.ori}      备份
cat >/etc/rsyncd.conf<<EOF   下列数据追加仅rsyncd.conf里
#rsync_config_______________start
#created by oldboy
#site: http://www.oldboyedu.com
uid = rsync
gid = rsync
use chroot = no
max connections = 200
timeout = 600 
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
comment = welcome to oldboyedu backup!
path = /backup/
EOF

[root@backup ~]# cat -n /etc/rsyncd.conf
     1  #rsync_config_______________start
     2  #created by oldboy
     3  #site: http://www.oldboyedu.com
     4  uid = rsync                              管理备份目录的用户
     5  gid = rsync                              管理备份目录的用户组
     6  use chroot = no                          安全功能，数据是否锁定到备份目录
     7  max connections = 200                    并发连接，同时多少客户端访问
     8  timeout = 600                            超时时间
     9  pid file = /var/run/rsyncd.pid           进程号所在文件
    10  lock file = /var/run/rsync.lock          锁文件
    11  log file = /var/log/rsyncd.log           日志文件，查看报错等。
    12  ignore errors                            忽略错误
    13  read only = false                        可写
    14  list = false                             不允许列表
    15  hosts allow = 172.16.1.0/24              授权哪些主机可以访问
    16  hosts deny = 0.0.0.0/32                  拒绝哪些主机不允许访问
    17  auth users = rsync_backup                远程虚拟连接用户
    18  secrets file = /etc/rsync.password       存放密码的文件，格式：用户名：密码 权限要求：必须600
    19  [backup]                                 [模块名]远程访问的时候一般使用模块名访问
    20  comment = welcome to oldboyedu backup!   说明注释
    21  path = /backup/                          服务器端用于备份的目录，用户和组，rsyn

要了解知识的源头    
man rsyncd      查命令的参数
man rsyncd.conf 查配置文件的参数
学会获取知识的源头。
创建用户和备份目录
[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月  15 12:12 /backup/

3）启动和检查

C6以前
rsync --daemon
systemctl start rsyncd
systemctl enable rsyncd
systemctl status rsyncd
[root@backup ~]# ps -ef|grep sync|grep -v grep  #检查进程
root       7521      1  0 11:39 ?        00:00:00 /usr/bin/rsync --daemon --no-detach

[root@backup ~]# netstat -lntup|grep 873 #检查端口
tcp        0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      7521/rsync          
tcp6       0      0 :::873                  :::*                    LISTEN      7521/rsync 
         
[root@backup ~]# lsof -i :873 #检查端口
COMMAND  PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
rsync   7521 root    3u  IPv4  41439      0t0  TCP *:rsync (LISTEN)
rsync   7521 root    5u  IPv6  41440      0t0  TCP *:rsync (LISTEN)

4）、配置密码文件

[root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password
[root@backup ~]# chmod 600 /etc/rsync.password
[root@backup ~]# cat /etc/rsync.password
rsync_backup:oldboy
[root@backup ~]# ls -l /etc/rsync.password
-rw------- 1 root root 20 4月  15 11:51 /etc/rsync.password

服务端配置完成

（2）以下操作都是在客户端服务器

方法1：认证密码文件
[root@nfs01 ~]# echo "oldboy" > /etc/rsync.password
[root@nfs01 ~]# chmod 600 /etc/rsync.password
[root@nfs01 ~]# cat /etc/rsync.password
oldboy
[root@nfs01 ~]# ls -l /etc/rsync.password
-rw------- 1 root root 7 4月  15 11:55 /etc/rsync.password
方法2：
[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc 
[root@nfs01 ~]# tail -1 /etc/bashrc 
 export RSYNC_PASSWORD=oldboy
[root@nfs01 ~]# . /etc/bashrc 
[root@nfs01 ~]# echo $RSYNC_PASSWORD
oldboy

rsync客户端 nfs01 配置完成

（3）守护进程模式，客户端rsync的命令语法：

配置服务器端守护进程，实现数据传输：

1、服务器端守护进程。2、客户端执行命令。
拉门、推门思考：

pull,拉：从远端拉取到本地。
语法1（常用）：
rsync       [OPTION...]     [USER@]HOST::SRC...                  [DEST]
rsync命令     参数选项    [虚拟用户]@[主机地址]::[模块名]        本地路径
语法2:
rsync       [OPTION...]   rsync://[USER@]HOST::SRC...            [DEST]
rsync命令     参数选项    rsync://[虚拟用户]@[主机地址]/[模块名] 本地路径
 
push,推：从本地推到远端。
语法1（常用）：                 
rsync    [OPTION...]      [DEST]        [USER@]HOST::SRC...                  
rsync命令 参数选项        本地路径      [虚拟用户]@[主机地址]::[模块名]       

语法2:                    
rsync   [OPTION...]       [DEST]        rsync://[USER@]HOST::SRC...              
rsync命令 参数选项        本地路径      rsync://[虚拟用户]@[主机地址]/[模块名]

（4）测试成果

错误1：
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
@ERROR: invalid uid rsync
rsync error: error starting client-server protocol (code 5) at main.c(1648) [sender=3.1.2]

解答：
[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月  15 12:12 /backup/

错误2：
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
sending incremental file list
hosts
rsync: chgrp ".hosts.YDuTjO" (in backup) failed: Operation not permitted (1)

sent 223 bytes  received 124 bytes  694.00 bytes/sec
total size is 332  speedup is 0.96
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1178) [sender=3.1.2]

解答：增加如下参数到/etc/rsyncd.conf
fake  super  = yes #不用root用户也可以存储文件的完整属性。
This allows the full attributes of a file to  be  stored  without having to have the daemon actually running as root.
[root@backup ~]# grep fake /etc/rsyncd.conf
fake super = yes

改完配置，要重启服务：
[root@backup ~]# systemctl restart rsyncd

在测试：成功
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
sending incremental file list
hosts

sent 89 bytes  received 49 bytes  276.00 bytes/sec
total size is 332  speedup is 2.41

rsync -avz /etc rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

服务端检查：
[root@backup ~]# ls /backup/
hosts
[root@backup ~]# ls /backup/
etc  hosts

如果客户端按照环境变量的方式配置，则可以忽略--password-file=/etc/rsync.password参数。
[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup
sending incremental file list

sent 52,071 bytes  received 644 bytes  105,430.00 bytes/sec
total size is 31,244,350  speedup is 592.70

测试增量
[root@nfs01 ~]# touch /etc/oldboy.txt
[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup
sending incremental file list
etc/oldboy.txt

sent 52,098 bytes  received 655 bytes  105,506.00 bytes/sec
total size is 31,244,350  speedup is 592.28

最后编辑于：2020.05.26 21:22:33

人面猴
序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
沈念sama阅读 200,527评论 5赞 470
死咒
序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
沈念sama阅读 84,314评论 2赞 377
救了他两次的神仙让他今天三更去死
文/潘晓璐我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
开封第一讲书人阅读 147,535评论 0赞 332
道士缉凶录：失踪的卖姜人
文/不坏的土叔我叫张陵，是天一观的道长。经常有香客问我，道长，这世上最难降的妖魔是什么？我笑而不...
开封第一讲书人阅读 54,006评论 1赞 272
港岛之恋（遗憾婚礼）
正文为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
茶点故事阅读 62,961评论 5赞 360
恶毒庶女顶嫁案：这布局不是一般人想出来的
文/花漫我一把揭开白布。她就那样静静地躺着，像睡着了一般。火红的嫁衣衬着肌肤如雪。梳的纹丝不乱的头发上，一...
开封第一讲书人阅读 48,220评论 1赞 277
城市分裂传说
那天，我揣着相机与录音，去河边找鬼。笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。我是一名探鬼主播，决...
沈念sama阅读 37,664评论 3赞 392
双鸳鸯连环套：你想象不到人心有多黑
文/苍兰香墨我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
开封第一讲书人阅读 36,351评论 0赞 254
万荣杀人案实录
序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
沈念sama阅读 40,481评论 1赞 294
护林员之死
正文独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋以下内容为张勋视角年9月15日...
茶点故事阅读 35,397评论 2赞 317
白月光启示录
正文我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
茶点故事阅读 37,443评论 1赞 329
活死人
序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
沈念sama阅读 33,123评论 3赞 315
日本核电站爆炸内幕
正文年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
茶点故事阅读 38,713评论 3赞 303
男人毒药：我在死后第九天来索命
文/蒙蒙一、第九天我趴在偏房一处隐蔽的房顶上张望。院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
开封第一讲书人阅读 29,801评论 0赞 19
一桩弑父案，背后竟有这般阴谋
文/苍兰香墨我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。一阵脚步声响...
开封第一讲书人阅读 31,010评论 1赞 255
情欲美人皮
我被黑心中介骗来泰国打工，没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。一个月前我还...
沈念sama阅读 42,494评论 2赞 346
代替公主和亲
正文我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
茶点故事阅读 42,075评论 2赞 341

2019-04-15

推荐阅读更多精彩内容