1,rsync:英文全称为Remote synchronization,缩写rsync。是开源、高速的、可实现本地以及远程,全量以及增量的数据复制(拷贝)工具。
2,rsync的作用:工作中需要定时、实时数据备份。本地服务器目录、不同机器、不同机房之间的数据备份。这些都可以用rsync完成。
3,rsync功能特性
支持拷贝普通文件与特殊文件,如链接文件,设备文件等。
支持排除指定文件或目录同步放的功能,相当于打包命令tar的排除功能。
可以做到保持原文件或目录的权限。时间、软硬连接、属主、属组等所有属性均不改变。
可实现增量复制,既只复制发生变化的数据,因此数据传输效率很高。
可以使用rcp,rsh,ssh等方式来配合进行隧道加密传输文件(rsync本身不对数据加密).
可以通过socket(进程方式)传输文件和数据(服务端和客户端)。
支持匿名或认证(无需系统用户)进程模式传输,安全的进行数据备份及镜像。
4,全量和增量的区别:全量是一次性同步全部数据,增量是同步两个数据库不同的部分,相比于全量速度快,效率高。
5,增量复制原理
使用quick check算法,只对增量的部分复制,根据大小属性的变化进行复制。
2.x比对差异后复制,3.x一遍比对一边复制。
6,rsync三种工作模式介绍
1)本地(local)
rsync是一个命令
语法:rsync [OPTION...] SRC... [DEST]
rsync命令 参数选项 [源目录或文件] 目的目录或文件
命令操作:rsync命令
a,把数据从一个地方复制到另一个地方(仅在一台机器增量),相当于cp。
b,通过加参数实现删除文件和清空文件内容的功能,相当于rm命令。
c,查看属性信息功能,相当于ls。
实践:a,拷贝实践:
保持文件属性:
b,删除实践
删除文件内容:
删除目录下所有文件:
c,查看属性
2)远程Shell模式
借助类似ssh隧道传输数据,适合不同的机器之间复制。
异地拷贝,相当于cp,区别scp是远程全量拷贝
pull,拉:从远端拉到本地。
语法:rsync [OPTION...] [USER@]HOST:SRC... [DEST]
rsync命令 参数选项 [认证用户]@[主机地址]:[源路径] 本地路径
push,推:从本地推到远端。
语法:rsync [OPTION...] SRC... [USER@]HOST:[DEST]
rsync命令 参数选项 本地路径 [认证用户]@[主机地址]:[目标路径]
push(推)实践:
rsync -avz /etc/hosts root@172.16.1.41:/opt/
rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/
上述命令是等价的。-e 指定通道 ssh ssh服务连接客户端 -p 22指定22端口。
拉的命令:rsync -avz root@172.16.1.41:/opt/hosts /opt
rsync -avz -e "ssh -p 22" root@172.16.1.41:/opt/hosts /opt (这两个命令也是等价的)
推拉:a,参照物(执行命令的机器)
b,root@172.16.1.41(使用的用户和主机,就用主机和用户的密码)
null和null/ 区别,null是目录和目录下的内容,
null/只是目录下的内容,不含本身。
3)rsync守护进程模式:首先要搭建rsync服务端(要有守护进程),然后才能在客户端实现推拉数据。
rsync服务模式:开启后台进程,接受别人访问。
7,rsync命令参数:
-v,显示输出过程
-z,压缩
-a,多参数集合(-rtopgDl)
-r,递归
-t,保持修改时间属性
-o,保持属主不变
-p,保持权限不变
-g,保持用户组不变
-l,保持拷贝软链接
-q,安静的拷贝
--bwlimit=KBPS 限制I/O带宽,KBytes per second。
--delete,删除
--exclude,排除
--exclude-from,从文件中排除
企业常用参数组合:-avz或者-vzrtopg
8,rsync守护进程模式应用实践
(1)安装
[root@backup ~]# rsync --version
rsync version 3.1.2 protocol version 31
[root@backup ~]# yum install rsync(不需要)
2)配置配置文件/etc/rsyncd.conf
备份
cp /etc/rsyncd.conf{,.ori}
cat>/etc/rsyncd.conf<<EOF
#rsync_config_______________start
#created by oldboy
#site: http://www.oldboyedu.com
uid = rsync
gid = rsync
use chroot = no
fake super = yes
max connections = 200
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
comment = welcome to oldboyedu backup!
path = /backup/
EOF
man rsync 查命令的参数
man rsyncd.conf 查配置参数
创建用户和备份目录
[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月 15 12:12 /backup/
3)启动和检查
rsync --daemon(c6及以前)
systemctl start rsyncd
systemctl enable rsyncd
systemctl status rsyncd
[root@backup ~]# ps -ef|grep sync|grep -v grep #检查进程
root 7521 1 0 11:39 ? 00:00:00 /usr/bin/rsync --daemon --no-detach
[root@backup ~]# netstat -lntup|grep 873 #检查端口
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 7521/rsync
tcp6 0 0 :::873 :::* LISTEN 7521/rsync
[root@backup ~]# lsof -i :873 #检查端口
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
rsync 7521 root 3u IPv4 41439 0t0 TCP *:rsync (LISTEN)
rsync 7521 root 5u IPv6 41440 0t0 TCP *:rsync (LISTEN)
面试题:如何查看某端口对应什么服务?答案就是上面两个。
4)配置密码文件
[root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password
[root@backup ~]# chmod 600 /etc/rsync.password
[root@backup ~]# cat /etc/rsync.password
rsync_backup:oldboy
[root@backup ~]# ls -l /etc/rsync.password
-rw------- 1 root root 20 4月 15 11:51 /etc/rsync.password
rsync服务端配置完成。
(2)以下操作都是在客户端服务器
以下方法2选1
方法1:认证密码文件
[root@nfs01 ~]# echo "oldboy" > /etc/rsync.password
[root@nfs01 ~]# chmod 600 /etc/rsync.password
[root@nfs01 ~]# cat /etc/rsync.password
oldboy
[root@nfs01 ~]# ls -l /etc/rsync.password
-rw------- 1 root root 7 4月 15 11:55 /etc/rsync.password
方法2:
[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc
[root@nfs01 ~]# tail -1 /etc/bashrc
export RSYNC_PASSWORD=oldboy
[root@nfs01 ~]# . /etc/bashrc
[root@nfs01 ~]# echo $RSYNC_PASSWORD
oldboy
rsync客户端 nfs01 配置完成
现在按照上面的方法配置另一个客户端web01:
客户端web01配置完成。
(3)守护进程模式,客户端rsync的命令语法:
配置服务器端守护进程,实现数据传输:1,服务器端守护进程;2,客户端执行命令。
pull,拉:从远端拉取到本地。
语法1(常用):
rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync命令 参数选项 [虚拟用户]@[主机地址]::[模块名] 本地路径
语法2:
rsync [OPTION...] rsync://[USER@]HOST::SRC... [DEST]
rsync命令 参数选项 rsync://[虚拟用户]@[主机地址]/[模块名] 本地路径
push,推:从本地推到远端。
语法1(常用):
rsync [OPTION...] [DEST] [USER@]HOST::SRC...
rsync命令 参数选项 本地路径 [虚拟用户]@[主机地址]::[模块名]
语法2:
rsync [OPTION...] [DEST] rsync://[USER@]HOST::SRC...
rsync命令 参数选项 本地路径 rsync://[虚拟用户]@[主机地址]/[模块名]
(4)测试成果
a,把服务端的backup里的东西拉到客户端的/opt下:
先给服务端的backup里放点东西
然后在到客户端执行命令:
b,把客户端下的/etc/hosts推到服务端的backup里:
然后在服务端查看: