2019-04-21 第七周课堂笔记

day32 rsync复制软件应用与实践

1、什么是rsync?

rsync，Rsync英文全称为Remote synchronization 缩写rsync

是开源、高速的、可实现本地以及远程，全量以及增量的数据复制（拷贝）工具。

2、全量和增量区别

全量复制：

[root@nfs01 ~]# cp -a /etc/ /opt/

[root@nfs01 ~]# \cp -a /etc/ /opt

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# \cp -a /etc/ /opt/

增量复制：

只复制oldboy.txt

3、rsync的作用

工作中需要定时/实时数据备份。本地服务器目录、不同机器、

不同机房之间的数据备份。都可以用rsync完成。

4、rsync功能特性

 支持拷贝普通文件与特殊文件，如链接文件，设备文件等。

 支持排除指定文件或目录同步的功能，相当于打包命令tar的排除功能。

 可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变。

 可实现增量复制，既只复制发生变化的数据，因此数据传输效率很高。

 可以使用rcp,rsh,ssh等方式来配合进行隧道加密传输文件（rsync本身不对数据加密）。

 可以通过socket(进程方式)传输文件和数据（服务端和客户端）*。

 支持匿名或认证（无需系统用户）进程模式传输，安全的进行数据备份及镜像

5、增量复制原理

使用 quick check算法，只对增量的部分复制，根据大小属性的变化进行复制。

6、rsync三种工作模式介绍

1）本地（local）

rsync就是一个命令

rsync [OPTION...] SRC... [DEST]

rsync命令参数选项 [源目录或文件] 目的目录或文件

命令操作：

a.把数据从一个地方复制到另一个地方（仅在一台机器增量）,相当于cp。

b.通过加参数实现删除文件和清空文件内容的功能，相当于rm命令。

c.查看属性信息功能，相当于ls。

实践：

a.拷贝实践

[root@backup ~]# ls /opt

[root@backup ~]# rsync /etc/hosts /opt

[root@backup ~]# ls /opt

hosts

[root@backup ~]# \cp /etc/hosts /opt

保持属性：

[root@backup ~]# rsync -zrtopg /etc/hosts /opt/

[root@backup ~]# ls -lhi /etc/hosts /opt/hosts

16829878 -rw-r--r--. 1 root root 332 4月 12 11:24 /etc/hosts

71373 -rw-r--r-- 1 root root 332 4月 12 11:24 /opt/hosts

b.删除实践

删除文件内容：

[root@backup ~]# touch /null.txt #空文件

[root@backup ~]# cat /opt/hosts

127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4

::1 localhost localhost.localdomain localhost6 localhost6.localdomain6

172.16.1.5 lb01

172.16.1.6 lb02

172.16.1.7 web01

172.16.1.8 web02

172.16.1.9 web03

172.16.1.31 nfs01

172.16.1.41 backup

172.16.1.51 db01 db01.etiantian.org

172.16.1.61 m01

[root@backup ~]# rsync --delete /null.txt /opt/hosts #让前面null.txt和后面hosts一样

rsync: --delete does not work without --recursive (-r) or --dirs (-d).

rsync error: syntax or usage error (code 1) at main.c(1567) [client=3.1.2]

[root@backup ~]# rsync -r --delete /null.txt /opt/hosts

[root@backup ~]# cat /opt/hosts

删除目录下所有文件：

[root@backup ~]# mkdir /null

[root@backup ~]# rsync -r --delete /null/ /opt/ #让后面opt和前面null目录内容保持一致

[root@backup ~]# ls /opt/

c.查看属性

[root@backup ~]# rsync /etc/hosts

-rw-r--r-- 332 2019/04/12 11:24:41 hosts

2）远程Shell模式

借助类似ssh隧道传输数据，适合不同的机器之间复制。

异地拷贝，相当于scp，区别scp是远程全量拷贝)

拉门推门思考：

pull,拉：从远端拉取到本地。

语法：

rsync [OPTION...] [USER@]HOST:SRC... [DEST]

rsync命令参数选项 [认证用户]@[主机地址]:[源路径] 本地路径

语法：

push,推：从本地推到远端。

rsync [OPTION...] SRC... [USER@]HOST:[DEST]

rsync命令参数选项本地路径 [认证用户]@[主机地址]:[目标路径]

push实践：

[root@nfs01 ~]# rsync -avz /etc/hosts root@172.16.1.41:/opt/ #加密传输。

检查：

[root@backup ~]# cd /opt/

[root@backup /opt]# ls

hosts

rsync -avz /etc/hosts root@172.16.1.41:/opt/

rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/

上述命令是等价的。-e 指定通道 ssh ssh服务连接客户端 -p 22指定22端口。

[root@nfs01 ~]# rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/

root@172.16.1.41's password:

sending incremental file list

sent 44 bytes received 12 bytes 22.40 bytes/sec

total size is 332 speedup is 5.93

拉的命令：

rsync -avz root@172.16.1.41:/opt/hosts /opt

rsync -avz -e "ssh -p 22" root@172.16.1.41:/opt/hosts /opt

推拉：

a.参照物，执行命令的机器

b.root@172.16.1.41 使用的用户和主机，就用主机和用户的密码。

强调一个重点：适合rsync

null和null/ 区别，null是目录和目录下的内容，

null/只是目录下的内容，不含本身。

3）rsync守护进程模式

首先要搭建rsync服务端(要有守护进程)，然后才能在客户端实现推拉数据。

企业运维的重要模式，重点讲。

客户端语法暂时不讲。

rsync服务模式：*****开启后台进程，接受别人访问。

7、rsync命令参数

rsync命令参数：

-v, --verbose 显示输出过程

-z, --compress 压缩

-a, --archive 多参数集合(-rtopgDl)

-r, --recursive 递归

-t, --times 保持修改时间属性

-o, --owner 保持属主不变

-p, --perms 保持权限不变

-g, --group 保持用户组不变

-l, --links 保持拷贝软连接

-q, --quiet 安静的拷贝

--bwlimit=KBPS 限制I/O带宽，KBytes per second。

--delete 删除

--exclude 排除

--exclude-from 从文件中排除

企业常用参数组合：-avz或者-vzrtopg

8、rsync守护进程模式应用实践

（1）以下操作都是在backup服务器

1）安装

[root@backup ~]# rsync --version

rsync version 3.1.2 protocol version 31

[root@backup ~]# yum install rsync（不需要）

2）配置配置文件/etc/rsyncd.conf

备份

cp /etc/rsyncd.conf{,.ori}

cat>/etc/rsyncd.conf<<EOF

#rsync_config_______________start

#created by oldboy

#site: http://www.oldboyedu.com

uid = rsync

gid = rsync

use chroot = no

fake super = yes

max connections = 200

timeout = 600

pid file = /var/run/rsyncd.pid

lock file = /var/run/rsync.lock

log file = /var/log/rsyncd.log

ignore errors

read only = false

list = false

hosts allow = 172.16.1.0/24

hosts deny = 0.0.0.0/32

auth users = rsync_backup

secrets file = /etc/rsync.password

[backup]

comment = welcome to oldboyedu backup!

path = /backup/

EOF

man rsync 查命令的参数

man rsyncd.conf 查配置参数

https://www.samba.org/ftp/rsync/rsync.html

学会获取知识的源头。——老男孩

创建用户和备份目录

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4月 15 12:12 /backup/

3）启动和检查

rsync --daemon（c6及以前）

systemctl start rsyncd

systemctl enable rsyncd

systemctl status rsyncd

[root@backup ~]# ps -ef|grep sync|grep -v grep #检查进程

root 7521 1 0 11:39 ? 00:00:00 /usr/bin/rsync --daemon --no-detach

[root@backup ~]# netstat -lntup|grep 873 #检查端口

tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 7521/rsync

tcp6 0 0 :::873 :::* LISTEN 7521/rsync

[root@backup ~]# lsof -i :873 #检查端口

COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME

rsync 7521 root 3u IPv4 41439 0t0 TCP *:rsync (LISTEN)

rsync 7521 root 5u IPv6 41440 0t0 TCP *:rsync (LISTEN)

面试题：如何查看某端口对应什么服务？答案就是上面两个。

4）配置密码文件

[root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password

[root@backup ~]# chmod 600 /etc/rsync.password

[root@backup ~]# cat /etc/rsync.password

rsync_backup:oldboy

[root@backup ~]# ls -l /etc/rsync.password

-rw------- 1 root root 20 4月 15 11:51 /etc/rsync.password

rsync服务端配置完成。

（2）以下操作都是在客户端服务器

以下方法2选1

方法1：认证密码文件

[root@nfs01 ~]# echo "oldboy" > /etc/rsync.password

[root@nfs01 ~]# chmod 600 /etc/rsync.password

[root@nfs01 ~]# cat /etc/rsync.password

oldboy

[root@nfs01 ~]# ls -l /etc/rsync.password

-rw------- 1 root root 7 4月 15 11:55 /etc/rsync.password

方法2：

[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc

[root@nfs01 ~]# tail -1 /etc/bashrc

export RSYNC_PASSWORD=oldboy

[root@nfs01 ~]# . /etc/bashrc

[root@nfs01 ~]# echo $RSYNC_PASSWORD

oldboy

rsync客户端 nfs01 配置完成

（3）守护进程模式，客户端rsync的命令语法：

配置服务器端守护进程，实现数据传输：

1、服务器端守护进程。2、客户端执行命令。

拉门、推门思考：

pull,拉：从远端拉取到本地。

语法1（常用）：

rsync [OPTION...] [USER@]HOST::SRC... [DEST]

rsync命令参数选项 [虚拟用户]@[主机地址]::[模块名] 本地路径

语法2:

rsync [OPTION...] rsync://[USER@]HOST::SRC... [DEST]

rsync命令参数选项 rsync://[虚拟用户]@[主机地址]/[模块名] 本地路径

push,推：从本地推到远端。

语法1（常用）：

rsync [OPTION...] [DEST] [USER@]HOST::SRC...

rsync命令参数选项本地路径 [虚拟用户]@[主机地址]::[模块名]

语法2:

rsync [OPTION...] [DEST] rsync://[USER@]HOST::SRC...

rsync命令参数选项本地路径 rsync://[虚拟用户]@[主机地址]/[模块名]

（4）测试成果

错误1：

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

@ERROR: invalid uid rsync

rsync error: error starting client-server protocol (code 5) at main.c(1648) [sender=3.1.2]

解答：

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4月 15 12:12 /backup/

错误2：

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

rsync: chgrp ".hosts.YDuTjO" (in backup) failed: Operation not permitted (1)

sent 223 bytes received 124 bytes 694.00 bytes/sec

total size is 332 speedup is 0.96

rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1178) [sender=3.1.2]

解答：增加如下参数到/etc/rsyncd.conf

fake super = yes #不用root用户也可以存储文件的完整属性。

This allows the full attributes of a file to be stored without having to have the daemon actually running as root.

[root@backup ~]# grep fake /etc/rsyncd.conf

fake super = yes

改完配置，要重启服务：

[root@backup ~]# systemctl restart rsyncd

在测试：成功

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

sent 89 bytes received 49 bytes 276.00 bytes/sec

total size is 332 speedup is 2.41

rsync -avz /etc rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

服务端检查：

[root@backup ~]# ls /backup/

hosts

[root@backup ~]# ls /backup/

etc hosts

如果客户端按照环境变量的方式配置，则可以忽略--password-file=/etc/rsync.password参数。

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

sending incremental file list

sent 52,071 bytes received 644 bytes 105,430.00 bytes/sec

total size is 31,244,350 speedup is 592.70

测试增量

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

sending incremental file list

etc/oldboy.txt

sent 52,098 bytes received 655 bytes 105,506.00 bytes/sec

total size is 31,244,350 speedup is 592.28

day33 应用实践

实践排除复制：

NFS01:

[root@nfs01 ~]# mkdir /data -p

[root@nfs01 ~]# cd /data

[root@nfs01 /data]# touch {a..d}

[root@nfs01 /data]# ls

a b c d

--exclude 排除参数

例：排除 a b

[root@nfs01 /data]# rsync -avz /data/ --exclude=a --exclude=b rsync_backup@172.16.1.41::backup

sending incremental file list

排除1到4

[root@nfs01 /data]# touch {1..5}

[root@nfs01 /data]# rsync -avz /data/ --exclude={1..4} rsync_backup@172.16.1.41::backup

sending incremental file list

[root@nfs01 /data]# rsync -avz /data/ --exclude={1,3,a} rsync_backup@172.16.1.41::backup

sending incremental file list

--exclude-from 从文件排除

[root@nfs01 /data]# rsync -avz /data/ --exclude-from=./paichu.txt rsync_backup@172.16.1.41::backup

sending incremental file list

paichu.txt

实践删除：

rsync作为镜像，相当于raid1，让两台服务器目录保持一致。

--delete 让两台服务器目录保持一致

推送：

rsync -avz --delete /data/ rsync_backup@172.16.1.41::backup

本地目录有啥，远端就有啥。

注意：远端目录是不是东西更多，多了东西会被删除。提前备份backup对应的目录。

rsync -avz --delete rsync_backup@172.16.1.41::backup /data/

远端有啥。本地目录就有啥，注意本地/data目录。把/data改成根。提前注意备份本地/data

--partial 支持大文件断点续传

--bwlimit=KBPS 限速。

企业案例：

某上市公司，白天高峰期某DBA人员从数据库服务器通过rsync将上百GB数据复制到备份服务器，导致数据库库服务器带宽占满，造成用户无法访问网站的悲剧。其实可以利用rsync限速功能，将复制速度限制在剩余带宽的1/3或者1/2，可能就不会出现故障了

1）最简单的实现，可以在配置文件结尾加如下内容（特殊底纹部分）：

[root@backup ~]# cat /etc/rsyncd.conf

#rsync_config_______________start

#created by oldboy

#site: http://www.oldboyedu.com

uid = rsync

gid = rsync

use chroot = no

fake super = yes

max connections = 200

timeout = 600

pid file = /var/run/rsyncd.pid

lock file = /var/run/rsync.lock

log file = /var/log/rsyncd.log

ignore errors

read only = false

list = false

hosts allow = 172.16.1.0/24

hosts deny = 0.0.0.0/32

auth users = rsync_backup

secrets file = /etc/rsync.password

[backup]

comment = welcome to oldboyedu backup.

path = /backup/

[data] #<==新模块。

path = /data/ #<==新备份目录。

#除了增加以上两行外，读者也可以设定更多的独立配置参数，例如：独立虚拟用户，独立密码文件等。

2）建立目录并授权。

[root@backup ~]# mkdir -p /data

[root@backup ~]# chown -R rsync.rsync /data

[root@backup ~]# ls -ld /data

drwxr-xr-x 2 rsync rsync 6 4月 16 10:04 /data

3）重启rsync服务（只要修改配置，就考虑重载服务）

[root@backup ~]# systemctl restart rsyncd

4）从客户端访问测试

[root@backup ~]# ls /data

etc

1、内部人员产生的数据（定时备份足矣）：

程序员开发代码（他电脑上）==>代码服务上（git/svn代码版本管理）==>测试环境测试===>正式环境

原则上程序代码可以不备份。

运维人员，写个定时任务，写个备份脚本，更改或增加服务配置rsyncd.conf，需要备份

运维人员修改配置（测试服务器）==>代码服务器上（git/svn代码版本管理）==>测试环境测试===>正式环境

原则上运维人员的变更可以不备份。

2、用户产生的数据（必须实时备份）

图片、视频等文件是放在存储服务器上的，任意时刻都可能传上来，必须实时备份。

文本（博客文章），放在数据库里，，任意时刻都可能发布，必须实时备份。

第一个里程碑：

41搭建好rsync服务，并在31、7上测试成功。

第二个里程碑开发脚本打包备份

/backup 备份目录

/var/spool/cron/root /etc/rc.local /server/scripts /var/html/www /app/logs 需要备份的内容

模拟创建:

[root@nfs01 ~]# mkdir -p /server/scripts

[root@web01 ~]# mkdir -p /server/scripts /var/html/www /app/logs

web01:

[root@web01 ~]# mkdir -p /backup

[root@web01 ~]# ls -ld /backup/

drwxr-xr-x 2 root root 6 4月 16 11:36 /backup/

[root@web01 /]# tar zcvhf /backup/bak_$(date +%F_%w).tar.gz /var/spool/cron/root /etc/rc.local /server/scripts /var/html/www /app/logs

tar: 从成员名中删除开头的“/”

/var/spool/cron/root

/etc/rc.local

/server/scripts/

/var/html/www/

/app/logs/

[root@web01 /]# ls /backup/

bak_2019-04-16_2.tar.gz

写脚本：

[root@web01 /]# mkdir /server/scripts/ -p

[root@web01 /]# cd /server/scripts/

[root@web01 /server/scripts]# cat /server/scripts/bak.sh

[root@web01 /server/scripts]# cat bak.sh

#!/bin/sh

export PATH="/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"

export RSYNC_PASSWORD=oldboy

IP=$(hostname -i)

mkdir -p /backup/$IP

#1.打包

tar zchf /backup/$IP/bak_$(date +%F_%w).tar.gz /var/spool/cron/root /etc/rc.local /server/scripts /var/html/www /app/logs &>/dev/null &&\

#2.删除

find /backup/ -type f -name "*.tar.gz" -mtime +7|xargs rm -f &&\

#3.推送

rsync -az /backup/ rsync_backup@172.16.1.41::backup &>/dev/null

[root@web01 /server/scripts]# /bin/sh /server/scripts/bak.sh

[root@web01 /server/scripts]# ls /backup/

bak_2019-04-16_2.tar.gz

定时任务：

[root@web01 /server/scripts]# crontab -e

[root@web01 /server/scripts]# crontab -l|tail -2

######back.....

00 00 * * * /bin/sh /server/scripts/bak.sh >/dev/null 2>&1

[root@web01 /server/scripts]# find /backup/ -type f -name "*.tar.gz" -mtime +7|xargs rm -f

确保备份完整。

做flag和采集指纹

[root@nfs01 /server/scripts]# #采集人的指纹

[root@nfs01 /server/scripts]# md5sum oldboy.txt >zhiwen.log

[root@nfs01 /server/scripts]# cat zhiwen.log

348bd3ce10ec00ecc29d31ec97cd5839 oldboy.txt

[root@nfs01 /server/scripts]# #校验

[root@nfs01 /server/scripts]# md5sum -c zhiwen.log

oldboy.txt: 确定

[root@web01 /server/scripts]# cat bak.sh

#!/bin/sh

export PATH="/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"

export RSYNC_PASSWORD=oldboy

IP=$(hostname -i)

mkdir -p /backup/$IP

#1.打包

tar zchf /backup/$IP/bak_${IP}_$(date +%F_%w).tar.gz /var/spool/cron/root /etc/rc.local /server/scripts /var/html/www /app/logs &>/dev/null &&\

touch /backup/$IP/bak_${IP}_$(date +%F_%w).flag &&\

#采集指纹

find /backup/ -type f -name "*.tar.gz"|xargs md5sum >/backup/$IP/bak_${IP}_$(date +%F_%w).flag &&\

#2.删除

find /backup/ -type f -name "*.tar.gz" -mtime +7|xargs rm -f &&\

#3.推送

rsync -az /backup/ rsync_backup@172.16.1.41::backup &>/dev/null

bak_172.16.1.7_2019-04-16_2.tar.gz

bak_172.16.1.7_2019-04-17_3.tar.gz

bak_172.16.1.7_2019-04-18_4.tar.gz

bak_172.16.1.7_2019-04-16_2.tar.gz

day34 NFS 文件系统

1、什么是NFS？

全称 network file system 网络文件系统

通过网络存储和组织文件的一种方法或机制。

什么是文件系统？

2、为什么要用共享存储？

前端所有的应用服务器接收到用户上传的图片、文件、视频，都会统一

的放到后端的存储上。

为什么要共享？所有节点服务器都需要将内容存到存储上，取的统一来取。

3、共享存储的种类

单点存储系统就是NFS，中小型企业，阿里云服务的NAS服务，OSS对象存储。

NFS性能不太高。

大型企业会用分布式存储FastDFS、Ceph、GlsterFS、Mfs

大型存储厂商：EMC、Netapp 几十万。

艺龙旅行网存储用的EMC 传统企业。

硬件存储：传统企业：稳定、2台双主机头几十块硬盘 RAID10。

BAT 曾经用硬件，超贵、

阿里云去IOE Ibm Orace EMC

4、NFS工作原理

NFS网络文件系统

启动NFS服务，而且还有启动很多端口。

NFS功能，需要很多服务。每个服务都有端口，而且经常变化。

如何让客户端找到这些端口呢？就需要一个经纪人（rpc服务）

NFS服务：

1、NFS服务（有很多进程和端口），把自己的端口告诉RPC。

2、RPC服务（对外固定端口111）

客户端请求NFS服务，先找RPC 111，查到NFS的端口，发给客户。

原理见图：

5、安装

服务器端和客户端都要安装：

yum install nfs-utils rpcbind -y

rpm -qa nfs-utils rpcbind

[root@nfs01 ~]# rpm -qa nfs-utils rpcbind

nfs-utils-1.3.0-0.61.el7.x86_64

rpcbind-0.2.0-47.el7.x86_64

启动RPC

[root@nfs01 ~]# systemctl start rpcbind.service

[root@nfs01 ~]# systemctl enable rpcbind.service

看看有没有注册的端口

[root@nfs01 ~]# rpcinfo -p 127.0.0.1

program vers proto port service

100000 4 tcp 111 portmapper

100000 3 tcp 111 portmapper

100000 2 tcp 111 portmapper

100000 4 udp 111 portmapper

100000 3 udp 111 portmapper

100000 2 udp 111 portmapper

启动NFS

[root@nfs01 ~]# systemctl start nfs

[root@nfs01 ~]# systemctl enable nfs

[root@nfs01 ~]# rpcinfo -p 127.0.0.1

program vers proto port service

100000 4 tcp 111 portmapper

100000 3 tcp 111 portmapper

100000 2 tcp 111 portmapper

100000 4 udp 111 portmapper

100000 3 udp 111 portmapper

100000 2 udp 111 portmapper

100024 1 udp 44521 status

100024 1 tcp 59204 status

100005 1 udp 20048 mountd

100005 1 tcp 20048 mountd

100005 2 udp 20048 mountd

100005 2 tcp 20048 mountd

100005 3 udp 20048 mountd

100005 3 tcp 20048 mountd

100003 3 tcp 2049 nfs

100003 4 tcp 2049 nfs

100227 3 tcp 2049 nfs_acl

100003 3 udp 2049 nfs

100003 4 udp 2049 nfs

100227 3 udp 2049 nfs_acl

100021 1 udp 55758 nlockmgr

100021 3 udp 55758 nlockmgr

100021 4 udp 55758 nlockmgr

100021 1 tcp 30472 nlockmgr

100021 3 tcp 30472 nlockmgr

100021 4 tcp 30472 nlockmgr

[root@nfs01 ~]# netstat -lntup|egrep "rpc|nfs" 过滤rpc和nfs的端口

tcp 0 0 0.0.0.0:20048 0.0.0.0:* LISTEN 9516/rpc.mountd

tcp 0 0 0.0.0.0:59204 0.0.0.0:* LISTEN 9463/rpc.statd

tcp6 0 0 :::20048 :::* LISTEN 9516/rpc.mountd

tcp6 0 0 :::14450 :::* LISTEN 9463/rpc.statd

udp 0 0 0.0.0.0:44521 0.0.0.0:* 9463/rpc.statd

udp 0 0 0.0.0.0:20048 0.0.0.0:* 9516/rpc.mountd

udp 0 0 0.0.0.0:695 0.0.0.0:* 9424/rpcbind

udp 0 0 127.0.0.1:735 0.0.0.0:* 9463/rpc.statd

udp6 0 0 :::20048 :::* 9516/rpc.mountd

udp6 0 0 :::695 :::* 9424/rpcbind

udp6 0 0 :::4835 :::* 9463/rpc.statd

6、配置nfs

NFS配置文件 /etc/exports

[root@nfs01 ~]# man exportsiiii

EXAMPLE

# sample /etc/exports file

/ master(rw) trusty(rw,no_root_squash)

/projects proj*.local.domain(rw)

/usr *.local.domain(ro) @trusted(rw)

/home/joe pc001(rw,all_squash,anonuid=150,anongid=100)

/pub *(ro,insecure,all_squash)

/srv/www -sync,rw server @trusted @external(ro)

/foo 2001:db8:9:e54::/64(rw) 192.0.2.0/24(rw)

/build buildhost[0-9].local.domain(rw)

待共享的目录访问的主机(权限)

1）待共享的目录存东西的目录取东西的目录例如：/data

2）访问的主机，

172.16.1.7（web01）单个主机

172.16.1.0/24 网段

172.16.1.* 网段

master 主机名

3)()权限

rw 可读写 read write

ro 只读 read only

sync 写到磁盘才算完成，安全慢

async 异步写到远程缓冲区，快不安全

一会再说。。。。

实践：

[root@nfs01 ~]# tail -1 /etc/exports

/data 172.16.1.0/24(rw,sync)

[root@nfs01 ~]# mkdir -p /data

[root@nfs01 ~]# ls -ld /data

drwxr-xr-x 2 root root 51 4月 16 10:24 /data

NFS默认用户nfsnobody

[root@nfs01 ~]# grep nfsno /etc/passwd

nfsnobody:x:65534:65534:Anonymous NFS User:/var/lib/nfs:/sbin/nologin

[root@nfs01 ~]# chown -R nfsnobody.nfsnobody /data

[root@nfs01 ~]# ls -ld /data

drwxr-xr-x 2 nfsnobody nfsnobody 51 4月 16 10:24 /data

重启NFS

[root@nfs01 ~]# systemctl reload nfs #《==生产场景必须要实现平滑重启。

[root@nfs01 ~]# exportfs -r

上述二者等价，选一个即可。

[root@nfs01 ~]# showmount -e 172.16.1.31

Export list for 172.16.1.31:

/data 172.16.1.0/24 #《==看到共享的目录了

服务单本地挂载：

[root@nfs01 ~]# mount -t nfs 172.16.1.31:/data /mnt

[root@nfs01 ~]# df -h

文件系统容量已用可用已用% 挂载点

/dev/sda3 19G 1.8G 18G 10% /

devtmpfs 476M 0 476M 0% /dev

tmpfs 487M 0 487M 0% /dev/shm

tmpfs 487M 7.6M 479M 2% /run

tmpfs 487M 0 487M 0% /sys/fs/cgroup

/dev/sda1 253M 136M 118M 54% /boot

tmpfs 98M 0 98M 0% /run/user/0

172.16.1.31:/data 19G 1.8G 18G 10% /mnt

[root@nfs01 ~]# touch /mnt/oldboy.txt

[root@nfs01 ~]# ls /mnt/

oldboy.txt

换到web01挂载

1）安装

yum install nfs-utils rpcbind -y

rpm -qa nfs-utils rpcbind

2)启动

[root@web01 ~]# systemctl start rpcbind

[root@web01 ~]# systemctl enable rpcbind

[root@web01 ~]# netstat -lntup|grep rpc

udp 0 0 0.0.0.0:775 0.0.0.0:* 11624/rpcbind

udp6 0 0 :::775 :::* 11624/rpcbind

[root@web01 ~]# netstat -lntup|grep rpcbind

udp 0 0 0.0.0.0:775 0.0.0.0:* 11624/rpcbind

udp6 0 0 :::775 :::* 11624/rpcbind

[root@web01 ~]# ps -ef|grep rpcbind

rpc 11624 1 0 12:17 ? 00:00:00 /sbin/rpcbind -w

3）查看NFS服务器提供的共享目录

[root@web01 ~]# showmount -e 172.16.1.31

Export list for 172.16.1.31:

/data 172.16.1.0/24

nt_create: RPC: Program not registered

程序没有注册

RPC服务开启了，但是NFS没有告诉RPC服务端口。

4）挂载测试

[root@web01 ~]# mount -t nfs 172.16.1.31:/data /mnt

[root@web01 ~]# df -h

文件系统容量已用可用已用% 挂载点

/dev/sda3 19G 1.8G 18G 10% /

devtmpfs 476M 0 476M 0% /dev

tmpfs 487M 0 487M 0% /dev/shm

tmpfs 487M 7.6M 479M 2% /run

tmpfs 487M 0 487M 0% /sys/fs/cgroup

/dev/sda1 253M 136M 118M 54% /boot

tmpfs 98M 0 98M 0% /run/user/0

172.16.1.31:/data 19G 1.8G 18G 10% /mnt

[root@web01 ~]# touch /mnt/oldgirl.txt

[root@web01 ~]# ls /mnt/

oldboy.txt oldgirl.txt

课后作业

1、backup客户端挂载好

2、实现开机自动挂载（fstab里实现,rc.local）

3、项目实践：

web01 backup客户端实现挂载到nfs

NFS下面共享/backup ，允许web01 backup客户端（/backup）可读写.

web01上传图片，backup上可以删除web01上传的图片。

NFS下面共享/data1,允许 web01 backup客户端10网段只读（data1）

实现开机自动挂载

day35 NFS应用与实践

如何做事超出别人的满意度？

1、提前准备，提前试讲（正式最近的模拟讲课），给别人感觉，不经意的。

2、牛逼（提前准备提前5年准备的）。

3、给自己设定150%目标？

为什么fstab无法实现nfs挂载？

回顾：开机启动流程：

1、磁盘先启动/etc/fstab

2、防火墙在前。

3、网卡

NFS网络文件系统，通过网络挂载，网络没起如何挂载？

又想在fstab里实现挂载、就用一个服务，延迟启动。

延迟满足：小孩给棉花糖的故事，学会延迟满足是成就自己的优秀思维。

[root@nfs01 /data1]# systemctl start remote-fs.target

[root@nfs01 /data1]# systemctl enable remote-fs.target

Created symlink from /etc/systemd/system/multi-user.target.wants/remote-fs.target to /usr/lib/systemd/system/remote-fs.target.

[root@nfs01 /data1]# systemctl status remote-fs.target

● remote-fs.target - Remote File Systems

Loaded: loaded (/usr/lib/systemd/system/remote-fs.target; enabled; vendor preset: enabled)

Active: active since 四 2019-04-18 10:17:57 CST; 18s ago

Docs: man:systemd.special(7)

4月 18 10:17:57 nfs01 systemd[1]: Reached target Remote File Systems.

C6:netfs服务

C7:remote-fs.target

3)()权限

rw 可读写 read write

ro 只读 read only

sync 写到磁盘才算完成，安全慢

async 异步写到远程缓冲区，快不安全

一会再说。

all_squash※ 不管客户端什么用户，到服务端都是nfsnobody

anonuid=匿名用户的UID

anongid=匿名用户的GID

[root@nfs01 ~]# cat /etc/exports

#oldboy shared dir at time

#/data 172.16.1.0/24(rw,sync) 10.0.0.0/24(ro)

/data 172.16.1.0/24(rw,sync)

/data1 10.0.0.0/24(ro)

[root@nfs01 ~]# cat /var/lib/nfs/etab

/data1 10.0.0.0/24(ro,sync,wdelay,hide,nocrossmnt,secure,root_squash,no_all_squash,no_subtree_check,secure_locks,acl,no_pnfs,anonuid=65534,anongid=65534,sec=sys,ro,secure,root_squash,no_all_squash)

/data 172.16.1.0/24(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,no_all_squash,no_subtree_check,secure_locks,acl,no_pnfs,anonuid=65534,anongid=65534,sec=sys,rw,secure,root_squash,no_all_squash)

更改默认NFS默认用户

项目实践2：

NFS共享的匿名用户用www，使得客户端上传的图片都是www用户，而不是匿名的nfsnobody。

web01 backup客户端实现挂载到nfs

NFS下面共享/backup ，允许web01 backup客户端（/backup）可读写.

web01上传图片，backup上可以删除web01上传的图片。

NFS下面共享/data1,允许 web01 backup客户端10网段只读（data1）

实现开机自动挂载

1）nfs01服务端NFS、以及所有客户端：

[root@nfs01 ~]# useradd -u 1111 www

[root@nfs01 ~]# id www

uid=1111(www) gid=1111(www) 组=1111(www)

2）服务端NFS特殊配置

[root@nfs01 ~]# tail -2 /etc/exports

/data 172.16.1.0/24(rw,sync,all_squash,anonuid=1111,anongid=1111)

/data1 10.0.0.0/24(ro)

[root@nfs01 ~]# chown -R www.www /data

[root@nfs01 ~]# ls -ld /data

drwxr-xr-x 2 www www 70 4月 18 10:05 /data

3）服务端NFS重启

[root@nfs01 ~]# systemctl reload nfs

4）每个客户端

mount -t nfs 172.16.1.31:/data /data

[root@web01 ~]# df -h

文件系统容量已用可用已用% 挂载点

172.16.1.31:/data 19G 1.8G 18G 10% /data

[root@web01 /data]# touch new_web01.txt

[root@web01 /data]# ls -l

总用量 0

-rw-r--r-- 1 www www 0 4月 16 10:24 ddddf

-rw-r--r-- 1 www www 0 4月 16 10:23 dddfff

-rw-r--r-- 1 www www 0 4月 18 11:01 new_web01.txt

-rw-r--r-- 1 www www 0 4月 17 11:59 oldboy.txt

-rw-r--r-- 1 www www 0 4月 17 12:30 oldgirl.txt

[root@nfs01 ~]# cat /etc/fstab

# /etc/fstab

# Created by anaconda on Mon Mar 4 11:15:16 2019

# Accessible filesystems, by reference, are maintained under '/dev/disk'

# See man pages fstab(5), findfs(8), mount(8) and/or blkid(8) for more info

UUID=3a3a295f-88f8-456d-94dc-1a3eeb517c02 / xfs defaults 0 0

UUID=fd2e0ca7-32be-425f-86a2-85c02b9ec5ea /boot xfs defaults 0 0

UUID=79a3924b-739e-48dc-ab0c-0444b9ac6591 swap swap defaults,_netdev 0 0

man mount

_netdev

The filesystem resides on a device that requires network access (used to prevent the system from attempting to mount these filesystems until the network has been enabled on the system).

自学：fstab被破坏了如何修复？

[root@web01 ~]# cat /etc/fstab

# /etc/fstab

# Created by anaconda on Mon Mar 4 11:15:16 2019

UUID=3a3a295f-88f8-456d-94dc-1a3eeb517c02 / xfs defaults 0 0

UUID=fd2e0ca7-32be-425f-86a2-85c02b9ec5ea /boot xfs defaults 0 0

UUID=79a3924b-739e-48dc-ab0c-0444b9ac6591 swap swap defaults 0 0

172.16.1.31:/data /data nfs defaults,soft 0 0

172.16.1.31:/data /data nfs defaults,hard,intr 0

mount -t nfs -o hard,intr,rsize=131072,wsize=131072 172.16.1.31:/data/ /mnt

NFS服务器出问题时候，客户端重启依然能够启动，可以用如下列两个方法：

defaults,soft

defaults,hard,intr

#/etc/fstab

客户端挂载深入

[root@web01 ~]# cat /proc/mounts

debugfs /sys/kernel/debug debugfs rw,relatime 0 0

hugetlbfs /dev/hugepages hugetlbfs rw,relatime 0 0

/dev/sda1 /boot xfs rw,relatime,attr2,inode64,noquota 0 0

sunrpc /var/lib/nfs/rpc_pipefs rpc_pipefs rw,relatime 0 0

10.0.0.31:/data1 /mnt nfs4 rw,relatime,vers=4.1,rsize=131072,wsize=131072,namlen=255,hard,proto=tcp,timeo=600,retrans=2,sec=sys,clientaddr=10.0.0.7,local_lock=none,addr=10.0.0.31 0 0

172.16.1.31:/data /data nfs rw,relatime,vers=3,rsize=131072,wsize=131072,namlen=255,hard,proto=tcp,timeo=600,retrans=2,sec=sys,mountaddr=172.16.1.31,mountvers=3,mountport=20048,mountproto=udp,local_lock=none,addr=172.16.1.31 0 0

rsize=131072,wsize=131072

hard

proto=tcp

tcp安全稳定 udp无连接 FTP服务

Linux正在工作呢，文件系统只读。

企业生产案例文件系统只读故障/fstab故障。

自己找一下：

1、救援模式修复。

2、单用户，mount -o remount,rw /

2）安全加优化的挂载方式如下：

mount -t nfs -o nosuid,noexec,nodev,noatime,nodiratime,intr,rsize=131072,wsize=131072 172.16.1.31:/data /mnt

day36 inotify sersync 实时复制应用与实践

实时复制实践：

前提：backup rsync服务端部署好。

1）部署NFS客户端

[root@nfs01 ~]# echo 'export RSYNC_PASSWORD=oldboy' >>/etc/bashrc

[root@nfs01 ~]# source /etc/bashrc

[root@nfs01 ~]# echo $RSYNC_PASSWORD

oldboy

测试推送

[root@nfs01 ~]# rsync -avz /data rsync_backup@172.16.1.41::backup/

sending incremental file list

sent 164 bytes received 25 bytes 126.00 bytes/sec

total size is 0 speedup is 0.00

2）查看inotify支持情况

[root@nfs01 ~]# uname -r

3.10.0-957.5.1.el7.x86_64

[root@nfs01 ~]# ls -l /proc/sys/fs/inotify/

总用量 0

-rw-r--r-- 1 root root 0 4月 19 09:45 max_queued_events

-rw-r--r-- 1 root root 0 4月 19 09:45 max_user_instances

-rw-r--r-- 1 root root 0 4月 19 09:45 max_user_watches

3）安装inotify-tools

yum install epel-release -y

yum install inotify-tools -y

[root@nfs01 ~]# rpm -ql inotify-tools|head -2

/usr/bin/inotifywait

/usr/bin/inotifywatch

[root@nfs01 ~]# rpm -qa inotify-tools

inotify-tools-3.14-8.el7.x86_64

4)命令参数和事件知识

略

5）测试实践

inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e create /data

6）思考：实现数据复制

监控哪些事件？

增改删需要监控

[root@nfs01 ~]# inotifywait -mrq --format '%w%f' -e close_write,delete /data

/data/a.txt

7）编写脚本

mkdir /server/scripts -p

rsync -az --delete /data/ rsync_backup@172.16.1.41::backup

[root@nfs01 /server/scripts]# /bin/sh /server/scripts/monitor1.sh &

[2] 9199

[root@nfs01 /server/scripts]# tail -2 /etc/rc.local

########################

/bin/sh /server/scripts/monitor1.sh &

sersync实践：

1）客户端推送成功

rsync -az /data rsync_backup@172.16.1.41::backup

2)部署sersync服务（NFS）

wget https://github.com/wsgzao/sersync/blob/master/sersync2.5.4_64bit_binary_stable_final.tar.gz

sersync_oldboy_64bit_20160928.tar.gz

[root@nfs01 /server/tools]# mkdir /application -p

[root@nfs01 /server/tools]# mv application/sersync /application/

[root@nfs01 /server/tools]# tree /application/

/application/

└── sersync

├── bin

│ └── sersync

├── conf

│ ├── confxml.xml

│ └── confxml.xml.ori

├── logs

│ └── rsync_fail_log.sh

└── readme.txt

4 directories, 5 files

[root@nfs01 /server/tools]# cd /application/sersync/

[root@nfs01 /application/sersync]# ls

bin conf logs readme.txt

[root@nfs01 /application/sersync]# cd conf/

[root@nfs01 /application/sersync/conf]# ls

confxml.xml confxml.xml.ori

3)sersync配置文件：干两件事：

1）完成监控配置：

inotifywait -mrq --format '%w%f' -e createFolder,close_write,delete,moveFrom,moveTo /data

2）完整命令拼接：

rsync -az /data --timeout=100 rsync_backup@172.16.1.41::backup

4)启动服务

[root@nfs01 /application/sersync/conf]# ../bin/sersync -h

set the system param

execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches

execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events

parse the command param

_______________________________________________________

参数-d:启用守护进程模式

参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍

c参数-n: 指定开启守护线程的数量，默认为10个

参数-o:指定配置文件，默认使用confxml.xml文件

参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块

参数-m:单独启用其他模块，使用 -m socket 开启socket模块

参数-m:单独启用其他模块，使用 -m http 开启http模块

不加-m参数，则默认执行同步程序

________________________________________________________________

[root@nfs01 /application/sersync/conf]# /application/sersync/bin/sersync -d -n 10 -o /application/sersync/conf/confxml.xml

最终

/application/sersync/bin/sersync -d

pkill sersync

二进制程序，不是yum安装的，所以不能systemctl start sersync

配置：systemctl start sersync启动方案

https://blog.51cto.com/oldboy/2155931

[root@nfs01 /data]# tail -1 /etc/rc.local

/application/sersync/bin/sersync -d

配置：systemctl start sersync启动方案

https://blog.51cto.com/oldboy/2155931

[root@nfs01 /data]# cat /etc/rc.d/init.d/sersync

#!/bin/bash

# chkconfig: 2345 21 81

# description: rsync service start and stop scripts

# Author: oldboy

# Organization: www.oldboyedu.com

start(){

/application/sersync/bin/sersync -d -o /application/sersync/conf/confxml.xml &>/dev/null

}

stop(){

killall sersync 2>/dev/null

}

case "$1" in

start)

start

;;

stop)

stop

;;

restart)

stop

sleep 2

start

;;

echo $"Usage:$0 {start|stop|restart}"

exit 1

esac

chmod +x /etc/rc.d/init.d/sersync

[root@nfs01 /data]# cat /usr/lib/systemd/system/sersync.service

[Unit]

Description=sersyncd service

After=network.target

[Service]

Type=forking

ExecStart=/etc/rc.d/init.d/sersync start

ExecReload=/etc/rc.d/init.d/sersync restart

ExecStop=/etc/rc.d/init.d/sersync stop

PrivateTmp=true

[Install]

WantedBy=multi-user.target

chmod +x /usr/lib/systemd/system/sersync.service

[root@nfs01 /data]# systemctl enable sersync.service

Created symlink from /etc/systemd/system/multi-user.target.wants/sersync.service to /usr/lib/systemd/system/sersync.service.

[root@nfs01 /data]# systemctl status sersync.service

● sersync.service - sersyncd service

Loaded: loaded (/usr/lib/systemd/system/sersync.service; enabled; vendor preset: disabled)

Active: inactive (dead)

[root@nfs01 /data]# systemctl stop sersync

[root@nfs01 /data]# ps -ef|grep sersync|grep -v grep

[root@nfs01 /data]# systemctl start sersync

2019-04-21 第七周课堂笔记

推荐阅读更多精彩内容