10.1 实验内容环境介绍
- 基于CDH使用parcels安装且未配置安全（AD/LDAP, Kerberos, Data Encryption）的集群
- 测试环境：
- 操作系统版本：CENTOS6.5
- MySQL数据库版本为5.1.73
- CM版本：CM 5.11
- CDH版本：CDH 5.11
- 采用root或有sudo权限用户对集群进行卸载
10.2 数据备份
10.2.1 HDFS数据备份
- 使用distcp进行集群之间数据复制进行HDFS数据备份，备份操作如下：
hadoop distcp hftp://namenodeA:port/xxx/ hdfs://namenodeB/xxx
- 此命令需运行在目标集群中执行，确保目标集群空间足够，以上数据目录根据自己集群的真实环境做相应的修改；
- namenodeA：源集群namenode节点ip地址
- port：源集群端口，默认50070
- namenodeB：目标集群namenode节点ip地址
- xxx：对应hdfs的数据目录
- namenode节点元数据备份
- 登录namenode服务器上，进行如下操作：
#进入safemode模式
[root@ip-172-31-3-217 ~]# sudo -u hdfs hadoop dfsadmin -safemode enter
DEPRECATED: Use of this script to execute hdfs command is deprecated.
Instead use the hdfs command for it.
Safe mode is ON
#将所有edits修改flush到fsimage
[root@ip-172-31-3-217 ~]# sudo -u hdfs hadoop dfsadmin –saveNamespace
DEPRECATED: Use of this script to execute hdfs command is deprecated.
Instead use the hdfs command for it.
Save namespace successful
- 将namenode元数据备份，根据集群namenode目录进行如下操作：
[root@ip-172-31-3-217 ~]# mkdir namenode_back
[root@ip-172-31-3-217 ~]# cd namenode_back/
[root@ip-172-31-3-217 ~]# cd /dfs/nn/
#将nn目录下所有文件压缩至/root/namenode_back/nn_back.tar.gz目录下
[root@ip-172-31-3-217 nn]# tar -czvf /root/namenode_back/nn_back.tar.gz .
./
./current/
./current/fsimage
./current/fstime
./current/VERSION
./current/edits
./image/
./image/fsimage
10.2.2 备份MySQL元数据
- 在Mysql安装的服务器上，执行如下操作，备份hive元数据信息
[root@ip-172-31-3-217 ~]# mkdir mysql_back
[root@ip-172-31-3-217 ~]# cd mysql_back
#-u后面是mysql用户名，-p单引号中是用户对应的密码，metastore为库名，metastore.sql为备份输出文件
[root@ip-172-31-3-217 mysql_back]# mysqldump -uroot -p'mysql' metastore > metastore.sql
[root@ip-172-31-3-217 mysql_back]# mysqldump -uroot -p'mysql' cm > cm.sql
[root@ip-172-31-3-217 mysql_back]# mysqldump -uroot -p'mysql' am > am.sql
[root@ip-172-31-3-217 mysql_back]# mysqldump -uroot -p'mysql' rm > rm.sql
#执行完成后，产生如下sql文件
[root@ip-172-31-3-217 mysql_back]# ll
total 36452
-rw-r--r-- 1 root root 2074077 May 30 02:39 am.sql
-rw-r--r-- 1 root root 35182945 May 30 02:39 cm.sql
-rw-r--r-- 1 root root 54030 May 30 02:36 metastore.sql
-rw-r--r-- 1 root root 7542 May 30 02:39 rm.sql
- 如果有hue，sentry，Navigator数据库可以同样备份
10.2.3 备份CDH集群配置数据
- 通过CM提供的API接口，导出一份JSON文档，该文档包含Cloudera 管理器实例的配置数据，可以通过这份JSON文档备份或恢复Cloudera管理器的部署。
- 备份集群配置数据
- 登录到CM所在服务器
- 运行如下命令：
[root@ip-172-31-3-217 ~]# curl -u admin_username:admin_pass "http://cm_server_host:7180/api/v16/cm/deployment" > path_to_file/cm-deployment.json
- admin_username: 登录到ClouderaManager的用户名
- admin_pass: 对应admin_username用户的密码
- cm_server_host: 是ClouderaManager服务器的主机名
- path_to_file: 保存配置文件的路径
- 将上述提到的四个参数修改当前集群对应的信息即可
10.2.3.1 恢复集群配置数据
- 此功能只有Cloudera许可证才可以使用
-
首先进入Cloudera Manager管理平台，进入如下操作
- 如果在进行API调用操作之前未停止集群，那么API调用将在运行作业之前停止所有集群服务，任何运行的作业和数据都会丢失。
- 登录到CM所在的服务器，执行如下命令
curl --upload-file path_to_file/cm-deployment.json -u admin_uname:admin_pass http://cm_server_host:7180/api/v16/cm/deployment?deleteCurrentDeployment=true
- admin_uname: 登录到ClouderaManager的用户名
- admin_pass: 对应admin_uname用户的密码
- cm_server_host: 是ClouderaManager服务器的主机名
- path_to_file：JSON配置文件的路径
10.2.4 数据目录备份
- Zookeeper数据目录备份
- 备份所有Zookeeper服务器的数据目录，以172.31.3.217为例操作如下：
[root@ip-172-31-3-217 ~]# mkdir zookeeper_back
[root@ip-172-31-3-217 ~]# scp -r /var/lib/zookeeper/ /root/zookeeper_back/zookeeper_1
- 备份用户数据目录
- 如需备份相关组件数据，可参考【Zookeeper数据目录备份】进行数据备份。
- 以下路径为Cloudera默认安装目录下个组件用户数据：
/var/lib/flume-ng
/var/lib/hadoop*
/var/lib/hue
/var/lib/navigator
/var/lib/oozie
/var/lib/solr
/var/lib/sqoop*
/var/lib/zookeeper #同步数据
#data_driver_path为集群环境部署时设置的目录，根据自己环境进行调整
data_drive_path/dfs
data_drive_path/mapred
data_drive_path/yarn
10.3 停止所有服务和删除集群
- 登陆CM控制台
-
停止CDH集群
-
停止CM Service
10.3.1 解除并移除Parcels
-
在CM管理界面
-
选择【仅限停用状态】
- 停用后，状态变为“”，点击“”旁菜单，选择“从主机删除”
-
删除成功后显示如下
-
10.3.2 删除集群
-
进入CM主页
-
删除成功后显示如下
10.4 卸载CM Server
- 停止CM Server和数据库
- 在集群master服务器上执行如下命令
[root@ip-172-31-3-217 ~]# service cloudera-scm-server stop
#如果使用内置db postgresql需要停止该服务，没有则忽略
[root@ip-172-31-3-217 ~]# service cloudera-scm-server-db stop
- 卸载CM Server和数据库
- 使用yum卸载cloudera-scm-server和cloudera-scm-server-db-2，命令如下
[root@ip-172-31-3-217 ~]# yum remove cloudera-manager-server
#如果使用内置db postgresql需要移除该服务，没有则忽略
[root@ip-172-31-3-217 ~]# yum remove cloudera-manager-server-db-2
- 卸载CM Agent和Managed Software
- 在所有服务器上使用如下命令停止Cloudera Manager Agent 服务
[root@ip-172-31-3-217 ~]# sudo service cloudera-scm-agent hard_stop
10.5 卸载软件
- 在集群所有节点执行如下操作：
[root@ip-172-31-3-217 ~]# yum remove 'cloudera-manager-*' avro-tools crunch flume-ng hadoop-hdfs-fuse hadoop-hdfs-nfs3 hadoop-httpfs hadoop-kms hbase-solr hive-hbase hive-webhcat hue-beeswax hue-hbase hue-impala hue-pig hue-plugins hue-rdbms hue-search hue-spark hue-sqoop hue-zookeeper impala impala-shell kite llama mahout oozie pig pig-udf-datafu search sentry solr-mapreduce spark-core spark-master spark-worker spark-history-server spark-python sqoop sqoop2 whirr hue-common oozie-client solr solr-doc sqoop2-client zookeeper
- 运行清除命令
- 在集群所有节点执行如下操作：
[root@ip-172-31-3-217 ~]# yum clean all
- 移除CM和用户数据
- 杀死 CM和Managed进程
- 在集群所有节点执行如下操作，将所有服务器的Cloudera Manager和Managed进程杀死，命令如下：
for u in cloudera-scm flume hadoop hdfs hbase hive httpfs hue impala llama mapred oozie solr spark sqoop sqoop2 yarn zookeeper;
do
sudo kill $(ps -u $u -o pid=);
done
- 移除CM数据
- 在集群所有节点执行如下命令，删除所有CM数据
umount cm_processes
rm –rf /usr/share/cmf /var/lib/cloudera* /var/cache/yum/x86_64/6/cloudera* /var/log/cloudera* /var/run/cloudera* /etc/cloudera* /usr/lib64/cmf
- 移除CM Lock File
- 在集群中所有节点执行如下命令，删除CM Lock File
rm –rf /tmp/.scm_prepare_node.lock
- 移除用户数据
- 此步骤将永久删除所有用户数据。为了备份数据，在启动卸载过程之前，使用distcp命令将其复制到另一个集群中。在集群中所有节点执行如下命令，删除用户所有数据：
#用户数据目录
rm -rf /var/lib/flume-ng /var/lib/hadoop* /var/lib/hue /var/lib/navigator /var/lib/oozie /var/lib/solr /var/lib/sqoop* /var/lib/zookeeper
rm -rf /usr/lib/hadoop /usr/lib/hadoop* /usr/lib/hive /usr/lib/hbase /usr/lib/oozie /usr/lib/sqoop* /usr/lib/zookeeper /usr/lib/bigtop* /usr/lib/flume-ng /usr/lib/hcatalog
rm -rf /var/run/hadoop* /var/run/flume-ng /var/run/cloudera* /var/run/oozie /var/run/sqoop2 /var/run/zookeeper /var/run/hbase /var/run/hbase /var/run/impala /var/run/hive /var/run/hdfs-sockets
#服务命令
rm -rf /usr/bin/hadoop* /usr/bin/zookeeper* /usr/bin/hbase* /usr/bin/hive* /usr/bin/hdfs /usr/bin/mapred /usr/bin/yarn /usr/bin/sqoop* /usr/bin/oozie
#集群配置文件目录
rm -rf /etc/cloudera* /etc/hadoop* /etc/zookeeper* /etc/hive* /etc/hue /etc/impala /etc/sqoop* /etc/oozie /etc/hbase* /etc/hcatalog
#集群配置文件目录
rm -rf /etc/alternatives/avro-tools /etc/alternatives/beeline /etc/alternatives/catalogd /etc/alternatives/cli_* /etc/alternatives/flume* /etc/alternatives/hadoop* /etc/alternatives/hbase* /etc/alternatives/hcat /etc/alternatives/hdfs /etc/alternatives/hive* /etc/alternatives/hue* /etc/alternatives/impala* /etc/alternatives/llama* /etc/alternatives/load_gen /etc/alternatives/mahout* /etc/alternatives/mapred /etc/alternatives/oozie* /etc/alternatives/pig* /etc/alternatives/pyspark /etc/alternatives/sentry* /etc/alternatives/solr* /etc/alternatives/spark* /etc/alternatives/sqoop* /etc/alternatives/statestored /etc/alternatives/whirr /etc/alternatives/yarn /etc/alternatives/zookeeper*
#
rm -rf /var/lib/alternatives/avro-tools /var/lib/alternatives/beeline /var/lib/alternatives/catalogd /var/lib/alternatives/cli_* /var/lib/alternatives/flume* /var/lib/alternatives/hadoop* /var/lib/alternatives/hbase* /var/lib/alternatives/hcat /var/lib/alternatives/hdfs /var/lib/alternatives/hive* /var/lib/alternatives/hue* /var/lib/alternatives/impala* /var/lib/alternatives/llama* /var/lib/alternatives/load_gen /var/lib/alternatives/mahout* /var/lib/alternatives/mapred /var/lib/alternatives/oozie* /var/lib/alternatives/pig* /var/lib/alternatives/pyspark /var/lib/alternatives/sentry* /var/lib/alternatives/solr* /var/lib/alternatives/spark* /var/lib/alternatives/sqoop* /var/lib/alternatives/statestored /var/lib/alternatives/whirr /var/lib/alternatives/yarn /var/lib/alternatives/zookeeper*
#请修改 data_drive_path 为自己机器上的路径
rm -rf data_drive_path/dfs data_drive_path/mapred data_drive_path/yarn
#删除Hadoop相关服务安装目录、服务软件包数据，数据格式为parcels、服务软件包缓存数据
rm -rf /opt/cloudera/
- 停止并移除外部数据库，在安装mysql的服务器上进行操作，操作如下：
service mysqld stop
- 卸载mysql数据库，操作如下：
yum remove mysql*
- 删除mysql数据目录，操作如下：
rm –rf /var/lib/mysql
大数据视频推荐：
腾讯课堂
CSDN
大数据语音推荐：
企业级大数据技术应用
大数据机器学习案例之推荐系统
自然语言处理
大数据基础
人工智能：深度学习入门到精通
