CDH5部署三部曲之二:部署和设置

欢迎访问我的GitHub

https://github.com/zq2599/blog_demos

内容:所有原创文章分类汇总及配套源码,涉及Java、Docker、Kubernetes、DevOPS等;

本篇概览

本文是《CDH5部署三部曲》的第二篇,上一篇《CDH5部署三部曲之一:准备工作》将集群所有机器做了必要的设置,今天一起来完成CDH的部署、启动、设置等操作;

系列文章链接

  1. 《CDH5部署三部曲之一:准备工作》
  2. 《CDH5部署三部曲之二:部署和设置》
  3. 《CDH5部署三部曲之三:问题总结》

master机器上的设置

SSH登录master机器,执行以下操作:

  1. 安装mariadb:
yum install mariadb-server
  1. 启动mariadb服务,并设置为开机启动:
systemctl start mariadb && systemctl enable mariadb
  1. 初始化数据库配置:
mysql_secure_installation
  1. 按照控制台提示进行设置,主要是设置root账号的密码,以及允许root账号远程登录;
  2. 登录mariadb:
mysql -u root -p123456
  1. 给root的远程操作开放所有权限,并且刷新:
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION; 
flush privileges;
  1. 创建parcel的本地仓库的文件夹,并且设置所有者和群组:
mkdir -p /opt/cloudera/parcel-repo
chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
  1. 将前面下载好的三个文件放入目录<font color="blue">/opt/cloudera/parcel-repo</font>,这三个文件是:<font color="red">CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel</font>、<font color="red">manifest.json</font>、<font color="red">CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha1</font>
  2. 将<font color="blue">/opt/cloudera/parcel-repo</font>目录下的<font color="blue">CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha1</font>文件改名为<font color="red">CDH-5.7.6-1.cdh5.7.6.p0.6-el7.parcel.sha</font>(即:把后缀从sha1改成sha)
  3. 接下来初始化CM数据,登录mariadb:
mysql -u root -p123456
  1. 给temp账号赋予权限,并且刷新:
create user 'temp'@'%' identified by 'temp';
grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;
flush privileges;
  1. 退出mariadb交互;
  2. 进入目录<font color="blue">/opt/cloudera-manager/cm-5.7.2/share/cmf/schema/</font>:
cd /opt/cloudera-manager/cm-5.7.2/share/cmf/schema/
  1. 执行以下命令即可初始化CM的数据:
./scm_prepare_database.sh mysql temp -h master -utemp -ptemp --scm-host master scm scm scm
  1. 提示操作成功:


    在这里插入图片描述

    至此,master设置完毕,接下来设置worker1和worker2

worker1机器上的设置(worker2也这样设置)

  1. 创建本地parcel缓存文件夹:
mkdir -p /opt/cloudera/parcels
  1. 给文件夹赋权限:
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

worker1和worker2都做上述设置,接下来就可以启动CDH了。

启动server(master机器)

  1. SSH登录master;
  2. 进入启动命令所在目录:
cd /opt/cloudera-manager/cm-5.7.2/etc/init.d/
  1. 启动server:
./cloudera-scm-server start
  1. 启动成功的提示信息如下:
5.

启动agent(worker1和worker2机器)

  1. SSH登录worker1;
  2. 进入启动命令所在目录:
cd /opt/cloudera-manager/cm-5.7.2/etc/init.d/
  1. 启动agent:
./cloudera-scm-agent start
  1. 启动成功的提示信息如下:


    在这里插入图片描述
  2. 然后登录worker2,重复上述操作;

至此,CDH部署和启动完成,可以开始设置了;

设置CDH

  1. 浏览器访问地址:<font color="blue">http://192.168.133.154:7180</font> ,会提示登录,账号和密码都是<font color="red">admin</font>:


    在这里插入图片描述
  2. 接下来的页面是许可条款,选择接受后进入选择版本的页面,我这里选择的是试用版,如下图:


    在这里插入图片描述
  3. 即将部署多个服务:


    在这里插入图片描述
  4. 进入选择机器的页面,如下图红框所示,将worker1和worker2都勾选上:


    在这里插入图片描述
  5. parcel设置,如下所示:


    在这里插入图片描述
  6. 由于之前已经将parcel文件下载到master机器上,因此下载安装包的进度一开始就是百分之百,耐心等待后面的分配、解压、激活等步骤自动完成:


    在这里插入图片描述
  7. 集群安装完成,如下图,可以按照提示进行优化:


    在这里插入图片描述
  8. 部署服务,这里我选择了所有服务:


    在这里插入图片描述
  9. 角色设置页面,将没有分配主机的服务分配到某一台机器上,我这里都选择了worker1:


    在这里插入图片描述
  10. 数据库的设置页面,由于只在master安装了mysql,所有我这里全部填写的是master:


    在这里插入图片描述
  11. 详细的设置页面,请按照实际情况设置:


    在这里插入图片描述
  12. 开始启动各个服务,等待完成:


    在这里插入图片描述
  13. 所有服务正常后,状态页面如下图所示:


    在这里插入图片描述

至此,CDH5部署和启动都已完成,但实际的启动过程并非一帆风顺,HDFS、Hive等服务都可能启动失败,下一篇文章会将这些问题以及解决方法都列出来;

欢迎关注公众号:程序员欣宸

微信搜索「程序员欣宸」,我是欣宸,期待与您一同畅游Java世界...
https://github.com/zq2599/blog_demos

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,491评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,856评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,745评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,196评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,073评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,112评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,531评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,215评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,485评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,578评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,356评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,215评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,583评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,898评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,497评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,697评论 2 335