CDH安装

1.环境版本

CDH:  5.12.0     Centos: 6.9

节点: hadoop101(主): 6G,8核,50G磁盘,  hadoop102: 2G,4核,30G磁盘,  hadoop103: 2G,4核,30G磁盘

2.虚拟机基本配置

默认配置好了, 如hosts, ssh , jdk, 防火墙, 能够相互ping通,  能够ping 通 www.baidu.com

注: jdk安装:安装到/usr/java下面,全局变量,防止CDH找不到

jdk放在了   /usr/java/jdk1.8.0_131

3.Mysql安装(重中之重)

MySQL官网https://downloads.mysql.com/archives/community/ 上下载MySQL5.7的Linux安装程序,并上传到服务器。 本平台采用mysql-5.7.12的版本,mysql-5.7.12-linux-glibc2.5-x86_64.tar.gz。 (我忘记我的5.7.12在哪下载的了, 5.7.13也行,问题不大)

创建mysql用户

# groupadd mysql

# useradd -r -g mysql -s/bin/false mysql

创建mysql工作目录,上传解压mysql安装程序

# mkdir -p /apps/svr/mysql/ /apps/svr/mysql/data

# tar xzf mysql-5.7.12-linux-glibc2.5-x86_64.tar.gz -C /apps/svr/mysql/

# mv mysql-5.7.12-linux-glibc2.5-x86_64/ mysql-5.7.12/    ##修改名字

配置mysql环境变量

vim /etc/profile

# Mysql

export PATH=$PATH:https:/apps/svr/mysql/mysql-5.7.12/bin

#source /etc/profile

安装libaio:  

 # yum -y installlibaio libaio-devel           直接运行就得了

拷贝配置文件

#cd /apps/svr/mysql/mysql-5.7.12/

# cp./support-files/my-default.cnf /etc/my.cnf

修改配置文件

# vim /etc/my.cnf

basedir = /apps/svr/mysql/mysql-5.7.12

datadir = /apps/svr/mysql/data

socket = /tmp/mysql.sock

初始化数据库

# cd/apps/svr/mysql/mysql-5.7.12/

# bin/mysqld--defaults-file=/etc/my.cnf --initialize --user=mysql

将mysqld加入service系统服务

# cpsupport-files/mysql.server /etc/init.d/mysqld

# chkconfig --add mysqld

# chkconfig mysqld on          //开机自启动

启动mysql服务

# service mysqld start

# mysql -u root -p000000    //密码为6个0..  如果这一步错了,查看service

mysqld status是否运行, 按照下面方式修改,亲测,可用  


加上面这个可以进入mysql不需要密码,很好,然后再从mysql里面修改密码,

如果上面修改密码一致错误, 报password的错误,就把语句改成:

update mysql.user set authentication_string=password('000000') where user='root' ;

mysql> alter user 'root'@'localhost' identified by '000000';

mysql> flushprivileges;

4.创建数据库

为CDH平台相关创建数据库

mysql> createdatabase activity default charset utf8 collate utf8_general_ci;

mysql> createdatabase hive default charset utf8 collate utf8_general_ci;

mysql> createdatabase oozie default charset utf8 collate utf8_general_ci;

mysql> createdatabase hue default charset utf8 collate utf8_general_ci;

授权给cdh用户

mysql> grant allon activity.* to 'cdh'@'%' identified by '000000';

mysql> grant allon hive.* to 'cdh'@'%' identified by '000000';

mysql> grant allon oozie.* to 'cdh'@'%' identified by '000000';

mysql> grant allon hue.* to 'cdh'@'%' identified by '000000';

mysql> flushprivileges;

5.Cloudera Manager安装

CDH常用安装方式一般包括:Cloudera Manager在线安装、Parcel安装、YUM安装以及RPM安装,本次安装采用Percel方式进行。

Cloudera Manager

Cloudera 官网http://archive.cloudera.com/cm5/cm/5/下载CM5.12的Linux安装程序,并上传到服务器。

本平台采用cm5.12.0的版本,cloudera-manager-el6-cm5.12.0_x86_64.tar.gz。

CDH Percel

Cloudera 官网http://archive.cloudera.com/cdh5/parcels/下载CDH5.12的Linux安装程序,并上传到服务器。

本平台采用CDH 5.12.0的版本,需下载三个文件:

CDH-5.12.0-1.cdh5.12.0.p0.29-el6.parcel

CDH-5.12.0-1.cdh5.12.0.p0.29-el6.parcel.sha1

manifest.json   //这个下载是右键,然后链接另存为……,  我在这犯过错误,我是复制json,然后保存到新建文件,亲测,这样不行!!!


6.MySQL JDBC驱动

本平台采用mysql-connector-java-5.1.46.jar。https://blog.csdn.net/weixin_41831619/article/details/79914307

7.部署CM

创建cloudera-scm用户

所有机器都执行:

useradd --system --home=/opt/cm-5.12.0/run/cloudera-scm-server --no-create-home

--shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

表示系统用户

    --system 

    指定用户的主目录

    --home=/opt/cm-5.12.0/run/cloudera-scm-server --no-create-home

    不作为登陆用户

    --shell=/bin/false 

    --comment "Cloudera SCM User" 

    用户名

    cloudera-scm

验证cloudera-scm用户

# cat

/etc/passwd | grep cloudera-scm

解压CM安装程序

到hadoop101上执行

# tar -xvf cloudera-manager-el6-cm5.12.0_x86_64.tar.gz -C /opt

初始化Cloudera Manager数据库

主机hadoop101上执行

拷贝MySQL驱动

# cpmysql-connector-java-5.1.46.jar /opt/cm-5.12.0/share/cmf/lib/

# /opt/cm-5.12.0/share/cmf/schema/scm_prepare_database.sh

mysql cm -hlocalhost -uroot -p'000000' scm 'root'


这样的话就成功了

主机hadoop101上执行(当前节点名称)

# vim /opt/cm-5.12.2/etc/cloudera-scm-agent/config.ini

server_host=hadoop101     //这里一定要设置正确,如果设置不正确,则只能检测到一个节点

# scp -r /opt/cm-5.12.0 hadoop102:/opt/

# scp -r /opt/cm-5.12.0 hadoop103:/opt/

//记得在其他的节点上也修改server_host

8.上传Parcel到服务器

主机hadoop101上执行

将CDH-5.12.0-1.cdh5.12.0.p0.29-el6.parcel,CDH-5.12.0-1.cdh5.12.0.p0.29-el6.parcel.sha1,manifest.json三个文件上传到master1的/opt/cloudera/parcel-repo/目录中,同时将CDH-5.12.0-1.cdh5.12.0.p0.29-el6.parcel.sha1复制为CDH-5.12.0-1.cdh5.12.0.p0.29-el6.parcel.sha。

# mvCDH-5.12.0-1.cdh5.12.0.p0.29-el6.parcel.sha1CDH-5.12.0-1.cdh5.12.0.p0.29-el6.parcel.sha

启动CM服务

主机hadoop101上启动CM服务和代理

#/opt/cm-5.12.0/etc/init.d/cloudera-scm-server restart

#/opt/cm-5.12.0/etc/init.d/cloudera-scm-agent restart

(hadoop102 - hadoop103)上启动CM代理

#/opt/cm-5.12.0/etc/init.d/cloudera-scm-agent restart

9.CDH安装

登录CM管理控制台

使用浏览器打开http://hadoop101:7180登录Cloudera Manager的Web管理控制台,(默认的用户名和密码为admin/admin)。

打开hadoop101:7180

第一次进入时,会自动启动安装向导进行配置安装。

选择接受用户授权协议,点击“继续”按钮进入下一步。

点击继续
点击免费,继续
继续
搜索

当前管理主机->  勾选三台, hadoop101,hadoop102,hadoop103

如果只显示hadoop101, 则是前面cdh安装哪个环节出了问题, 好好检查下, 我之前遇到过两次这样的,都是一些细节地方漏掉了配置!

这里里面我忘记怎么配置了,适配就好了


一路点继续

本步骤对所有服务器的环境进行检查,等待一分钟左右,会自动显示检查结果。

最后就变成这样了!

注:左边的服务是我一个一个添加上去的!   本身是没有的,   而且有很多异常,是因为内存不足,  我共分配了12G, 是不够的, 大家要玩的话, 内存得加大点点!


添加服务

最后注: 每一个组件的添加服务有点点多, 这边就不写了, 如果有需要的, 可以简述留言, 我发给你文档!

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,214评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,307评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,543评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,221评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,224评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,007评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,313评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,956评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,441评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,925评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,018评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,685评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,234评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,240评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,464评论 1 261
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,467评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,762评论 2 345

推荐阅读更多精彩内容