hadoop-ha完全分布式高可用

机器配置:

10.33.101.243 master

10.33.101.244 slave01

10.33.101.247 slave02

1、创建账号

#以root用户创建hadoop用户和组创建hadoop用户和组

groupadd hadoop

useradd -g hadoop hadoop

#修改用户密码

passwd hadoop

2、配置ssh免密。

#首先切换到上面的hadoop用户,这里我是在master机器上操作

#生成非对称公钥和私钥,这个在集群中所有节点机器都必须执行,一直回车就行

ssh-keygen -t rsa

#通过ssh登录远程机器时,本机会默认将当前用户目录下的.ssh/authorized_keys带到远程机器进行验证,这里是/home/hadoop/.ssh/authorized_keys中公钥(来自其他机器上的/home/hadoop/.ssh/id_rsa.pub.pub),以下代码只在主节点执行就可以做到主从节点之间SSH免密码登录

cd /home/hadoop/.ssh/

#首先将Master节点的公钥添加到authorized_keys

cat id_rsa.pub>>authorized_keys

#其次将Slaves节点的公钥添加到authorized_keys,这里我是在Hadoop31机器上操作的

ssh hadoop@slave01 cat /home/hadoop/.ssh/id_rsa.pub>> authorized_keys

ssh hadoop@slave02 cat /home/hadoop/.ssh/id_rsa.pub>> authorized_keys

#必须设置修改/home/hadoop/.ssh/authorized_keys权限

chmod700~/.ssh

chmod600~/.ssh/authorized_keys

#这里将Master节点的authorized_keys分发到其他slaves节点

scp -r /home/hadoop/.ssh/authorized_keys hadoop@slave01:/home/hadoop/.ssh/

scp -r /home/hadoop/.ssh/authorized_keys hadoop@slave02:/home/hadoop/.ssh/

3、配置JDK环境变量。

4、zookeeper安装(版本3.4.6)

再master,slave01,slave02 上解压zk

修改conf文件夹下 zoo_sample.cfg 为zoo.cfg

配置修改:

dataDir=/opt/zkData

server.1=master:2888:3888

server.2=slave01:2888:3888

server.3=slave02:2888:3888

再每台机器上创建机器标识(echo 1 对应server.1)

master :echo "1" > /opt/zkData/myid

slave01:echo "2" > /opt/zkData/myid

slave02:echo "3" > /opt/zkData/myid

再master上将zk分发到 slave01、slave02上

scp -r /home/hadoop/zookeeper-3.4.6 hadoop@slave01:/home/hadoop/

scp -r /home/hadoop/zookeeper-3.4.6 hadoop@slave02:/home/hadoop/

再master、slave01、slave02 上分别启动zk

cd /home/hadoop/zookeeper-3.4.6/bin

./zkServer.sh start

启动三台后 可以用 ./zkServer.sh status  查看当前zk节点状态

5、现在要开始配置hadoop-ha集群。(使用解压版hadoop)

解压hadoop

修改hadoop-2.7.5/etc/hadoop下文件

core-site.xml

修改hdfs-site.xml


修改mapred-site.xml


修改 yarn-site.xml


修改 slaves

master

slave01

slave02

修改hadoop-env.sh和yarn-env.sh

export JAVA_HOME=/home/hadoop/java/jdk1.7.0_65

分发hadoop文件到slave01 、slave02

scp -r /home/hadoop/hadoop-2.7.1 hadoop@slave01:/home/hadoop/

scp -r /home/hadoop/hadoop-2.7.1 hadoop@slave02:/home/hadoop/


正式启动hadoop-ha

1、格式化zookeeper上hadoop-ha目录

bin/hdfs zkfc –formatZK

2、启动namenode日志同步服务journalnode(3台全要)

sbin/hadoop-daemon.sh start journalnode

3、格式化namenode

#这步操作只能在namenode服务节点master或者slave01执行中一台上执行

bin/hdfs namenode -format

4、启动namenode、同步备用namenode、启动备用namenode

#启动namenode

ssh master

sbin/hadoop-daemon.sh start namenode

#同步备用namenode、启动备用namenode

ssh slave01

bin/hdfs namenode -bootstrapStandby

sbin/hadoop-daemon.sh start namenode

5、启动DFSZKFailoverController(namnode节点上)

sbin/hadoop-daemon.sh start zkfc

6、启动datanode(只需要再master执行,会自动ssh其他机器启动)

sbin/hadoop-daemons.sh start datanode

7、启动yarn

ssh master

sbin/start-yarn.sh

#在slave01上启动备用resouremanager

ssh slave01

sbin/yarn-daemon.sh start resourcemanager


访问页面 master:50070 查看hadoop高可用状态

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,519评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,842评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,544评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,742评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,646评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,027评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,513评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,169评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,324评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,268评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,299评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,996评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,591评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,667评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,911评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,288评论 2 345
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,871评论 2 341

推荐阅读更多精彩内容