2019-01-19Zookeeper介绍及安装部署

Zookeeper介绍及安装部署

本节内容:

Zookeeper介绍

Zookeeper特点

Zookeeper应用场景

用到了Zookeeper的一些系统

Zookeeper集群安装部署


一、Zookeeper介绍

是一个针对大型分布式系统的可靠协调系统;

提供的功能包括:配置维护、名字服务、分布式同步、组服务等;

目标就是封装好复杂易出错的关键职务,将简单易用的接口和性能高效、功能稳定的系统提供给用户;

Zookeeper已经成为Hadoop生态系统中的基础组件。


二、Zookeeper特点

最终一致性:为客户端展示同一视图,这是Zookeeper最重要的性能;

可靠性:如果消息被一台服务器接受,那么它将被所有的服务器接受;

原子性:更新只能成功或失败,没有中间状态;


三、Zookeeper应用场景

1. 统一命名服务

(1)分布式环境下,经常需要对应用/服务进行统一命名,便于识别不同的服务

类似于域名与ip之间对应关系,域名容易记住;

通过名称来获取资源或服务的地址,提供者信息。

(2)按照层次结构组织服务/应用名称

可将服务名称以及地址信息写在Zookeeper上,客户端通过Zookeeper获取可用服务列表。

2. 配置管理

(1)分布式环境下,配置文件管理和同步是一个常见问题

一个集群中,所有节点的配置信息是一致的,比如Hadoop;

对配置文件修改后,希望能够快速同步到各个节点上。

(2)配置管理可交由Zookeeper实现

可将配置信息写入Zookeeper的一个znode上;

各个节点监听这个znode

一旦znode中的数据被修改,Zookeeper将会通知各个节点。

3. 集群管理

(1)分布式环境下,实时掌握每个节点的状态是必要的

可根据节点实时状态做出一些调整。

(2)可交由Zookeeper实现

可将节点信息写入Zookeeper的一个znode上;

监听这个znode可获得它的实时状态变化。

(3)典型应用

HBase中Master状态的监控与选举。

4. 分布式通知/协调

原理其实就是发布/订阅。

(1)分布式环境下经常存在一个服务需要知道它所管理的子服务的状态

NameNode需要知道各DataNode的状态

(2)心跳检测机制可通过Zookeeper实现

(3)信息推送可由Zookeeper实现(发布/订阅模式)

5. 分布式锁

(1)Zookeeper是强一致性的

多个客户端同时在Zookeeper上创建相同znode,只有一个创建成功。

(2)实现锁的独占性

多个客户端同时在Zookeeper上创建相同znode,创建成功的那个客户端得到锁,其他客户端等待。

(3)控制锁的时序

各个客户端在某个znode下创建临时znode(类型为CreateMode.EPHEMERAL_SEQUENTIAL),这样,该znode可掌握全局访问时序。


四、用到了Zookeeper的一些系统

HDFS

YARN

Storm

HBase

Flume

Dubbo

metaq


五、Zookeeper集群安装部署

下面开始介绍Zookeeper的安装部署。安装部署分三种模式:单机模式、伪分布式模式和分布式模式。单机模式和为分布式比较简单,多用于本地测试调试,下面介绍分布式模式安装部署。

注意:3台机器都需要安装zk。对于Zookeeper集群的话,官方推荐的最小节点数为3个。

1. 环境信息

主机名操作系统版本IP地址安装软件

consoleCentOS 7.0114.55.29.246JDK1.7、zookeeper-3.4.6

log1CentOS 7.0114.55.29.86JDK1.7、zookeeper-3.4.6

log2CentOS 7.0114.55.29.241JDK1.7、zookeeper-3.4.6





2. 安装jdk1.7

3台机器都需要安装jdk1.7

[root@log1 local]#mkdir/usr/java

[root@log1 local]# tarzxf jdk-7u80-linux-x64.gz -C /usr/java/[root@log1 local]# vim /etc/profile

export JAVA_HOME=/usr/java/jdk1.7.0_80

export PATH=$JAVA_HOME/bin:$PATH

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

[root@log1 local]# source /etc/profile


3. 安装配置zk

(1)配置zk节点的hosts文件:配置3台机器的ip地址和主机名的对应关系。以下以console主机为例,其hosts文件添加下面3行:

114.55.29.246 console114.55.29.86 log1114.55.29.241log2

(2)解压安装配置第一台zk

[root@console local]#tarzxf zookeeper-3.4.6.tar.gz

[root@console local]# cd zookeeper-3.4.6

创建快照日志存放目录:

[root@console zookeeper-3.4.6]#mkdir-p dataDir

创建事务日志存放目录:

[root@console zookeeper-3.4.6]#mkdirdataLogDir

【注意】:如果不配置dataLogDir,那么事务日志也会写在dataDir目录中。这样会严重影响zk的性能。因为在zk吞吐量很高的时候,产生的事务日志和快照日志太多。

修改配置文件,添加如下内容:

[root@console zookeeper-3.4.6]# cd conf

[root@console conf]# mv zoo_sample.cfg zoo.cfg

[root@console conf]# vim zoo.cfg

# 存放数据文件

dataDir=/usr/local/zookeeper-3.4.6/dataDir

# 存放日志文件

dataLogDir=/usr/local/zookeeper-3.4.6/dataLogDir

# zookeeper cluster,2888为选举端口,3888为心跳端口

server.1=console:2888:3888server.2=log1:2888:3888server.3=log2:2888:3888

在我们配置的dataDir指定的目录下面,创建一个myid文件,里面内容为一个数字,用来标识当前主机,conf/zoo.cfg文件中配置的server.X中X为什么数字,则myid文件中就输入这个数字:

[root@console ~]#echo"1"> /usr/local/zookeeper-3.4.6/dataDir/myid

(3)远程复制第一台的zk到另外两台上,并修改myid文件为2和3

[root@console local]#scp-rp zookeeper-3.4.6root@114.55.29.86:/usr/local/[root@console local]# scp-rp zookeeper-3.4.6root@114.55.29.241:/usr/local/


4. 启动和关闭zk

在ZooKeeper集群的每个结点上,执行启动ZooKeeper服务的脚本,如下所示:

[root@console bin]# ./zkServer.sh start

[root@log1 bin]# ./zkServer.sh start

[root@log2 bin]# ./zkServer.shstart

日志可查询:/usr/local/zookeeper-3.4.6/bin/zookeeper.out

可以通过命令jps查看Zookeeper进程:

停止zk命令:

# /usr/local/zookeeper-3.4.6/bin/zkServer.shstop


5. 测试zk集群

可以通过ZooKeeper的脚本来查看启动状态,包括集群中各个结点的角色(或是Leader,或是Follower)

[root@console bin]# ./zkServer.sh status

JMX enabled by default

Using config: /usr/local/zookeeper-3.4.6/bin/../conf/zoo.cfg

Mode: follower

[root@log1 bin]# ./zkServer.sh status

JMX enabled by default

Using config: /usr/local/zookeeper-3.4.6/bin/../conf/zoo.cfg

Mode: leader

[root@log2 bin]# ./zkServer.sh status

JMX enabled by default

Using config: /usr/local/zookeeper-3.4.6/bin/../conf/zoo.cfg

Mode: follower

通过上面状态查询结果可见,log1是集群的Leader,其余的两个结点是Follower。

另外,可以通过客户端脚本,连接到ZooKeeper集群上。对于客户端来说,ZooKeeper是一个整体,连接到ZooKeeper集群实际上感觉在独享整个集群的服务,所以,你可以在任何一个结点上建立到服务集群的连接。

 连接zookeeper


6. 脚本定期清理zk快照和日志文件

正常运行过程中,ZK会不断地把快照数据和事务日志输出到dataDir和dataLogDir这两个目录,并且如果没有人为操作的话,ZK自己是不会清理这些文件的。 我这里采用脚本切割。

 脚本切割zookeeper日志

每个Zookeeper集群节点配置周期性任务,每个星期日的0点0分执行:

[root@console zookeeper-3.4.6]# crontab -e00* *0/usr/local/zookeeper-3.4.6/clean_zklog.sh

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,671评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,442评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,524评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,623评论 1 275
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,642评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,584评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,953评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,621评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,865评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,608评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,698评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,378评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,958评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,940评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,173评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,419评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,425评论 2 342

推荐阅读更多精彩内容