redis-cluster集群--安装与状态验证

零、redis集群解决方案

1.Twitter开发的twemproxy
2.豌豆荚开发的codis
3.redis官方的redis-cluster
亲儿子毕竟是更新最快,维护和支持新版本redis新特性好的,所以选择方案上业界一般选择redis-cluster

一、redis-cluster简介

  • redis-cluster是redis社区中推出的redis分布式集群解决方案
  • 主要解决redis分布式的需求:
    1. 单机内存瓶颈
    2. 并发和流量瓶颈
    3. 同步复制带宽瓶颈等
  • redis3.0之后版本支持redis-cluster集群
  • 至少需要3主(master)+3从(slave)才能建立集群
  • redis-cluster 采用无中心结构(类比区块链的去中心化)结构
    每个节点保存数据和集群信息状态,每个节点和其他节点连接

二、结构

每个节点保存数据和集群信息状态,每个节点和其他节点连接


image

其结构特点:
1、所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽。
2、节点的fail是通过集群中超过半数的节点检测失效时才生效。
3、客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可。
4、redis-cluster把所有的物理节点映射到[0-16383]slot上(不一定是平均分配),cluster 负责维护node<->slot<->value。
5、Redis集群预分好16384个桶,当需要在 Redis 集群中放置一个 key-value 时,根据 CRC16(key) mod 16384的值,决定将一个key放到哪个桶中。

三、容错性

容错性指软件检测应用程序所在运行的软件或硬件中发生的错误并从错误中恢复的能力,通常可以从系统的可靠性,可用性,可测性的等几方面来衡量。

  • 1 什么时候判断 master 不可用?

投票机制。投票过程是集群中所有 master 参与,如果半数以上 master 节点与 master节点通信超时(cluster-node-timeout)认为当前 master 节点挂掉

  • 2 什么时候整个集群不可用(cluster state: fail)

如果集群任意 master 挂掉,且当前 master 没有 slave。集群进入fail状态也可以理解成集群的 Slot 映射 0-16383] 不完整时进入 fail 状态。如果集群超过半数以上 master 挂掉,无论是否有 slave,集群进入 fail 状态

四、节点分配(数据分片)

1.redis cluster节点分配**

现在我们是三个主节点分别是:A, B, C 三个节点,它们可以是一台机器上的三个端口,也可以是三台不同的服务器。那么,采用哈希槽 (hash slot)的方式来分配16384个slot 的话,它们三个节点分别承担的slot 区间是:

  • 节点A覆盖0-5460;

  • 节点B覆盖5461-10922;

  • 节点C覆盖10923-16383.

    获取数据:
    如果存入一个值,按照redis cluster哈希槽的算法: CRC16('key')384 = 6782。 那么就会把这个key 的存储分配到 B 上了。同样,当我连接(A,B,C)任何一个节点想获取'key'这个key时,也会这样的算法,然后内部跳转到B节点上获取数据

2.新增一个主节点:

新增一个节点D,redis cluster的这种做法是从各个节点的前面各拿取一部
分slot到D上,我会在接下来的实践中实验。大致就会变成这样:

  • 节点A覆盖1365-5460

  • 节点B覆盖6827-10922

  • 节点C覆盖12288-16383

  • 节点D覆盖0-1364,5461-6826,10923-12287

同样删除一个节点也是类似,移动完成后就可以删除这个节点了。

3.Redis Cluster主从模式
redis cluster 为了保证数据的高可用性,加入了主从模式,一个主节点对应一个或多个从节点,主节点提供数据存取,从节点则是从主节点拉取数据备份,当这个主节点挂掉后,就会有这个从节点选取一个来充当主节点,从而保证集群不会挂掉

上面那个例子里, 集群有ABC三个主节点, 如果这3个节点都没有加入从节点,如果B挂掉了,我们就无法访问整个集群了。A和C的slot也无法访问。

所以我们在集群建立的时候,一定要为每个主节点都添加了从节点, 比如像这样, 集群包含主节点A、B、C, 以及从节点A1、B1、C1, 那么即使B挂掉系统也可以继续正确工作。

B1节点替代了B节点,所以Redis集群将会选择B1节点作为新的主节点,集群将会继续正确地提供服务。 当B重新开启后,它就会变成B1的从节点。

不过需要注意,如果节点B和B1同时挂了,Redis集群就无法继续正确地提供服务了。

五、安装集群

对于下文中第七步创建集群时,版本之间的差异

image.png
  • Redis 5 直接 用redis-cli
    直接干就完了
  • Redis version 3 or 4,
    需要a.先安装一个Ruby环境
    b.再redis-trib.rb(ruby语言开发)的工具
    Redis version 3 or 4可参考此处

redis5集群的安装

1.创建Redis节点安装目录

mkdir -p /usr/local/redis-cluster    

2.在redis-cluster目录下,分别创建7000-7005个文件夹

mkdir 7000 7001 7002 7003 7004 7005

3.并将redis-conf拷贝到7000文件夹下

cp /opt/redis-5.0.7/redis-conf   ./7000

4.分别修改redis配置文件
./7000/redis.conf

#关闭保护模式用 于公网访问 
protected-mode no 
port 7000 
#开启集群模式 
cluster-enabled yes
# 各个节点的配置文件,一定要根据端口进行分别设置,否则集群启动不了
cluster-config-file nodes-{port}.conf
cluster-node-timeout 5000
# 后台启动 
daemonize yes
pidfile  /var/run/redis_7000.pid 
logfile 7000.log 
# 此处绑定 ip 可以是阿里内网 ip 和本地 ip 也可以直接注释掉该项 
#bind127.0.0.1 
# 用于连接主节点密码 
masterauth fatsnake
#设置redis密码各个节点请保持密码一致 
requirepass fatsnake
#设置节点持久化文件或是目录名,让各个节点分开:rdb文件名或者aof文件名
dbfilename dump_7000.rdb
appendfilename "appendonly_7000.aof"

# 

5.依次修改并复制 6个redis.conf

cp ./7000/redis.conf ./7001/     
vim ./7000/redis.conf
执行 :%s/oldPort/newPort/g    全局替换端口 :wq  保存并退出  即可

6.依次启动6个节点
将安装的 redis 目录下的 src 复制到 cluster文件目录下,方便启动服务端

cd /opt/redis-5.0.7: 进入 redis 安装目录
cp -r ./src   /usr/local/redid-cluster/   将src文件复制到 redis- cluster 目录中

./src/redis-server  ./7000/redis.conf

./src/redis-server  ./7001/redis.conf

./src/redis-server  ./7002/redis.conf

./src/redis-server  ./7003/redis.conf

./src/redis-server  ./7004/redis.conf

./src/redis-server  ./7005/redis.conf

启动后,可以用 PS 查看进程:

ps -ef | grep redis

启动后效果:


image.png

7.创建集群通信(见上文版本差异)
redis5版本以后使用redis-cli客户端来创建集群
-a 参数为 集群密码

./src/redis-cli --cluster create -a fatsnake 127.0.0.1:7000 127.0.0.1:7001 \
127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 \
--cluster-replicas 1

cluster-replicas 1 代表 一个master后有几个slave,1代表为1个slave节点


image.png

询问是否满意如此分配节点:输入yes之后,如图显示表示集群创建成功


image.png

六、redis-cluster集群验证

再描述一遍集群特点

  • Redis cluster 为了保证数据的高可用性,加入了主从模式,一个主节点对应一个或多个从节点

  • 主节点提供数据存取,从节点则是从主节点拉取数据备份,从节点提供查询

  • 当这个主节点挂掉后,就会有这个从节点选取一个来充当主节点,从而保证集群不会挂掉

  • 集群如果有 ABC 三个主节点如果这 3 个节点都没有加入从节点,如果 B 桂掉了,我们就无法访问整个集群了。A 和C的slot(哈希槽) 也无法访问。
    所以我们在集群建立的时候,一定要为每个主节点都添加了从节点,比如像这样集群包含主节点 A、B、C,以及
    从节点 A1、B1、C1, 那么即使 B 挂掉系统也可以继续正确工作。
    B1 节点替代了 B 节点,所以 Redis 集群将会选择 B1 节点作为新的主节点,集群将会继续正确地提供服务。当 B 重新开启后,它就会变成 B1 的从节点。
    不过需要注意,如果节点 B 和 B1 同时挂了,Redis 集群就无法继续正确地提供服务了。

    连接集群中的某个节点,验证

redis-cli -h 127.0.0.1 -c -p 7000 -a fatsnake

参数说明:
-h : ip
-c : 添加此参数,可连接到集群
-a :集群密码

image.png

redis cluster 在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。毎个节点都和其他所有节点连接,而这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据

基本命令

查看单节点状态

info replication


image.png

查看集群状态

Cluster Nodes 命令 或者 Cluster Infor

image.png

说明:
myself 表示当前 操作节点


image.png

唯一性节点ID说明:

  • 每个 Redist 的节点都有一个 ID 值,此 ID 将被此特定 redis 实例永久使用,以便实例在集群上下文中具有唯一的名称。
  • 每个节点都会记住使用此 ID 的每个其他节点,而不是通过 IP 或端口。
  • IP 地址和端口可能会发生变化,但唯一的节点标识符在节点的整个生命周期内都不会改变。我们简单地称这个标识符为节点 ID。
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,311评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,339评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,671评论 0 342
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,252评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,253评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,031评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,340评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,973评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,466评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,937评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,039评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,701评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,254评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,259评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,485评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,497评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,786评论 2 345

推荐阅读更多精彩内容

  • redis集群分为服务端集群和客户端分片,redis3.0以上版本实现了集群机制,即服务端集群,3.0以下使用客户...
    hadoop_null阅读 1,585评论 0 6
  • 转自:https://www.zybuluo.com/phper/note/195558 前言 redis 是我们...
    yannhuang阅读 1,672评论 0 2
  • 1 Redis介绍1.1 什么是NoSql为了解决高并发、高可扩展、高可用、大数据存储问题而产生的数据库解决方...
    克鲁德李阅读 5,266评论 0 36
  • 前言 Redis 是我们目前大规模使用的缓存中间件,由于它强大高效而又便捷的功能,得到了广泛的使用。单节点的Red...
    Kevin_ZGJ阅读 11,665评论 19 133
  • 集群 1.Redis 集群的优势 自动分割数据到不同的节点上。整个集群的部分节点失败或者不可达的情况下能够继续处理...
    zxhChex阅读 589评论 0 2