前言
之前介绍了用docker来搭建redis主从环境,但这只是对数据添加了从库备份(主从复制),当主库down掉的时候,从库是不会自动升级为主库的,也就是说,该redis主从集群并非是高可用的。
目前来说,高可用(主从复制、主从切换)redis集群有两种方案,一种是redis-sentinel,只有一个master,各实例数据保持一致;一种是redis-cluster,也叫分布式redis集群,可以有多个master,数据分片分布在这些master上。
本文介绍基于docker和redis-sentinel的高可用redis集群搭建,大多数情况下,redis-sentinel也需要做高可用,这里先对redis搭建一主二从环境,另外需要3个redis-sentinel监控redis master。
很显然,只使用单个redis-sentinel进程来监控redis集群是不可靠的,由于redis-sentinel本身也有single-point-of-failure-problem(单点问题),当出现问题时整个redis集群系统将无法按照预期的方式切换主从。官方推荐:一个健康的集群部署,至少需要3个Sentinel实例。另外,redis-sentinel只需要配置监控redis master,而集群之间可以通过master相互通信。
redis-sentinel
redis-sentinel作为独立的服务,用于管理多个redis实例,该系统主要执行以下三个任务:
- 监控 (Monitor): 检查redis主、从实例是否正常运作
- 通知 (Notification): 监控的redis服务出现问题时,可通过API发送通知告警
- 自动故障迁移 (Automatic Failover): 当检测到redis主库不能正常工作时,redis-sentinel会开始做自动故障判断、迁移等操作,先是移除失效redis主服务,然后将其中一个从服务器升级为新的主服务器,并让失效主服务器的其他从服务器改为复制新的主服务器。当客户端试图连接失效的主服务器时,集群也会向客户端返回最新主服务器的地址,使得集群可以使用新的主服务器来代替失效服务器
环境说明
- Docker
- Ubuntu/CentOS
- Redis v4.0.10
sentinel.conf
sentinel.conf
是启动redis-sentinel的核心配置文件,可以从官网下载:
wget http://download.redis.io/redis-stable/sentinel.conf
一主二从
先搭建好Redis一主二从环境,这里仅给出操作过程,可以参考之前写的《Docker + Redis (4.0.10) 主从环境搭建》,在master上使用info Replication
查看集群状态(注意,为了让redis-sentinel可以发现slave,这里要确保redis服务端口和容器映射端口一致):
# 主库
docker run -it --name redis-master -d -p 6300:6300 redis redis-server --requirepass redispassword --port 6300
docker exec -it redis-master bash
redis-cli -a redispassword -p 6300
config set masterauth redispassword
# 从库1
docker run -it --name redis-slave -d -p 6301:6301 redis redis-server --requirepass redispassword --port 6301
docker exec -it redis-slave bash
redis-cli -a redispassword -p 6301
slaveof <master-ip> <master-port>
config set masterauth redispassword
# 从库2
docker run -it --name redis-slave2 -d -p 6302:6302 redis redis-server --requirepass redispassword --port 6302
docker exec -it redis-slave2 bash
redis-cli -a redispassword -p 6302
slaveof <master-ip> <master-port>
config set masterauth redispassword
配置
根据上面下载好的sentinel.conf
,找到并修改如下配置:
# mymaster:自定义集群名,如果需要监控多个redis集群,只需要配置多次并定义不同的<master-name> <master-redis-ip>:主库ip <master-redis-port>:主库port <quorum>:最小投票数,由于有三台redis-sentinel实例,所以可以设置成2
sentinel monitor mymaster <master-redis-ip> <master-redis-port> <quorum>
# 注:redis主从库搭建的时候,要么都不配置密码(这样下面这句也不需要配置),不然都需要设置成一样的密码
sentinel auth-pass mymaster redispassword
# 添加后台运行
daemonize yes
将上面的sentinel.conf
复制三份,分别为sentinel1.conf
,sentinel2.conf
和sentinel3.conf
,再次编辑修改port
为26000
,26001
和26002
。
启动
redis-sentinel启动有以下两种方式:
redis-sentinel /path/to/sentinel.conf
redis-server /path/to/sentinel.conf --sentinel
大多数版本的redis都支持以上两种方式启动。实战中,为了让redis-sentinel作为独立的服务运行,这里用docker搭建环境:
# redis-sentinel实例1
docker run -it --name redis-sentinel1 -v /root/redis/sentinel1.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash
# redis-sentinel实例2
docker run -it --name redis-sentinel2 -v /root/redis/sentinel2.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash
# redis-sentinel实例3
docker run -it --name redis-sentinel3 -v /root/redis/sentinel3.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash
分别进入以上三个容器启动redis-sentinel:
docker exec -it redis-sentinel(x) bash
# 或redis-server /usr/local/etc/redis/sentinel.conf --sentinel
redis-sentinel /usr/local/etc/redis/sentinel.conf
连接并使用redis-sentinel API查看监控状况:
redis-cli -p 26000 (26001 | 26002)
sentinel master mymaster 或 sentinel slaves mymaster
测试
进入redis-master容器,休眠60秒redis服务:
docker exec -it redis-master bash
redis-cli -a redispassword -p 6300 DEBUG sleep 60
进入redis-slave或redis-slave2容器,查看info Replication
,可以看到master已经完成了切换。
60秒后原redis主库恢复服务,但降级后当前redis服务已无法恢复原主库身份。
参考
Docker化高可用redis集群
Redis Sentinel Documentation
Redis Sentinel 机制与用法(4.0.0版本)
Redis practise(二)使用Docker部署Redis高可用,分布式集群