基于 Docker 的 Redis 高可用集群搭建(redis-sentinel)

前言

  之前介绍了用docker来搭建redis主从环境,但这只是对数据添加了从库备份(主从复制),当主库down掉的时候,从库是不会自动升级为主库的,也就是说,该redis主从集群并非是高可用的。
  目前来说,高可用(主从复制、主从切换)redis集群有两种方案,一种是redis-sentinel,只有一个master,各实例数据保持一致;一种是redis-cluster,也叫分布式redis集群,可以有多个master,数据分片分布在这些master上。
  本文介绍基于docker和redis-sentinel的高可用redis集群搭建,大多数情况下,redis-sentinel也需要做高可用,这里先对redis搭建一主二从环境,另外需要3个redis-sentinel监控redis master。

  很显然,只使用单个redis-sentinel进程来监控redis集群是不可靠的,由于redis-sentinel本身也有single-point-of-failure-problem(单点问题),当出现问题时整个redis集群系统将无法按照预期的方式切换主从。官方推荐:一个健康的集群部署,至少需要3个Sentinel实例。另外,redis-sentinel只需要配置监控redis master,而集群之间可以通过master相互通信。

实战拓扑图

redis-sentinel

  redis-sentinel作为独立的服务,用于管理多个redis实例,该系统主要执行以下三个任务:

  • 监控 (Monitor): 检查redis主、从实例是否正常运作
  • 通知 (Notification): 监控的redis服务出现问题时,可通过API发送通知告警
  • 自动故障迁移 (Automatic Failover): 当检测到redis主库不能正常工作时,redis-sentinel会开始做自动故障判断、迁移等操作,先是移除失效redis主服务,然后将其中一个从服务器升级为新的主服务器,并让失效主服务器的其他从服务器改为复制新的主服务器。当客户端试图连接失效的主服务器时,集群也会向客户端返回最新主服务器的地址,使得集群可以使用新的主服务器来代替失效服务器

环境说明

  • Docker
  • Ubuntu/CentOS
  • Redis v4.0.10

sentinel.conf

  sentinel.conf是启动redis-sentinel的核心配置文件,可以从官网下载:

    wget http://download.redis.io/redis-stable/sentinel.conf

一主二从

  先搭建好Redis一主二从环境,这里仅给出操作过程,可以参考之前写的《Docker + Redis (4.0.10) 主从环境搭建》,在master上使用info Replication查看集群状态(注意,为了让redis-sentinel可以发现slave,这里要确保redis服务端口和容器映射端口一致):

    # 主库
    docker run -it --name redis-master -d -p 6300:6300 redis redis-server --requirepass redispassword --port 6300
    docker exec -it redis-master bash
    redis-cli -a redispassword -p 6300
    config set masterauth redispassword

    # 从库1
    docker run -it --name redis-slave -d -p 6301:6301 redis redis-server --requirepass redispassword --port 6301
    docker exec -it redis-slave bash
    redis-cli -a redispassword -p 6301
    slaveof <master-ip> <master-port>
    config set masterauth redispassword
    
    # 从库2
    docker run -it --name redis-slave2 -d -p 6302:6302 redis redis-server --requirepass redispassword --port 6302
    docker exec -it redis-slave2 bash
    redis-cli -a redispassword -p 6302
    slaveof <master-ip> <master-port>
    config set masterauth redispassword
一主二从

配置

  根据上面下载好的sentinel.conf,找到并修改如下配置:

    # mymaster:自定义集群名,如果需要监控多个redis集群,只需要配置多次并定义不同的<master-name> <master-redis-ip>:主库ip <master-redis-port>:主库port <quorum>:最小投票数,由于有三台redis-sentinel实例,所以可以设置成2
    sentinel monitor mymaster <master-redis-ip> <master-redis-port> <quorum>
    
    # 注:redis主从库搭建的时候,要么都不配置密码(这样下面这句也不需要配置),不然都需要设置成一样的密码
    sentinel auth-pass mymaster redispassword
    
    # 添加后台运行
    daemonize yes

  将上面的sentinel.conf复制三份,分别为sentinel1.conf,sentinel2.confsentinel3.conf,再次编辑修改port26000,2600126002

启动

  redis-sentinel启动有以下两种方式:

  • redis-sentinel /path/to/sentinel.conf
  • redis-server /path/to/sentinel.conf --sentinel

  大多数版本的redis都支持以上两种方式启动。实战中,为了让redis-sentinel作为独立的服务运行,这里用docker搭建环境:

    # redis-sentinel实例1
    docker run -it --name redis-sentinel1 -v /root/redis/sentinel1.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash
    
    # redis-sentinel实例2
    docker run -it --name redis-sentinel2 -v /root/redis/sentinel2.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash
    
    # redis-sentinel实例3
    docker run -it --name redis-sentinel3 -v /root/redis/sentinel3.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash

  分别进入以上三个容器启动redis-sentinel:

    docker exec -it redis-sentinel(x) bash
    # 或redis-server /usr/local/etc/redis/sentinel.conf --sentinel
    redis-sentinel /usr/local/etc/redis/sentinel.conf

  连接并使用redis-sentinel API查看监控状况:

    redis-cli -p 26000 (26001 | 26002)
    sentinel master mymaster 或 sentinel slaves mymaster
sentinel master mymaster

测试

  进入redis-master容器,休眠60秒redis服务:

    docker exec -it redis-master bash
    redis-cli -a redispassword -p 6300 DEBUG sleep 60

  进入redis-slave或redis-slave2容器,查看info Replication,可以看到master已经完成了切换。

原从库切换成主库
redis-sentinel输出主库切换信息

  60秒后原redis主库恢复服务,但降级后当前redis服务已无法恢复原主库身份。

60秒后原主库服务

参考

Docker化高可用redis集群
Redis Sentinel Documentation
Redis Sentinel 机制与用法(4.0.0版本)
Redis practise(二)使用Docker部署Redis高可用,分布式集群

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,324评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,303评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,192评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,555评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,569评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,566评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,927评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,583评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,827评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,590评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,669评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,365评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,941评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,928评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,159评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,880评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,399评论 2 342

推荐阅读更多精彩内容