零、redis集群解决方案
1.Twitter开发的twemproxy
2.豌豆荚开发的codis
3.redis官方的redis-cluster
亲儿子毕竟是更新最快,维护和支持新版本redis新特性好的,所以选择方案上业界一般选择redis-cluster
一、redis-cluster简介
- redis-cluster是redis社区中推出的redis分布式集群解决方案
- 主要解决redis分布式的需求:
- 单机内存瓶颈
- 并发和流量瓶颈
- 同步复制带宽瓶颈等
- redis3.0之后版本支持redis-cluster集群
- 至少需要3主(master)+3从(slave)才能建立集群
- redis-cluster 采用无中心结构(类比区块链的去中心化)结构
每个节点保存数据和集群信息状态,每个节点和其他节点连接
二、结构
每个节点保存数据和集群信息状态,每个节点和其他节点连接
其结构特点:
1、所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽。
2、节点的fail是通过集群中超过半数的节点检测失效时才生效。
3、客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可。
4、redis-cluster把所有的物理节点映射到[0-16383]slot上(不一定是平均分配),cluster 负责维护node<->slot<->value。
5、Redis集群预分好16384个桶,当需要在 Redis 集群中放置一个 key-value 时,根据 CRC16(key) mod 16384的值,决定将一个key放到哪个桶中。
三、容错性
容错性指软件检测应用程序所在运行的软件或硬件中发生的错误并从错误中恢复的能力,通常可以从系统的可靠性,可用性,可测性的等几方面来衡量。
- 1 什么时候判断 master 不可用?
投票机制。投票过程是集群中所有 master 参与,如果半数以上 master 节点与 master节点通信超时(cluster-node-timeout)认为当前 master 节点挂掉
- 2 什么时候整个集群不可用(cluster state: fail)
如果集群任意 master 挂掉,且当前 master 没有 slave。集群进入fail状态也可以理解成集群的 Slot 映射 0-16383] 不完整时进入 fail 状态。如果集群超过半数以上 master 挂掉,无论是否有 slave,集群进入 fail 状态
四、节点分配(数据分片)
1.redis cluster节点分配**
现在我们是三个主节点分别是:A, B, C 三个节点,它们可以是一台机器上的三个端口,也可以是三台不同的服务器。那么,采用哈希槽 (hash slot)的方式来分配16384个slot 的话,它们三个节点分别承担的slot 区间是:
节点A覆盖0-5460;
节点B覆盖5461-10922;
-
节点C覆盖10923-16383.
获取数据:
如果存入一个值,按照redis cluster哈希槽的算法: CRC16('key')384 = 6782。 那么就会把这个key 的存储分配到 B 上了。同样,当我连接(A,B,C)任何一个节点想获取'key'这个key时,也会这样的算法,然后内部跳转到B节点上获取数据
2.新增一个主节点:
新增一个节点D,redis cluster的这种做法是从各个节点的前面各拿取一部
分slot到D上,我会在接下来的实践中实验。大致就会变成这样:
节点A覆盖1365-5460
节点B覆盖6827-10922
节点C覆盖12288-16383
节点D覆盖0-1364,5461-6826,10923-12287
同样删除一个节点也是类似,移动完成后就可以删除这个节点了。
3.Redis Cluster主从模式
redis cluster 为了保证数据的高可用性,加入了主从模式,一个主节点对应一个或多个从节点,主节点提供数据存取,从节点则是从主节点拉取数据备份,当这个主节点挂掉后,就会有这个从节点选取一个来充当主节点,从而保证集群不会挂掉
上面那个例子里, 集群有ABC三个主节点, 如果这3个节点都没有加入从节点,如果B挂掉了,我们就无法访问整个集群了。A和C的slot也无法访问。
所以我们在集群建立的时候,一定要为每个主节点都添加了从节点, 比如像这样, 集群包含主节点A、B、C, 以及从节点A1、B1、C1, 那么即使B挂掉系统也可以继续正确工作。
B1节点替代了B节点,所以Redis集群将会选择B1节点作为新的主节点,集群将会继续正确地提供服务。 当B重新开启后,它就会变成B1的从节点。
不过需要注意,如果节点B和B1同时挂了,Redis集群就无法继续正确地提供服务了。
五、安装集群
对于下文中第七步创建集群时,版本之间的差异
- Redis 5 直接 用redis-cli
直接干就完了 - Redis version 3 or 4,
需要a.先安装一个Ruby环境
b.再redis-trib.rb(ruby语言开发)的工具
Redis version 3 or 4可参考此处
redis5集群的安装
1.创建Redis节点安装目录
mkdir -p /usr/local/redis-cluster
2.在redis-cluster目录下,分别创建7000-7005个文件夹
mkdir 7000 7001 7002 7003 7004 7005
3.并将redis-conf拷贝到7000文件夹下
cp /opt/redis-5.0.7/redis-conf ./7000
4.分别修改redis配置文件
./7000/redis.conf
#关闭保护模式用 于公网访问
protected-mode no
port 7000
#开启集群模式
cluster-enabled yes
# 各个节点的配置文件,一定要根据端口进行分别设置,否则集群启动不了
cluster-config-file nodes-{port}.conf
cluster-node-timeout 5000
# 后台启动
daemonize yes
pidfile /var/run/redis_7000.pid
logfile 7000.log
# 此处绑定 ip 可以是阿里内网 ip 和本地 ip 也可以直接注释掉该项
#bind127.0.0.1
# 用于连接主节点密码
masterauth fatsnake
#设置redis密码各个节点请保持密码一致
requirepass fatsnake
#设置节点持久化文件或是目录名,让各个节点分开:rdb文件名或者aof文件名
dbfilename dump_7000.rdb
appendfilename "appendonly_7000.aof"
#
5.依次修改并复制 6个redis.conf
cp ./7000/redis.conf ./7001/
vim ./7000/redis.conf
执行 :%s/oldPort/newPort/g 全局替换端口 :wq 保存并退出 即可
6.依次启动6个节点
将安装的 redis 目录下的 src 复制到 cluster文件目录下,方便启动服务端
cd /opt/redis-5.0.7: 进入 redis 安装目录
cp -r ./src /usr/local/redid-cluster/ 将src文件复制到 redis- cluster 目录中
./src/redis-server ./7000/redis.conf
./src/redis-server ./7001/redis.conf
./src/redis-server ./7002/redis.conf
./src/redis-server ./7003/redis.conf
./src/redis-server ./7004/redis.conf
./src/redis-server ./7005/redis.conf
启动后,可以用 PS 查看进程:
ps -ef | grep redis
启动后效果:
7.创建集群通信(见上文版本差异)
redis5版本以后使用redis-cli客户端来创建集群
-a 参数为 集群密码
./src/redis-cli --cluster create -a fatsnake 127.0.0.1:7000 127.0.0.1:7001 \
127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 \
--cluster-replicas 1
cluster-replicas 1 代表 一个master后有几个slave,1代表为1个slave节点
询问是否满意如此分配节点:输入yes之后,如图显示表示集群创建成功
六、redis-cluster集群验证
再描述一遍集群特点
Redis cluster 为了保证数据的高可用性,加入了主从模式,一个主节点对应一个或多个从节点
主节点提供数据存取,从节点则是从主节点拉取数据备份,从节点提供查询
当这个主节点挂掉后,就会有这个从节点选取一个来充当主节点,从而保证集群不会挂掉
-
集群如果有 ABC 三个主节点如果这 3 个节点都没有加入从节点,如果 B 桂掉了,我们就无法访问整个集群了。A 和C的slot(哈希槽) 也无法访问。
所以我们在集群建立的时候,一定要为每个主节点都添加了从节点,比如像这样集群包含主节点 A、B、C,以及
从节点 A1、B1、C1, 那么即使 B 挂掉系统也可以继续正确工作。
B1 节点替代了 B 节点,所以 Redis 集群将会选择 B1 节点作为新的主节点,集群将会继续正确地提供服务。当 B 重新开启后,它就会变成 B1 的从节点。
不过需要注意,如果节点 B 和 B1 同时挂了,Redis 集群就无法继续正确地提供服务了。连接集群中的某个节点,验证
redis-cli -h 127.0.0.1 -c -p 7000 -a fatsnake
参数说明:
-h : ip
-c : 添加此参数,可连接到集群
-a :集群密码
redis cluster 在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。毎个节点都和其他所有节点连接,而这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据
基本命令
查看单节点状态
info replication
查看集群状态
Cluster Nodes 命令 或者 Cluster Infor
说明:
myself 表示当前 操作节点
唯一性节点ID说明:
- 每个 Redist 的节点都有一个 ID 值,此 ID 将被此特定 redis 实例永久使用,以便实例在集群上下文中具有唯一的名称。
- 每个节点都会记住使用此 ID 的每个其他节点,而不是通过 IP 或端口。
- IP 地址和端口可能会发生变化,但唯一的节点标识符在节点的整个生命周期内都不会改变。我们简单地称这个标识符为节点 ID。