Redis 核心原理与应用实践
Redis是单线程程序,但是Redis是高效的缓存数据库(单机10w QPS)。
Redis单线程为什么这么快?
- 数据存储在内存中:所有的运算都是内存级别的运算
- 单线程程序优势:没有cup上下文切换消耗,也不需要对数据加锁,没有多线程资源竞争
- 连接多路复用模式:客户端连接Redis采用多路复用模式,非阻塞IO处理客户端命令,客户端套接字命令放入指令队列顺序执行
Redis持久化
为保证Redis数据不会因为故障而丢失,Redis采用快照、AOF日志两种持久化机制。快照是全量的数据备份(内存的二进制序列化形式),AOF日志是连续的增量备份(内存数据修改的指令记录)。
Redis持久化快照
Redis是单线程的程序 这就意味着需要一边负责客户端套接字的读写和内存数据结构的路基读写,一边负责Redis内存快照文件IO操作。
因为Redis快照IO快照操作会阻塞主线程,会影响Redis线上业务,为了解决这个问题。Redis使用操作系统多进程COW机制来实现快照持久化。
在Redis快照持久化时会fork产生一个子进程,快照的持久化交给子进程来完成。子进程与父进程共享内存的代码和数据,子进程负责数据的持久化,不会修改内存的结构和数据,序列化写到磁盘中。父进程会持续服务客户端响应,持续对内存结构和数据修改。
父进程使用操作系统COW机制进行数据段页面分离。当需要对一个页面的数据进行修改时,会复制一份页面分离出来,并对这个扶着的页面进行修改。子进程快照数据在子进程产生的一瞬间就凝固了不会再改变即产生了内存快照。
AOF日志持久化
AOF日志存储Redis服务器的顺序指令序列,记录对内存进行修改的指令。可以通过指令重放来回复Redis实例中的数据结构。
Redis会先执行指令,然后将该指令记录存储到AOF日志中。AOF日志是文件形式存储的,需要将内核中的指令记录刷新到磁盘中(IO操作)。
Redis混合持久化
Redis4.0提供了混合持久化选项,将rdb文件和增量的AOF日志文件存放在一起。先加载rdb内容,然后再重放增量的AOF日志,提高Redis持久化效率。
Redis管道
Redis管道的实质是命令打包执行,多次网络交互打包成单次交互。
在批量查询和写入操作时可以使用管道减少与Redis服务器的多次网络交互,管道只适用于无因果关联的多命令操作。
Redis集群
Redis主从同步
Redis中有Master服务和多个Slave从服务器,从服务器从主服务器同步数据。
- 增量同步:同步Redis指令流,记录在固定长度的环形山数组buffer中。当主节点中未同步的指令覆盖了buffer环时,从节点需要通过快照同步主节点数据。
- 快照同步:主节点进行bgsave将内存数据存储到磁盘文件中,然后将快照文件传送给子节点,子节点全量加载快照数据。
- 无盘复制:主节点通过套接字将内存快照内容发送给子节点。从节点先将内容存储到磁盘文件中,再一次性加载。
Redis主从同步哨兵模式(Sentinel)
Sentinel负责持续监控主从节点健康状态,当主节点挂掉后,自动选择一个最优的从节点切换为主节点。
客户端连接Redis服务集群时,先连接Sentinel,通过Sentinel获取主节点地址,然后再连接主节点进行数据交互。当主节点点挂掉后,Sentinel会将新的主节点地址告诉客户端。
Redis集群方案Cluster
Cluster集群方案是去中心化的Redis水平扩展方案,每个节点负责整个集群的部分数据。 Redis Cluster将所有数据划分为16384个虚拟槽位,每个节点负责部分槽位。槽位信息存储与每个节点中,客户端连接集群时获取槽位存储配置信息。
为了增加集群的可访问性,官方推荐的方案是将node配置成主从结构,即一个master主节点,挂n个slave从节点。
- 无中心架构,支持动态扩容,对业务透明
- 具备Sentinel的监控和自动Failover能力
- 客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可
- 高性能,客户端直连redis服务,免去了proxy代理的损耗