Springboot + Redis 4.x.x 搭建集群

Redis集群的搭建

简单介绍Redis

简单说一下Redis是什么,在我的理解中redis作为一个高性能的NoSql数据库,一种键值对的存储方式,并且这种键值对的类型很丰富,比如list、map等,寄存在内存中,并且可以实现持久化,并且redis支持对很多语言的客户端

Redis提供给Java操作的客户端Jedis

对Java来说这种由Redis官方提供的操作工具就是Jedis,介绍这种客户端之前,做过后端的人都清楚,假如用Mysql举例来说,连接Mysql的时候同样需要数据库连接池,因为有的时候其实执行一条Sql的效率很快,但是通过Tcp建立连接的时候可能会遇到一些复杂的情景,或者说建立时间会影响本该很简单的一条Sql的执行效率

这个时候就需要使用到数据库连接池,说白了数据库连接池的作用是,可以通过默认的配置或者指定配置指明数据库连接池中活跃的连接数,最小连接数以及最大连接数,当有一个请求到来应用服务器并且需要执行Sql的时候,就需要建立到数据库的连接,有了数据库连接池,这个时候只需要使用未被使用却已经建立好连接的一条与数据库之间的连接,使用完成后归还即可,Jedis作为NoSql数据库来说同样也有数据库连接池的存在来提高整体的性能

Deepin环境下搭建Redis集群

  • 下载Redis解压包进入src下安装

    sudo make && make install PREFIX=/usr/local/redis
    

    简单来说就是编译下载下来的源文件并进行安装,安装目录为/usr/local/redis

下面开始搭建Redis集群,之前踩的坑或者一些没必要的点我也会说出来让大家参考一下

第一个坑

使用make && make install安装多个Redis,这个问题是我之前没有理解Redis能干什么,并且参照了Tomcat集群搭建方式犯下的错,并且网络上有些博客也是如此做法,实际上通过配置不同的redis.conf文件就能够通过使用redis-server启动不同配置下的不同Redis实例

  • 将Redis下的redis.conf移动到/usr/local/redis下,并且在目录下创建cluster目录

  • cluster下创建conf文件夹,并且复制该redis.conf生成5个副本

    目录下文件结构
  • 修改配置文件中的字段

    port 6379~6384(共6台Redis的开放端口)
    cluster-enabled yes
    cluster-config-file nodes.conf
    cluster-node-timeout 5000
    appendonly yes
    daemonize yes
    
  • 上面的配置主要为开放端口的配置以及开启集群功能,使用各自的.conf文件,集群节点重试时间,以及后台运行设置为yes

  • 接下来回到bin目录下使用

    ./redis-server cluster/conf/redis-main.conf
    ./redis-server cluster/conf/redis-1.conf
    ./redis-server cluster/conf/redis-2.conf
    ./redis-server cluster/conf/redis-3.conf
    ./redis-server cluster/conf/redis-4.conf
    ./redis-server cluster/conf/redis-5.conf
    

    使用这6条命令开启6台Redis服务器实例

第二个坑

我以为这样设置之后,并且开启了6台Redis服务器实例之后,就可以在项目中使用了,并且在springboot项目中使用如下配置

spring:
  redis:
    cluster:
      nodes[0]: 127.0.0.1:6379
      nodes[1]: 127.0.0.1:6381
      nodes[2]: 127.0.0.1:6382
      nodes[3]: 127.0.0.1:6383
      nodes[4]: 127.0.0.1:6384
      nodes[5]: 127.0.0.1:6385
      max-redirects: 3
    jedis:
      pool:
        max-active: 8
        min-idle: 0

使用spring.redis.cluster节点通过数组类型配置了集群的Redis的ip以及端口,详细使用可以参考Spring-data-redis的官方文档,如下

@Component
@ConfigurationProperties(prefix = "spring.redis.cluster")
public class ClusterConfigurationProperties {

    /*
     * spring.redis.cluster.nodes[0] = 127.0.0.1:7379
     * spring.redis.cluster.nodes[1] = 127.0.0.1:7380
     * ...
     */
    List<String> nodes;

    /**
     * Get initial collection of known cluster nodes in format {@code host:port}.
     *
     * @return
     */
    public List<String> getNodes() {
        return nodes;
    }

    public void setNodes(List<String> nodes) {
        this.nodes = nodes;
    }
}

这样的话就可以使用一个LIst集合去接收集群节点的ip和端口配置

如何搭建Redis集群?

参考Redis的官方文档以及博客我发现,Redis的官方文档表示,他们在src下已经有Ruby写好的搭建Redis的脚本,我们只需要使用ruby去运行即可搭建一个集群环境

首先大家自行百度如何进行安装ruby环境,并且通过gem命令安装支持搭建redis集群的插件,gem其实就是一种文件组织的包,一般的ruby很多插件都由这种包提供

gem install redis

安装了支持搭建redis集群的ruby插件之后,下面开始执行Redis官方提供的搭建集群的脚本

ruby /home/zeng/redis/src/redis-trib.rb create --replicas 1 127.0.0.1:6379 127.0.0.1:6380 127.0.0.1:6381 127.0.0.1:6382 127.0.0.1:6383 127.0.0.1:6384

使用create命令来创建一个新的集群。选项--replicas 1表示我们想为每个master指定一个slave。其余参数是需要加到集群的实例地址

使用ruby脚本创建Redis集群时的日志

我们来关注一下这些日志,首先我们构建了一个有6个实例的Redis集群,构建后的集群是3个主库和3个从库,可以看到脚本的默认实现是创建主从库形式,在Redis中,主从库的形式可以让一个服务器去复制(replicate)另一个服务器,我们称呼被复制的服务器为主服务器(master),而对主服务器进行复制的服务器则被称为从服务器(slave),主从库的设计,基本上都是主库负责读写,从库只读,这样来降低单Redis的性能问题,可以看到日志M标注的是主库,S标记的是从库,并且也有哪些从库从属于哪些主库的日志这样的话,16384个扇区全部被分上了Redis节点,这样的话真正的Redis集群才算搭建完成

SpringBoot项目对Redis集群的操作

框架之所以称之为框架,就是因为在原生的基础上有了很多条条框框,虽然框架是对原生的一种高度封装以及高度抽象,让用户只需要关注如何使用而不需要关注实现细节,但是我个人觉得,框架使用久了之后,用我们实验室小组组长的话说:真的很容易框进去

官方文档中SPring-data-redis对Redis集群的支持

@Configuration
public class AppConfig {

    /**
     * Type safe representation of application.properties
     */
    @Autowired ClusterConfigurationProperties clusterProperties;

    public @Bean RedisConnectionFactory connectionFactory() {

        return new JedisConnectionFactory(
            new RedisClusterConfiguration(clusterProperties.getNodes()));
    }
}



//下面是操作的伪代码

RedisClusterConnection connection = connectionFactory.getClusterConnnection();

connection.set("thing1", value);                                               
connection.set("thing2", value);                                               

connection.keys("*");                                                          

connection.keys(NODE_7379, "*");                                               
connection.keys(NODE_7380, "*");                                               
connection.keys(NODE_7381, "*");                                               
connection.keys(NODE_7382, "*");                                               

大概来说其实就是注册一个返回对Redis集群操作的connect的Bean,并且通过这个Bean注入到需要使用的代码块中,使用这个connect进行操作

因为代码中已有的Redis操作工具类是使用RedisTemplate实现的,使用过Springboot构建项目并且使用过Redis作为缓存或者别的用途的开发者应该都能了解过RedisTemplate,这个类其实也是Spring团队花了大功夫封装的类,它真的能够让我觉得,使用它进行操作Redis的时候没有连接池这一回事在,并且使用它操作Redis的时候完全不需要考虑如何实现,总之它就能实现

/**
     * redis存储方法
     * @param key
     * @param value
     */
    public void setRedisValue(String key, String value) {

        try {
            
            redisTemplate.opsForValue().set(key, value);
            
        } catch (Exception e) {
            logger.error("set key {} value {} error", key, value, e);
        }

    }

上面的例子介绍了是如何使用RedisTemplate进行操作Redis实例进行存放键值对的,当然上面说了那些话并不是想让大家觉得框架不好,框架在某种程度真的很能帮助开发,尤其是在实现一些使用原生逻辑很难实现的东西的时候,框架便发挥的他的作用,关于RedisTemplate的使用以及分析,我就不在这里赘述了

难道必须要使用connect获取到与集群Redis的连接之后才能操作数据库吗?RedisTemplate就不行吗?

具体的分析可以参考这篇博客:http://www.360doc.com/content/17/1116/14/412471_704352623.shtml

我在使用RedisTemplate之前封装的方法的时候完全也可以做到在集群上操作的目的,这样的话Redis集群的搭建以及Springboot工程对集群的支持就可以到这里了

下面为大家展示几个demo

@SpringBootTest
@RunWith(SpringRunner.class)
public class RedisTest {

    @Autowired
    private RedisUtil redisUtil;

    @Test
    public void cluster() {
        
        for (int i = 0; i < 100; i++) {
            redisUtil.setRedisValue(i + "", i + "  ");
        }
    }
}

其中RedisUtil作为使用RedisTemplate操作Redis的工具类我声明为了组件@Component以便注入测试,目的很明确,循环100次将key=i且value=i的键值存入Redis集群中

看一下结果就结束这次的说明吧,节点的分布以及一致性哈希算法看下一篇博客

未执行代码前的6379和6380节点
执行后的6379节点中的key
执行后的6382节点中的key

可以通过上面的执行后的redis中的键的分布看出,

第一次用自己的话写博客,如有错误请各位指正

补充

插槽和Key的关系

key的有效部分使用CRC16算法计算出哈希值,再将哈希值对16384取余,得到插槽值。16384其实就是上面创建集群的时候看到的默认分配的插槽数量

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,386评论 6 479
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,939评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,851评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,953评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,971评论 5 369
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,784评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,126评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,765评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,148评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,744评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,858评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,479评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,080评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,053评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,278评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,245评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,590评论 2 343

推荐阅读更多精彩内容