Redis中国用户组|唯品会多线程redis设计与实现

Paste_Image.png

作者介绍

申政,开源爱好者,唯品会高级DBA,主要负责Redis相关领域的源码研究和研发工作。

开源项目:

_ redis cluster的C客户端(hiredis-vip)_

_ 集群迁移工具(redis-migrate-tool)_

_ 多线程版Twemproxy(Twemproxies)_

大家好,我是deep,今天跟大家分享下我们正在开发的多线程redis。在我们的redis使用中,发现了一些痛点问题,涉及到了redis框架的设计。

Paste_Image.png

我们线上有大量的redis实例在运行,规模比较庞大,有些redis集群实例规模超过100+,我们开始对redis进行了多线程版本的改造,就是我们现在正在开发的产品vire。

Paste_Image.png

这是vire的一个现状,分几个阶段进行开发,现在是0.1.0版本。

Paste_Image.png

以上是vire0.1.0的一些设计思路。下面说说具体实现:

Paste_Image.png

这是vire的多线程模型,借鉴于memcached,master+worker线程模型。

Paste_Image.png

这个图比较直观的反映了线程模型的工作原理,多线程不可避免会用到锁,以下是vire的锁机制:

Paste_Image.png

这里有个逻辑DB的概念,其实就是把多个redis db伪装成一个DB提供给用户。DB级别的锁,会不会性能很差呢?后续会有测试报告给出。

Paste_Image.png

用户使用的所有key,是通过key的hash值被分散到了各个物理db上,目的就是降低DB锁的竞争提升qps,可以通过info 命令看到物理db中key的分布:

Paste_Image.png

下面来看下成功执行一个redis命令要走的流程:

Paste_Image.png

我们的db锁是在哪一步使用呢?

Paste_Image.png

有可能用到db锁的步骤就是红框中的两步,但像ping这样命令,在整个过程中是用不到db锁的,可以看出,Worker线程在一部分时间是完全并行执行的,关于vire中的后台线程:

Paste_Image.png

Worker线程专注于处理客户端的请求,杂活累活有backend线程来做,backend线程在vire后续版本中,会发挥更重要的作用。

Paste_Image.png

这里是Vire代码内部对object的处理,这里会有些性能退化。

Paste_Image.png

这是vire对多key命令的一些特殊处理,死锁的问题,导致个别redis命令在vire中暂时无法实现。

Paste_Image.png

Vire中增加了一些权限管理,vire增加了管理员的角色,保证了一些危险命令不被开发执行。
下面说说vire的测试:

Paste_Image.png

这里着重说说abtest和性能测试
为了保证vire的命令执行起来与redis一模一样,我们开发了abtest测试框架。详细说说abtest框架中各模块的作用:

Paste_Image.png
Paste_Image.png

这个测试框架有效的帮我们发现了一些bug,以下是性能测试:

Paste_Image.png
Paste_Image.png
Paste_Image.png

我们的目标就是性能接近或跟mc一样,以下是hotkey测试:

Paste_Image.png

hotkey的效果还不错。

Paste_Image.png

加入Redis中国用户组

QQ群: 374538650, 521503946
微信群:Redis中国用户组

Q&A:

  1. Q: 客户端需要换吗?
    A:客户端兼容,无需更换,使用起来跟原生redis一样
  2. Q: worker和db的关系是什么?
    A: worker和db没有关系, client是数据worker线程的, DB是完全独立的
  3. Q: 后期主备会支持吗?
    A: 以后会支持主备,集群和脚本等高级功能
  4. Q: 有没有想过把锁降低至key级别?
    A: 没必要key级别的锁
  5. Q: 死锁问题为何不通过顺序锁定相关db来解决呢,我们的redis是分布式锁,通过按统一的顺序锁定,就可以避免死锁
    A: 锁的数量会太多,你说的这个死锁问题很好,有这样的想法,但还没有时间去验证可不可行,以后可以尝试。
  6. Q: vire和redis-cluster比起来哪个性能更好?
    A: redis-cluster是集群模式,vire是单实例,没办法比较性能,vire最后一个版本希望能支持到集群
  7. Q: 给我的理解vire的多个逻辑db的设计原理和redis-cluster里多个分片原理是一样吧?
    A: 非常类似, 只不过redis-cluster里的slot是海量的,16384
  8. Q: 现在redis-cluster的解决方案是客户端自己计算slot的位置,可以通过根据操作的读写类型,实现负载均衡,vire采取的多db+多worker的方案,他这样的优势在哪里?
    A: 主要是提升单个实例的qps能力
  9. Q: 现在的设计是全部基于内存上的?服务器宕机是不是数据全都会消失
    A: vire0.1.0版本数据全部在内存,只适合于做缓存, vire后续版本会做持久化和复制,甚至是集群
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,362评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,330评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,247评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,560评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,580评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,569评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,929评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,587评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,840评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,596评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,678评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,366评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,945评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,929评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,165评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,271评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,403评论 2 342

推荐阅读更多精彩内容