压缩列表

  • 压缩列表(ziplist)是列表键和哈希键的底层实现之一
  • 当一个列表键,只包含列表项,并且每个列表项要么是小整数值,要么是长度比较短的字符串,Redis就会使用压缩列表来做列表键的底层实现
  • 当一个哈希键只包含少量键值对,并且每个键值对的键和值要么是小整数,要么是长度短的字符串,那么Redis会使用压缩列表来做哈希键的地层实现

压缩列表的构成

  • 压缩列表是为了节约内存开发的,是由一系列特殊编码的连续内存块组成的顺序型数据结构,一个压缩列表可以包含任意多个节点,每个节点保存一个字节数组或一个整数值
压缩列表的组成部分
属性 类型 长度 用途
zlbytes uint32_t 4字节 记录整个压缩列表占用的内存字节数:在对压缩列表进行内存重分配,或者计算zlend的位置的时候使用
zltail uint32_t 4字节 记录压缩列表的表尾节点距离压缩列表的起始地址有多少个字节:通过这个偏移量,程序无须遍历整个压缩列表就可以确定表尾节点的地址
zllen uint16_t 2字节 记录了压缩列表包含的字节数量:当这个属性的值小于UINT16_MAX(65535)时,这个属性的值就是压缩列表包含节点的数量,当这个值等于UINT16_MAX时,节点的真实数量需要遍历整个压缩列表才能计算出来
entryN 列表节点 不定 压缩列表包含的各个节点,节点的长度由节点保存的内容决定
zlend uint8_t 1字节 特殊值0xFF(255),用于标记压缩列表的末端

压缩列表节点的构成

  • 压缩列表节点可以保存一个字节数组或者一个整数值,其中,字节数组可以是以下三种长度中的一种
  • 长度小于等于63(2^6-1)字节的字节数组
  • 长度小于等于16383(2^14-1)字节的字节数组
  • 长度小于等于4294967295(2^32-1)字节的字节数组
  • 整数值可以是以下六种长度的一种
  • 4位长,介于0到12之间的无符号整数
  • 1字节长的有符号整数
  • 3字节长的有符号整数
  • int16_t类型整数
  • int32_t类型的整数
  • int64_t类型的整数
压缩列表节点的组成部分

previous_entry_length

  • previous_entry_length属性是以字节为单位的,记录了压缩列表中前一个节点的长度,这个属性的长度可以是1字节或5字节
  • 如果前一个节点的长度小于254字节,那么previous_entry_length属性就是1字节,前一个节点的长度就保存到这一个字节中
  • 如果前一个节点的长度大于等于254字节,那么previous_entry_length属性就是5字节,其中属性第一个字节被设置为0xFE(254),表明这是一个5字节属性,而后面4个字节用于保存前一个节点的长度
当前节点的前一个节点长度为5字节

当前节点的前一个节点长度为10086字节
  • 用这个属性可以通过指针计算前一个节点的地址,当前节点指针减去当前节点的previous_entry_length就可以计算出前一个节点的地址
  • 可以从表尾向表头遍历,使用的就是这个属性

encoding

  • 节点的encoding属性记录了节点的content属性所保存数据类型以及长度
  • 一字节长,两字节或五字节长,值的最高位00或者01或者10的字节数组编码表示content保存字节数组,数组的长度表示由编码去除最高位之后的其他位记录
  • 一字节长,值的最高位是以11开头的,表示content保存的是整数,整数的长度由编码去除最高两位之后的其他位记录
编码 编码长度 content属性保存的值
00bbbbbb 1字节 长度小于等于63字节的字节数组
01bbbbbb xxxxxxxx 2字节 长度小于等于16383字节的字节数组
10aaaaaa bbbbbbbb cccccccc dddddddd eeeeeeee 5字节 长度小于等于4294967295字节的的字节数组
编码 编码长度 content属性保存的值
11000000 1字节 int16_t类型的整数
11010000 1字节 int32_t类型的整数
11100000 1字节 int64_t类型的整数
11110000 1字节 24位有符号整数
11111110 1字节 8位有符号整数
1111xxxx 1字节 使用这一编码的节点没有相应的content属性,因为编码本身的xxxx4个位已经保存了一个介于0到12之间的值,所以无需content属性

content

  • content负责保存节点的值,节点值可以是一个字节数组或整数,值的类型和长度由节点的encoding属性决定

连锁更新

  • 如果e1到en的长度都是介于250到253字节之间,如果此刻在e1前面加入一个大于等于254字节的节点,那么此刻e1的previous_entry_length需要新增4个字节空间,e1的长度就介于254到257字节之间了,使用一个字节是没有办法保存的,所以需要对e1进行空间重分配,同理一直到en,都需要空间重分配,可能会引发连锁更新
  • 删除节点也可能引发连锁更新,比如一个big节点,一个small节点,一个e1节点,他们都依次挨着,samll节点previous_entry_length是5字节的,而e1是1字节的,此刻删除small,那么e1就会进行空间重分配,可能后面的都需要进行空间重分配,会引发连锁更新
  • 连锁更新需要对压缩列表执行N此空间重分配,每次空间重分配,最坏复杂度是O(N),所以连锁更新的最坏复杂度为O(N^2)

连锁更新复杂度高,但是真正造成性能问题几率很低

要引发连锁更新,需要列表中有好多个连续的,长度介于250到253字节之间的节点

即使出现了连锁更新,但只要更新的节点数量不多,就不会对性能造成影响

所以ziplistPush这些命令的平均复杂度为O(N)

压缩列表API

函数 作用 算法复杂度
ziplistNew 创建一个新的压缩列表 O(1)
ziplistPush 创建一个包含给定值的新节点,并将这个新节点添加到压缩列表的表头或表尾 平均O(N),最坏O(N^2)
ziplistInsert 将包含给定值的新节点插入到给定节点之后 平均O(N),最坏O(N^2)
ziplistIndex 返回压缩列表给定索引上的节点 O(N)
ziplistFind 在压缩列表中查找并返回包含了给定值的节点 因为节点的值可能是数组,所以在检查节点值和给定值是否相同O(N),查找整个列表的复杂度O(N^2)
ziplistNext 返回给定节点的下一个节点 O(1)
ziplistPrev 返回给定节点的前一个节点 O(1)
ziplistGet 获取给定节点所保存的值 O(1)
ziplistDelete 从压缩列表删除给定的节点 平均O(N),最坏O(N^2)
ziplistDeleteRange 删除压缩列表在给定索引上的连续多个节点 平均O(N),最坏O(N^2)
ziplistBlobLen 返回压缩列表目前占用的内存字节数 O(1)
ziplistLen 返回压缩列表目前包含的节点数量 节点数量小于65535是O(1),大于等于65535是O(N)
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,319评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,801评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,567评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,156评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,019评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,090评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,500评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,192评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,474评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,566评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,338评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,212评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,572评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,890评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,169评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,478评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,661评论 2 335

推荐阅读更多精彩内容

  • 压缩列表 1. 压缩列表的构成 压缩列表是Redis为了节约内存而开发,是由一系列特殊编码的连续内存块组成的顺序型...
    xMustang阅读 468评论 0 0
  • 压缩列表(ziplist)是列表键和哈希键的底层实现之一。如果列表键只包含少量的列表项,每个列表项要么是小整数值,...
    亮亮_ff3d阅读 159评论 0 0
  • 构成 压缩列表是 Redis 为了节约内存而开发的, 由一系列特殊编码的连续内存块组成的顺序型(sequentia...
    来年花惜阅读 2,193评论 0 2
  • 压缩列表 当一个列表键只包含少量列表项,并且每个列表项要么是小整数值,要么是长度比较短的字符串,那么redis就会...
    伟大的华仔阅读 414评论 0 0
  • 正文    压缩列表(Ziplist )是列表键和哈希键的底层实现之一   当一个列表键只包含少量列表项,并且每个...
    于情于你阅读 333评论 0 1