7.压缩列表

压缩列表

1. 压缩列表的构成

压缩列表是Redis为了节约内存而开发,是由一系列特殊编码的连续内存块组成的顺序型数据结构。

一个压缩列表可以包含任意多个节点(entry),每个节点可以保存一个字节数组、或者一个整数值。

下图展示了压缩列表的各个组成部分。

压缩列表的各个组成部分

压缩列表各个组成部分的详细说明:

属性 类型 长度 用途
zlbytes uint32_t 4字节 记录整个压缩列表占用的内存字节数:在对压缩列表进行内存重分配,或者计算zlend的位置时使用
zltail uint32_t 4字节 记录压缩列表表尾节点距离压缩列表的起始地址有多少字节:通过这个偏移量,程序无需遍历整个压缩列表就可以确定表尾节点的地址
zllen uint16_t 2字节 记录压缩列表包含的节点数量:当这个属性的值小于UINT16_MAX(65536)时,这个属性的值就是压缩列表包含节点的数量;当这个值等于UINT16_MAX(65536)时,节点的真实数量需要遍历整个压缩列表才能计算得出
entryX 列表节点 不定 压缩列表包含的各个节点,节点的长度由节点保存的内容决定
zlend uint8_t 1字节 特殊值0xFF(十进制255),用于标记压缩列表的末端

下面是包含三个节点的压缩列表示例:

包含三个节点的压缩列表

上图中:

  1. zlbytes:0x50 = 80,表示压缩列表总长为80字节。
  2. zltail:0x3c = 60,可以计算表尾节点entry3的地址。
  3. zllen:0x3 = 3,表示压缩列表包含3个节点。

2. 压缩列表节点的构成

每个压缩列表节点可以保存一个字节数组、或者一个整数值。

字节数组可以是以下三种长度的其中一种:

  1. 长度小于等于63(2^6 -1 )字节的字节数组。
  2. 长度小于等于16383(2^14 -1 )字节的字节数组。
  3. 长度小于等于4294967295(2^32 -1 )字节的字节数组。

整数值可以是以下六种长度的其中一种:

  1. 4位长,介于0至12之间的无符号数。
  2. 1字节长的有符号整数。
  3. 3字节长的有符号整数。
  4. int16_t类型整数。
  5. int32_t类型整数。
  6. int64_t类型整数。

每个压缩列表节点都由previous_entry_length、encoding、content三个部分组成。如下图所示。

压缩列表节点的各个组成部分
  1. previous_entry_length

    previous_entry_length属性以字节为单位,记录了压缩列表中前一个节点的长度。

    previous_entry_length属性的长度可以是1字节或5字节:

    1. 如果前一节点的长度小于254字节,那么previous_entry_length属性的长度为1字节:前一节点的长度保存在这一个字节里面。
    2. 如果前一节点的长度大于等于254字节,那么previous_entry_length属性的长度为5字节:其中属性的第一字节会被设置为0xFE(十进制254),之后的四个字节用于保存前一节点的长度。

    通过指针运算,可以根据当前节点的起始地址计算出前一个节点的起始地址。

  2. encoding

    节点的encoding属性记录了节点的content属性所保存数据的类型和长度:

    1. 一字节、两字节或者五字节长,值的最高位为00、01或者10的是字节数组编码:这种编码表示节点的content属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录。
    2. 一字节长,值的最高位以11开头的是整数编码:这种编码表示节点的content属性保存着整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录。

    下图是encoding格式,下划线"_"表示留空。

    encoding格式
  3. content

    节点的content属性负责保存节点的值,节点值可以是一个字节数组或者整数,值的类型和长度由节点的encoding属性决定。

    下面是一个保存着字节数组"hello world"的节点。

    保存字节数组hello world的节点

3. 连锁更新

连锁更新:

  1. 添加新节点时发生。有一个压缩列表,其中的节点e1到eN,长度都介于250字节到253字节之间。如果添加一个长度大于等于254的新节点new到e1之前,那么e1的previous_entry_length属性从原来的1字节扩展为5字节,然后e2的previous_entry_length也会由于e1扩展了也扩展为5字节,依次类推,直到eN。
  2. 删除节点时发生。有一个压缩列表,其中的节点排序为big、small、e1、e2、...eN。big节点长度大于等于254字节,small节点长度小于254字节,e1到eN都是大小介于250到253字节的节点。当删除small节点后,为了让e1的previous_entry_length属性可以记录big节点的长度,将扩展e1空间,并引发连锁更新。

连锁更新在最坏情况下需要对压缩列表执行N次空间重分配操作,而每次空间重分配的最坏复杂度为O(N),所以连锁更新的最坏复杂度为O(N^2)。

尽管连锁更新的的复杂度较高,但它真正造成性能问题的几率是很低的:

  1. 首先,压缩列表里要恰好有多个连续的、长度介于250到253字节之间的节点,连锁更新才有可能被引发,在实际中,这种情况并不多见。
  2. 其次,即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响:比如说,对三五个节点进行连锁更新是绝对不会影响性能的。

因此,ziplistPush等命令的平均复杂度仅为O(N),在实际中,可以放心使用这些函数,不必担心连锁更新会影响压缩列表的性能。

4. 压缩列表API

函数 作用 时间复杂度
ziplistNew 创建一个新的压缩列表 O(1)
ziplistPush 创建一个包含给定值的新节点,并将这个新节点添加到压缩列表的表头或者表尾 平均O(N),最坏O(N^2)
ziplistInsert 将包含给定值的新节点插入到给定节点之后 平均O(N),最坏O(N^2)
ziplistIndex 返回压缩列表给定索引上的节点 O(N)
ziplistFind 在压缩列表里查找并返回包含了给定值的节点 因为节点的值可能是一个字节数组,所以检查节点值和给定值是否相同的复杂度为O(N),而查找整个列表的复杂度则为O(N^2)
ziplistNext 返回给定节点的下一个节点 O(1)
ziplistPrev 返回给定节点的前一个节点 O(1)
ziplistGet 获取给定节点所保存的值 O(1)
ziplistDelete 从压缩列表中删除给定的节点 平均O(N),最坏O(N^2)
ziplistDeleteRange 删除压缩列表在给定索引上的连续多个节点 平均O(N),最坏O(N^2)
ziplistrawLen 返回压缩列表目前占用的内存字节数 O(1)
ziplistLen 返回压缩列表目前包含的节点数量 节点数量小于65535时为O(1),大于65535时为O(N)

ziplistPush、ziplistInsert、ziplistDelete、ziplistDeleteRange四个函数都有可能引发连锁更新,所以它们的最坏复杂度都为O(N^2)。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,319评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,801评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,567评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,156评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,019评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,090评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,500评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,192评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,474评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,566评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,338评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,212评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,572评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,890评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,169评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,478评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,661评论 2 335

推荐阅读更多精彩内容

  • 压缩列表(ziplist)是列表键和哈希键的底层实现之一。 7.1 压缩列表的构成 压缩列表是Redis为了节约内...
    猪大金阅读 2,076评论 0 2
  • 压缩列表是哈希键和列表键的底层实现之一。当一个列表键只包含少量的列表项,并且每个列表项要么就是小整数值,要么就是长...
    Felicia1993阅读 447评论 0 0
  • 构成 压缩列表是 Redis 为了节约内存而开发的, 由一系列特殊编码的连续内存块组成的顺序型(sequentia...
    来年花惜阅读 2,193评论 0 2
  • 一、String 1.1.数据结构 注:数组大小=len+free+1(字符的‘\0’休止符) 1.2.空间分配策...
    爱情小傻蛋阅读 1,748评论 2 0
  • 你说我 在花样年华里 写了一大堆悔恨难懂的诗 留给自己的都是残念 我说你 眼睛充满了品红色和青色 多年以后想起你的...
    留子尧阅读 180评论 1 3