Redis基础数据结构-压缩列表

正文

   压缩列表(Ziplist )是列表键和哈希键的底层实现之一
   当一个列表键只包含少量列表项,并且每个列表项要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用压缩列表来做列表键的底层实现。

1.1压缩列表的构成

   压缩列表是Redis为了节约内存而开发的,是由一系列特殊编码的连续内存块组成的顺序型(sequential)数据结构。一个压缩列表可以包含任意多个节点(entry),每个节点可以保存一个字节数组或者一个整数值

image.png

属性 类型 长度 用途
zlbytes uint32_t 4字节 记录整个压缩列表占用的内存字节数:在对压缩列表进行内存重分配, 或者计算zlend的位置时使用
zltail uint32_t 4字节 记录压缩列表表尾节点距离压缩列表的起始地址有多少字节:通过这个偏移量,程序无须遍历整个压缩列表就可以确定表尾节点的地址
zllen uint16_t uint16_t 记录了压缩列表包含的节点数量:当这个属性的值小于UINT16_MAX ( 65535 )时,这个属性的值就是压缩列表包含节点的数量;当这个值等于 UINT16_MAX时,节点的真实数量需要遍历整个压缩列表才能计算得出
entryX 列表节点 不定 压缩列表包含的各个节点,节点的长度由节点保存的内容决定
zlend uint8_t 1字节 特殊值0xFF (十进制255 ),用于标记压缩列表的末端

比如下图:


image.png

   列表zlbytes属性的值为0x50 (十进制80 ),表示压缩列表的总长为80字节。
   列表zltail属性的值为0x3c (十进制60 ),这表示如果我们有一个指向压缩列表起始地址的指针p,那么只要用指针p加上偏移量60,就可以计算出表尾节点 entry3的地址。
   列表zllen属性的值为0x3 (十进制3 ),表示压缩列表包含三个节点

1.2压缩列表节点的构成

每个压缩列表节点可以保存一个字节数组或者一个整数值

image.png

每个压缩列表节点都由previous_entry_length、encoding, content三个部分组成

   节点的previous_entry_length属性以字节为单位,记录了压缩列表中前一个节点的长度。previous_entry_length属性的长度可以是1字节或者5字节:
   如果前一节点的长度小于254字节,那么previous_entry_length属性的长度为1字节:前一节点的长度就保存在这一个字节里面。
   如果前一节点的长度大于等于254字节,那么previous_entry_length属性的长度为5字节:其中属性的第一字节会被设置为0xFE(十进制值254),而之后的四个字节则用于保存前一节点的长度。

   因为节点的previous_entry_length属性记录了前一个节点的长度,所以程序可以通过指针运算,根据当前节点的起始地址来计算出前一个节点的起始地址。

举个例子,如果我们有一个指向当前节点起始地址的指针c,那么我们只要用指针c减去当前节点previous_ entry_length属性的值,就可以得出一个指向前一个节点起始地址的指针P

image.png

压缩列表的从表尾向表头遍历操作就是使用这一原理实现的,只要我们拥有了一个指向某个节点起始地址的指针,那么通过这个指针以及这个节点的previous_entry_length属性,程序就可以一直向前一个节点回溯,最终到达压缩列表的表头节点。

比如下面给出一个遍历的例子:

image.png

   首先,我们拥有指向压缩列表表尾节点entry4起始地址的指针p1(指向表尾节点的指针可以通过指向压缩列表起始地址的指针加上zltail属性的值得出); 通过用p1减去entry4节点previous_entry_length属性的值,我们得到一个指向entry4前一节点entry3起始地址的指针p2 ;
   通过用p2减去entry3节点previous_entry_length属性的值,我们得到一 个指向entry3前一节点entry2起始地址的指针p3;
   通过用p3减去entry2节点previous_entry_length属性的值,我们得到一个 指向entry2前一节点entry1起始地址的指针p4 , entry1为压缩列表的表头节点; 最终,我们从表尾节点向表头节点遍历了整个列表。

1.2.1encoding

   节点的encoding属性记录了节点的content属性所保存数据的类型以及长度:
   一字节、两字节或者五字节长,值的最高位为00、01或者10的是字节数组编码: 这种编码表示节点的content属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录;
   一字节长,值的最高位以11开头的是整数编码:这种编码表示节点的content属性保存着整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录;


image.png

1.2.2content

   节点的content属性负责保存节点的值,节点值可以是一个字节数组或者整数,值的类型和长度由节点的encoding属性决定。

比如下图:
image.png

   编码的最高两位00表示节点保存的是一个字节数组
   编码的后六位001011记录了字节数组的长度11
   content属性保存着节点的值"hello world"

1.3连锁更新

   前面说过,每个节点的previous_entry_length属性都记录了前一个节点的长度: 如果前一节点的长度小于254字节,那么previous_entry_length属性需要用1字节长的空间来保存这个长度值。
   如果前一节点的长度大于等于254字节,那么previous_entry_length属性需要用5字节长的空间来保存这个长度值。

现在有这么一种情况,在一个压缩列表中,有多个连续的、长度介于250字节到 253字节之间的节点e1至eN,如图7-11所示


image.png

   因为e1至eN的所有节点的长度都小于254字节,所以记录这些节点的长度只需要1字节长的previous_entry_length属性,换句话说,e1至eN的所有节点的previous_entry_length属性都是1字节长的。
   这时,如果我们将一个长度大于等于254字节的新节点new设置为压缩列表的表头节点,那么new将成为e1的前置节点,如图所示:


image.png

   因为e1的previous_entry_length属性仅长1字节,它没办法保存新节点new 的长度,所以程序将对压缩列表执行空间重分配操作,并将e1节点的previous_entry_ length属性从原来的1字节长扩展为5字节长。
   现在,麻烦的事情来了,e1原本的长度介于250字节至253字节之间,在为 previous_entry_length属性新增四个字节的空间之后,e1的长度就变成了介于254 字节至257字节之间,而这种长度使用1字节长的previous_entry_length属性是 办法保存的。
   因此,为了让e2的previous_entry_length属性可以记录下e1的长度,程序需要再次对压缩列表执行空间重分配操作,并将e2节点的previous_entry_length属性从原来的1字节长扩展为5字节长。
   正如扩展e1引发了对e2的扩展一样,扩展e2也会引发对e3的扩展,而扩展e3又会引发对e4的扩展
   为了让每个节点的previous_entry_length属性都符合压缩列表对节点的要求,程序需要不断地对压缩列表执行空间重分配操作,直到eN为止
   Redis将这种在特殊情况下产生的连续多次空间扩展操作称之为“连锁更新”

   除了添加新节点可能会引发连锁更新之外,删除节点也可能会引发连锁更新,比如下图:


image.png

   如果e1至eN都是大小介于250字节至253字节的节点, big节点的长度大于等于254字节(需要5字节的previous_entry_length来保存), 而small节点的长度小于254字节(只需要1字节的previous_entry_length来保 存),那么当我们将small节点从压缩列表中删除之后,为了让e1的previous_entry_ length属性可以记录big节点的长度,程序将扩展e1的空间,并由此引发之后的连锁更新。

   因为连锁更新在最坏情况下需要对压缩列表执行N次空间重分配操作,而每次空间重分配的最坏复杂度为O(N),所以连锁更新的最坏复杂度为O(N^2)

   要注意的是,尽管连锁更新的复杂度较高,但它真正造成性能问题的几率是很低的:
   首先,压缩列表里要恰好有多个连续的、长度介于250字节至253字节之间的节点,连锁更新才有可能被引发,在实际中,这种情况并不多见
   其次,即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响:比如说,对三五个节点进行连锁更新是绝对不会影响性能的

总结

   压缩列表是一种为节约内存而开发的顺序型数据结构
   压缩列表被用作列表键和哈希键的底层实现之一
   压缩列表可以包含多个节点,每个节点可以保存一个字节数组或者整数值
   添加新节点到压缩列表,或者从压缩列表中删除节点,可能会引发连锁更新操作, 但这种操作出现的几率并不高

问题抽象

1.压缩列表是啥?
2.Redis什么时候会用到压缩列表?
3.压缩列表是怎么实现遍历的?
4.压缩列表的连锁更新过程可以简单描述一下?
5.连锁更新的时间复杂度这么高,对性能有影响吗?
6.连锁更新为什么对性能影响不大?

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,607评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,047评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,496评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,405评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,400评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,479评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,883评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,535评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,743评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,544评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,612评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,309评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,881评论 3 306
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,891评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,136评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,783评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,316评论 2 342