MySQL crc32 & crc64函数 提高字符串查询效率

一、概念:CRC全称为Cyclic Redundancy Check,又叫循环冗余校验。CRC32是CRC算法的一种,常用于校验网络上传输的文件。

二:MySQL里如何利用CRC32来加快查询???

CRC32的基本特征:

#1.CRC32函数返回值的范围是0-4294967296(2的32次方减1)

#2.相比MD5,CRC32函数很容易碰撞

CRC32的使用场景:

由上述两个基本特性可知,MySQL CRC32 生成整型结果使用用bigint存储,而MD5需要varchar来存储。但是CRC32很容易碰撞,这适合做索引么?

场景:我们在做一个爬虫,对于一个URL,先去数据库里查询是否存在,如果不存在,插入到数据库中。大家都知道这种类型应用表会增长非常迅速,如果简单的

SELECT * FROM urls WHERE url = 'http://wwww.shopperplus.com';

会每次全表扫描,效率非常低。如果在url列上面加索引会快一些,但由于url是varchar类型,字段本身的存储空间和索引占用的存储空间都比较大。

如果加一个crc32_url列,并且只在这个列上加索引,索引空间就会小很多,并使用整型加速查询速度避免字符串url全表扫描。

SELECT * FROM urls WHERE crc_url = 907060870;

上面这种做法一定不可以,因为前面已经提到crc32函数会产生碰撞,也就是说值为907060870的不止有hello。一个小技巧是只使用crc32列来过滤:

SELECT * FROM urls WHERE crc_url = 907060870 AND url = 'hello';

这样一来,大部分查询还是只需要扫描一行就获得结果。对于少部分碰撞的记录,只需要多扫描几行也可以正确获得结果。 url的场景从varchar到bigint的优化其实效果不是特别明显。另一个例子是文本,假如我们有一个text类型的字段(文章内容、评论、微博之类),每次插入之前要判断一下这个内容是否在数据库里存在了。如果使用crc32的技巧,改善的空间还是蛮大的。

三、crc32 缺点容易发生碰撞,有没有更好的方案? 答案是肯定的 -> crc64

crc64() 这个函数补充了MySQL的crc32()函数,其结果是在大量值上分布不均匀。crc64()算法依赖于MD5作为底层机制。

crc64()安装:  需要安装 common_schema database函数库,安装 common_schema库对db要求: MySQL 5.15.5 and 5.6, Oracle distribution, Percona Server and MariaDB.

common_schema 下载: common_schema-2.2.sql

https://code.google.com/archive/p/common-schema/downloads

支持2种安装方式:

# mysql安装

SOURCE /home/ssd/software/common_schema-2.2.sql   

#shell 安装

mysql < /home/ssd/software/common_schema-2.2.sql   


common_schema-2.2安装成功效果

# 验证安装成功:  多了一个common_schema 证明安装成功

show databases;   


多了一个common_schema 证明安装成功

# crc64()使用:

mysql> SELECT common_schema.crc64('mysql') AS crc64;

+---------------------+

| crc64              |

+---------------------+

| 9350511318824990686 |

+---------------------+


参考:

https://blog.tanteng.me/2016/02/crc32-mysql-index/

http://shopperplus.github.io/blog/2015/01/10/crc32-hash-usage-in-mysql.html

crc64()文档:

https://shlomi-noach.github.io/common_schema/crc64.html

https://shlomi-noach.github.io/common_schema/documentation.html

common_schema2.2  安装:

https://shlomi-noach.github.io/common_schema/install.html 

common_schema2.2 下载:

https://shlomi-noach.github.io/common_schema/download.html

https://code.google.com/archive/p/common-schema/

https://code.google.com/archive/p/common-schema/downloads

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,547评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,399评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,428评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,599评论 1 274
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,612评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,577评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,941评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,603评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,852评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,605评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,693评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,375评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,955评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,936评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,172评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,970评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,414评论 2 342

推荐阅读更多精彩内容