架构-一款永不重复的高性能分布式发号器

image

ZERO

    持续更新 请关注:https://zorkelvll.cn/blogs/zorkelvll/articles/2018/11/18/1542543790245

零、基本术语

**发号器**:用于生成唯一流水号(也即俗称的唯一ID)的服务系统,称之为发号器

一、技术选型

UUID

优点:能够保证唯一性

**缺点:**(1)完全的时间数据=>性能比较差、比较长、占用空间大、间接导致数据库性能下降;(2)**无序**=>导致**B+树索引**在写的时候会有过多的随机写操作,不会产生有顺序的append操作,而是需要进行insert操作,这将读取整个B+树节点到内存并在插入该条记录后会将整个节点写会磁盘=>在记录占用空间比较大的情况下,**写的性能会明显下降**

数据库

 **单库**时(自增字段):局限性在于**自增字段**完全依赖数据库,会导致**数据库移植、扩容、洗数据、分库分表**问题

**分库分表**时(水平伸缩=>**自增字段+数据库seq+步长step**):缺陷在于服务节点固定(即**step固定**,继续增加服务节点难以进行扩展)、仍强依赖于数据库(对**数据库造成压力**)

开源项目-Snowflake

Twitter开源的发号器,缺点在于文档简单、发布模式单一、缺少支持和维护

=>自研:一款通用、高性能发号器产品,具有“全局唯一、粗略有序、可反解、可制造”特性,三种发布模式“嵌入发布模式(jar包)、中心服务器发布模式(服务化场景)、REST发布模式(rest api接口)”

二、基本需求

**全局唯一**:一般悲观策略是使用锁或分布式锁(性能大大降低),而这里将利用**时间的有序性**,在时间的某个单元下采用自增序列达到全局唯一

**粗略有序**:完全有序则涉及到数据的汇聚,需要用到锁或分布式锁,考虑到效率问题采用折中方案即粗略有序,将支持秒级有序和毫秒级有序两种方式

**可反解**:ID具有时间属性且可反解其他信息量,节省空间

**可制造**:即支持手工处理,可复制、可恢复、可制造

**高性能**:ID生成取决于网络I/O和CPU的性能,网络I/O一般不是瓶颈,根据经验单台机器TPS能达到10000/s

**高可用**:对等集群、重试机制、本地容错方案(即本地依赖)

**可伸缩**:水平伸缩,支持业务量增长

三、核心设计

发布模式

嵌入发布模式:仅限java客户端,通过嵌入jar包式的原生服务,需提前配置本地机器ID

中心服务器发布模式:仅限java客户端,提供一个服务的客户端jar包,java程序像调用本地api一样调用,但依赖于中心的ID产生服务器

REST发布模式:中心服务器通过Restful API导出服务,非java客户端可使用

ID类型

最大峰值型:秒级有序,秒级时间占用30位,序列号占用20位 
字段 版本 类型 生成方式 秒级时间 序列号 机器ID
位数 63 62 60-61 30-59 10-29 0-9
最小粒度型:秒级有序,秒级时间占用40位,序列号占用10位 
字段 版本 类型 生成方式 秒级时间 序列号 机器ID
位数 63 62 60-61 20-59 10-19 0-9

数据结构

版本:1位,用做扩展位或扩容时的临时方案,默认值0,1则表示扩展或扩容中

ID类型:1位,0-最大峰值型,1-最小粒度型

生成方式:2位,00-嵌入发布模式,01-中心发布模式,02(即二进制10)-REST发布模式,03(即二进制11)-保留未用

时间:最大峰值型-秒级时间30位,2^30/60/60/24/365=34年;最小粒度型-毫秒级时间40位,2^40/1000/60/60/24/365=34年

序列号:最大峰值型20位,理论上每秒可最多产生2^20=1048576个ID,即百万级别;最小粒度型10位,理论上每毫秒最多可产生2^10=1024个ID,=>最大1024000/秒

机器ID:10位,即最多支持1024个服务器,中心发布模式和REST发布模式一般不会有太多数量机器,按照设计每台TPS为1万/s,10台服务器则可达到10万/s,已经可以满足绝大部分需求;而考虑到内嵌发布模式,对机器需求量很大,因此最多支持1024个服务器

并发

中心服务器和REST发布模式,开销主要涉及网络I/O和CPU操作,ID生成基本上是内存到高速缓存操作,没有磁盘I/O操作,网络I/O是系统瓶颈;但相对于网络I/O,CPU计算速度更是瓶颈,因此ID产生的服务采用多线程方式

多种实现方式,实现ID生成过程中的竞争点time和sequence:

(1)使用concurrent包的ReentrantLock进行互斥,默认实现方式,追求性能和稳定的折中方案

(2)使用传统的synchronized进行互斥,性能较(1)稍逊色一些,通过传入JVM参数-Dvesta.sync.lock.impl.key=true开启

(3)使用concurrent包的原子变量进行互斥,性能非常高,但是高并发环境下CPU负载会很高,通过传入JVM参数-Dvesta.atomic.lock.impl.key=true开启

机器ID的分配

0-923:嵌入发布模式,预先配置机器ID,最多支持924台内嵌服务器

924-1023:中心服务器发布模式和REST发布模式,最多支持100台,最大支持100*1万/s即100万/s的TPS

=>可以动态调整两个区间的值来适应,当然各个垂直业务具有天生的隔离性,每个业务都可以适应最多1024台服务器的

=>3种机器ID的分配方式:共享数据库方式、IP方式、Spring配置文件方式(测试时使用)

时间同步

crontab,周期性地通过时间服务器虚拟集群核准服务器时间:ntpdate -u pool.ntp.orgpool.ntp.org

未重启机器调慢时间,Vesta抛出异常拒绝产生ID;重启机器调快时间,调整后正常产生ID;重启机器调慢时间,可能会产生重复的ID,系统管理员需要保证避免这种情况;每4年一次同步闰秒,由于是调快1秒,因此调整后不影响ID的产生

设计验证

(1)根据不同信息分段构建一个ID,且ID全局唯一、可反解、可制造等

(2)使用秒级时间或毫秒级时间及时间单元内序列递增的方法保证ID粗略有序

(3)多线程处理中心服务器发布模式和REST发布模式,三种实现方式解决竞争点的互斥

(4)保证发布模式的最大可用,即某种模式不可用,可以回退到使用本地预配的机器ID

(5)机器号分两个区段,一个从0开始向上,一个从1024开始向下,并且能够动态调整分界线,满足可伸缩性

四、代码实现

代理模式

【读书系列】

《可伸缩服务架构:框架与中间件》,李艳鹏、杨彪、李海亮、贾博岩、刘淏,电子工业出版社
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,602评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,442评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,878评论 0 344
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,306评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,330评论 5 373
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,071评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,382评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,006评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,512评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,965评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,094评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,732评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,283评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,286评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,512评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,536评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,828评论 2 345

推荐阅读更多精彩内容

  • 『这里有每个家庭需要的内容,点蓝字关注↑』 文|大道 图| 网络 上周,小财神君受伤了,是出生以来最严重的一次伤,...
    大道聚焦阅读 563评论 0 2
  • 最近成功学盛行,鸡汤文、鸡血故事一打又一打,很多书籍告诉你如何能成功,告诉你要精进、自控,告诉你要养成高效行为习惯...
    闪亮金金金阅读 326评论 0 0
  • 世界很大,存在着不同的价值观体系,不同的人以不同的甚至完全矛盾的原则过着自己的生活。人总是擅长让自己的行为合理化,...
    Violet蝉阅读 192评论 0 0
  •   在图书馆寻书时,偶见蔡先生作品,正值金庸先生仙逝,便拿下一本翻阅,好奇这位香港才子是什么风格。浏览完后当即借下...
    Chasingcar_501阅读 355评论 0 1