时间轮 HashedWheelTimer

1、背景

时间轮算法可以用于高效的执行大量的定时任务。

在 Netty 中的一个典型应用场景是判断某个连接是否 idle,如果 idle(如客户端由于网络原因导致到服务器的心跳无法送达),则服务器会主动断开连接,释放资源。得益于 Netty NIO 的优异性能,基于 Netty 开发的服务器可以维持大量的长连接,单台 8 核 16G 的云主机可以同时维持几十万长连接,及时掐掉不活跃的连接就显得尤其重要。

2、算法简介

image

网上盗个图,时间轮算法可以通过上图来描述。假设时间轮大小为 8,1s 转一格,每格指向一个链表,保存着待执行的任务。

假设,当前位于 2,现在要添加一个 3s 后指向的任务,则 2+3=5,在第 5 格的链表中添加一个节点指向任务即可,标识 round=0。

假设,当前位于 2,现在要添加一个 10s 后指向的任务,则(2+10)% 8 = 4,则在第 4 格添加一个节点指向任务,并标识 round=1,则当时间轮第二次经过第 4 格时,即会执行任务。

时间轮只会执行 round=0 的任务,并会把该格子上的其他任务的 round 减 1。

算法的原理非常浅显易懂,但是阅读源码实现还是有益的。

3、源码解析

1、构造方法

image

参数:

1)threadFactory

用于生成工作线程

2)tickDuration 和 unit

每格的时间间隔,默认 100ms

3)ticksPerWheel

一圈下来有几格,默认 512,特别的,如果传入的不是 2 的 N 次方,则会调整为大于等于该参数的第一个 2 的 N 次方,好处是可以优化 hash 值的计算

4)leakDetection

如果 false,那么只有工作线程不是后台线程时才会追踪资源泄露,这个参数可以忽略

5)maxPendingTimeouts

最大的 pending 数量,默认 - 1,表示不限制

注:可以看到构造方法执行结束时,工作线程并没有启动,那么应该是在第一次添加任务的时候启动的,我们继续看添加任务的 newTimeout 方法

2、newTimeout

image

首先,通过一个原子变量来计数当前的任务数,如果设置最大 pending 且超过了,则会直接 throw Exception

其次,便是调用 start 方法来正式启用 worker 线程,为了防止重复调用,使用了一个原子操作,并且调用完毕之后会 CountDownLatch.await 阻塞住,直到线程完全起来才返回

image

可以看到,方法是 public 的,也即用户可以显示的调用,而无需等待第一次添加任务时再启动

最后,便是包装一个 HashedWheelTimeout 对象(计算出了 deadline),丢给队列,等待工作线程处理,那么接下来的重点就是看 worker 线程的实现了

3、Worker 线程

image

工作线程启动的第一步是初始化 startTime,并调用 countDown 来通知 start 方法,初始化结束了

其次便是一个循环,循环内的行为就是每隔一段跳一格的操作了,我们看具体的操作:

1)首先调用 waitForNextTick()

image

首先计算一下当前 tick 下的 deadline,减去 startTime,得到 sleepTimeMs,随后 sleep 一下。这里面有几个小细节:

计算 sleepTimeMs 先加 999999,应该是不足 1ms 的,补足 1ms

因为每次执行定时任务消耗的时候是不受控制的,因此算出来的 sleepTimeMs 可能为负,这个时候就可以直接返回了执行下一个格子里的任务了

如果 currentTime==Long.MIN_VALUE,会直接返回一个负数,这个应该是为了处理时间轮执行了很长时间导致的 long 值溢出,具体了解的可以评论里告诉,不胜感激

下面还有一个,如果是 windows 平台,先除以 10 再乘以 10,是因为 windows 平台下最小调度单位是 10ms,如果不处理成 10ms 的倍数,可能导致 sleep 更不准了

最后,如果线程被打断了,并且是 shutdown 状态,会直接返回负数,并在随后的 while 判断中挑出循环

2)随后调用 processCanceldTasks()

image

该方法是为了处理那些被取消的任务,任务存放在一个 queue 中

3)transferTimeoutsToBuckets()

image

该方法是从 timeouts(就是前面 newTimeout 是放进去的那个 queue)的 queue 中取出任务,放到格子里(HashedWheelBucket 是一个链表),为了防止这个操作销毁太多时间,导致更多的任务时间不准,因此一次最多操作 10w 个。几个注意点:

计算 stopIndes 时,含义是取模,因为 mask 是 2 的 N 次方减 1,因此 % 和 & 可以等价操作,即 x % (mask + 1) == x & mask,这个技巧在 jdk 的集合类中也被使用到

为了防止出现任务延迟太久,因此在计算模之前,还先取 max in (calculated, tick),从而让那些本应该在 <u>过去</u>执行的任务,在这期先快速执行掉

4)expireTimeouts(deadline)

这是 HashedWheelBucket 的一个方法,就是来执行该格子里那些已经过期的任务

image

这步的操作比较简单,就是一次遍历链表,如果 remainingRounds(剩下的圈数)小于等于 0,那么就把他移除并执行 expire 方法(即 TimerTask 的 run 方法);如果任务被取消了,则直接移除;否则 remainingRounds 减一,等待下一圈

5)如果中间时间轮的状态不再是 started,那么就会跳出循环,并依次取出各个 bucket 上的未执行且没有被取消的任务,stop 方法会返回这个列表

image

4、总结

时间轮算法理解起来很简单,实现也似乎不难,但是通过阅读源码,可以看到,其中还是有很多很多的小细节需要注意,这个就不容易了

而且通过阅读源码,可以看到,整个时间轮的调度都是在一个线程里完成的,因此对于那些耗时较大的定时任务,如果直接扔进去处理显然会影响其他任务的正常执行,例子如下:

image
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343

推荐阅读更多精彩内容

  • 演技或许是一个很难谈论真实与虚假的东西,取决于观众相信在什么样的场景下,人应该有什么样的表情。 就像开心时应微笑,...
    化浊阅读 383评论 0 2
  • 现在提起人工智能,大家很自然地就会想到谷歌的AlphaGo战胜了李世石,后来又战胜了围棋界排名第一的国际冠军柯洁。...
    bluecafe阅读 686评论 3 5
  • 一直都想做个江南女子,身着荷叶罗裙,手挽精致小篮,伐一小舟,舟行萍开,波光潋滟,于微曦晨光中采上一朵莲。“荷叶罗裙...
    经年D阅读 434评论 0 0