队列
先进者先出,这就是典型的“队列”,入队,放一个数据到队列尾部,和出队,从队列头部取一个元素,是其最基本的两个操作。队列跟栈一样,也是一种操作受限的线性表数据结构。
队列可以用数组或链表实现,用数组实现的队列叫作顺序队列,用链表实现的队列叫作链式队列。
在使用顺序队列的时候,不可避免的会用到数据搬移操作,会影响数据入队的效率。循环队列可以解决这个问题,但是要确定好队空和队满的判定条件。
队列为空的判断条件仍然是 head == tail,但队满的判断条件为:(tail + 1) % n == head。
你有没有发现,当队列满时,图中的 tail 指向的位置实际上是没有存储数据的。所以,循环队列会浪费一个数组的存储空间。
平时的业务开发中一些具有特殊特性的队列应用比较广泛,比如阻塞队列和并发队列。
阻塞队列
阻塞队列就是在队列基础上增加了阻塞操作。简单来说,就是在队列为空的时候,从队头取数据会被阻塞。因为此时还没有数据可取,直到队列中有了数据才能返回;如果队列已经满了,那么插入数据的操作就会被阻塞,直到队列中有空闲位置后再插入数据,然后再返回。
上面用阻塞队列实现一个“生产者 - 消费者模型”,可以用来有效地协调生产和消费的速度,也可以通过协调“生产者”和“消费者”的个数,来提高数据的处理效率。
并发队列
在多线程情况下,会有多个线程同时操作队列,这个时候就会存在线程安全问题,那如何实现一个线程安全的队列呢?
线程安全的队列我们叫作并发队列。最简单直接的实现方式是直接在 enqueue()、dequeue() 方法上加锁,但是锁粒度大并发度会比较低,同一时刻仅允许一个存或者取操作。实际上,基于数组的循环队列,利用 CAS 原子操作,可以实现非常高效的并发队列。这也是循环队列比链式队列应用更加广泛的原因。在实战篇讲 Disruptor 的时候,会再详细讲并发队列的应用。
开篇解答
线程池没有空闲线程时,新的任务请求线程资源时,线程池该如何处理?各种处理策略又是如何实现的呢?
一般有两种处理策略。第一种是非阻塞的处理方式,直接拒绝任务请求;另一种是阻塞的处理方式,将请求排队,等到有空闲线程时,取出排队的请求继续处理。这个时候就要用到队列。
基于链表的实现方式,可以实现一个支持无限排队的无界队列(unbounded queue),但是可能会导致过多的请求排队等待,请求处理的响应时间过长。所以,针对响应时间比较敏感的系统,基于链表实现的无限排队的线程池是不合适的。
而基于数组实现的有界队列(bounded queue),队列的大小有限,所以线程池中排队的请求超过队列大小时,接下来的请求就会被拒绝,这种方式对响应时间敏感的系统来说,就相对更加合理。不过,设置一个合理的队列大小,也是非常有讲究的。队列太大导致等待的请求太多,队列太小会导致无法充分利用系统资源、发挥最大性能。
对于大部分资源有限的场景,当没有空闲资源时,基本上都可以通过“队列”这种数据结构来实现请求排队。比如数据库连接池等。
课后思考
- 除了线程池这种池结构会用到队列排队请求,你还知道有哪些类似的池结构或者场景中会用到队列的排队请求呢?
分布式应用中的消息队列,也是一种队列结构。
- 今天讲到并发队列,关于如何实现无锁并发队列,网上有非常多的讨论。对这个问题,你怎么看呢?
考虑使用 CAS 实现无锁队列,则在入队前,获取 tail 位置,入队时比较tail是否发生变化,如果否,则允许入队,反之,本次入队失败。出队则是获取head位置,进行 CAS。