一、什么是 LRU 算法
LRU就是一种缓存淘汰策略。
计算机的缓存容量有限,如果缓存满了就要删除一些内容,给新内容腾位置。但问题是,删除哪些内容呢?我们肯定希望删掉哪些没什么用的缓存,而把有用的数据继续留在缓存里,方便之后继续使用。那么,什么样的数据,我们判定为「有用的」的数据呢?
LRU 缓存淘汰算法就是一种常用策略。LRU 的全称是 Least Recently Used,也就是说我们认为最近使用过的数据应该是是「有用的」,很久都没用过的数据应该是无用的,内存满了就优先删那些很久没用过的数据。
二、LRU 算法描述
LRU 算法实际上是让你设计数据结构:首先要接收一个 capacity 参数作为缓存的最大容量,然后实现两个 API,一个是 put(key, val) 方法存入键值对,另一个是 get(key) 方法获取 key 对应的 val,如果 key 不存在则返回 -1。
注意哦,get 和 put 方法必须都是 的时间复杂度,我们举个具体例子来看看 LRU 算法怎么工作。
/* 缓存容量为 2 */
LRUCache cache = new LRUCache(2);
// 你可以把 cache 理解成一个队列
// 假设左边是队头,右边是队尾
// 最近使用的排在队头,久未使用的排在队尾
// 圆括号表示键值对 (key, val)
cache.put(1, 1);
// cache = [(1, 1)]
cache.put(2, 2);
// cache = [(2, 2), (1, 1)]
cache.get(1); // 返回 1
// cache = [(1, 1), (2, 2)]
// 解释:因为最近访问了键 1,所以提前至队头
// 返回键 1 对应的值 1
cache.put(3, 3);
// cache = [(3, 3), (1, 1)]
// 解释:缓存容量已满,需要删除内容空出位置
// 优先删除久未使用的数据,也就是队尾的数据
// 然后把新的数据插入队头
cache.get(2); // 返回 -1 (未找到)
// cache = [(3, 3), (1, 1)]
// 解释:cache 中不存在键为 2 的数据
cache.put(1, 4);
// cache = [(1, 4), (3, 3)]
// 解释:键 1 已存在,把原始值 1 覆盖为 4
// 不要忘了也要将键值对提前到队头
三、LRU 算法设计
分析上面的操作过程,要让 put 和 get 方法的时间复杂度为 O(1),我们可以总结出 cache 这个数据结构必要的条件:查找快,插入快,删除快,有顺序之分。
因为显然 cache 必须有顺序之分,以区分最近使用的和久未使用的数据;而且我们要在 cache 中查找键是否已存在;如果容量满了要删除最后一个数据;每次访问还要把数据插入到队头。
那么,什么数据结构同时符合上述条件呢?哈希表查找快,但是数据无固定顺序;链表有顺序之分,插入删除快,但是查找慢。所以结合一下,形成一种新的数据结构:哈希链表。
LRU 缓存算法的核心数据结构就是哈希链表,双向链表和哈希表的结合体。这个数据结构长这样:
思想很简单,就是借助哈希表赋予了链表快速查找的特性嘛:可以快速查找某个 key 是否存在缓存(链表)中,同时可以快速删除、添加节点。回想刚才的例子,这种数据结构是不是完美解决了 LRU 缓存的需求?
也许读者会问,为什么要是双向链表,单链表行不行?另外,既然哈希表中已经存了 key,为什么链表中还要存键值对呢,只存值不就行了?
想的时候都是问题,只有做的时候才有答案。这样设计的原因,必须等我们亲自实现 LRU 算法之后才能理解,所以我们开始看代码吧~
四、代码实现
package LRU;
import java.util.HashMap;
import java.util.LinkedList;
/* Node节点数据结构 */
class Node{
public int key, val;
public Node next, prev;
Node(int k, int v){
this.key = k;
this.val = v;
}
}
/* 双向链表数据结构====> 偷懒实现 */
class DoubleList{
public LinkedList<Node> linkedList;
DoubleList(){
linkedList = new LinkedList<>();
}
// 在链表头部添加节点 x,时间 O(1)
public void addFirst(Node x){
linkedList.addFirst(x);
}
// 删除链表中的 x 节点(x 一定存在)
// 由于是双链表且给的是目标 Node 节点,时间 O(1)
public void remove(Node x){
linkedList.remove(x);
}
// 删除链表中最后一个节点,并返回该节点,时间 O(1)
public Node removeLast(){
return linkedList.removeFirst();
}
// 返回链表长度,时间 O(1)
public int size(){
return linkedList.size();
}
}
public class LRU{
private HashMap<Integer, Node> map;
private DoubleList cache;
private int capacity; // 容量
LRU(int capacity){
this.capacity = capacity;
map = new HashMap<>();
cache = new DoubleList();
}
// LRU的get方法:在OS页面调度中,相当于使用了某页
public int get(int key){
if(!map.containsKey(key)){ // 找不到该页
return -1;
}
int val = map.get(key).val;
// 重新放入cache,相当于把该页的位置提前
this.put(key, val);
return val;
}
public void put(int key, int val){
// create new Node
Node temp = new Node(key, val);
if(map.containsKey(key)){ //如果已经存在了
cache.remove(map.get(key));
cache.addFirst(temp);
// 重点:别忘了更新hashtable
map.put(key, temp);
}
else{ // cache已满,需要移除最后一个并加入当前
if(capacity == cache.size()){
/**
* 当缓存容量已满,我们不仅仅要删除最后一个 Node 节点,
* 还要把 map 中映射到该节点的 key 同时删除,而这个 key 只能由 Node 得到。
* 如果 Node 结构中只存储 val,那么我们就无法得知 key 是什么,就无法删除 map 中的键,造成错误。
*/
Node last = cache.removeLast();
// 重点:勿忘更新hashtable
map.remove(last.key);
}
// 加入当前
cache.addFirst(temp);
// 更新cache
map.put(key, temp);
}
}
public static void main(String[] args) {
// 具体例子来看看 LRU 算法怎么工作
/* 缓存容量为 2 */
LRU cache = new LRU(2);
// 你可以把 cache 理解成一个队列
// 假设左边是队头,右边是队尾
// 最近使用的排在队头,久未使用的排在队尾
// 圆括号表示键值对 (key, val)
cache.put(1, 1);
// cache = [(1, 1)]
cache.put(2, 2);
// cache = [(2, 2), (1, 1)]
cache.get(1); // 返回 1
// cache = [(1, 1), (2, 2)]
// 解释:因为最近访问了键 1,所以提前至队头
// 返回键 1 对应的值 1
cache.put(3, 3);
// cache = [(3, 3), (1, 1)]
// 解释:缓存容量已满,需要删除内容空出位置
// 优先删除久未使用的数据,也就是队尾的数据
// 然后把新的数据插入队头
cache.get(2); // 返回 -1 (未找到)
// cache = [(3, 3), (1, 1)]
// 解释:cache 中不存在键为 2 的数据
cache.put(1, 4);
// cache = [(1, 4), (3, 3)]
// 解释:键 1 已存在,把原始值 1 覆盖为 4
// 不要忘了也要将键值对提前到队头
}
}
参考:如何实现LRU算法