前言
现在的网站基本上都会加入缓存层来提升性能表现,前端请求会先去缓存层请求数据,若未命中缓存才会去请求数据库层,这样可以大大减少去数据库层请求的连接数,减少数据库压力,加快接口响应速度。
缓存虽然是性能利器,但在高并发情况下使用不当可能会导致以下几个问题。
缓存穿透
定义:以最常用的缓存中间件Redis为例,我们将缓存数据以K/V的形式存储在Redis中,通过查询key是否在Redis中存在来判断是否命中缓存。一般情况下我们只将查询结果不为空的数据进行缓存。缓存穿透指的是前端请求的数据在缓存中一定不存在,导致请求直接访问数据库,若恶意构造大量这样的请求访问系统,那么数据库有可能会因为访问量过大而被压垮。
解决方案:
1.对查询结果为空的key也进行缓存。当我们缓存空数据时,再有相同条件的查询请求时,直接返回空即可而不必去请求数据库。由于导致结果为空值的查询条件可能会比较多,这样会导致缓存中存在大量value为空值的K/V对,为了解决这个问题,我们可以将数据为空的缓存的过期时间设置的较短一些,使其快速过期,以释放内存空间。
2.使用布隆过滤器(对布隆过滤器不清楚的同学请看我之前的这篇文章布隆过滤器)。我们按照查询条件去查询数据,查询条件一定是有限的,我们可以将所有可能的查询参数组合都放入布隆过滤器中,在controller中进行校验,在布隆过滤器中不存在的参数组合则会被过滤掉直接返回。这样连缓存层都不用访问了。
缓存雪崩
定义:缓存雪崩指的是缓存服务器重启或者缓存服务器宕机,那么此时所有的请求都会到达数据库层,导致数据库被压垮。
解决方案:使用缓存服务器集群,保证缓存的高可用,这个方案更偏向于架构与运维一些。
热点key
定义:热点key其实可以看做缓存雪崩的一个子类,这里把他分出来是为了结构更加清晰一点。一般情况下我们会给缓存设置过期时间,热点key指的是对于一些请求量较高的热点数据而言,一旦集中过期,此时将会有大量请求落在数据库层,从而可能会导致数据库崩溃。或者均访问一台服务器达到网卡上限
解决方案:
1.错开过期时间。为了防止一批热点key同时失效,我们可以为这些key设置不同的过期时间,使其过期时间尽量错开。
2.使用互斥锁。利用Redis的setnx命令或者多参数的set命令实现互斥锁,只让一个线程去查询数据库构建缓存,其他线程等待该线程执行完成,重新从缓存获取数据就可以了。
3.永不过期。指的是不为缓存设置过期时间,只在value中存一个逻辑上的过期时间,每次get发现逻辑过期时间小于当前时间则新建一个线程去数据库重新获取数据构建缓存。
4.接口限流。这个方案就不涉及缓存操作相关代码了,就纯粹是做接口上的限流操作。关于如何做限流请看我之前的这篇文章关于限流。
5. 使用本地缓存
6. 利用分片,将一个key备份多份,存储在集群的不同机器上,将访问量均摊到所有实例。