首页 > 编程知识 正文

雪崩击穿的机理,rabbitmq缓存击穿

时间:2023-05-06 07:54:15 阅读:22470 作者:3495

用户的数据一般存储在数据库中,数据库的数据存储在磁盘上,磁盘的读写速度可以说是计算机中最慢的硬件。

如果用户的所有请求都访问数据库,当请求数增加时,数据库将很容易击穿,因此使用Redis作为缓存层,以防止用户直接访问数据库。

因为Redis是内存数据库,所以可以将数据库中的数据缓存到Redis中。 这相当于数据缓存在内存中。 内存的读写速度比硬盘快几个数量级,这将大大提高系统的性能。

引入缓存层有三个问题:缓存异常。 分别为缓存雪崩、缓存击穿、缓存穿透

这三个问题也是面试中经常被考察的问题,我们不仅要清楚地知道它们是怎么发生的,也要知道如何解决它们。

不用说,发车!

高速缓存雪崩通常会对Redis中的数据设置过期时间,以确保高速缓存中的数据和数据库中的数据的完整性。 缓存数据过期后,如果用户访问的数据不在缓存中,业务系统需要重新生成缓存,因此可以访问数据库,将数据更新为Redis,以便后续请求直接命中缓存

那么,3358www.Sina.com/

如你所见,现金雪崩的发生有两个原因。

大量数据同时过期;

Redis故障停机;

应对措施因诱因而异。

对于由于大量数据同时过期而导致的缓存雪崩问题,大量数据同时过期的常见解决方案如下:

均等设定有效期限

排他锁定;

双键战略;

后台更新缓存;

1 .设定有效期限均等

如果要为缓存数据设置过期日期,请不要将大量数据设置为相同的过期日期。 为缓存数据设置过期时间时,可以使用大量缓存数据在同一时间过期(失效)或者 Redis 故障宕机防止数据在同一时间过期。

2 .排他锁定

业务线程处理用户请求时,缓存雪崩(从数据库读取数据并更新数据到Redis ),缓存构建完成后,解除锁定。 无法获取互斥锁。 在解除锁定后等待重新读取缓存,或者返回null或默认值。

实现互斥锁定时,建议设定给这些数据的过期时间加上一个随机数。 否则,第一个请求将获得锁定,并且该请求在被阻止的情况下不会释放锁定,此时其他请求也无法获得锁定,整个系统将无法响应。

3 .双键战略

缓存数据可以使用两个密钥。 一个是如果发现访问的数据不在 Redis 里,就加个互斥锁,保证同一时间内只有一个请求来构建缓存,另一个是超时时间。 它们只是密钥不同,但value的值相同,与创建缓存数据的副本相同。

如果业务线程无法访问“主密钥”的缓存数据,则直接返回“备用密钥”的缓存数据;更新缓存时,返回主 key,会设置过期时间

4 .在后台更新缓存

业务线程不再负责更新缓存,也没有设置缓存有效期,而是使用备 key,不会设置过期

事实上,缓存数据没有设置有效期并不意味着数据总是在内存中。 由于同时更新「主 key 」和「备 key 」的数据。,从“销毁”缓存到在下一个后台时间更新缓存之间的时间段内,业务线程在读取缓存失败时返回null值,从业务角度看数据丢失

解决上面问题的方法有两种。

第一种方法是后台线程不仅定期更新缓存,还负责让缓存“永久有效”,并将更新缓存的工作交由后台线程定时更新。 检测到缓存已禁用,是因为系统可能因紧张而被销毁,因此必须立即从数据库读取数据并将其更新到缓存中。

这种方式的检测时间间隔不能太长。 即使太长,用户检索的数据也是空值,而不是真数据。 因此,检测的间隔优选为毫秒级别,但无论如何都有间隔时间,用户体验一般。

第二种方式是业务线程发现缓存数据失效后(缓存数据被丢弃)当系统内存紧张的时候,有些缓存数据会被“淘汰”),后台线程在收到消息后,在更新缓存之前缓存如果不存在,则读取数据库数据并将数据加载到缓存中。 该方式比第一方式缓存更新及时,用户体验也更好。

在业务刚上线时,建议提前延迟数据,而不是等待用户访问以触发缓存生成。 这被称为频繁地检测缓存是否有效,在后台更新缓存的机制也正好适合于此。

Redis故障

障宕机

针对 Redis 故障宕机而引发的缓存雪崩问题,常见的应对方法有下面这几种:

服务熔断或请求限流机制;

构建 Redis 缓存高可靠集群;

1. 服务熔断或请求限流机制

因为 Redis 故障宕机而导致缓存雪崩问题时,我们可以启动服务熔断机制,暂停业务应用对缓存服务的访问,直接返回错误,不用再继续访问数据库,从而降低对数据库的访问压力,保证数据库系统的正常运行,然后等到 Redis 恢复正常后,再允许业务应用访问缓存服务。

服务熔断机制是保护数据库的正常允许,但是暂停了业务应用访问缓存服系统,全部业务都无法正常工作

为了减少对业务的影响,我们可以启用请求限流机制,只将少部分请求发送到数据库进行处理,再多的请求就在入口直接拒绝服务,等到 Redis 恢复正常并把缓存预热完后,再解除请求限流的机制。

2. 构建 Redis 缓存高可靠集群

服务熔断或请求限流机制是缓存雪崩发生后的应对方案,我们最好通过主从节点的方式构建 Redis 缓存高可靠集群

如果 Redis 缓存的主节点故障宕机,从节点可以切换成为主节点,继续提供缓存服务,避免了由于 Redis 故障宕机而导致的缓存雪崩问题。

缓存击穿

我们的业务通常会有几个数据会被频繁地访问,比如秒杀活动,这类被频地访问的数据被称为热点数据。

如果缓存中的某个热点数据过期了,此时大量的请求访问了该热点数据,就无法从缓存中读取,直接访问数据库,数据库很容易就被高并发的请求冲垮,这就是缓存击穿的问题。

可以发现缓存击穿跟缓存雪崩很相似,你可以认为缓存击穿是缓存雪崩的一个子集。

应对缓存击穿可以采取前面说到两种方案:

互斥锁方案,保证同一时间只有一个业务线程更新缓存,未能获取互斥锁的请求,要么等待锁释放后重新读取缓存,要么就返回空值或者默认值。

不给热点数据设置过期时间,由后台异步更新缓存,或者在热点数据准备要过期前,提前通知后台线程更新缓存以及重新设置过期时间;

缓存穿透

当发生缓存雪崩或击穿时,数据库中还是保存了应用要访问的数据,一旦缓存恢复相对应的数据,就可以减轻数据库的压力,而缓存穿透就不一样了。

当用户访问的数据,既不在缓存中,也不在数据库中,导致请求在访问缓存时,发现缓存缺失,再去访问数据库时,发现数据库中也没有要访问的数据,没办法构建缓存数据,来服务后续的请求。那么当有大量这样的请求到来时,数据库的压力骤增,这就是缓存穿透的问题。

缓存穿透的发生一般有这两种情况:

业务误操作,缓存中的数据和数据库中的数据都被误删除了,所以导致缓存和数据库中都没有数据;

黑客恶意攻击,故意大量访问某些读取不存在数据的业务;

应对缓存穿透的方案,常见的方案有三种。

第一种方案,非法请求的限制;

第二种方案,缓存空值或者默认值;

第三种方案,使用布隆过滤器快速判断数据是否存在,避免通过查询数据库来判断数据是否存在;

第一种方案,非法请求的限制

当有大量恶意请求访问不存在的数据的时候,也会发生缓存穿透,因此在 API 入口处我们要判断求请求参数是否合理,请求参数是否含有非法值、请求字段是否存在,如果判断出是恶意请求就直接返回错误,避免进一步访问缓存和数据库。

第二种方案,缓存空值或者默认值

当我们线上业务发现缓存穿透的现象时,可以针对查询的数据,在缓存中设置一个空值或者默认值,这样后续请求就可以从缓存中读取到空值或者默认值,返回给应用,而不会继续查询数据库。

第三种方案,使用布隆过滤器快速判断数据是否存在,避免通过查询数据库来判断数据是否存在。

我们可以在写入数据库数据时,使用布隆过滤器做个标记,然后在用户请求到来时,业务线程确认缓存失效后,可以通过查询布隆过滤器快速判断数据是否存在,如果不存在,就不用通过查询数据库来判断数据是否存在。

即使发生了缓存穿透,大量请求只会查询 Redis 和布隆过滤器,而不会查询数据库,保证了数据库能正常运行,Redis 自身也是支持布隆过滤器的。

那问题来了,布隆过滤器是如何工作的呢?接下来,我介绍下。

布隆过滤器由「初始值都为 0 的位图数组」和「 N 个哈希函数」两部分组成。当我们在写入数据库数据时,在布隆过滤器里做个标记,这样下次查询数据是否在数据库时,只需要查询布隆过滤器,如果查询到数据没有被标记,说明不在数据库中。

布隆过滤器会通过 3 个操作完成标记:

第一步,使用 N 个哈希函数分别对数据做哈希计算,得到 N 个哈希值;

第二步,将第一步得到的 N 个哈希值对位图数组的长度取模,得到每个哈希值在位图数组的对应位置。

第三步,将每个哈希值在位图数组的对应位置的值设置为 1;

举个例子,假设有一个位图数组长度为 8,哈希函数 3 个的布隆过滤器。

在数据库写入数据 x 后,把数据 x 标记在布隆过滤器时,数据 x 会被 3 个哈希函数分别计算出 3 个哈希值,然后在对这 3 个哈希值对 8 取模,假设取模的结果为 1、4、6,然后把位图数组的第 1、4、6 位置的值设置为 1。当应用要查询数据 x 是否数据库时,通过布隆过滤器只要查到位图数组的第 1、4、6 位置的值是否全为 1,只要有一个为 0,就认为数据 x 不在数据库中

布隆过滤器由于是基于哈希函数实现查找的,高效查找的同时存在哈希冲突的可能性,比如数据 x 和数据 y 可能都落在第 1、4、6 位置,而事实上,可能数据库中并不存在数据 y,存在误判的情况。

所以,查询布隆过滤器说数据存在,并不一定证明数据库中存在这个数据,但是查询到数据不存在,数据库中一定就不存在这个数据

总结

缓存异常会面临的三个问题:缓存雪崩、击穿和穿透。

其中,缓存雪崩和缓存击穿主要原因是数据不在缓存中,而导致大量请求访问了数据库,数据库压力骤增,容易引发一系列连锁反应,导致系统奔溃。不过,一旦数据被重新加载回缓存,应用又可以从缓存快速读取数据,不再继续访问数据库,数据库的压力也会瞬间降下来。因此,缓存雪崩和缓存击穿应对的方案比较类似。

而缓存穿透主要原因是数据既不在缓存也不在数据库中。因此,缓存穿透与缓存雪崩、击穿应对的方案不太一样。

我这里整理了表格,你可以从下面这张表格很好的知道缓存雪崩、击穿和穿透的区别以及应对方案。

参考资料

1.《极客时间:Redis核心技术与实战》

2. https://github.com/doocs/advanced-java/blob/main/docs/high-concurrency/redis-caching-avalanche-and-caching-penetration.md

3. https://medium.com/@mena.meseha/3-major-problems-and-solutions-in-the-cache-world-155ecae41d4f

特别推荐一个分享架构+算法的优质内容,还没关注的小伙伴,可以长按关注一下:长按订阅更多精彩▼如有收获,点个在看,诚挚感

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。