14、缓存预热+缓存雪崩+缓存击穿+缓存穿透

缓存预热+缓存雪崩+缓存击穿+缓存穿透

● 缓存预热、雪崩、穿透、击穿分别是什么?你遇到过那几个情况?
● 缓存预热你是怎么做到的?
● 如何避免或者减少缓存雪崩?
● 穿透和击穿有什么区别?它两一个意思还是截然不同?
● 穿透和击穿你有什么解决方案?如何避免?
● 加入出现了缓存不一致,你有哪些修补方案?

1、缓存预热
在这里插入图片描述
2、缓存雪崩
发生原因
● Redis主机挂了,Redis全盘崩溃,偏硬件运维。
● Redis中有大量key同时过期大面积失效,偏软件开发。
预防+解决
● Redis中key设置为永不过期or过期时间错开
● Redis缓存集群实现高可用
○ 主从+哨兵
○ Redis Cluster
○ 开启Redis持久化机制RDB/AOF,尽快恢复缓存集群
● 多缓存结合预防雪崩
○ ehcache本地缓存+redis缓存
● 服务降级
○ Hystrix或者案例sentinel限流&降级

3、缓存穿透
发生原因
请求去查一条记录,先查Redis无,后查MySQL无,都查不到该条记录,但是请求每次都会打到数据库上面去,导致后台数据库压力暴增,这种就是缓存穿透。
简单来说就是本来无一物,两库都没有,既不在Redis缓存库,也不再MySQL,数据库存在被多次暴击风险

解决方案
在这里插入图片描述

方案一:空对象缓存或者缺省值
一般正常情况下使用回写增强:mysql也查不到的话就让redis存入刚刚查不到的key并保护mysql,第一次来查询没有查询到,redis和mysql都没有,返回null给调用者,但是增强回写后第二次查同样的key,此时redis就有值了,可以直接从redis中读取default缺省值返回给业务程序,避免了把大量请求发送给mysql处理,打爆mysql------------>此种方法架不住黑客的恶意攻击,有缺陷…只能解决key相同的情况。
黑客或者恶意攻击:黑客会对你的系统进行攻击,拿一个不存在的id去查询数据,会产生大量的请求到数据库查询,可能会导致你的数据库由于压力过大而宕机。
key相同—>第一次达到mysql,空对象缓存后第二次就返回default缺省值,避免mysql再被攻击,不用再到数据库中走一圈了。
key不同—>由于存在空对象缓存和缓存回写(看自己的业务),redis中无关紧张的key也会越来越多(记得设置redis过期时间)。

方案二:Google布隆过滤器Guava解决缓存穿透
Guava中布隆过滤器的实现算是比较权威的,所以实际项目中可以直接采用Guava布隆过滤器

在这里插入图片描述

白名单过滤器实战
白名单那过滤器架构说明
误判问题:概率小还可以接受,不能从布隆过滤器中删除
全部合法的key都需要放入Guava版布隆过滤器+Redis里面,不然数据就是返回null
改POM

        <!--  Guava  Google开源的Guava中自带的布隆过滤器-->
        <dependency>
            <groupId>com.google.guava</groupId>
            <artifactId>guava</artifactId>
            <version>23.0</version>
        </dependency>

业务类
我们的目的是再白名单里面设置100w的数据,然后再额外加入10w的数据,看一下误判率是多少

/**
 * @author Guanghao Wei
 * @create 2023-04-25 14:51
 */
@Service
@Slf4j
public class GuavaWithBloomFilterService {
    //定义常量
    public static final int _1W = 10000;
    //定义guava布隆过滤器初始容量
    public static final int SIZE = 100 * _1W;
    //误判率,它越小,误判个数越少
    public static double fpp = 0.03;
    //创建guava布隆过滤器
    private BloomFilter<Integer> bloomFilter = BloomFilter.create(Funnels.integerFunnel(), SIZE, fpp);

    public void guavaBloomFilter() {
        //先让bloomFilter加入100w数据
        for (int i = 1; i <= SIZE; i++) {
            bloomFilter.put(i);
        }
        //故意取10w个不在合法范围内的数据
        ArrayList<Object> list = new ArrayList<>(10 * _1W);
        //验证
        for (int i = SIZE + 1; i <= SIZE + (10 * _1W); i++) {
            if (bloomFilter.mightContain(i)) {
                log.info("被误判了:{}", i);
                list.add(i);
            }
        }
        log.info("误判总数量:{}", list.size());
    }
}
/**
 * @author Guanghao Wei
 * @create 2023-04-25 14:51
 */
@Api(tags = "google工具Guava处理布隆过滤器")
@RestController
@Slf4j
public class GuavaWithBloomFilterController {
    @Autowired
    private GuavaWithBloomFilterService guavaWithBloomFilterService;

    @ApiOperation("guava布隆过滤器插入100万样本数据并额外添加10w测试是否存在")
    @GetMapping("guavafilter")
    public void guavaBloomFilter() {
        guavaWithBloomFilterService.guavaBloomFilter();
    }
}

这里有一个误判率的知识点我们通过debug源码来学习:
在这里插入图片描述

布隆过滤器说明
在这里插入图片描述

缓存击穿
是什么
大量的请求同时查询一个key时,此时这个key正好失效了,就会导致大量的请求都打到数据库上去
简单来说就是热点key突然失效了,暴打mysql。

穿透和击穿,截然不同
热点key为什么失效?

时间到了自然清除但还未被访问到
delete掉的key,刚巧又被访问

危害
会造成某一时刻数据库请求量过大,压力剧增
一般技术部门需要知道热点key是哪些,做到心里有数防止击穿

解决
方案一:差异失效时间
对于访问频繁的热点key,干脆就不设置过期时间

方案二:互斥更新
采用双检加锁策略
案例

天猫聚划算功能实现+防止缓存击穿
在这里插入图片描述
数据类型可以选用list和zset,但这类场景一般还是选择list

实体类

/**
 * @author Guanghao Wei
 * @create 2023-04-25 15:40
 */
@Data
@AllArgsConstructor
@NoArgsConstructor
@ApiModel(value = "聚划算活动product信息")
public class Product {
    private Long id;
    private String name;
    private Integer price;
    private String detail;
}

service

/**
 * @author Guanghao Wei
 * @create 2023-04-25 15:42
 */
@Service
@Slf4j
public class JHSTaskService {
    public static final String JHS_KEY = "jhs";
    public static final String JHS_KEY_A = "jhs:a";
    public static final String JHS_KEY_B = "jhs:b";
    @Autowired
    private RedisTemplate redisTemplate;

    /**
     * 模拟从数据库读取20件特价商品,用于加载到聚划算的页面中
     *
     * @return
     */
    private List<Product> getProductsFromMysql() {
        List<Product> list = new ArrayList<>();
        for (int i = 1; i <= 20; i++) {
            Random random = new Random();
            int id = random.nextInt(10000);
            Product obj = new Product((long) id, "product" + i, i, "detail");
            list.add(obj);
        }
        return list;
    }

    @PostConstruct
    public void init() {
        log.info("启动定时器天猫聚划算功能模拟开始.........O(∩_∩)O");
        //用线程模拟定时任务,后台任务定时将mysql里面的参加活动的商品刷进redis
        new Thread(() -> {
            //模拟从mysql查出数据用于加载进redis,在页面展示
            List<Product> productList = this.getProductsFromMysql();
            //采用redis list数据结构的lpush命令来存储
            redisTemplate.delete(JHS_KEY);
            //加入最新的数据
            redisTemplate.opsForList().leftPushAll(JHS_KEY, productList);
            //暂停1分钟,间隔一分钟执行一次,模拟聚划算一天执行的参加活动的品牌
            try { TimeUnit.MINUTES.sleep(1); } catch (InterruptedException e) { e.printStackTrace(); }
        }, "t1").start();
    }
}

controller

/**
 * @author Guanghao Wei
 * @create 2023-04-25 15:42
 */
@Api(tags = "聚划算页面展示控制器")
@RestController
@Slf4j
public class JHSProductController {
    public static final String JHS_KEY = "jhs";
    @Autowired
    private RedisTemplate redisTemplate;

    /**
     * 分页查询,在高并发的情况下,只能走Redis查询,走db的话必定会吧db打垮
     *
     * @param page
     * @param size
     * @return
     */
    @ApiOperation("聚划算案例,每次1页展示5条数据")
    @GetMapping("product/find")
    public List<Product> find(int page, int size) {
        List<Product> list = null;
        long start = (page - 1) * size;
        long end = start + size - 1;
        try {
            list = redisTemplate.opsForList().range(JHS_KEY, start, end);
            if (CollectionUtils.isEmpty(list)) {
                //走数据库查询 TODO
            }
            log.info("参加活动的商家:{}",list);
        } catch (Exception e) {
            //出异常了,一般redis宕机了,或者redis网络抖动导致timeout
            log.error("jhs exception:{}",e);
            e.printStackTrace();
            //再次查询
        }
        return list;
    }

}

至此步骤,上述聚划算的功能算是完成了,请思考在高并发情况下又会产生什么样的经典生产问题?
Bug和隐患说明
在这里插入图片描述

热点key突然失效导致可怕的缓存击穿:delete命令执行的一瞬间有空隙,其他请求线程找Redis为null,达到mysql,暴击mysql…
复习again
在这里插入图片描述

最终目的:2条命令原子性是其次的,主要是防止热点key突然失效暴击mysql打爆系统。
进一步升级加固案例
互斥更新—>双检加锁策略
在这里插入图片描述

差异失效时间,在本案例中给我们使用这个方式

    @PostConstruct
    public void initJHSAB() {
        log.info("启动AB定时器天猫聚划算功能模拟开始.........O(∩_∩)O" + DateUtil.now());
        //用线程模拟定时任务,后台任务定时将mysql里面的参加活动的商品刷进redis
        new Thread(() -> {
            //模拟从mysql查出数据用于加载进redis,在页面展示
            List<Product> productList = this.getProductsFromMysql();
            //先更新B缓存,且让B过期时间超过A,B做兜底
            redisTemplate.delete(JHS_KEY_B);
            redisTemplate.opsForList().leftPushAll(JHS_KEY_B, productList);
            redisTemplate.expire(JHS_KEY_B, 86410L, TimeUnit.SECONDS);
            //在更新A缓存
            redisTemplate.delete(JHS_KEY_A);
            redisTemplate.opsForList().leftPushAll(JHS_KEY_A, productList);
            redisTemplate.expire(JHS_KEY_A, 86400L, TimeUnit.SECONDS);
            //暂停1分钟,间隔一分钟执行一次,模拟聚划算一天执行的参加活动的品牌
            try { TimeUnit.MINUTES.sleep(1); } catch (InterruptedException e) { e.printStackTrace(); }

        }, "t1").start();
    }
    @ApiOperation("AB双缓存架构,防止热点key突然失效")
    @GetMapping("product/findAB")
    public List<Product> findAB(int page, int size) {
        List<Product> list = null;
        long start = (page - 1) * size;
        long end = start + size - 1;
        try {
            list = redisTemplate.opsForList().range(JHS_KEY_A, start, end);
            if (CollectionUtils.isEmpty(list)) {
                log.info("-------A缓存已经失效或者过期了,记得人工修改,B缓存继续顶着");
                list = redisTemplate.opsForList().range(JHS_KEY_B, start, end);

                if (CollectionUtils.isEmpty(list)) {
                    //TODO 走数据库查询
                }
            }
        } catch (Exception e) {
            //出异常了,一般redis宕机了,或者redis网络抖动导致timeout
            log.error("jhs exception:{}", e);
            e.printStackTrace();
            //再次查询
        }
        return list;
    }

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/87922.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

如何提高企业生产效率与安全性?设备报修管理系统有什么用?

随着现代工业技术的不断发展&#xff0c;企业生产设备变得越来越复杂&#xff0c;出现故障的可能性也随之增加。设备故障不仅会降低企业的生产效率&#xff0c;还可能导致生产安全事故的发生。为了更好地管理维护生产设备&#xff0c;提高生产效率和安全性&#xff0c;本文将向…

RedisTemplate和StringRedisTemplate的区别、对比

学习 Jedis、RedisTemplate、StringRedisTemplate之间的比较 博客中提到&#xff1a;一. Jedis是Redis官方推荐的面向Java的操作Redis的客户端。 二. RedisTemplate,StringRedisTemplate是SpringDataRedis中对JedisApi的高度封装。SpringDataRedis相对于Jedis来说可以方便地更…

数据库(DQL,多表设计,事务,索引)

目录 查询数据库表中数据 where 条件列表 group by 分组查询 having 分组后条件列表 order by 排序字段列表 limit 分页参数 多表设计 一对多 多对多 一对一 多表查询 事物 索引 查询数据库表中数据 关键字&#xff1a;SELECT 中间有空格&#xff0c;加引…

day4 驱动开发

【ioctl函数的使用】 1.概述 linux有意将对设备的功能选择和设置以及硬件数据的读写分成不同的函数来实现。让read/write函数专注于数据的读写&#xff0c;而硬件功能的设备和选择通过ioctl函数来选择 2.ioctl函数分析 int ioctl(int fd,unsigned long request) 通过&…

[Linux]进程状态

[Linux]进程状态 文章目录 [Linux]进程状态进程状态的概念阻塞状态挂起状态Linux下的进程状态孤儿进程 进程状态的概念 了解进程状态前&#xff0c;首先要知道一个正在运行的进程不是无时无刻都在CPU上进行运算的&#xff0c;而是在操作系统的管理下&#xff0c;和其他正在运行…

开启元宇宙农场的绝世盛宴——Fram world

近年科技突飞猛进&#xff0c;元宇宙横扫游戏与金融领域&#xff0c;其中震惊全球的Fram world&#xff0c;不仅为玩家带来崭新娱乐&#xff0c;更在游戏与经济的融合中掀起惊人革命&#xff01;凭借Cardano基金会的强大支持&#xff0c;与英国英利区块链研究所的密切合作&…

无公网IP内网穿透使用vscode配置SSH远程ubuntu随时随地开发写代码

文章目录 前言1、安装OpenSSH2、vscode配置ssh3. 局域网测试连接远程服务器4. 公网远程连接4.1 ubuntu安装cpolar内网穿透4.2 创建隧道映射4.3 测试公网远程连接 5. 配置固定TCP端口地址5.1 保留一个固定TCP端口地址5.2 配置固定TCP端口地址5.3 测试固定公网地址远程 前言 远程…

网络安全等级保护2.0

等保介绍 信息系统运维安全管理规定&#xff08;范文&#xff09;| 资料 等保测评是为了符合国家法律发挥的需求&#xff0c;而不是安全认证&#xff08;ISO&#xff09; 一般情况没有高危安全风险一般可以通过&#xff0c;但若发现高位安全风险则一票否决 二级两年一次 三…

SpringSession

Spring Session 是 Spring 的项目之一。Spring Session 提供了一套创建和管理 Servlet HttpSession 的方案&#xff0c;默认采用外置的 Redis 来存储 Session 数据&#xff0c;以此来解决 Session 共享的 问题。(springsession储存session数据的方式有很多&#xff0c;我们常…

ARM开发,stm32mp157a-A7核SPI总线实验(实现数码管的显示)

1.目标&#xff1a; a.数码管显示相同的值 0000 1111 ......9999&#xff1b; b.数码管显示不同的值 1234&#xff1b; 2.分析m74hc595芯片内部框图&#xff1b; 真值表&#xff1a; 3.代码&#xff1b; ---spi.h头文件--- #ifndef __SPI_H__ #define __SPI_H__#include &quo…

守护进程(精灵进程)

目录 前言 1.如何理解前台进程和后台进程 2.守护进程的概念 3.为什么会存在守护进程 4.如何实现守护进程 5.测试 总结 前言 今天我们要介绍的是关于守护进程如何实现&#xff0c;可能有小伙伴第一次听到守护进程这个概念&#xff0c;感觉很懵&#xff0c;知道进程的概念&…

RK3568评估板外接屏幕修改竖屏为横屏显示

问题 使用RK3568评估板外接HDMI屏幕时竖屏显示内容&#xff0c;需要修改为横屏显示。 解决办法 修改weston.ini配置文件&#xff0c;配置output输出参数 查看显示屏名称 使用ls /sys/class/drm/ 命令查看显示屏名称&#xff0c;如下图所示&#xff0c;示例屏为HDMI屏&#xff0…

装备制造企业如何执行精益管理?

导 读 ( 文/ 2358 ) 精益管理是一种以提高效率、降低成本和优化流程为目标的管理方法。装备制造行业具备人工参与度高&#xff0c;产成品价值高&#xff0c;质量要求高的特点。 在装备制造企业中实施精益管理可以帮助企业提高竞争力、提升生产效率并提供高质量的产品。本文将…

java+springboot+mysql农业园区管理系统

项目介绍&#xff1a; 使用javaspringbootmysql开发的农业园区管理系统&#xff0c;系统包含超级管理员、管理员、用户角色&#xff0c;功能如下&#xff1a; 超级管理员&#xff1a;管理员管理&#xff1b;用户管理&#xff1b;土地管理&#xff08;租赁&#xff09;&#x…

Window Server 与 Windows 系统开关机日志查看方法

目录 Windows/Windows Server 查看日志Windows 系统常用的事件 ID 环境&#xff1a;Windows Server 2019 &#xff08;也适用于 Windows 其他系统&#xff09;。 不同版本的 Windows 图标可能有所不同&#xff0c;但是服务器级 Windows Server 与普通桌面级 Windows 还会有些操…

企业微信电脑端开启chrome调试

首先&#xff1a; Mac端调试开启的快捷键&#xff1a;control shift command d Window端调试开启的快捷键: control shift alt d 这边以Mac为例&#xff0c;我们可以在电脑顶部看到调试的入口&#xff1a; 然后我们点击 『浏览器、webView相关』菜单&#xff0c;勾选上…

ARM开发,stm32mp157a-A7核IIC实验(采集温湿度传感器值)

1.实验目标&#xff1a;采集温湿度传感器值&#xff1b; 2.分析框图&#xff08;模拟IIC控制器&#xff09;&#xff1b; 3.代码&#xff1b; ---iic.h封装时序协议头文件--- #ifndef __IIC_H__ #define __IIC_H__ #include "stm32mp1xx_gpio.h" #include "st…

【IMX6ULL驱动开发学习】09.Linux之I2C框架简介和驱动程序模板

参考&#xff1a;Linux之I2C驱动_linux i2c驱动_风间琉璃•的博客-CSDN博客​​​​​​ 目录 一、I2C驱动框架简介 1.1 I2C总线驱动 1.2 I2C设备驱动 二、I2C总线-设备-驱动模型 2.1 i2c_driver 2.2 i2c_client 2.3 I2C 设备数据收发和处理 三、Linux I2C驱动程序模板…

QuantLib学习笔记——利用quantlib绘制零息利率(zero rate)期限结构曲线

⭐️ 引言 利率&#xff0c;这个看似简单的概念&#xff0c;在金融领域有很多内涵。以这个词为基础&#xff0c;扩展出类似零息利率&#xff08;即期利率&#xff09;、远期利率等概念。本文就零息利率展开讨论&#xff0c;并绘制零息利率期限结构曲线。 ⭐️ 一些金融概念 …

前端进阶Html+css10----定位的参照对象(高频面试题)

1.relative的参照对象 1&#xff09;元素按照标准流进行排布&#xff1b; 2&#xff09;定位参照对象是元素自己原来的位置&#xff0c;可以通过left、right、top、bottom来进行位置调整&#xff1b; 2.absolute&#xff08;子绝父相&#xff09; 1&#xff09;元素脱离标准流…