【Redis】缓存+分布式锁

目录

缓存

Redis最主要的使用场景就是作为缓存

缓存的更新策略:

1.定期生成

2.实时生成

面试重点:

缓存预热(Cache preheating):

缓存穿透(Cache penetration)

缓存雪崩 (Cache avalanche)

缓存击穿 (Cache breakdown)

分布式锁 

分布式锁的基本实现:

引入过期时间:

引入校验Id:

引入lua脚本:

引入watch dog(看门狗)

引入Redlock算法:


缓存

核心思路就是把⼀些常见的数据放到触手可及(访问速度更快)的地方, 方便随时读取.

访问速度特别的快,但由于存储空间是有限的,所有我们只能存储“热点数据”(频繁访问的数据)在Redis中
俗称“二八定律”:20%的热点数据,可以应对80%的应用场景,从而整体上的性能得到提升


Redis最主要的使用场景就是作为缓存

对应MySQL这种访问硬盘的数据库,Redis是内存数据库,Redis用做为MySQL的缓存

为什么MySQL性能不高?

1.首先数据存储在硬盘上,硬盘IO需要花费大量时间,尤其是随机访问;

2.如果查询中不能命中索引,那么将需要表的遍历,大大增加硬盘IO的次数

3.对应执行SQL需要一系列的解析,校验等等工作

4.如果是一些复杂查询,例如联合查询,笛卡尔积之类的操作效率会很低...............

如果数据库并发量特别高,那么它将会可能出现宕机(出现故障,罢工了,不做了)的情况

如何解决?

1.开源:增加多个设备,部署更多的数据库机器,构成数据库集群

2.节流:引入缓存,访问的时候尽量访问缓存内的数据,从而降低直接访问数据库的请求数量

实际开发中,往往是俩种方法结合起来使用

Redis为什么可以作为MySQL的缓存:

Redis访问速度比MySQL快很多,并且处理一个访问请求,Redis消耗的资源比MySQL少很多,因此Redis支持更大的并发量:

1.Redis数据在内存,并且访问速度比硬盘快很多

2.Redis只支持简单的KEY-VALUE 存储,不涉及很多复杂查询方法手段

业务服务器先查询 Redis, 看想要的数据是否在 Redis 中存在.

  • 如果已经在 Redis 中存在了, 就直接返回. 此时不必访问 MySQL 了.
  • 如果在 Redis 中不存在, 再查询 MySQL.


缓存的更新策略:

一个重要问题:那么多数据,哪些数据才是我们需要的热点数据呢?

1.定期生成

会将所有访问的数据,以日志的形式给记录下来,最后挑选出频率前%N的数据作为“热点数据”;

此处的数据,可以按照每天/周/月去更新热点数据 

2.实时生成

  • 如果在Redis查找到了,那么将直接返回
  • 如果在Redis没有查找到,那么从数据库查找,查找完并且写入Redis中

那么经过这样一段时间内,缓存的数据肯定会存储满,那么Redis也引入了对应的策略--------------内存淘汰机制:

通用的淘汰机制有以下机制:

  • FIFO (First In First Out) 先进先出 
    把缓存中存在时间最久的 (也就是先来的数据) 淘汰掉.  

     
  • LRU (Least Recently Used) 淘汰最久未使⽤的 
    记录每个 key 的最近访问时间. 把最近访问时间最⽼的 key 淘汰掉.  

     
  • LFU (Least Frequently Used) 淘汰访问次数最少的 
    记录每个 key 最近⼀段时间的访问次数. 把访问次数最少的淘汰掉.  

     
  • Random 随机淘汰 
    从所有的 key 中抽取幸运⼉被随机淘汰掉.  

 在Redis中已经实现好了以上类似机制:

整体来说 Redis 提供的策略和我们上述介绍的通用策略是基本⼀致的. 只不过 Redis 这里会针对 "过期 key" 和 "全部 key" 做分别处理.

面试重点:

缓存预热(Cache preheating):

1.定期生成的数据这种情况不涉及缓存预热;

2.实时生成:
Redis服务器首次接入连接之后是没有数据的,此时所有的请求将在MySQL中(就怕此时MySQL没有抗住这么多请求挂了),那么随之时间的推移,Redis上的数据慢慢越来越多,MySQL承担的压力就会小很多;

缓存预热就是解决上述问题:
将定期生成和实时生成结合一下,先通过“离线”的方式,通过统计的途径,先找到一些热点数据(这些数据并一定精准,有就行)导入到Redis中,就能帮助MySQL承担很大的压力,随之时间的推移,热点数据会逐渐调整,来使用当前情况;


缓存穿透(Cache penetration)

在查询某个key的时候,在Redis中没有,在MySQL中也没有,那么这么key肯定不会更新到Redis中~ 
但是这个查询没有,接连着查询了多次,依然会给MySQL造成一些压力;

为什么出现这种情况?

  • 业务设计不合理. 比如缺少必要的参数校验环节, 导致非法的 key 也被进行查询了.
  • 开发/运维误操作. 不小心把部分数据从数据库上误删了.
  • 黑客恶意攻击.

解决:

  • 针对要查询的参数进行严格的合法性校验. 比如要查询的 key 是用户的手机号, 那么就需要校验当前key 是否满足一个合法的手机号的格式.
  • 针对数据库上也不存在的 key , 也存储到 Redis 中,比如 value 就随便设成一个 "". 避免后续频繁访问数据库
  • 使用布隆过滤器先判定 key 是否存在, 再真正查询.

缓存雪崩 (Cache avalanche)

在短时间内,Redis上大规模的key失效,导致缓存命中率陡然下降,让MySQL的压力迅游变大,导致宕机~

为何产生?

1.Redis挂了

2.Redis没有挂,但是可能之前给很多key设置的过期时间相同,一下子全过期自动删除了

解决:

  • 部署高可用的 Redis 集群, 并且完善监控报警体系.
  • 不给 key 设置过期时间 或者 设置过期时间的时候添加随机时间因子.

缓存击穿 (Cache breakdown)

相当于缓存雪崩的特殊情况,针对Redis热点key全部过期了,导致大量的请求直接访问到MySQ中,引起数据库宕机

  • 基于统计的方式发现热点 key, 并设置永不过期.
  • 进行必要的服务降级. 例如访问数据库的时候使用分布式锁, 限制同时请求数据库的并发数.

分布式锁 

在一个分布式系统当中,会涉及到多个节点访问同一个公共资源的情况下,此时就需要通过“锁”来进行互斥,避免出现“线程安全”的问题;

像Java中的synchronized 这种锁只能在当前进程中生效,在分布式这种多个进程多个主机的场景下就不能使用了‘;

分布式锁的基本实现:

实现思路:通过设置一个键值对来标识锁的状态

举例买票的例子:

此时客户端1查询001车 还有1张车票 在即将执行1->0 过程前

客户端2也执行查询余票 发现还有一张,那么客户端2也执行1->0

那么这出现“超卖” 的情况,俩个人都买到票


加锁:

此时, 如果 买票服务器1 尝试买票, 就需要先访问 Redis, 在 Redis 上设置⼀个键值对. 比如 key 就是车次, value 随便设置个值 (比如 1).

        如果发现操作成功,那么就可以视为当前没有节点对001车次加锁,那么就可以进行数据库的读写,操作完成之后,就可以吧这个key删除(相当于解锁)

        如果服务器1在操作数据库时候,服务器2也想买票,那么它在给Redis新增key的时候,就会发现此时车次的key已经存在,就可以认为其他服务器此时正在持有锁,那么服务器2就可以等待或者放弃~

Redis中的setnx刚刚好就行对应此场景:当key不存在才可以创建成功,如果存在那么将失败 ~

此时如果某个服务器加锁成功,但意外发生了,服务器崩溃了没有执行解锁操作(删除操作),那么就导致其他服务器没有获取到锁;

引入过期时间:

可以设置key的过期时间,让这个锁持有多久,如果超过一定时间,那么将自动释放;

使用set ex nx 命令,在设置锁的同时加入过期时间;

注意这是一条命令

不能写成 setnx

                expire

此时是俩条命令,就有可能造成原子性,仍然会出现无法正确释放锁的问题


所谓的加锁就是在Redis上执行setnx生成一个key
解锁就是删除这个key

那么有没有可能会出现服务器1执行了加锁操作,而服务器2执行了解锁?
那么是有可能的

引入校验Id:

需要引入一点校验机制:

1.给服务器编号,每个服务器有一个自己的身份标识

2.进行加锁的时候,设置key-value 对应要针对的哪个资源加锁(比如车次),value存储刚才服务器的编号 例如“001:1” ->“001:服务器1”

这样就可以在删除key的时候,校验当前的key是否是当初加锁的服务器,避免删除错误~


在解锁的时候:
1.先查询判断是否删除 2. 才进行删除

此时这个是俩步操作,并不是原子的,就有可能出现问题

引入lua脚本:

很多程序里面都支持内嵌脚本语音.Redis支持Lua语音作为内嵌脚本~

if redis.call('get',KEYS[1]) == ARGV[1] then
return redis.call('del',KEYS[1])
else
1 2 3return 0
end;

过期时间续约问题可能存在,

在给key加锁的时候,设置它的过期时间,那么设置多久呢才是比较合适?

  • 设置时间短,那么可能在业务逻辑还没执行完,就释放锁了
  • 设置时间长,就可以导致锁释放不及时的可能

更好的是能够去进行“动态续约”

引入watch dog(看门狗)

本质上就是在加锁的服务器上的一个单独的线程,通过这个线程来对锁过期时间进行一个“续约”

❤ 举个具体的例子:

初始情况下设置过期时间为 10s. 同时设定看门狗线程每隔 3s 检测⼀次.

那么当 3s 时间到的时候, 看门狗就会判定当前任务是否完成.
  • 如果任务已经完成, 则直接通过 lua 脚本的方式, 释放锁(删除 key).
  • 如果任务未完成, 则把过期时间重写设置为 10s. (即 "续约")


使用Redis作为分布式锁,有没有可能Redis自身挂了? 

那么是很有可能的!!!

Redis一般是以集群(至少也是主从的形式,而不是单机)的方式去部署的

服务器1向它的master节点就行加锁操作,这个数据刚写入主节点,主节点挂了,从节点就会新的主节点

由于主节点和从节点之间的数据是同步的,但是有延迟

那么刚才写入的key还没有被新的主节点接收,此时相当于服务器1就没有成功进行加上锁

但是服务器2仍然可以进行去加上锁,

引入Redlock算法:

 由于主节点和主节点之间数据都是一致的,相互是备份的关系

在进行加锁的时候,会按照一定的顺序,针对这组Redis都进行加锁

如果某个节点加不上锁,并没有关系,可能是Redis挂了,继续给下一个节点加锁即可

如果此时key加锁成功的节点个数占总的一半,那么可视为加锁成功

同时解锁的时候,会把上述的节点都需要解锁~

简而言之, Redlock 算法的核心就是, 加锁操作不能只写给⼀个 Redis 节点, 而要写个多个!! 分布式系统中任何⼀个节点都是不可靠的. 最终的加锁成功结论是 "少数服从多数的".

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/960544.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

开源物业管理系统赋能社区管理提升居民服务体验与满意度

内容概要 在现代物业管理中,开源物业管理系统的出现为社区管理带来了新的契机。这种系统的核心思想是通过开放、共享的方式,为各类物业管理需求提供灵活的解决方案。从基本的信息传递到复杂的投诉处理,开源物业管理系统能够根据不同社区的实…

动态规划DP 数字三角型模型 数字三角形

数字三角形 原题链接 AcWing 898.数字三角形 题目描述 给定一个如下图所示的数字三角形,从顶部出发,在每一结点可以选择移动至其左下方的结点或移动至其右下方的结点,一直走到底层,要求找出一条路径,使路径上的数字…

全连接神经网络(前馈神经网络)

一、全连接神经网络介绍 在多层神经网络中, 第 N 层的每个神经元都分别与第 N-1 层的神经元相互连接。 1、神经元 这个神经元接收的输入信号为向量 , 向量为输入向量的组合权重, 为偏置项, 是一个标量。 神经元的作用是对输入向…

Linux:多线程[2] 线程控制

了解: Linux底层提供创建轻量级进程/进程的接口clone,通过选择是否共享资源创建。 vfork和fork都调用的clone进行实现,vfork和父进程共享地址空间-轻量级进程。 库函数pthread_create调用的也是底层的clone。 POSIX线程库 与线程有关的函数构…

DeepSeek崛起:中国AI新星如何撼动全球资本市场格局

引言 近期,中国人工智能实验室DeepSeek发布的两款开源模型——DeepSeek V3和DeepSeek R1——以其优异的性能和低廉的成本迅速爆火,引发了全球资本市场的震动,尤其对美国资本市场产生了显著影响。DeepSeek R1更是能够在数学、代码和推理任务上…

【物联网】ARM核常用指令(详解):数据传送、计算、位运算、比较、跳转、内存访问、CPSR/SPSR、流水线及伪指令

文章目录 指令格式(重点)1. 立即数2. 寄存器位移 一、数据传送指令1. MOV指令2. MVN指令3. LDR指令 二、数据计算指令1. ADD指令1. SUB指令1. MUL指令 三、位运算指令1. AND指令2. ORR指令3. EOR指令4. BIC指令 四、比较指令五、跳转指令1. B/BL指令2. l…

图像处理算法研究的程序框架

目录 1 程序框架简介 2 C#图像读取、显示、保存模块 3 C动态库图像算法模块 4 C#调用C动态库 5 演示Demo 5.1 开发环境 5.2 功能介绍 5.3 下载地址 参考 1 程序框架简介 一个图像处理算法研究的常用程序逻辑框架,如下图所示 在该框架中,将图像处…

病理AI领域基础模型及多实例学习方法的性能评估|顶刊精析·25-01-27

小罗碎碎念 这篇论文聚焦于组织学全切片图像分析,旨在探究多实例学习(MIL)与基础模型(FMs)结合的效果。 由于全切片图像(WSI)分析面临标注有限和模型直接处理困难等问题,MIL成为常用…

Tensor 基本操作2 理解 tensor.max 操作,沿着给定的 dim 是什么意思 | PyTorch 深度学习实战

前一篇文章,Tensor 基本操作1 | PyTorch 深度学习实战 本系列文章 GitHub Repo: https://github.com/hailiang-wang/pytorch-get-started 目录 Tensor 基本操作torch.max默认指定维度 Tensor 基本操作 torch.max torch.max 实现降维运算,基于指定的 d…

以太网详解(六)OSI 七层模型

文章目录 OSI : Open System Interconnect(Reference Model)第七层:应用层(Application)第六层:表示层(Presentation)第五层:会话层(Session)第四…

Spring MVC异常处理机制

文章目录 1. 异常处理的思路2. 异常处理两种方式3. 简单异常处理器SimpleMappingExceptionResolver 1. 异常处理的思路 系统中异常包括两类:预期异常和运行时异常RuntimeException,前者通过捕获异常从而获取异常信息,后者主要通过规范代码开发…

本地大模型编程实战(03)语义检索(2)

文章目录 准备按批次嵌入加载csv文件,分割文档并嵌入测试嵌入效果总结代码 上一篇文章: 本地大模型编程实战(02)语义检索(1) 详细介绍了如何使用 langchain 实现语义检索,为了演示方便,使用的是 langchain 提供的内存数据库。 在实…

[Dialog屏幕开发] 设置方式对话框

阅读该篇文章之前,可先阅读下述资料 [Dialog屏幕开发] 设置搜索帮助https://blog.csdn.net/Hudas/article/details/145381433?spm1001.2014.3001.5501https://blog.csdn.net/Hudas/article/details/145381433?spm1001.2014.3001.5501上篇文章我们的屏幕已实现了如…

【JavaEE进阶】Spring留言板实现

目录 🎍预期结果 🍀前端代码 🎄约定前后端交互接口 🚩需求分析 🚩接口定义 🌳实现服务器端代码 🚩lombok介绍 🚩代码实现 🌴运行测试 🎄前端代码实…

1.23学习

misc buuctf-小明的保险箱 打开附件是一个在线图片首先将其另存为,然后仅仅只是一个图片,而无其他信息,那么我们再进行binwalk或者foremost文件分离,得到了一个文件夹,其中含有一个压缩包但是是一个加密的&#xff0…

【Python】第五弹---深入理解函数:从基础到进阶的全面解析

✨个人主页: 熬夜学编程的小林 💗系列专栏: 【C语言详解】 【数据结构详解】【C详解】【Linux系统编程】【MySQL】【Python】 目录 1、函数 1.1、函数是什么 1.2、语法格式 1.3、函数参数 1.4、函数返回值 1.5、变量作用域 1.6、函数…

【数据结构】(1)集合类的认识

一、什么是数据结构 1、数据结构的定义 数据结构就是存储、组织数据的方式,即相互之间存在一种或多种关系的数据元素的集合。 2、学习数据结构的目的 在实际开发中,我们需要使用大量的数据。为了高效地管理这些数据,实现增删改查等操作&…

大数据Hadoop入门2

第三部分(Hadoop MapReduce和Hadoop YARN) 1.课程内容-大纲-学习目标 2.理解先分再合、分而治之的思想 3.hadoop团队针对MapReduce的设计构思 map这里不能翻译成地图,翻译为mapping比较好一点 4.Hadoop MapReduce介绍、阶级划分和进程组成 5…

什么是BFF?他有什么用?

BFF(Backend for Frontend) 是一种架构模式,专门为前端应用提供定制化的后端服务。它的核心思想是为不同的前端客户端(如 Web、移动端、桌面端等)提供专门的后端服务,而不是让所有客户端共享同一个通用的后…

【深度之眼cs231n第七期】笔记(三十一)

目录 强化学习什么是强化学习?马尔可夫决策过程(MDP)Q-learning策略梯度SOTA深度强化学习 还剩一点小尾巴,还是把它写完吧。(距离我写下前面那行字又过了好几个月了【咸鱼本鱼】)(汗颜&#xff…