Redis缓存淘汰策略
1、各种面试题
- 生产上你们的redis内存设置多少?
- 如何配置、修改redis的内存大小
- 如果内存满了你怎么办?
- redis清理内存的方式?定期删除和惰性删除了解过吗?
- redis缓存淘汰策略有哪些?分别是什么?你用哪个?
- redis的LRU了解过吗?请手写LRU。
- lru和lfu算法的区别是什么?
2、Redis内存
Redis内存满了怎么办?redis默认内存多少?在哪里查看?如何设置修改?
查看Redis最大占用内存
在redis配置文件中,MEMORY MANAGEMENT选项
如果不设置最大内存大小或者设置最大内存大小为0,在64位操作系统下不限制内存大小,在32位操作系统下最多使用3GB内存。
注意,在64bit系统下,maxmemory设置为0表示不限制 Redis内存使用
一般推荐Redis设置内存为最大物理内存的四分之三
怎么修改内存大小?
-
修改配置文件然后重启即可。
举例:配个100M
-
可以直接通过命令修改config set maxmemory 104857600当然这个一重启就没有了只是暂时的。
查看redis内存使用情况
- info memory
- config get maxmeory
真要打满了会怎么样? 如果Redis内存使用超出了设置的最大值会怎样?
我们把内存设置成1字节
报OOM的错误。
所以,有一个场景,没有加上过期时间就会导致数据写满maxmemory,为了避免类似情况,我们需要内存淘汰策略。
往redis里写的数据是怎么没了的?它如何删除的?
-
redis过期键的删除策略
如果一个键是过期的,那它到了过期时间之后是不是马上就从内存中被被删除呢?
并不是的
-
三种不同的删除策略
-
立即删除。–对CPU不友好,用处理器性能换取存储空间(拿时间换空间)
Redis不可能时时刻刻都遍历所有被设置了生存时间的key,来检查数据是否到了过期时间,然后删除它,立即删除能保证内存中数据的最大新鲜度,因为它保证过期建值会在过期后马上删除,它所占的内存也会得到释放。但是立即删除是对CPU一个不小的压力,删除操作会占用CPU时间,如果此时的CPU正非常的忙,比如它正在做交集或者排序计算时,就会给CPU造成额外的压力,这样会产生大量的性能消耗,同时也会影响数据的读取操作。
-
惰性删除。–对memory不友好,用存储空间换取处理器性能(拿空间换时间)
数据到达过期时间,不做处理,等到下次访问该数据时,如果未过期,返回数据,如果已经过期,就删除,返回不存在。
惰性删除的缺点就是太占内存。
如果一个键已经过期,而这个键又仍然保留在redis中,那么只要这个过期键不被删除,它所占用的内存就不会释放。
在使用惰性删除策略时,如果数据库中有非常多的过期键,而这些过期键又恰好没有被访问到的话,那么它们也许永远也不会被删除(除非用户手动执行FLUSHDB),我们甚至可以将这种情况看作是一种内存泄漏-无用的垃圾数据占用了大量的内存,而服务器却不会自己去释放它们,这对于运行状态非常依赖于内存的Redis服务器来说,肯定不是一个好消息。开启惰性淘汰,lazyfree-lazy-eviction=yes
-
上面俩方案都极端,折中一下---->定期删除
定期删除策略是前两种方案的折中
定期删除策略每隔一段时间执行一次删除过期键操作并通过限制删除操作执行时长和频率来减少删除操作对CPU时间的影响。
周期性轮询redis库中的时效性数据,采用随机抽取的策略,利用过期数据占比的方式控制删除频度
特点1:CPU性能占用设置有峰值,检测频度可自定义设置
特点2:内存压力不是很大,长期占用内存的冷数据会被持续清理总结:周期性抽查存储空间(随机抽查,重点抽查)redis默认每隔100ms检查是否有过期的key,有过期key则删除。注意: redis不是每隔100ms将所有的key检查一次而是随机抽取进行检查(如果每隔100ms,全部key进行检查,redis直接进去ICU)。因此,如果只采用定期删除策略,会导致很多key到时间没有删除。
定期删除策略的难点是确定删除操作执行的时长和频率:如果删除操作执行得太频繁或者执行的时间太长,定期删除策略就会退化成立即删除策略,以至于将CPU时间过多地消耗在删除过期键上面。如果删除操作执行得太少,或者执行的时间太短,定期删除策略又会和惰性删除束略一样,出现浪费内存的情况。因此,如果采用定期删除策略的话,服务器必须根据情况,合理地设置删除操作的执行时长和执行频率。
-
-
总会有漏网之鱼的,定期删除时,从来没有被抽查到,惰性删除时,也从来没有被点中使用过,然后就会导致大量的key堆积在内存中,导致redis内存空间紧张或者很快耗尽,所以得有缓存淘汰策略。
3、Redis缓存淘汰策略
先看配置文件中的配置在哪
3.1、lru和lfu算法的区别
此时计算机操作系统学的东西要想起来了!!!
LRU
最近最少使用页面置换算法,淘汰最长时间未使用的页面,看页面最后一次被使用到发生调度的时间长短,时间长的就被淘汰了。
LFU
最近最不常用页面置换算法,淘汰一定时期内被访问次数最少的页,看一定时间段内页面被使用的频率,淘汰一定时期内被访问次数最少的页。
举例:
某次时期Time为10分钟,如果每分钟进行一次调页,主存块为3,若所需页面走向为2121234假设到页面4时会发生缺页中断
若按LRU算法,应换页面1(1页面最久未被使用),但按LFU算法应换页面3(十分钟内,页面3只使用了一次)
可见LRU关键是看页面最后一次被使用到发生调度的时间长短,而LFU关键是看一定时间段内页面被使用的频率!
看一下操作系统的书
3.2、有哪些缓存淘汰策略?
一共8种
- noeviction:不会驱逐任何key,表示即使内存达到上限也不进行置换,所有能引起内存增加的命令都会返回erro。(默认的就是这个策略)
- alkeys-lru:对所有key使用LRU算法进行删除,优先删除掉最近最不经常使用的key,用以保存新数据。
- volatile-Iru:对所有设置了过期时间的key使用LRU算法进行删除。
- allkeys-random:对所有key随机删除。
- volatile-random:对所有设置了过期时间的key随机删除。
- volatile-ttl:删除马上要过期的key。
- allkeys-Ifu:对所有key使用LFU算法进行删除。
- volatile-lfu:对所有设置了过期时间的key使用LFU算法进行删除。
3.3、上面的小结
两个维度四个方面,2*4=8
两个维度:
- 过期键中筛选
- 所有键中筛选
四个方面
- LRU
- LFU
- random
- ttl
3.4、平时使用哪一种?
- 在所有的key都是最近最经常使用,那么就需要选择allkeys-lru进行置换最近最不经常使用的key,如果你不确定使用哪种策略,那么推荐使用allkeys-Iru(推荐)
- 如果所有的 key的访问概率都是差不多的,那么可以选用allkeys-random策略去置换数据
- 如果对数据有足够的了解,能够为key 指定hint(命中,通过expire/ttl指定),那么可以选择volatile-ttl进行置换
redis缓存淘汰策略配置性能建议
- 避免存储bigkey
- 开启惰性淘汰,lazyfree-lazy-eviction=yes