十分钟带你搞懂Redis持久化机制(redis持久化机制和如何实现持久化)
yund56 2025-05-03 16:59 14 浏览
1.全面解析Redis-RDB与AOF持久化机制
Redis之所以能够提供高速读写操作是因为数据存储在内存中,但这也带来了一个风险,即在服务器宕机或断电的情况下,内存中的数据会丢失。为了解决这个问题,Redis提供了持久化机制来确保数据的持久性和可靠性。
Redis持久化机制:
ⅰ.RDB(Redis Data Base) :内存快照
ⅱ.AOF(Append Only File): 增量日志
混合持久化:RDB + AOF
RDB持久化
在指定的时间间隔内将内存中的数据集快照写入磁盘,RDB是内存快照(内存数据的二进制序列化形式)的方式持久化,每次都是从Redis中生成一个快照进行数据的全量备份。
RDB持久化流程:
RDB持久化方案进行备份时,Redis会单独fork一个子进程来进行持久化,会将数据写入一个临时文件中,持久化完成后替换旧的RDB文件。
在整个持久化过程中,主进程(为客户端提供服务的进程)不参与IO操作,这样能确保Redis服务的高性能,RDB持久化机制适合对数据完整性要求不高但追求高效恢复的使用场景。
RDB触发规则
手动触发
save:
阻塞当前 Redis进程,直到RDB持久化过程完成,如果内存实例比较大会造成长时间阻塞,尽量不要使用这方式
bgsave:
Redis主进程fork创建子进程,由子进程完成持久化,阻塞时间很短(微秒级)
自动触发
配置触发:
- 在Redis安装目录下的redis.conf配置文件中搜索 /snapshot即可快速定位,配置文件默认注释了下面三行数据,通过配置规则来触发RDB的持久化,需要开启或者根据自己的需求按照规则来配置。
save 3600 1 -- 3600 秒内有1个key被修改,触发RDB
save 300 100 -- 300 秒内有100个key被修改,触发RDB
save 60 10000 -- 60 秒内有10000个key被修改,触发RDB
shutdown触发:
- shutdown触发Redis的RDB持久化机制非常简单,我们在客户端执行shutdown即可。
flushall触发:
- flushall清空Redis所有数据库的数据(16个库数据都会被删除)(等同于删库跑路)
优点:
- 性能高:RDB持久化是通过生成一个快照文件来保存数据,因此在恢复数据时速度非常快。
- 文件紧凑:RDB文件是二进制格式的数据库文件,相对于AOF文件来说,文件体积较小。
缺点:
- 可能丢失数据:由于RDB是定期生成的快照文件,如果Redis意外宕机,最近一次的修改可能会丢失。
TIPS
Redis持久化默认开启为RDB持久化
AOF持久化
AOF持久化需要手动修改conf配置开启。
AOF持久化流程:
AOF持久化方案进行备份时,客户端所有请求的写命令都会被追加到AOF缓冲区中,缓冲区中的数据会根据Redis配置文件中配置的同步策略来同步到磁盘上的AOF文件中,同时当AOF的文件达到重写策略配置的阈值时,Redis会对AOF日志文件进行重写,给AOF日志文件瘦身。Redis服务重启的时候,通过加载AOF日志文件来恢复数据。
AOF配置:
AOF默认不开启,默认为appendonly no,开启则需要修改为appendonly yes
关闭AOF+RDB混合模式,设为no:
AOF同步策略:
appendfsync always:
- 每次Redis写操作,都写入AOF日志,非常耗性能的。
appendfsync everysec
- 每秒刷新一次缓冲区中的数据到AOF文件,这个Redis配置文件中默认的策略,兼容了性能和数据完整性的折中方案,这种配置,理论上丢失的数据在一秒钟左右
appendfsync no
- Redis进程不会主动的去刷新缓冲区中的数据到AOF文件中,而是直接交给操作系统去判断,这种操作也是不推荐的,丢失数据的可能性非常大。
AOF修复功能:
redis 7版本,AOF文件存储在appendonlydir文件下,base是基准文件,incr是追加数据。
先存入三条数据,然后破坏incr结尾的文件内容,末尾加上baili
重新启动报错:
使用redis-check-aof --fix
appendonlydir/appendonly.aof.1.incr.aof 对AOF日志文件进行修复
观察数据可以知道,丢失了cc-key值。这种丢失是被允许的。
AOF重写
重写其实是针对AOF存储的重复性冗余指令进行整理,比如有些key反复修改,又或者key反复修改后最终被删除,这些过程中的指令都是冗余且不需要存储的。
自动重写:
当AOF日志文件达到阈值时会触发自动重写。
重写阈值配置:
- auto-aof-rewrite-percentage 100:当AOF文件体积达到上次重写之后的体积的100%时,会触发AOF重写。
- auto-aof-rewrite-min-size 64mb:当AOF文件体积超过这个阈值时,会触发AOF重写。
当AOF文件的体积达到或超过上次重写之后的比例,并且超过了最小体积阈值时,Redis会自动触发AOF重写操作,生成一个新的AOF文件。
手动重写:bgrewriteaof
正常启动后存在三个文件:
通过set命令存储三条数据,最后在修改aa数据,然后手动重写:
观察结果可以得知key值aa历史轨迹已经被删除
优点:
- 数据更加可靠:AOF持久化记录了每个写命令的操作,因此在出现故障时,可以通过重新执行AOF文件来保证数据的完整性。
- 可以保留写命令历史:AOF文件是一个追加日志文件,可以用于回放过去的写操作。
缺点:
- 文件较大:由于记录了每个写命令,AOF文件体积通常比RDB文件要大。
- 恢复速度较慢:当AOF文件较大时,Redis重启时需要重新执行整个AOF文件,恢复速度相对较慢。
混合持久化
Redis4.0版本开始支持混合持久化,因为RDB虽然加载快但是存在数据丢失,AOF数据安全但是加载缓慢。
混合持久化通过aof-use-rdb-preamble yes开启,Redis 4.0以上版本默认开启
开启混合持久化之后:appendonlydir文件下存在一个rdb文件与一个aof文件
存入数据,然后执行bgrewriteaof重写文件。
总结
- 推荐两者均开启
- 如果对数据不敏感,可以选单独用RDB
- 不建议单独用AOF,因为可能会出现Bug
- 如果只是做纯内存缓存,可以都不用
2.Redis缓存击穿、缓存雪崩、缓存穿透
缓存击穿、缓存雪崩和缓存穿透是我们在日常开发与手撕面试官过程中必须battle的常见问题,下面我会解释它们的含义与解决方案。
1.缓存击穿(Cache Miss)
什么是缓存击穿?
缓存击穿是指在高并发访问下,一个热点数据失效时,大量请求会直接绕过缓存,直接查询数据库,导致数据库压力剧增。
通常情况下,缓存是为了减轻数据库的负载,提高读取性能而设置的。当某个特定的缓存键(key)失效后,在下一次请求该缓存时,由于缓存中没有对应的数据,因此会去数据库中查询,这就是缓存击穿。
解决方案:
- 合理的过期时间:设置热点数据永不过期,或者设置较长的过期时间,以免频繁失效。
- 使用互斥锁:保证同一时间只有一个线程来查询数据库,其他线程等待查询结果。
2.缓存雪崩(Cache Avalanche)
什么是缓存雪崩?
缓存雪崩是指在大规模缓存失效或者缓存宕机的情况下,大量请求同时涌入数据库,导致数据库负载过大甚至崩溃的情况。
正常情况下,缓存中的数据会根据过期时间进行更新,当大量数据同时失效时,下一次请求就会直接访问数据库,给数据库带来巨大压力。
解决方案:
- 合理的过期时间:为缓存的过期时间引入随机值,分散缓存过期时间,避免大规模同时失效。或者是粗暴的设置热点数据永不过期
- 多级缓存:使用多级缓存架构,如本地缓存 + 分布式缓存,提高系统的容错能力。
- 使用互斥锁:保证同一时间只有一个线程来查询数据库,其他线程等待查询结果。
- 高可用架构:使用Redis主从复制或者集群来增加缓存的可用性,避免单点故障导致整个系统无法使用。
3.缓存穿透(Cache Penetration)
什么是缓存穿透?
缓存穿透是指恶意请求查询一个不存在于缓存和数据库中的数据,导致每次请求都直接访问数据库,从而增加数据库的负载。
攻击者可以通过故意构造不存在的 Key 来进行缓存穿透攻击。
解决方案:
- 缓存空对象:对于查询结果为空的情况,也将其缓存起来,但使用较短的过期时间,防止攻击者利用同样的 key 进行频繁攻击。
- 参数校验:在接收到请求之前进行参数校验,判断请求参数是否合法。
- 布隆过滤器:判断请求的参数是否存在于缓存或数据库中。
3.什么是Redis哨兵机制
为什么需要哨兵机制?
Redis的主从复制主要用于实现数据的冗余备份和读分担,并不是为了提供高可用性。因此在系统高可用方面,单纯的主从架构无法很好的保证整个系统高可用。比如说:
- 需要人工介入:需要人工介入进行主节点切换。当主节点发生故障时,主从复制无法自动进行主节点的切换。需要管理员手动干预,修改配置将一个从节点提升为新的主节点。这增加了人工操作的复杂性和潜在的延迟。
- 主节点写能力有限:主节点的写能力受限于单个节点。在主从复制中,所有写操作都必须发送给主节点处理,然后再同步到从节点。这导致主节点成为写入瓶颈,其写能力受限于单个节点的硬件和性能。如果负载过大,主节点的响应时间可能会增加,影响整体性能。
- 单机节点存储能力有限:存储能力受限于主节点的容量。在主从复制中,所有数据都存储在主节点上,从节点仅用于提供读服务。这限制了整个系统的存储能力,因为主节点的存储容量有限。如果数据量增长过快或存储需求增加,主节点的存储容量可能会成为瓶颈。
因此通常是使用Redis哨兵机制或Redis集群模式来提高整个系统的可用性、扩展性和负载均衡能力。
哨兵机制(sentinel)的原理
Redis哨兵机制是通过在独立的哨兵节点上运行特定的哨兵进程来实现的。这些哨兵进程监控主从节点的状态,并在发现故障时自动完成故障发现和转移,并通知应用方,实现高可用性。
以下是哨兵机制的工作原理:
a.哨兵选举:
在启动时,每个哨兵节点会执行选举过程,其中一个哨兵节点被选为领导者(leader),负责协调其他哨兵节点。
ⅰ.选举过程:
- 每个在线的哨兵节点都可以成为领导者,每个哨兵节点会向其它哨兵发is-master-down-by-addr命令,征求判断并要求将自己设置为领导者;
- 当其它哨兵收到此命令时,可以同意或者拒绝它成为领导者;
- 如果哨兵发现自己在选举的票数大于等于num(sentinels)/2+1时,将成为领导者,如果没有超过,继续选举。
b.监控主从节点:
哨兵节点通过发送命令周期性地检查主从节点的健康状态,包括主节点是否在线、从节点是否同步等。如果哨兵节点发现主节点不可用,它会触发一次故障转移。
c.故障转移:
一旦主节点被判定为不可用,哨兵节点会执行故障转移操作。它会从当前的从节点中选出一个新的主节点,并将其他从节点切换到新的主节点。这样,系统可以继续提供服务而无需人工介入。
ⅰ.故障转移过程:
- 由Sentinel节点定期监控发现主节点是否出现了故障: sentinel会向master发送心跳PING来确认master是否存活,如果master在“一定时间范围”内不回应PONG 或者是回复了一个错误消息,那么这个sentinel会主观地(单方面地)认为这个master已经不可用了。
- 确认主节点:
- 过滤掉不健康的(下线或断线),没有回复过哨兵ping响应的从节点
- 选择从节点优先级最高的
- 选择复制偏移量最大,此指复制最完整的从节点
当主节点出现故障, 由领导者负责处理主节点的故障转移。
d.客户端重定向:
哨兵节点会通知客户端新的主节点的位置,使其能够与新的主节点建立连接并发送请求。这确保了客户端可以无缝切换到新的主节点,继续进行操作。
此外,哨兵节点还负责监控从节点的状态。如果从节点出现故障,哨兵节点可以将其下线,并在从节点恢复正常后重新将其加入集群。
客观下线
当主观下线的节点是主节点时,此时该哨兵3节点会通过指令sentinel is-masterdown-by-addr寻求其它哨兵节点对主节点的判断,当超过quorum(选举)个数,此时哨兵节点则认为该主节点确实有问题,这样就客观下线了,大部分哨兵节点都同意下线操作,也就说是客观下线。
总结
redis哨兵的作用:
- 监控主数据库和从数据库是否正常运行。
- 主数据库出现故障时,可以自动将从数据库转换为主数据库,实现自动切换。
4.说一说Redis的过期策略和内存淘汰策略
Redis的过期策略
a.惰性删除(Lazy expiration)
- 当客户端尝试访问某个键时,Redis会先检查该键是否设置了过期时间,并判断是否过期。
- 如果键已过期,则Redis会立即将其删除。这就是惰性删除策略。
该策略可以最大化地节省CPU资源,却对内存非常不友好。极端情况可能出现大量的过期key没有再次被访问,从而不会被清除,占用大量内存。
b.定期删除(Active expiration)
- Redis会每隔一段时间(默认100毫秒)随机检查一部分设置了过期时间的键。
- 定期过期策略通过使用循环遍历方式,逐个检查键是否过期,并删除已过期的键值对。
通过调整定时扫描的时间间隔和每次扫描的限定耗时,可以在不同情况下使得CPU和内存资源达到最优的平衡效果
Redis中同时使用了惰性过期和定期过期两种过期策略。
- 假设Redis当前存放20万个key,并且都设置了过期时间,如果你每隔100ms就去检查这全部的key,CPU负载会特别高,最后可能会挂掉。
- 因此redis采取的是定期过期,每隔100ms就随机抽取一定数量的key来检查和删除的。
- 但是呢,最后可能会有很多已经过期的key没被删除。这时候,redis采用惰性删除。在你获取某个key的时候,redis会检查一下,这个key如果设置了过期时间并且已经过期了,此时就会删除。
需要注意如果定期删除漏掉了很多过期的key,然后也没走惰性删除。就会有很多过期key积在内存中,可能会导致内存溢出,或者是业务量太大,内存不够用然后溢出了,为了应对这个问题,Redis引入了内存淘汰策略进行优化。
Redis的内存淘汰策略
内存淘汰策略允许Redis在内存资源紧张时,根据一定的策略主动删除一些键值对,以释放内存空间并保持系统的稳定性。
a.noeviction(不淘汰策略)
当内存不足以容纳新写入数据时,Redis 将新写入的命令返回错误。这个策略确保数据的完整性,但会导致写入操作失败。
b.volatile-lru(最近最少使用)
从设置了过期时间的键中选择最少使用的键进行删除。该策略优先删除最久未被访问的键,保留最常用的键。
c.volatile-ttl(根据过期时间优先)
从设置了过期时间的键中选择剩余时间最短的键进行删除。该策略优先删除剩余时间较短的键,以尽量保留剩余时间更长的键。
d.volatile-random(随机删除)
从设置了过期时间的键中随机选择一个键进行删除。
e.allkeys-lru(全局最近最少使用)
从所有键中选择最少使用的键进行删除。无论键是否设置了过期时间,都将参与淘汰。
f.allkeys-random(全局随机删除)
从所有键中随机选择一个键进行删除。
相关推荐
- 豆包编程能力升级:支持HTML代码实时预览、交互
-
IT之家3月19日消息,IT之家从豆包官方获悉,豆包宣布AI编程功能迎来三项升级,包括HTML预览、Python运行、生成完整项目。据介绍,目前豆包支持HTML代码实时预览和交互...
- 1898款游戏!80、90回忆杀,重温旧梦,快速搭建中文DOS游戏服务
-
本内容来源于@什么值得买APP,观点仅代表作者本人|作者:羊刀仙大家好,我是羊刀仙。本期来介绍一个特别情怀向的游戏项目:chinese-dos-games。这套包含1898款经典中文DOS游戏的合集...
- 利用 SVG 文件内的 HTML 代码进行网络钓鱼攻击
-
随着时间的推移,网络钓鱼攻击的技术越来越精妙,旨在欺骗用户并规避安全措施。攻击者会使用欺骗性的URL重定向策略,例如将恶意网站地址附加到看似安全的链接后,在PDF中嵌入链接,以及发送HTML...
- aardio + AI 大模型自动编写 Python 代码、网页前端代码的经验与技巧
-
在AI时代,老式的编程习惯完全被颠覆。原来可能要一大堆插件或工具辛苦堆出来的程序,现在只要把AI调教好了就行。aardio支持调用十几种编程语言,这很适合发挥AI大模型的优势。对于AI...
- 用AI制作游戏就是如此简单!
-
很多人不知道如何利用AI提高效率,不知道AI能帮我们做什么,其实可以让我们实现很多自己根本不懂的领域取得直观体验,比如利用DS或者豆包,输入“我想做一个简单的单机俄罗斯方块游戏”,AI会给出phtho...
- 不会写代码?教你用DeepSeek 三步做出小游戏
-
如今,借助人工智能技术,哪怕你完全看不懂代码,也能通过DeepSeek制作出属于自己的网页版大鱼吃小鱼游戏。接下来,就为大家详细介绍制作过程。第一步、向DeepSeek描述需求为何要做网页版的...
- 《暗黑1》被移植成网页游戏 可在浏览器上玩了
-
《暗黑1》,这款1996年发售的“鼠标杀手”砍杀游戏,现在可以在浏览器上玩了。国外专注暴雪游戏的Rivsoft分享了一个《暗黑1》的共享版本,该版本只包含地下城的头2个地区和三个角色职业中的一个。不...
- 网页代码过滤 轻松获取专辑目录
-
通过过滤网页代码,可以将网页上显示不全的长文件名列表完整地提取出来。我有一个含有75个视频文件的《中医诊断学》课件,文件名是以01.RMVB、02.RMVB……75.RMVB这种格式命名的。我希望能找...
- IDEA 2021首个大版本发布,Java开发者感动哭了(附新亮点演示)
-
工欲善其事,必先利其器!就在不久之前,Java领域的开发神器IntelliJIDEA终于迎来2021年的一个重要的大版本更新:IntelliJIDEA2021.1。现如今大量的Java开发者深度...
- View Source:在 iOS 上轻松查看网页源代码
-
在移动互联网时代,移动端的应用和web体验都尤为重要,在PC上有很多web前端工具可以选择,而在移动端貌似就少之又少了,在NEXT出现的ViewSource能帮你在iOS上查看...
- 当我们《寻找房祖名》,我们能找到什么?
-
游戏葡萄原创专稿,未经允许请勿转载柯震东,因为在九把刀电影《那些年我们追过的女孩》中饰演男主角柯景腾而走红的台湾影星,在昨天被爆出了和著名演员成龙之子房祖名吸毒被抓的丑闻,一时间相关讨论席卷社交网络。...
- 多用途游戏娱乐新闻网站HTML5模板
-
Retnews是一个响应式的HTML新闻,博客,杂志网站模板,可以使用这套前端模板简约很多设计的工作。模板有许多特性适合流行的主题商业、时尚,游戏,娱乐,生活方式、体育、科技、政治、旅行、天气、视频等...
- 简约好看的个人引导页HTML源码下载
-
源码介绍一款非常简约好看的个人引导页HTML源码,非常适合个人主页以及个人导航使用,纯HTML不需要数据库,上传服务器即可使用!...
- 教你如何在微信公共平台上插入小游戏(图文教程)
-
很多玩微信公共平台的朋友都想在公共平台上面插入几个小游戏,用来跟用户之间互动,这里花生来分享一下如何在微信公共平台上插入游戏,以及如何制作html5微信小游戏。首先是找游戏,总共有三个方法,本人比较倾...
- html5重力感应剖析附源码
-
下面是测试html5重力感应的demohttp://bbs.qietu.com/html/zhongli/http://www.qietu.com/html/f2/qqqianbao/demo2是切图...
- 一周热门
- 最近发表
- 标签列表
-
- filter函数js (37)
- filter函数excel用不了 (73)
- 商城开发 (40)
- 影视网站免费源码最新版 (57)
- 影视资源api接口 (46)
- 网站留言板代码大全 (56)
- java版软件下载 (52)
- java教材电子课本下载 (48)
- 0基础编程从什么开始学 (50)
- java是用来干嘛的 (51)
- it入门应该学什么 (55)
- java线上课程 (55)
- 学java的软件叫什么软件 (38)
- 程序开发软件有哪些 (53)
- 软件培训 (59)
- 机器人编程代码大全 (50)
- 少儿编程教程免费 (45)
- 新代系统编程教学 (61)
- 共创世界编程网站 (38)
- 亲测源码 (36)
- 三角函数积分公式表 (35)
- 函数的表示方法 (34)
- 表格乘法的公式怎么设置 (34)
- sumif函数的例子 (34)
- 图片素材 (36)