Redis持久化

前言

Redis目前提供了三种持久化的方式:

  • RDB快照(snapshot)持久化
  • AOF(append-only-file)持久化
  • 混合持久化方式(Redis 4.0后加入的新特性)

RDB快照(snapshot)

在默认情况下,Redis将内存数据库快照保存在名字为dump.rdb的二进制文件中。当然可以对Redis进行设置,可以让它在“N秒内数据集至少有M个改动”,这一条件被满足时,自动保存一次数据。比如说,以下设置会让Redis在满足“60秒内有至少1000个键被改动”这一条件时,自动保存一次数据。

1
save 60 1000 # 关闭RDB只需要将所有的save保存策略注释掉即可

当然还可以手动执行命令生成RDB快照,进入Redis客户端执行命令savebgsave可以生成dump.rdb文件,每次命令执行都会将所有Redis内存快照到一个新的rdb文件里,并覆盖原有的rdb快照文件。

bgsave的写时复制(COW)机制

Redis借助操作系统提供的写时复制技术(Copy-On-Write,COW),在生成快照的同时,依然可以正常处理写命令。简单来说,就是bgsave子进程是由主线程fork生成的,可以共享主线程的所有内存数据。bgsave子进程运行后,开始读取主线程的内存数据,并把他们写入RDB文件。此时,如果主线程对这些数据也都是读操作,那么,主线程和bgsave子线程相互不影响。但是,如果主线程要修改一块数据,那么这块数据就会被复制一份,生成改数据的一个副本。然后,bgsave子线程会把这个副本数据写入到RDB文件,而在这个过程中,主线程仍然可以修改原来的数据。

save与bgsave区别

命令 save bgsave
I/O类型 同步 异步
是否阻塞Redis其他命令 否(在生成子进程调用fork函数时会短暂阻塞)
复杂度 O(n) O(n)
优点 不会消耗额外内存 不阻塞客户端命令
缺点 阻塞客户端命令 需要fork子进程,消耗内存

配置自动生成rdb文件后台使用的是bgsave方式

AOF(append-only-file)快照

快照功能并不是非常耐久(durable):如果Redis因为某些原因造成故障停机,那么服务器将丢失最近写入、且仍未保存到快照中的那些数据。从1.1版本开始,Redis增加了一种完全耐久的持久化方式:AOF持久化,将修改的每一条指令记录到文件appendonly.aof中(先写入OS Cache,每隔一段时间sync到磁盘)

比如执行set append-only-file true,aof文件里会记录如下数据

执行结果

AOF功能可以通过以下方式来开启和关闭

1
appendonly yes/no  # yes开启  no关闭

这里也可以配置AOF的持久化策略,默认的话是每秒持久化一次,这样既保证了速度也保证了数据安全。

  • appendfsync always:每次有新命令追加到AOF文件时,都会执行一次fsync,非常慢,也非常安全
  • appendfsync everysec:每秒fsync一次,足够快,并且在故障时只会就是1秒钟的数据
  • appendfsync no:从不fsync,将数据交给操作系统来处理。更快,也更安全的选择

AOF重写

AOF文件中如果有太多没有用的指令时,AOF会定期根据内存的最新数据生成aof文件

例如:在客户端执行了5次自增命令

自增命令

在aof文件重写之前中显示如下

AOF文件重写前数据

重写之后aof文件变为了

1
2
3
4
5
6
7
*3
$3
SET
$2
count
$1
5

这里有两个配置可以设置AOF自动重写频率

1
2
auto-aof-rewrite-min-size 64mb #aof文件至少达到64M才会自动重写,文件太小重写的速度很快,重写意义不大
auto-aof-rewrite-percentage 100 #aof文件自上次重写之后至少增长100%(增长一倍),才会再次触发重写

当然AOF可以手动重写,进入redis客户端执行命令bgrewriteaof重写AOF。

注意:AOF重写redis会fork出一个子进程去做(和bgsave命令类似),不会对redis正常命令处理有太多影响

RDB和AOF对比

命令 RDB AOF
启动优先级
体积
恢复速度
数据安全性 容易丢数据 根据策略决定

生产环境可以都启用,redis启动时如果既有rdb文件又有aof文件则优先选择aof文件恢复数据,因为aof一般来说数据更全一点。

Redis4.0 混合持久化

重启Redis时,我们很少使用RDB来恢复内存中数据,因为会丢失大量数据。我们通常使用AOF日志重放,但是重放AOF日志性能相对RDB来说要慢。这样在Redis实例很大的情况下,启动需要花费很长的时间。Redis 4.0 为了解决这个问题,加入了一个新的持久化方案——混合持久化

通过如下配置可以开启混合持久化(必须先开启aof):

1
aof-use-rdb-preamble yes

如果开启了混合持久化,AOF在重写时,不再是单纯的将内存数据转化为RESP命令写入AOF文件,而是将这一刻之前的内存数据做RDB快照处理,并且将RDB快照内容和增量AOF修改内存数据的命令保存在一起,都写入新的aof文件,新的文件开始不叫appendonly.aof,等重写完新的AOF文件才会进行改名,覆盖原来的AOF文件,完成新就两个AOF文件的替换。在Redis重启的时候,可以先加载RDB的内容,然后在重放AOF日志就可以完全替代之前的AOF全量文件重放,因此重启效率大幅得到提升。

混合持久化appendonly.aof文件数据结构

Redis数据备份策略

  1. crontab定时调度脚本,每小时都copy一份rdb或者aof的备份到一个目录中去,仅仅保留最近48小时的备份
  2. 每天都保留一份当天的数据备份到一个目录中去,可以保留近一个月的数据备份
  3. 每次copy备份的时候,把太旧的备份给删掉
  4. 每天晚上将当前机器上的备份复制一份到其他机器上,以防止机器损坏
  • 版权声明: 本博客所有文章除特别声明外,著作权归作者所有。转载请注明出处!

请我喝杯咖啡吧~

支付宝
微信