reids 持久化学习笔记

2022-11-14

reids 持久化学习笔记

RDB快照 (snapshot)

在默认情况下，Redis将内存数据库快照保存在名字为dump.rdb 的二进制文件中。你可以对 Redis进行设置，让它在“N秒内数据集至少有M个改动”这一条件被满足时，自动保存一次数据集.
比如说，以下设置会让 Redis 在满足“60 秒内有至少有1000 个键被改动”这一条件时，自动保存一次数据集

1	#save 60 1000 /关闭RDB只需要将所有的save保存策略注释掉即可

还可以手动执行命令生成RDB快照，进入redis客户端执行命令save或bgsave可以生成dump.rdb文件，每次命令执行都会将所有redis内存快照到一个新的rdb文件里，并覆盖原有rdb快照文件。

bgsave的写时复制(COW)机制

Redis 借助操作系统提供的写时复制技术(Copy-0n-Write,COW)，在生成快照的同时，依然可以正常处理写命令。简单来说，bgsave 子讲程是由主线程 fork 生成的，可以共享主线程的所有内存数据。bgsave 子进程运行后，开始读取主线程的内存数据，并把它们写入 RDB 文件。此时，如果主线程对这些数据也都是读操作，那么，主线程和 bgsave 子进程相与不影响。但是，如果主线程要修改块数据，那么，这块数据就会被复制一份，生成该数据的副本。然后，bgsave 子进程会把这个副本数据写入 RDB 文件，而在这个过程中，主线程仍然可以直接修改原来的数据。

save与bqsave对比:

命令	save	bgsave
IO类型	同步	异步
是否阻塞redis其它命令	是	否（在生成子进程执行调用fork函数时会有短暂阻塞）
复杂度	O(n)	O(n)
优点	不会消耗额外内存	不阻塞客户端命令
缺点	阻塞客户端命令	需要fork子进程，消耗内存

配置自动生成rdb文件后台使用的是bgsave方式

AOF (append-only file)

快照功能并不是非常耐久 (durable): 如果 Redis 因为某些原因而造成故障停机，那么服务器将丢失最近写入、且仍未保存到快照中的那些数据。从1.1 版本开始，Redis 增加了一种完全耐久的持久化方式:AOF 持久化，将修改的每一条指令记录进文件appendonly.aof中(先写入os cache，每隔一段时间fsync到磁盘)你可以通过修改配置文件来打开AOF功能:

1	#appendonly yes

从现在开始，每当Redis 执行一个改变数据集的命令时(比如 SET)，这个命令就会被加到AOF 文件的末尾这样的话，当Redis 重新启动时，程序就可以通过重新执行AOF文件中的命令来达到重建数据集的目的你可以配置Redis多久才将数据fsync到磁盘一次。
有三个选项:

1
2
3

appendfsync always: 每次有新命令退到 AOF 文件时就执行次 fsync ，非常慢，也非常安全
appendfsync everysec: 每秒 fsync 一次，足够快，并且在故障时只会丢失 1 秒钟的数据.
appendfsync no:从不 fsync ，将数据交给操作系统来处理。更快，也更不安全的选择。

推荐(并且也是默认)的措施为每秒fsync一次，这种fsync 策略可以兼顾速度和安全性.

AOF重写

AOF文件里可能有太多没用指令，所以AOF会定期根据内存的最新数据生成aof文件.例如，执行了如下几条命令:

127.0.0.1:6379> incr readcount
(integer) 1
127.0.0.1:6379> incr readcount
(integer) 2
127.0.0.1:6379> incr readcount
(integer) 3

重写后AOF文件里变成

*3
$3
SET
$9
readcount
$l
3

如下两个配置可以控制AOF自动重写频率

1
2

# auto-aof-rewrite-min-size 64mb //aof文件至少要达到64M才会自动重写，文件太小恢复速度本来就很快，重写的意义不.
# auto-aof-rewrite-percentage 100 //aof文件自上一次重写后文件大小增长了10%则再次触发重写

当然AOF还可以手动重写，进入redis客户端执行命令 bgrewriteaof 重写AOF.

注意，AOF重写redis会fork出一个子进程去做(与bgsave命令类似)，不会对redis正常命令处理有太多影响

RDB和AOF，我应该用哪一个?

命令	RDB	AOF
启动优先级	低	高
体积	小	大
恢复速度	快	慢
数据安全性	容易丢数据	根据策略决定

生产环境可以都启用，redis启动时如果既有rdb文件又有aof文件则优先选择aof文件恢复数据，因为aof一般来说数据更全一点.

Redis 4.0 混合持久化

重启 Redis 时，我们很少使用 RDB来恢复内存状态，因为会丢失大量数据。我们通常使用 AOF 日志重放，但是重放 AOF 日志性能术对RDB来说要慢很多，这样在 Redis实例很大的情况下，启动需要花费很长的时间。Redis 4.0 为了解决这个问题，带来了一个新的久化选项 — 混合持久化。
通讨如下配置可以开启混合持久化(必须先开启aof)

1	# aof-use-rdb-preamble yes

如果开启混合持久化，AOF在重写时，不再是单纯将内存数据转换为RESP命令写入AOF文件，而是将重写这一刻之前的内存做RDB快照处理，并且将RDB、内容和增量的AOF修改内存数据的命令存在一起，都写入新的AOF文件，新的文件一开始不叫 apendonly.aof ，等到重写完新的AOF文件才会进行改名，覆盖原有的AOF文件，完成新旧两个AOF文件的替换。于是在 Redis 重启的时候，可以先加载 RDB 的内容，然后再重放增量 AOF 日志就可以完全替代之前的 AOF 全量文件重放，因此重启效率大幅得到提升。