问题

最近当部署到用户现场发现过Redis因为断电或者其他异常原因导致Redis的持久化AOF文件异常，导致不能重启Redis server，在网上搜索了很多相关的资料，在Redis的最新commit中有个功能是支持aof-load-broken选项，但不幸的是此功能还没有merge到redis的主分支上，因此最新的稳定Redis版本仍不支持AOF文件异常自动修复功能，参考Git链接 https://github.com/antirez/redis/pull/3733/files。当前Redis支持aof-load-truncate选项，此选项当Redis的AOF文件被Truncate后能自动修复，但不能满足AOF文件被破坏时的自动修复。

解决方案

为了解决因为断电或者其他异常原因导致Redis的持久化文件出现异常，利用Redis提供的工具redis-check-aof来检测并自动修复AOF文件并备份异常的AOF文件，并将这个功能在Redis容器的启动时自动执行，这样能保证即使出现异常，平台也能正常工作，运维人员可以离线的修复该异常的AOF文件。如下图，

Redis的持久化机制比较

Redis提供了多种不同级别的持久化方式:一种是RDB,另一种是AOF.以下摘抄开源中国的关于Redis两种持久化方式的总结。

RDB 持久化可以在指定的时间间隔内生成数据集的时间点快照（point-in-time snapshot）。

AOF 持久化记录服务器执行的所有写操作命令，并在服务器启动时，通过重新执行这些命令来还原数据集。 AOF 文件中的命令全部以 Redis 协议的格式来保存，新命令会被追加到文件的末尾。 Redis 还可以在后台对 AOF 文件进行重写（rewrite），使得 AOF 文件的体积不会超出保存数据集状态所需的实际大小。Redis 还可以同时使用 AOF 持久化和 RDB 持久化。 在这种情况下， 当 Redis 重启时， 它会优先使用 AOF 文件来还原数据集， 因为 AOF 文件保存的数据集通常比 RDB 文件所保存的数据集更完整。你甚至可以关闭持久化功能，让数据只在服务器运行时存在。

了解 RDB 持久化和 AOF 持久化之间的异同是非常重要的， 以下几个小节将详细地介绍这这两种持久化功能， 并对它们的相同和不同之处进行说明。

RDB 的优点:RDB 是一个非常紧凑（compact）的文件，它保存了 Redis 在某个时间点上的数据集。 这种文件非常适合用于进行备份： 比如说，你可以在最近的 24 小时内，每小时备份一次 RDB 文件，并且在每个月的每一天，也备份一个 RDB 文件。 这样的话，即使遇上问题，也可以随时将数据集还原到不同的版本。RDB 非常适用于灾难恢复（disaster recovery）：它只有一个文件，并且内容都非常紧凑，可以（在加密后）将它传送到别的数据中心，或者亚马逊 S3 中。RDB 可以最大化 Redis 的性能：父进程在保存 RDB 文件时唯一要做的就是 fork 出一个子进程，然后这个子进程就会处理接下来的所有保存工作，父进程无须执行任何磁盘 I/O 操作。RDB 在恢复大数据集时的速度比 AOF 的恢复速度要快。

RDB 的缺点:如果你需要尽量避免在服务器故障时丢失数据，那么 RDB 不适合你。 虽然 Redis 允许你设置不同的保存点（save point）来控制保存 RDB 文件的频率， 但是， 因为RDB 文件需要保存整个数据集的状态， 所以它并不是一个轻松的操作。 因此你可能会至少 5 分钟才保存一次 RDB 文件。 在这种情况下， 一旦发生故障停机， 你就可能会丢失好几分钟的数据。每次保存 RDB 的时候，Redis 都要 fork() 出一个子进程，并由子进程来进行实际的持久化工作。 在数据集比较庞大时， fork() 可能会非常耗时，造成服务器在某某毫秒内停止处理客户端； 如果数据集非常巨大，并且 CPU 时间非常紧张的话，那么这种停止时间甚至可能会长达整整一秒。 虽然 AOF 重写也需要进行 fork() ，但无论 AOF 重写的执行间隔有多长，数据的耐久性都不会有任何损失。

AOF 的优点:
使用 AOF 持久化会让 Redis 变得非常耐久（much more durable）：你可以设置不同的 fsync 策略，比如无 fsync ，每秒钟一次 fsync ，或者每次执行写入命令时 fsync 。 AOF 的默认策略为每秒钟 fsync 一次，在这种配置下，Redis 仍然可以保持良好的性能，并且就算发生故障停机，也最多只会丢失一秒钟的数据（ fsync 会在后台线程执行，所以主线程可以继续努力地处理命令请求）。AOF 文件是一个只进行追加操作的日志文件（append only log）， 因此对 AOF 文件的写入不需要进行 seek ， 即使日志因为某些原因而包含了未写入完整的命令（比如写入时磁盘已满，写入中途停机，等等）， redis-check-aof 工具也可以轻易地修复这种问题。Redis 可以在 AOF 文件体积变得过大时，自动地在后台对 AOF 进行重写： 重写后的新 AOF 文件包含了恢复当前数据集所需的最小命令集合。 整个重写操作是绝对安全的，因为 Redis 在创建新 AOF 文件的过程中，会继续将命令追加到现有的 AOF 文件里面，即使重写过程中发生停机，现有的 AOF 文件也不会丢失。 而一旦新 AOF 文件创建完毕，Redis 就会从旧 AOF 文件切换到新 AOF 文件，并开始对新 AOF 文件进行追加操作。AOF 文件有序地保存了对数据库执行的所有写入操作， 这些写入操作以 Redis 协议的格式保存， 因此 AOF 文件的内容非常容易被人读懂， 对文件进行分析（parse）也很轻松。 导出（export） AOF 文件也非常简单： 举个例子， 如果你不小心执行了 FLUSHALL 命令， 但只要 AOF 文件未被重写， 那么只要停止服务器， 移除 AOF 文件末尾的 FLUSHALL 命令， 并重启 Redis ， 就可以将数据集恢复到 FLUSHALL 执行之前的状态。

AOF 的缺点:对于相同的数据集来说，AOF 文件的体积通常要大于 RDB 文件的体积。根据所使用的 fsync 策略，AOF 的速度可能会慢于 RDB 。 在一般情况下， 每秒 fsync 的性能依然非常高， 而关闭 fsync 可以让 AOF 的速度和 RDB 一样快， 即使在高负荷之下也是如此。 不过在处理巨大的写入载入时，RDB 可以提供更有保证的最大延迟时间（latency）。AOF 在过去曾经发生过这样的 bug ： 因为个别命令的原因，导致 AOF 文件在重新载入时，无法将数据集恢复成保存时的原样。 （举个例子，阻塞命令 BRPOPLPUSH 就曾经引起过这样的 bug 。） 测试套件里为这种情况添加了测试： 它们会自动生成随机的、复杂的数据集， 并通过重新载入这些数据来确保一切正常。 虽然这种 bug 在 AOF 文件中并不常见， 但是对比来说， RDB 几乎是不可能出现这种 bug 的。

如何设置持久化AOF

############################## APPEND ONLY MODE###############################

# 是否开启AOF，默认关闭（no）

appendonly yes



# 指定 AOF 文件名

appendfilename appendonly.aof



# Redis支持三种不同的刷写模式：

# appendfsync always #每次收到写命令就立即强制写入磁盘，是最有保证的完全的持久化，但速度也是最慢的，一般不推荐使用。

appendfsync everysec #每秒钟强制写入磁盘一次，在性能和持久化方面做了很好的折中，是受推荐的方式。

# appendfsync no     #完全依赖OS的写入，一般为30秒左右一次，性能最好但是持久化最没有保证，不被推荐。



#在日志重写时，不进行命令追加操作，而只是将其放在缓冲区里，避免与命令的追加造成DISK IO上的冲突。

#设置为yes表示rewrite期间对新写操作不fsync,暂时存在内存中,等rewrite完成后再写入，默认为no

no-appendfsync-on-rewrite no



#当前AOF文件大小是上次日志重写得到AOF文件大小的二倍时，自动启动新的日志重写过程。

auto-aof-rewrite-percentage 100



#当前AOF文件启动新的日志重写过程的最小值，避免刚刚启动Reids时由于文件尺寸较小导致频繁的重写。

auto-aof-rewrite-min-size 64mb

如何自动修复Redis

当Docker容器化后，可以利用容器启动时运行自动修复指令。Redis提供了一个redis-check-aof工具可以修复AOF文件，因此可以在脚本中自动执行此命令，由于该命令在执行过程中需要用户的干预，要求用户输入yes 或者NO，因此在脚本之前加上了echo y来让此命令接受Y的输入，因而自动执行AOF文件的自动修复。

拷贝下面的脚本到一个文件中，并命名为redis-check-aof.sh，此脚本将在docker运行时自动执行。该脚本首先是检测AOF文件是否异常，如果异常，则备份此异常的AOF文件，然后进行AOF文件的修复，如果修复文件失败，为了不影响Redis的正常启动，临时的将异常的AOF文件删除。运维人员可以使用工具线下修复此备份后的AOF文件。

#!/bin/bash
redis-check-aof /data/appendonly.aof
if [ $? != 0 ]; then
    echo "there are some errors in aof file, the aof file will be backup and fixed."
    cp /data/appendonly.aof /data/appendonly_$(date +%s).aof.bak
    echo "fixing corrupted file start."
    echo y | /usr/local/bin/redis-check-aof --fix /data/appendonly.aof
    if [ $? != 0 ]; then
        echo "fix aof file failed.in order to start redis normally,remove corrupted aof file temporarily."
        rm "/data/appendonly.aof"
    fi
    exit 0

fi
exit 0

下面是自定义dockerfile，该dockerfile执行了aof修复脚本和健康检测脚本 

FROM redis:3.2.6

COPY ./build-asset/docker-healthcheck /usr/local/bin/
COPY ./build-asset/redis-check-aof.sh /usr/local/bin/
RUN chmod +x /usr/local/bin/docker-healthcheck
RUN chmod +x /usr/local/bin/redis-check-aof.sh
RUN ["/usr/local/bin/redis-check-aof.sh"]  
HEALTHCHECK CMD ["docker-healthcheck"]

下面的脚本是启动Redis的脚本。

$ docker run

-v /myredis/conf/redis.conf:/usr/local/etc/redis/redis.conf

--name myredis

redis

bash -c "/usr/local/bin/redis-check-aof.sh && redis-server/usr/src/redis/6379.conf --appendonly yes"

下面的脚本是Redis的health check脚本

#!/bin/bash
set -eo pipefail

if ping="$(redis-cli -a "10d9a99851a411cdae8c3fa09d7290df192441a9" ping)" && [ "$ping" = 'PONG' ]; then
    exit 0
fi

exit 1