Redis基础篇(六)数据同步:主从复制

Redis具有高可靠性,体现在两方面:

  • 一是数据尽量少丢失,通过前面介绍的持久化方式AOF和RDB,在宕机时可以恢复数据。
  • 二是服务尽量少中断,通过副本冗余来实现。

今天我们学习的就是通过主从复制实现副本冗余,从而实现Redis的高可靠性。

什么是主从复制

Redis提供主从库模式,保证数据副本的一致,主从库之间采用的是读写分离的方式。

为什么要读写分离?

如果允许所有节点能够处理读写请求,就需要解决加锁、实例间协商、数据同步等操作,会带来巨额的开销。

因此采用主从库模式时,要配置主库只写,从库只读。

主从库如何进行第一次同步?

当设置了主从库模式,此时从库是空的,如何进行主从库的第一次同步呢?

Redis采用全量复制来进行第一次同步,具体有三个步骤,如下图所示:

Redis基础篇(六)数据同步:主从复制

第一步,主从库建立连接,协商同步。

  1. 从库发送psync命令,表示进行数据同步。其中runID表示主库ID,第一次不知道主库的runID,就设置为"?"
  2. 主库收到psync命令后,用FULLRESYNC响应,返回runID(主库ID)和offset(主库目前的复制进度)。
  3. 从库收到响应后,记录这两个参数

第二步:主库同步数据给从库。

从库收到数据后,在本地完成数据加载。这过程依赖于RDB快照。

  1. 主库执行bgsave命令,生成RDB文件,再把文件发强从库。
  2. 从库收到RDB文件后,先清空当前数据库,然后加载RDB文件。

第三步,主库发送新写命令给从库

主库在数据同步过程中,会记录所有写操作,避免丢失同步过程接收的新的写命令。

  1. 主库使用replication buffer来新的写命令。
  2. 当从库加载RDB文件完成后,主库再把replication buffer的内容发送给从库,从库再执行这些操作实现同步。

关于replication buffer的更多内容,下面再介绍。

如果有多个从库,每个从库都要跟主库进行全量同步,这样主库的压力会很大。

主从级联模式

Redis提供“主-从-从”模式将主库生成RDB和传输RDB的压力,以级联的方式分散到从库上。

简单来说,构建父子从库结构,子从库的数据同步从父从库获取。如下图所示:

Redis基础篇(六)数据同步:主从复制

在从库上执行命令:replicaof 所选从库的IP 6379,就可以设置从库的父从库了。

至此,主从库完成了第一次同步,那后续如何保持同步呢?

如何保持同步?

当主从库完成同步后,会维护一个网络连接,主库会通过这个连接将后续的命令同步给从库。

但是这里有潜在的风险点:如果网络断连或者出现阻塞了,那怎么办呢?

主从库间网络断了怎么办?

在Redis 2.8之前,网络断了后要重新进行全量复制。但在Redis 2.8之后,Redis提供了增量复制的方式。

当建立了主从结构后,主库会把写命令写入repl_backlog_buffer缓冲区里,当网络断开并重新连接后,从库会发送同步命令,然后主库再把未同步的命令发送给从库,从库执行这些命令就恢复数据一致了。具体流程如下图所示:

Redis基础篇(六)数据同步:主从复制

repl_backlog_buffer是一个环形缓冲区,如下图所示:

Redis基础篇(六)数据同步:主从复制

由于其环形结构,当因为网络问题影响从库读取命令的速度,会出现写满后继续写入命令时,会覆盖掉从库还没读的内容,从而造成数据不一致,需要重新全量复制。

因此要根据情况来设置repl_backlog_buffer的大小,通过配置repl_backlog_size来调整缓冲区大小。配置公式为:缓冲空间大小 = 主库写入命令速度 * 操作大小 - 主从库间网络传输命令速度 * 操作大小。而repl_backlog_size= 缓冲空间 * 2

例如主库写操作2000/秒,每个操作大小2KB,网络传输1000个操作/秒,那缓冲空间大小=2000*2 - 1000*2=2MB,那repl_backlog_size就设置为4MB。

拓展

为什么主库间的数据复制同步不使用AOF?

有三方面原因:

  1. RDB文件是经过二进制压缩的,文件很小,这样主从库间传输就很快。
  2. 从库加载RDB文件速度很快,而AOF日志还要逐行命令执行,速度很慢。
  3. 假设使用AOF,那就必须打开AOF,Redis默认是不开启AOF的,可能会影响Redis性能。

关于replication buffer

每个与Redis通信的客户端(从库也算client),都会分配一个buffer,所有数据交互都是通过这个buffer进行的。

Redis先把数据写到这个buffer中,然后再把buffer中的数据发到client的socket中,通过网络发送出去,完成数据交互。

而主从同步的这个buffer,是用于保证主从数据一致的,所以才叫它replication buffer。

可以通过配置项client-output-buffer-limit来配置这个buffer的大小。当保存到buffer里的内容超过限制,主库会强制断开这个client的连接。这样会有潜在风险。

如果从库处理主库传输的命令非常慢,就会把这个buffer撑满,然后主库会断开连接。中断后,从库再次发起复制请求,可能会导致恶性循环,引发复制风暴。

小结

  • 主从库模式是采用RDB快照的全量复制 + 基于长连接的网络通信实现主从复制的。
  • 通过“主-从-从”模式,将主库生成RDB和传输RDB的压力,以级联的方式分散到从库上。
  • 当网络中断,通过主库的repl_backlog_buffer,实现增量复制,无须重新全量复制。
  • repl_backlog_buffer是环形缓冲区,要根据网络状况,合理配置其大小。
  • 一个Redis实例的数据库不要太大,在几GB比较合适,这样可以减少RDB文件生成、传输和重新加载的开销。

参考资料

发表评论

评论已关闭。

相关文章