MySQL主从延迟现象及原理分析详解

作者:wlmmmm 时间:2024-01-13 23:22:03 

一、现象

凌晨对线上一张表添加索引,表数据量太大(1亿+数据,数据量50G以上),造成主从延迟几个小时,各个依赖从库的系统无法查询数据,最终影响业务。

现在就梳理下主从延迟的原理。

二、原理

根据 MySQL 官方文档 MySQL Replication Implementation Details 中的描述,MySQL 主从复制依赖于三个线程:master一个线程(Binlog dump thread),slave两个线程(I/O threadSQL thread)。主从复制流程如下图:

MySQL主从延迟现象及原理分析详解

master 服务器和 slave 服务器连接时,创建Binlog dump thread以发送bin log数据:

  • 一个Binlog dump thread对应一个 slave 服务器;

  • Binlog dump threadbin log获取数据时会加锁,获取到数据后,立即释放锁。

当 slave 服务器收到 START_SLAVE 命令时,会创建I/O threadSQL thread

  • I/O thread以拉的方式,从 master 读取事件,并存储到 slave 服务器的relay log中;

  • SQL threadrelay log中读取事件并执行;

  • slave可以按照自己的节奏读取和更新数据,也可以随意操作复制进程(启动和停止)。

注: START_SLAVE命令成功启动线程后,如果后面I/O threadSQL thread因为某些原因停止,则不会有任何的警告,业务方无法感知。可以通过查看 slave 的 error 日志,或者通过 SHOW SLAVE STATUS 查看 slave 上的线程状态。

通过 SHOW PROCESSLIST 可查看线程状态:

Binlog dump thread:


mysql> SHOW PROCESSLIST\G
*************************** 1. row ***************************
 Id: 2
User: root
Host: localhost:32931
 db: NULL
Command: Binlog Dump
Time: 94
State: Has sent all binlog to slave; waiting for binlog to
  be updated
Info: NULL

I/O thread 和 SQL thread:


mysql> SHOW PROCESSLIST\G
*************************** 1. row ***************************
 Id: 10
User: system user
Host:
 db: NULL
Command: Connect
Time: 11
State: Waiting for master to send event
Info: NULL
*************************** 2. row ***************************
 Id: 11
User: system user
Host:
 db: NULL
Command: Connect
Time: 11
State: Has read all relay log; waiting for the slave I/O
  thread to update it
Info: NULL

三、分析

根据上面的原理,由于slave是单线程(I/O thread)读取数据,单线程(SQL thread)更新数据,而master是多线程写入,那么只要master写入的频率大于slave读取更新的频率,就有可能出现主从延迟的情况,如:

  1. master写入tps较高,大于slave更新速度;

  2. slave执行某些语句耗时较长,如持有锁等;

  3. master执行某些DDL语句时,执行的时间较长,在slave也执行相同的时间;

此处创建了索引,咨询 DBA,产生的bin log文件有100多G,数据量太大,导致从库I/O thread一直读取DDL操作产生的bin log事件,而影响到正常的业务DML事件的更新,从而表现为主从同步延迟。

四、解决方案

从主从延迟的原因来看,解决方案可以从以下几个方向入手:

  1. 业务选型,对于无法忍受从库延迟的架构,可选择分布式架构等,避开从库延迟问题

  2. 执行时间,对大表进行线上DDL操作尽量选择凌晨等业务量较小的时候

  3. 硬件配置,升级从库硬件配置,如SSD

  4. 减少请求,增加缓存层,减少读请求落库

来源:https://blog.csdn.net/u012099869/article/details/82758717

标签:mysql,主从延迟现象,主从延迟原理
0
投稿

猜你喜欢

  • 浅谈Pytorch中autograd的若干(踩坑)总结

    2022-11-01 01:11:06
  • 从数据表中取出第n条到第m条的记录的方法

    2009-02-19 13:40:00
  • 一篇文章搞懂Python反斜杠的相关问题

    2021-11-26 17:45:19
  • python文件和目录操作方法大全(含实例)

    2021-11-11 14:10:29
  • XML编程实例: ASP+XML打造留言本

    2008-10-25 16:35:00
  • Python+Tkinter绘制一个数字时钟

    2021-08-06 05:24:05
  • python3操作mysql数据库的方法

    2023-07-28 15:48:27
  • python操作摄像头截图实现远程监控的例子

    2022-01-04 19:59:42
  • 标签水平右对齐更适合中文网站

    2009-05-01 11:54:00
  • Python移动测试开发subprocess模块项目实战

    2022-09-06 11:11:19
  • Python 绘图库 Matplotlib 入门教程

    2021-07-21 00:22:07
  • 如何使用PyCharm及常用配置详解

    2021-09-22 14:59:47
  • Mysql常用基准测试命令总结

    2024-01-22 17:22:05
  • Python实现的银行系统模拟程序完整案例

    2023-03-15 21:00:26
  • JS实现的网页背景闪电闪烁效果代码

    2024-04-16 09:01:19
  • JavaScript中判断的优雅写法示例

    2024-04-10 10:43:46
  • 如何使用Pycharm连接SQL Sever(详细教程)

    2024-01-18 22:57:41
  • CPQuery 解决拼接SQL的新方法

    2024-01-23 22:14:51
  • Minio设置文件链接永久有效的完整步骤

    2023-06-10 22:26:10
  • 使用Python实现一个栈判断括号是否平衡

    2022-01-04 02:20:29
  • asp之家 网络编程 m.aspxhome.com