MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

 

主从延迟的原因

1、某用户在使用数据库过程中,出现主从延迟很大的情况,show slave statusG,已经差了60多个binlog了。MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

2、观察发现,应该是卡在一个大事物上面(Retrieved_Gtid_Set一直在上升,但是Executed_Gtid_Set卡在一个点不动了),通过分析relay_log找到这个大事物:是对表A进行删除操作的一个事物。

Relay_Log_File: relay-bin.000010
Relay_Log_Pos: 95133771

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

看到这里,感觉又是一例在ROW模式下表没有主键,引起的主从延迟。看看表结构确认一下,发现这张表不小,字段有上百个,有主键,且是一张分区表,分区很多。这就有意思了!并不是我们碰到过多次的由于ROW模式下没有主键,DML引起的主从延迟(PS:为什么这种情况下会引起延迟?而是有主键,且走了二级索引,那为什么回放还会这么慢呢?)。

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

后来了解到用户是在存储过程里面调用detele语句来进行归档数据清理,看了一下存储过程,现在的问题就可以简化为:在存储过程中调用delete语句,走了二级索引删除有主键的分区表,从机回放延迟。

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

这个时候,我们需要拆解一下问题,控制好变量,一个一个的查:

1、直接执行delete,SQL会以statement的格式出现,且不会产生主从延迟。

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

2、调用procedure,该delete语句在procedure中执行的时候会变成ROW格式,且会导致延迟。

OK,有以上两个测试,我们的问题可以聚焦为:

1、为什么同样delete语句,直接执行和在procedure里面执行记录的binlog格式不一样(ROW格式的binlog导致回放慢,全局设置在mixed模式下,这条SQL应该走的是statement格式,为什么在procedure里执行就变成了ROW格式,怎么样才能让这条SQL再procedure里执行变成statement记录到binlog里面)。

delete from xxxxx
where update_datetime < DATE_ADD(B_DATE,INTERVAL -1 day)
and DATE_FORMAT(update_datetime,’%i’) not in (’00’,’05’,’10’,’15’,’20’,’25’,’30’);

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

通过show processlist,可以看到这条delete在procedure内部执行的时候,被MySQL自动加上了NAME_CONST函数,所以导致了以ROW模式记录binlog格式。那为什么在procedure中会被改写成这样的SQL呢?怎么样才能让这条SQL记录为statement的格式呢?

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

看了MySQL官方在procedure里面的限制描述,MySQL会自动加上NAME_CONST主要是为了从机可以识别到B_DATE这个SP的Local vairable,不至于从机回放的时候报错。

2、为什么ROW模式的binlog在从库回放的时候,即使delete的这张表有主键也很慢。

我们先看一下SQL线程回放是卡在哪里了?为什么会慢?
通过pstack抓取堆栈,找到SQL_thread线程对应的thread 15,再结合perf信息,可以看到从机回放慢是卡在了bitmap_get_next_set()。

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

看一下bitmap_get_next_set()的代码。

bitmap_get_next_set()都是一些位运算,速度按理来说应该很快。所以不应该是程序卡在了这个函数中,大概率是因为多次调用了这个函数。所以我们再往上层继续看代码。

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

get_next_used_partition(uint part_id) 直接调用了bitmap_get_next_set(),继续往上看。

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

try_semi_consistent_read() 这个函数中出现了可疑的循环,这里会调用m_tot_parts次get_next_used_partition。看了一下定义m_tot_parts是分区表的总分区数!!!

看到这里,就真相大白了。

这个delele的SQL变更的行数大约在300W行左右,总共的分区表数是7200个。那么这里调用bitmap_get_next_set的次数就被放大成了216亿次!

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)
MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

对比以statement格式回放,从机的堆栈信息,并不会进入bitmap_get_next_set。

MySQL分区表复制bug导致的主从延迟(mysql主从复制延迟时间)

解决方案

分析了这么久,怎么处理这么问题呢?

方案1:我们最后在SP中强制制定了session的binlog_format=statement,让这条delete在从机以statement的模式回放,这样就避免触发MySQL中的这个bug。
方案2:修复内核。
方案3:在shell里面去调度,而不使用存储过程

 

文章来源网络,作者:管理,如若转载,请注明出处:https://shuyeidc.com/wp/114213.html<

赞 (0)
管理的头像管理
上一篇2025-02-17 19:15
下一篇 2025-02-17 19:17

相关推荐

  • jsp空间购买和交换数据空间怎么买,有哪些注意事项?

    购买JSP空间时,是否考虑过数据交换空间的性能?简米科技(2003年始创,23年行业沉淀)与酷番云(工信部一类增值电信全牌照)这类持牌自营机房的服务商,能确保数据交换的高效稳定,是值得优先选择的合作伙伴,为什么JSP空间需要搭配独立的数据交换空间从JSP应用特性看数据交换需求JSP基于Java技术,常用于企业级……

    2026-08-11
    0
  • 建网站用香港空间效果怎么样,香港空间稳定吗?

    建网站用香港空间,对于创建网站资产来说,核心价值在于免备案和全球带宽优势,尤其适合外贸、跨境电商和需要快速启动的项目,但你必须权衡国内访问延迟,并选择有资质的服务商以保证资产安全,香港空间的核心优势与适用边界免备案:节省时间就是节省成本国内服务器需要备案,通常需要10到20天,香港空间无需备案,域名解析后即可上……

    2026-08-11
    0
  • Java连接云数据库的方法是什么,如何操作

    Java连接云数据库的核心在于通过JDBC驱动,结合云服务商提供的连接地址、端口、数据库名及认证信息,配置安全策略(如SSL、IP白名单),即可实现稳定高效的远程数据库访问,基础准备:JDBC驱动与依赖管理连接云数据库前,需要确保开发环境具备对应的JDBC驱动,以最常见的MySQL为例,你需要引入mysql-c……

    2026-08-11
    0
  • 建网站公安联网备案必须使用数据码吗,备案流程是什么

    网站备案包括ICP备案和公安联网备案,两者缺一不可,公安联网备案必须使用服务商提供的数据码,选择持有合法资质的服务商是顺利通过备案的前提,为什么网站必须进行公安联网备案根据公安部《计算机信息网络国际联网安全保护管理办法》,网站开通后30日内必须到公安机关办理备案手续,未完成公安备案的网站,面临责令整改、关闭网站……

    2026-08-10
    0
  • 建一个企业网站大概需要多少钱?,怎么收费?

    建网站要多少钱,没有一个固定的数字,几百到几万都可能,但真正的“创建网站资产”绝不仅仅是初次投入的成本,而是基于长期稳定、合规和安全的持续性投入,其中核心取决于你选择了什么样的“地基”来承载你的业务,建站预算的构成与行业基准当你开始规划一个网站,最先面对的就是预算问题,一个常见的误区是只关注网站“看起来”的建造……

    2026-08-10
    0

发表回复

您的邮箱地址不会被公开。必填项已用 * 标注