MySQL 统计信息不准导致的性能问题

表的统计信息错误导致优化器选择错误的执行计划。

一个客户的性能优化案例: 没有修改数据库实例的任何配置参数以及业务代码没有变更的情况下,一条 sql 出现大幅性能下降。

我们来看看出问题的sql 以及他的执行计划:

mysql>explain
->SELECTcount(con.id) ,
->MAX(DAYNAME(con.date)) ,
->now() ,
->pcz.type,
->pcz.c_c
->FROMconAScon
->joinordersooncon.o_id=o.id
->JOINpczASpczONo.d_p_c_z_id=pcz.id
->leftjoincconcon.c_id=c.id
->WHEREcon.date=current_date() andpcz.type="T_D"
->GROUPBYcon.date, pcz.c_c, pcz.type;
+----+-------------+-------+------------+--------+-------------------+----------+---------+----------------------------+------+----------+----------------------------------------------+
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+--------+-------------------+----------+---------+----------------------------+------+----------+----------------------------------------------+
|1|SIMPLE|pcz|NULL|ALL|PRIMARY|NULL|NULL|NULL|194|10.00|Usingwhere; Usingtemporary; Usingfilesort|
|1|SIMPLE|o|NULL|ref|PRIMARY,dpcz_FK|dpcz_FK|9|custom.pcz.id|1642|100.00|Usingindex|
|1|SIMPLE|con|NULL|ref|FK_order,IDX_date|FK_order|8|custom.o.id|1|4.23|Usingwhere|
|1|SIMPLE|c|NULL|eq_ref|PRIMARY|PRIMARY|8|custom.con.c_id|1|100.00|Usingindex|
+----+-------------+-------+------------+--------+-------------------+----------+---------+----------------------------+------+----------+----------------------------------------------+

执行计划显示 rows examined = (19410%)1642(14.23%)=1347 查看执行计划我们就发现 where 条件 con.date = current_date() 。这个条件看起来更适合作为索引过滤数据。但是 为什么 MySQL 优化器不选择该索引呢?接下来使用 force index 强制执行计划使用 con.date 字段上的索引。执行计划如下:

mysql>explain
->SELECTcount(con.id) ,
->MAX(DAYNAME(con.date)) ,
->now() ,
->pcz.type,
->pcz.c_c
->FROMconASconUSEINDEX(IDX_date)
->joinordersooncon.o_id=o.id
->JOINp_c_zASpczONo.d_p_c_z_id=pcz.id
->leftjoincconcon.c_id=c.id
->WHEREcon.date=current_date() andpcz.type="T_D"
->GROUPBYcon.date, pcz.c_c, pcz.type;
+----+-------------+-------+------------+--------+-----------------+----------+---------+---------------------------------------+--------+----------+---------------------------------+
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+--------+-----------------+----------+---------+---------------------------------------+--------+----------+---------------------------------+
|1|SIMPLE|con|NULL|ref|IDX_date|IDX_date|3|const|110446|100.00|Usingtemporary; Usingfilesort|
|1|SIMPLE|c|NULL|eq_ref|PRIMARY|PRIMARY|8|custom.con.c_id|1|100.00|Usingindex|
|1|SIMPLE|o|NULL|eq_ref|PRIMARY,dpcz_FK|PRIMARY|8|custom.con.o_id|1|100.00|Usingwhere|
|1|SIMPLE|pcz|NULL|eq_ref|PRIMARY|PRIMARY|8|custom.o.d_p_c_z_id|1|10.00|Usingwhere|
+----+-------------+-------+------------+--------+-----------------+----------+---------+---------------------------------------+--------+----------+---------------------------------+

问题来了 rows examined = 110446*(1*10%)=11045 rows根据计算评估, 第一个执行计划的 1347 大概是 110446 的十分之一 ,至少从表面上看来这个是MySQL 优化器选择第一个执行计划的原因。

但是对比实际的查询结果的响应时间,肯定粗问题了。因为执行计划二 的sql 的响应时间在预期之内,但是执行计划一对应的响应时间反而更慢。

进一步来看表 orders 的创建语句以及执行计划1,我们发现 表pcz的确有194行。然后查看 索引 orders.dpcz_FK,表 orders 返回 1642行 ,因为外键约束 orders_ibfk_10 的定义,也就意味着 表 orders 的记录数应该是 194*1642=318548 ,但是实际的行数是 32508150,百倍于执行计划估计的值 318548 。

CREATETABLE`orders` (
`id`bigint(20) NOTNULLAUTO_INCREMENT,
...
`d_p_c_z_id`bigint(20) DEFAULTNULL,
...,
PRIMARYKEY (`id`),
...
KEY`dpcz_FK` (`d_p_c_z_id`),
...
CONSTRAINT`orders_ibfk_10`FOREIGNKEY (`d_p_c_z_id`) REFERENCES`p_c_z` (`id`) ONDELETECASCADEONUPDATECASCADE,
...
) ENGINE=InnoDB....
mysql>select*frommysql.innodb_table_statswheredatabase_name='cutom'andtable_name='orders';
+---------------+------------+---------------------+----------+----------------------+--------------------------+
|database_name|table_name|last_update|n_rows|clustered_index_size|sum_of_other_index_sizes|
+---------------+------------+---------------------+----------+----------------------+--------------------------+
|custom|orders|2022-03-0321:58:18|32508150|349120|697618|
+---------------+------------+---------------------+----------+----------------------+--------------------------+

分析至此,我们可以断定 orders.dpcz_FK 的统计信息是不准确的,于是乎我们使用如下语句确认它的实际数据量:

mysql>select*frommysql.innodb_index_statswheredatabase_name='cutom'andtable_name='orders'andindex_name='dpcz_FK';
mysql>select*frommysql.innodb_index_statswheredatabase_name='custom'andtable_name='orders'andindex_name='dpcz_FK';
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+
|database_name|table_name|index_name|last_update|stat_name|stat_value|sample_size|stat_description|
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+
|custom|orders|dpcz_FK|2022-02-2812:35:30|n_diff_pfx01|19498|50|d_p_c_z_id|
|custom|orders|dpcz_FK|2022-02-2812:35:30|n_diff_pfx02|32283087|128|d_p_c_z_id,id|
|custom|orders|dpcz_FK|2022-02-2812:35:30|n_leaf_pages|55653|NULL|Numberofleafpagesintheindex|
|custom|orders|dpcz_FK|2022-02-2812:35:30|size|63864|NULL|Numberofpagesintheindex|
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+
mysql>selectcount(distinctd_p_c_z_id) fromorders;
+----------------------------------------------+
|count(distinctd_p_c_z_id) |
+----------------------------------------------+
|195|
+----------------------------------------------+

Bingo!从上面来看 表 orders 字段 d_p_c_z_id 的区分度(不一样的值的总数)为 195 。在信息统计表里面 dpcz_FK的 stat_value 值是 19498 ,显然这个值是不准确的并且比实际值大的多,100倍 。索引的 state_value 值应该等于这个字段的在表里面的区分度。

如果使用正确的 索引 dpcz_FK 的值 stat_value 195 去重新评估执行计划的成本,我们将得到执行计划1 的结果 32508150/195=166708 ,并且执行计划预估的扫描的行数应该是 (194*10%)*166708*(1*4.23%)=136804。因为该值是10倍于执行计划2 的值 11045 。MySQL 在没有使用force index的情况下就能走到正确的执行计划 。

这个sql的问题解决了,但是为什么 MySQL 的统计信息会计算错误,我们如何修复它呢?

回答这个问题之前,我们先了解一下 MySQL 是如何收集统计信息以及哪些参数控制 这个动作。

InnoDB 是如何收集表的统计信息

我们可以通过显式的方式或者系统自动采集表的统计信息 。

通过开启参数innodb_stats_auto_recalc =on (默认也是打开的) 以便在表的数据发生重大变化以后来自动收集表的统计信息。比如当表中的10% 的行发生变化 ,InnoDB 将重新计算统计信息。或者我们可以使用ANALYZE TABLE显式地重新计算统计信息。

InnoDB 使用随机采样技术的方法采集统计信息– 随机抽取索引页,估计索引的基数。参数innodb_stats_persistent_sample_pages 控制采样页面的数量。参考​​https://dev.mysql.com/doc/refman/5.7/en/innodb-persistent-stats.html​​

根据代码和描述,随机抽样并不是完全随机的。采样页面实际上是根据采样算法选择的。最终,不同键值的总数,即索引的 stat_value 将通过以下公式计算
N * R * N_DIFF_AVG_LEAF。其中

N : 叶页数
R : levelLA上不同key值的个数与levelLA上记录总数的比值
`N_DIFF_AVG_LEAF`:在所有A叶页中找到的不同键值的平均数。

采样算法代码的详细信息可以在链接中找到:​​https://github.com/mysql/mysql-server/blob/6846e6b2f72931991cc9fd589dc9946ea2ab58c9/storage/innobase/dict/dict0stats.cc​​

基于上面的介绍,我们知道当一个表的索引发生分裂时,无论是叶子页数(N),还是 层LA 上不同键值的个数占 层LA 总记录数的比值(R ) 变得越来越不准确,因此 stat_value 的计算可能不正确。一旦发生这种情况,除非更改参数innodb_stats_persistent_sample_pages或重建索引,否则显式重新计算(手动运行 ANALYZE TABLE)将无法生成正确的 stat_value。

解决方法

我们怎么修正表的统计信息 ,并且阻止这类情况进一步发生。

经过前面的分析和讨论,我们知道 有两个因素影响数据库收集表的统计信息 ,

innodb_stats_persistent_sample_pages: A索引的组织方式

为了能够让 InnoDB 得到正确的 统计信息,我们需要 调整innodb_stats_persistent_sample_pages 或者重建索引 。
通过命令 analyze table 不重建的方式,保持
innodb_stats_persistent_sample_pages =128,stat_value 略微更改为 19582,接近原始不正确的 19498,仍然关闭。索引中的叶子页数从 55653 略微更改为 55891,索引中的页数也从 63864 略微更改为 64248

mysql>showvariables='innodb_stats_persistent_sample_pages;
+--------------------------------------+-------+
|Variable_name|Value|
+--------------------------------------+-------+
|innodb_stats_persistent_sample_pages|128|
+--------------------------------------+-------+
mysql>analyzetableorders;
+---------------+---------+----------+----------+
|Table|Op|Msg_type|Msg_text|
+---------------+---------+----------+----------+
|custom.orders|analyze|status|OK|
+---------------+---------+----------+----------+
mysql>select*frommysql.innodb_index_statswheredatabase_name='custom'andtable_name='orders'andindex_name='dpcz_FK';
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+
|database_name|table_name|index_name|last_update|stat_name|stat_value|sample_size|stat_description|
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+
|custom|orders|dpcz_FK|2022-03-0321:58:18|n_diff_pfx01|19582|50|d_p_c_z_id|
|custom|orders|dpcz_FK|2022-03-0321:58:18|n_diff_pfx02|32425512|128|d_p_c_z_id,id|
|custom|orders|dpcz_FK|2022-03-0321:58:18|n_leaf_pages|55891|NULL|Numberofleafpagesintheindex|
|custom|orders|dpcz_FK|2022-03-0321:58:18|size|64248|NULL|Numberofpagesintheindex|
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+

ANALYZE TABLE 不重建,但将innodb_stats_persistent_sample_pages 从 128 增加到 512,使 stat_value 到192非常接近实际基数 195。索引中的叶页数发生了很大变化,从 55653 到 44188。索引中的页数也从也发生了巨大变化,从 63864 变为 50304。

mysql>showvariableslike'%persistent_sample%';
+--------------------------------------+-------+
|Variable_name|Value|
+--------------------------------------+-------+
|innodb_stats_persistent_sample_pages|512|
+--------------------------------------+-------+
mysql>analyzetableorders;
+---------------+---------+----------+----------+
|Table|Op|Msg_type|Msg_text|
+---------------+---------+----------+----------+
|custom.orders|analyze|status|OK|
+---------------+---------+----------+----------+
mysql>select*frommysql.innodb_index_statswheredatabase_name='custom'andtable_name='orders'andindex_name='dpcz_FK';
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+
|database_name|table_name|index_name|last_update|stat_name|stat_value|sample_size|stat_description|
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+
|custom|orders|dpcz_FK|2022-03-0906:54:29|n_diff_pfx01|192|179|d_p_c_z_id|
|custom|orders|dpcz_FK|2022-03-0906:54:29|n_diff_pfx02|31751321|512|d_p_c_z_id,id|
|custom|orders|dpcz_FK|2022-03-0906:54:29|n_leaf_pages|44188|NULL|Numberofleafpagesintheindex|
|custom|orders|dpcz_FK|2022-03-0906:54:29|size|50304|NULL|Numberofpagesintheindex|
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+

重建表,保持innodb_stats_persistent_sample_pages 为128,同样得到了正确的 stat_value 187,接近真实基数195。索引中的叶子页数大幅变化,从55653变为43733,索引中的页数也从63864变化到 50111。

mysql>showvariables='innodb_stats_persistent_sample_pages';
+--------------------------------------+-------+
|Variable_name|Value|
+--------------------------------------+-------+
|innodb_stats_persistent_sample_pages|128|
+--------------------------------------+-------+
mysql>altertableordersengine=innodb;
QueryOK, 0rowsaffected (11min16.37sec)
mysql>select*frommysql.innodb_index_statswheredatabase_name='custom'andtable_name='orders'andindex_name='dpcz_FK';
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+
|database_name|table_name|index_name|last_update|stat_name|stat_value|sample_size|stat_description|
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+
|custom|orders|dpcz_FK|2022-03-0718:44:43|n_diff_pfx01|187|128|d_p_c_z_id|
|custom|orders|dpcz_FK|2022-03-0718:44:43|n_diff_pfx02|31531493|128|d_p_c_z_id,id|
|custom|orders|dpcz_FK|2022-03-0718:44:43|n_leaf_pages|43733|NULL|Numberofleafpagesintheindex|
|custom|orders|dpcz_FK|2022-03-0718:44:43|size|50111|NULL|Numberofpagesintheindex|
+---------------+------------+------------+---------------------+--------------+------------+-------------+-----------------------------------+

在更正表统计数据后,MySQL 优化器也会选择正确的执行计划:

mysql>explain
SELECTcount(con.id) ,
MAX(DAYNAME(con.date)) ,
now() ,
pcz.type,
pcz.c_c
FROMconAScon
joinordersooncon.order_id=o.id
JOINp_c_zASpczONo.d_p_c_z_id=pcz.id
leftjoincconcon.c_id=c.id
WHEREcon.date=current_date()
andpcz.type="T_D"
GROUPBYcon.date, pcz.c_c, pcz.type;
+----+-------------+-------+------------+--------+-------------------+----------+---------+---------------------------------------+------+----------+---------------------------------+
|id|select_type|table|partitions|type|possible_keys|key|key_len|ref|rows|filtered|Extra|
+----+-------------+-------+------------+--------+-------------------+----------+---------+---------------------------------------+------+----------+---------------------------------+
|1|SIMPLE|con|NULL|ref|FK_order,IDX_date|IDX_date|3|const|3074|100.00|Usingtemporary; Usingfilesort|
|1|SIMPLE|c|NULL|eq_ref|PRIMARY|PRIMARY|8|custom.con.c_id|1|100.00|Usingindex|
|1|SIMPLE|o|NULL|eq_ref|PRIMARY,dpcz_FK|PRIMARY|8|custom.con.order_id|1|100.00|Usingwhere|
|1|SIMPLE|pcz|NULL|eq_ref|PRIMARY|PRIMARY|8|custom.o.d_p_c_z_id|1|10.00|Usingwhere|
+----+-------------+-------+------------+--------+-------------------+----------+---------+---------------------------------------+------+----------+---------------------------------+
4rowsinset, 1warning (0.01sec)

结论

MySQL优化器依赖于表的统计信息的准确性来选择最优的执行计划。我们可以通过更改参数innodb_stats_persistent_sample_pages 来控制系统采集表统计信息的准确性。

我们还可以选择通过在对索引进行碎片整理的同时重建/重建表来强制重新计算表统计信息,这有助于提高表统计信息的准确性。重构表,我们可以直接用 alter table xx; 修改表或者使用 pt-online-schema-change 达到同样的效果。

文章来源网络,作者:运维,如若转载,请注明出处:https://shuyeidc.com/wp/308425.html<

(0)
运维的头像运维
上一篇2025-05-27 14:08
下一篇 2025-05-27 14:09

相关推荐

  • 个人主题怎么制作?

    制作个人主题是一个将个人风格、兴趣或专业领域转化为视觉化或结构化内容的过程,无论是用于个人博客、作品集、社交媒体账号还是品牌形象,核心都是围绕“个人特色”展开,以下从定位、内容规划、视觉设计、技术实现四个维度,详细拆解制作个人主题的完整流程,明确主题定位:找到个人特色的核心主题定位是所有工作的起点,需要先回答……

    2025-11-20
    0
  • 社群营销管理关键是什么?

    社群营销的核心在于通过建立有温度、有价值、有归属感的社群,实现用户留存、转化和品牌传播,其管理需贯穿“目标定位-内容运营-用户互动-数据驱动-风险控制”全流程,以下从五个维度展开详细说明:明确社群定位与目标社群管理的首要任务是精准定位,需明确社群的核心价值(如行业交流、产品使用指导、兴趣分享等)、目标用户画像……

    2025-11-20
    0
  • 香港公司网站备案需要什么材料?

    香港公司进行网站备案是一个涉及多部门协调、流程相对严谨的过程,尤其需兼顾中国内地与香港两地的监管要求,由于香港公司注册地与中国内地不同,其网站若主要服务内地用户或使用内地服务器,需根据服务器位置、网站内容性质等,选择对应的备案路径(如工信部ICP备案或公安备案),以下从备案主体资格、流程步骤、材料准备、注意事项……

    2025-11-20
    0
  • 如何企业上云推广

    企业上云已成为数字化转型的核心战略,但推广过程中需结合行业特性、企业痛点与市场需求,构建系统性、多维度的推广体系,以下从市场定位、策略设计、执行落地及效果优化四个维度,详细拆解企业上云推广的实践路径,精准定位:明确目标企业与核心价值企业上云并非“一刀切”的方案,需先锁定目标客户群体,提炼差异化价值主张,客户分层……

    2025-11-20
    0
  • PS设计搜索框的实用技巧有哪些?

    在PS中设计一个美观且功能性的搜索框需要结合创意构思、视觉设计和用户体验考量,以下从设计思路、制作步骤、细节优化及交互预览等方面详细说明,帮助打造符合需求的搜索框,设计前的规划明确使用场景:根据网站或APP的整体风格确定搜索框的调性,例如极简风适合细线条和纯色,科技感适合渐变和发光效果,电商类则可能需要突出搜索……

    2025-11-20
    0

发表回复

您的邮箱地址不会被公开。必填项已用 * 标注