您现在的位置是:亿华云 > IT科技类资讯
线上MySQL千万级大表,如何优化?
亿华云2025-10-04 17:33:47【IT科技类资讯】9人已围观
简介前段时间应急群有客服反馈,会员管理功能无法按到店时间、到店次数、消费金额进行排序。经过排查发现是 SQL 执行效率低,并且索引效率低下。图片来自 Pexels应急问题商户反馈会员管理功能无法按到店时间
前段时间应急群有客服反馈,线上会员管理功能无法按到店时间、大表到店次数、何优化消费金额进行排序。线上经过排查发现是大表 SQL 执行效率低,并且索引效率低下。何优化
图片来自 Pexels
应急问题
商户反馈会员管理功能无法按到店时间、线上到店次数、大表消费金额进行排序,何优化一直转圈圈或转完无变化,线上商户要以此数据来做活动,大表比较着急,何优化请尽快处理,线上谢谢。大表
线上数据量
merchant_member_info:7000W 条数据。何优化
member_info:3000W。
不要问我为什么不分表,改动太大,无能为力。
问题 SQL
问题 SQL 如下:
SELECT mui.id, mui.merchant_id, mui.member_id, DATE_FORMAT( mui.recently_consume_time, %Y%m%d%H%i%s ) recently_consume_time, IFNULL(mui.total_consume_num, 0) total_consume_num, IFNULL(mui.total_consume_amount, 0) total_consume_amount, ( CASE WHEN u.nick_name IS NULL THEN 会员 WHEN u.nick_name = THEN 会员 ELSE u.nick_name END ) AS nickname, u.sex, u.head_image_url, u.province, u.city, u.country FROM merchant_member_info mui LEFT JOIN member_info u ON mui.member_id = u.id WHERE 1 = 1 AND mui.merchant_id = 商户编号 ORDER BY mui.recently_consume_time DESC / ASC LIMIT 0, 10出现的原因
经过验证可以按照“到店时间”进行降序排序,但是无法按照升序进行排序主要是查询太慢了。
主要原因是:虽然该查询使用建立了 recently_consume_time 索引,亿华云但是索引效率低下,需要查询整个索引树,导致查询时间过长。DESC 查询大概需要 4s,ASC 查询太慢耗时未知。
为什么降序排序快和而升序慢呢?
如下图:
因为是对时间建立了索引,最近的时间一定在最后面,升序查询,需要查询更多的数据,才能过滤出相应的结果,所以慢。
解决方案
目前生产库的索引,如下图:
①调整索引
需要删除 index_merchant_user_last_time 索引,同时将 index_merchant_user_merchant_ids 单例索引,变为 merchant_id,recently_consume_time 组合索引。
②调整结果(准生产)
如下图:
③调整前后结果对比(准生产)
测试数据:
merchant_member_info 有 902606 条记录。 member_info 表有 775 条记录。④SQL 执行效率
优化前,如下图:
优化后,云服务器提供商如下图:
type 由 index→ref,ref 由 null→const:
调整索引需要执行的 SQL
执行的注意事项:由于表中的数据量太大,请在晚上进行执行,并且需要分开执行。
# 删除近期消费时间索引 ALTER TABLE merchant_member_info DROP INDEX index_merchant_user_last_time; # 删除商户编号索引 ALTER TABLE merchant_member_info DROP INDEX index_merchant_user_merchant_ids; # 建立商户编号和近期消费时间组合索引 ALTER TABLE merchant_member_info ADD INDEX idx_merchant_id_recently_time (`merchant_id`,`recently_consume_time`);经询问,重建索引花了 30 分钟。
最终的分页查询优化
上面的 SQL 虽然经过调整索引,虽然能达到较高的执行效率,但是随着分页数据的不断增加,性能会急剧下降。
最终的 SQL
优化思路:先走覆盖索引定位到,需要的数据行的主键值,然后 INNER JOIN 回原表,取到其他数据。
SELECT mui.id, mui.merchant_id, mui.member_id, DATE_FORMAT( mui.recently_consume_time, %Y%m%d%H%i%s ) recently_consume_time, IFNULL(mui.total_consume_num, 0) total_consume_num, IFNULL(mui.total_consume_amount, 0) total_consume_amount, ( CASE WHEN u.nick_name IS NULL THEN 会员 WHEN u.nick_name = THEN 会员 ELSE u.nick_name END ) AS nickname, u.sex, u.head_image_url, u.province, u.city, u.country FROM merchant_member_info mui INNER JOIN ( SELECT id FROM merchant_member_info WHERE merchant_id = 商户ID ORDER BY recently_consume_time DESC LIMIT 9000, 10 ) AS tmp ON tmp.id = mui.id LEFT JOIN member_info u ON mui.member_id = u.id作者:不一样的云服务器科技宅
编辑:陶家龙
出处:juejin.cn/post/6844904053239971854
很赞哦!(55669)
相关文章
- 4、说起来容易
- 「 不懂就问 」为什么 Webpack 这么慢 ?
- 【死磕JVM】看完这篇我也会排查JVM内存过高了 就是玩儿!
- 通过Handle理解V8的代码设计(基于V0.1.5)
- 公司在注册域名时还需要确保邮箱的安全性。如果邮箱不安全,它只会受到攻击。攻击者可以直接在邮箱中重置密码并攻击用户。因此,有必要注意邮箱的安全性。
- Rollup - 构建原理及简易实现
- 图解 Raft 共识算法:如何复制日志?
- 初创公司真的适合用微服务吗?
- 域名资源有限,好域名更是有限,但机会随时都有,这取决于我们能否抓住机会。一般观点认为,国内域名注册太深,建议优先考虑外国注册人。外国注册人相对诚实,但价格差别很大,从几美元到几十美元不等。域名投资者应抓住机遇,尽早注册国外域名。
- 通过Python实现导弹自动追踪
热门文章
站长推荐
换新域名(重新来过)
如何不 Review 每一行代码,同时保持代码不被写乱?
地表最强VS Code新版发布,集成 Edge 浏览器开发工具
ZooKeeper、Eureka、Consul、Nacos,怎么选?
当投资者经过第二阶段的认真学习之后又充满了信心,认为自己可以在市场上叱咤风云地大干一场了。但没想到“看花容易绣花难”,由于对理论知识不会灵活运用.从而失去灵活应变的本能,就经常会出现小赢大亏的局面,结果往往仍以失败告终。这使投资者很是困惑和痛苦,不知该如何办,甚至开始怀疑这个市场是不是不适合自己。在这种情况下,有的人选择了放弃,但有的意志坚定者则决定做最后的尝试。
分布式事务,阿里为什么钟爱TCC
设计模式系列之策略模式
一口气, 了解 Qt 的所有 IPC 方式