MySQL查询优化之查询慢原因和解决技巧

作者:情三 时间:2024-01-23 13:36:09 

在做开发的朋友特别是和mysql有接触的朋友会碰到有时mysql查询很慢,当然我指的是大数据量百万千万级了,不是几十条了,

下面我们来看看解决查询慢的办法

会经常发现开发人员查一下没用索引的语句或者没有limit n的语句,这些没语句会对数据库造成很大的影响,例如一个几千万条记录的大表要全部扫描,或者是不停的做filesort,对数据库和服务器造成io影响等。这是镜像库上面的情况。

而到了线上库,除了出现没有索引的语句,没有用limit的语句,还多了一个情况,mysql连接数过多的问题。说到这里,先来看看以前我们的监控做法 :

  1. 部署zabbix等开源分布式监控系统,获取每天的数据库的io,cpu,连接数

  2. 部署每周性能统计,包含数据增加量,iostat,vmstat,datasize的情况

  3. Mysql slowlog收集,列出top 10

以前以为做了这些监控已经是很完美了,现在部署了mysql节点进程监控之后,才发现很多弊端

  • 第一种做法的弊端: zabbix太庞大,而且不是在mysql内部做的监控,很多数据不是非常准备,现在一般都是用来查阅历史的数据情况

  • 第二种做法的弊端:因为是每周只跑一次,很多情况没法发现和报警

  • 第三种做法的弊端: 当节点的slowlog非常多的时候,top10就变得没意义了,而且很多时候会给出那些是一定要跑的定期任务语句给你。。参考的价值不大

那么我们怎么来解决和查询这些问题呢

对于排查问题找出性能瓶颈来说,最容易发现并解决的问题就是MYSQL的慢查询以及没有得用索引的查询。
OK,开始找出mysql中执行起来不“爽”的SQL语句吧。

方法一: 这个方法我正在用,呵呵,比较喜欢这种即时性的。

Mysql5.0以上的版本可以支持将执行比较慢的SQL语句记录下来。


mysql> show variables like 'long%'; 注:这个long_query_time是用来定义慢于多少秒的才算“慢查询”
+-----------------+-----------+
| Variable_name | Value |
+-----------------+-----------+
| long_query_time | 10.000000 |
+-----------------+-----------+
1 row in set (0.00 sec)
mysql> set long_query_time=1; 注: 我设置了1, 也就是执行时间超过1秒的都算慢查询。
Query OK, 0 rows affected (0.00 sec)
mysql> show variables like 'slow%';
+---------------------+---------------+
| Variable_name | Value |
+---------------------+---------------+
| slow_launch_time | 2 |
| slow_query_log | ON | 注:是否打开日志记录

| slow_query_log_file | /tmp/slow.log | 注: 设置到什么位置
+---------------------+---------------+
3 rows in set (0.00 sec)
mysql> set global slow_query_log='ON' 注:打开日志记录

一旦slow_query_log变量被设置为ON,mysql会立即开始记录。
/etc/my.cnf 里面可以设置上面MYSQL全局变量的初始值。
long_query_time=1
slow_query_log_file=/tmp/slow.log

方法二:mysqldumpslow命令

/path/mysqldumpslow -s c -t 10 /tmp/slow-log
这会输出记录次数最多的10条SQL语句,其中:
-s, 是表示按照何种方式排序,ctlr分别是按照记录次数、时间、查询时间、返回的记录数来排序,acatalar,表示相应的倒叙;
-t, 是top n的意思,即为返回前面多少条的数据;
-g, 后边可以写一个正则匹配模式,大小写不敏感的;
比如
/path/mysqldumpslow -s r -t 10 /tmp/slow-log
得到返回记录集最多的10个查询。
/path/mysqldumpslow -s t -t 10 -g “left join” /tmp/slow-log
得到按照时间排序的前10条里面含有左连接的查询语句。 最后总结一下节点监控的好处

  1. 轻量级的监控,而且是实时的,还可以根据实际的情况来定制和修改

  2. 设置了过滤程序,可以对那些一定要跑的语句进行过滤

  3. 及时发现那些没有用索引,或者是不合法的查询,虽然这很耗时去处理那些慢语句,但这样可以避免数据库挂掉,还是值得的

  4. 在数据库出现连接数过多的时候,程序会自动保存当前数据库的processlist,DBA进行原因查找的时候这可是利器

  5. 使用mysqlbinlog 来分析的时候,可以得到明确的数据库状态异常的时间段

有些人会建义我们来做mysql配置文件设置

调节tmp_table_size的时候发现另外一些参数
Qcache_queries_in_cache在缓存中已注册的查询数目
Qcache_inserts被加入到缓存中的查询数目
Qcache_hits缓存采样数数目
Qcache_lowmem_prunes因为缺少内存而被从缓存中删除的查询数目
Qcache_not_cached没有被缓存的查询数目 (不能被缓存的,或由于 QUERY_CACHE_TYPE)
Qcache_free_memory查询缓存的空闲内存总数
Qcache_free_blocks查询缓存中的空闲内存块的数目
Qcache_total_blocks查询缓存中的块的总数目
Qcache_free_memory可以缓存一些常用的查询,如果是常用的sql会被装载到内存。那样会增加数据库访问速度。

来源:https://www.cnblogs.com/qing123/p/3229778.html

标签:MySQL,查询优化
0
投稿

猜你喜欢

  • php导出excel格式数据问题

    2023-07-13 22:46:06
  • Python实现图片指定位置加图片水印(附Pyinstaller打包exe)

    2023-08-13 04:27:16
  • go语言中的协程详解

    2024-03-13 00:42:24
  • axios请求的一些常见操作实战指南

    2023-07-02 16:33:25
  • python读取有密码的zip压缩文件实例

    2021-03-31 20:58:53
  • 详解Go语言中泛型的实现原理与使用

    2024-02-06 08:30:15
  • python实现简易的学生信息管理系统

    2021-08-24 12:07:09
  • Javascript学习第一季 二

    2008-06-24 18:20:00
  • python中的代码运行时间获取方式

    2023-11-19 22:57:02
  • php利用ob_start()清除输出和选择性输出的方法

    2023-11-18 08:54:35
  • CSS处理斜角导航条的一个例子

    2007-08-27 12:38:00
  • pytorch 实现查看网络中的参数

    2023-10-28 22:08:37
  • Javascript typeof 用法

    2013-10-20 20:49:40
  • python实现凯撒密码加密解密的示例代码

    2021-12-08 07:29:07
  • Python Web框架Flask信号机制(signals)介绍

    2022-12-01 13:52:23
  • python多线程semaphore实现线程数控制的示例

    2022-12-29 18:31:40
  • python发送多人邮件没有展示收件人问题的解决方法

    2023-01-03 05:16:10
  • python re的findall和finditer的区别详解

    2022-05-19 23:04:33
  • Python实现PDF转MP3的示例代码

    2021-08-07 21:21:06
  • python遍历文件目录、批量处理同类文件

    2021-10-19 14:58:12
  • asp之家 网络编程 m.aspxhome.com