一条 SQL 查询语句是如何执行的?

一条 SQL 查询语句是如何执行的?

比如,你有个最简单的表,表里只有一个ID字段,在执行下面这个查询语句时

mysql> select from T where ID=10;

我们只看到一个输入语句,返回一个结果,却不知道这个 SQL 语句在 MySQL 内部的执行过程。

MySQL 基本架构示意图

MySQL 基本架构示意图

  • Server 层包括连接器,查询缓存,分析器,优化器,执行器等,涵盖的功能包括 MySQl 大多数核心服务,比如内置函数(日期,时间,数学和加密函数),跨存储引擎的Server 层实现。比如存储过程,触发器,视图等。
  • 存储引擎层,负责数据的存储和提取,架构是插件式的,支持 InnoDB,MyISAM 、Memory 等多个存储引擎。现在的最常用的引擎是 InnoDB ,他是 MySQL 5.5.5 版本开始后的默认引擎。

执行create table 建表的时候,如果不指定存储引擎类型,默认使用InnoDB ,不过,也可以通过指定存储引擎类型来选择其他的引擎 ,比如在 Create table 预警中使用 engine = memory 。

连接器

第一步,你会先连接到这个数据库上,这时候接待你的就是连接器。连接器负责跟客户端建立连接、获取权限、维持和管理连接。连接命令一般是这么写的:

mysql -h$ip -P$port -u$user -p

输入完命令之后,需要在交互对话页面输入密码, 也可以直接在-p 之后写密码。

连接命令中的 mysql 是客户端工具,用来跟服务器建立连接,完成经典的 TCP,握手之后,连接器要开始认证身份,这个时候需要输入用户名和密码。

  • 如果用户名或密码不对,你就会收到一个" Access denied for user"的错误,然后客户端程序结束执行。
  • 如果用户名密码认证通过,连接器会到权限表里面查出你拥有的权限。之后,这个连接里面的权限判断逻辑,都将依赖于此时读到的权限。

一个用户连接后,即使你试用管理员账号对这个用户的权限做修改,也不会影响已经存在的连接的权限,修改完成后,只有再新建的连接才会使用新的权限设置。

连接完成之后,如果没有后续动作,这个连接就处于空闲状态,可以通过 show processlit 命令看到:

MariaDB [mysql]> show  processlist 
    -> ;
+-----------+------+-----------+-------+---------+------+-------+-------------------+----------+
| Id        | User | Host      | db    | Command | Time | State | Info              | Progress |
+-----------+------+-----------+-------+---------+------+-------+-------------------+----------+
| 198609891 | root | localhost | mysql | Query   |    0 | NULL  | show  processlist |    0.000 |
| 198613616 | root | n1:36946  | mysql | Sleep   |    3 |       | NULL              |    0.000 |
| 198613622 | root | n1:36956  | mysql | Sleep   |    2 |       | NULL              |    0.000 |
| 198613627 | root | n1:36966  | mysql | Sleep   |    2 |       | NULL              |    0.000 |
| 198613631 | root | n1:36974  | mysql | Sleep   |    1 |       | NULL              |    0.000 |
| 198613632 | root | n1:36976  | mysql | Sleep   |    1 |       | NULL              |    0.000 |
| 198613635 | root | n1:36982  | mysql | Sleep   |    0 |       | NULL              |    0.000 |
| 198613636 | root | n1:36984  | mysql | Sleep   |    0 |       | NULL              |    0.000 |
| 198613639 | root | n1:36990  | mysql | Sleep   |    0 |       | NULL              |    0.000 |
+-----------+------+-----------+-------+---------+------+-------+-------------------+----------+
9 rows in set (0.01 sec)

其中的 Commond 列显示为 Sleep 的这一行,就表现在系统文件里有一个空闲连接。客户端如果长时间没动静,这个时间 参数 wait_timeout 控制,默认是 8 小时。如果连接被断开,客户端再次发送请求的话,那么就会收到一个错误提箱:Lost connection to MySQL server during query ,这个时候如果你要继续,就需要重连,然后再执行请求。

数据库里面,长连接时值连接成功后,如果客户端持续有请求,则使用同一个连接,短连接时每次执行很少的几次查询就断开连接,下次查询再重新建立一个。建立连接的过程通常比较复杂,所以通常建议减少建立连接的动账,也就是尽量使用长连接。

但是全部使用长连接后,可能会发现,有些时候 MySQL 占用内存涨的十分的快,因为 MySQL 在执行过程中使用的是内存管理连接对象,这些资源会在连接断开之后才释放,所以长连接累计下来,可能导致内存占用太大,被系统强行杀掉 (OOM),现象上可以看到 MySQL 异常重启了。

怎么解决 MySQL 长连接占用内存过大的问题?

  1. 定期断开长连接。使用一段时间,或者程序里面判断执行过一个占用内存的大查询后,断开连接,之后要查询再重连。
  2. 如果你用的是MSQL5.7或更新版本,可以在每次执行一个比较大的操作后,通过执行mysql _ reset_connection来重新初始化连接资源。这个过程不需要重连和重新做权限验证,但是会将连接恢复到刚刚创建完时的状态。

查询缓存

连接建立完成后,就可以执行 Select 语句了,执行逻辑就会进行到第二步:查询缓存。

MySQL 拿到一个请求后,先查询缓存看看,看是不是之前执行过这条语句,之前执行过的语句与结果,可能会以 key-value 形式,被直接缓存在内存中,key 是查询的语句, value 是查询的结果,如果你的查询语句能够直接在这个缓存中找到 key,那么这个 value 就会直接返回给客户端。

如果语句在查询缓存中不存在,就会继续后面的执行操作,执行完成后,执行结果会被写入缓存中,如果查询命中缓存,MSQL不需要执行后面的复杂操作,就可以直接返回结果,这个效率会很高。

为什么大多数情况下不建议查询缓存?

因为查询缓存往往弊大于利。

查询缓存的失效非常频繁,只要有对一个表的更新,这个表上所有的查询缓存都会被清空。 因此很可能你费劲地把结果存起来,还没使用呢,就被一个更新全清空了。对于更新压力大的数据库来说,查询缓存的命中率会非常低。除非你的业务就是有一张静态表,很长时间才会更新一次。
比如,一个系统配置表,那这张表上的查询才适合使用查询缓存。

好在MySQL 也提供了这种“按需使用”的方式。你可以将参数 query_cache_type 设置成DEMAND,这样对于默认的SQL语句都不使用查询缓存。而对于你确定要使用査询缓存的语句,可以用 SQL_CACHE显式指定,像下面这个语句一样:

mysql> select SQL_CACHE * from T where ID=10

query_cache_type 参数设置如下

query_cache_type三个参数的含义:
query_cache_type=0(OFF)关闭
query_cache_type=1(ON)缓存所有结果,除非select语句使用SQL_NO_CACHE禁用查询缓存
query_cache_type=2(DEMAND),只缓存select语句中通过SQL_CACHE指定需要缓存的查询
修改为DEMAND方式:
vi /etc/my.cnf,加入如下行:
query_cache_type =2
保存并重启mysql

需要注意的是,MySQL8.0版本直接将査询缓存的整块功能删掉了,也就是说8.0开始彻底没有这个功能了。

分析器

如果没有命中査询缓存,就要开始真正执行语句了。首先,MySQL需要知道你要做什么,因此需要对SQL语句做解析。

词法分析

分析器先会做 “词法分析”。你输入的是由多个字符串和空格组成的一条SQL语句,MySQL需要识别出里面的字符串分别是什么,代表什么,MySQL从你输入的" select"这个关键字识别出来,这是一个查询语句。它也要把字符串“T识别成“表名T,把字符串“ID”识别成“列ID”。

语法分析

做完了这些识别以后,就要做“语法分析”。根据词法分析的结果,语法分析器会根据语法规则,判断你输入的这个SQL语句是否满足MySQL语法。

如果你的语句不对,就会收到“ You have an eror in your SQL syntax’的错误提醒,比如下面这个语句 select少打了开头的字母“s”.

MariaDB [mysql]> elect * from  user ;
ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MariaDB server version for the right syntax to use near 'elect * from  user' at line 1

一般语法错误会提示第一个出现错误的位置,所以你要关注的是紧接“ use near"的内容,

优化器

经过了分析器,MySQL 知道要做什么了,那么在开始执行之前,还要进行优化器的处理,优化器在表里面有多个索引的时候,决定使用哪个索引;或者在一个语句多表关联的时候,决定各个表的连接顺序,比如下面语句是执行两个表的的 join:

mysql> select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;
  • 可以先从t1 里面取出 C=10 的记录的ID值,再根据 ID 值关联到表 t2,再判断 t2 里面的 d 值是否等于 20
  • 可以先从表 t2 里面提取 d= 20的记录的ID值,再根据 ID 值关联t1 ,再判断 t1 里面 c 的值是否等于10

这两种执行方法的逻辑结果是一样的,但是执行的效率会有不同,而优化器的作用就是决定选择使用哪一种方案。
优化器阶段完成后,这个语句的执行方案就确定下来了,然后进入执行器阶段。

执行器

MySQL通过分析器知道了你要做什么,通过优化器知道了该怎么做,于是就进入了执行器阶段,开始执行语句。开始执行的时候,要先判断一下你对这个表T有没有执行查询的权限,如果没有,就会返回没有权限的错误,如下所示。

mysql> select from T where ID=10;
ERROR 1142(42000):SELECT command denied to user 'b@'localhost for table 'T'

如果有权限,就打开表继续执行。打开表的时候,执行器就会根据表的引擎定义,去使用这个引擎提供的接口。
比如我们这个例子中的表 T 中,ID 字段没有索引,那么执行器的流程如下:

  1. 调用InnoDB引擎接口取这个表的第一行,判断ID值是不是10,如果不是则跳过,如果是则将这行存在结果集中
  2. 调用引擎接口取“下一行”,重复相同的判断逻辑,直到取到这个表的最后一行
  3. 执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果集返回给客户端。

对于有索引的表,执行的逻辑也差不多。第一次调用的是“取满足条件的第一行”这个接口,之后循环取“满足条件的下一行”这个接口,这些接口都是引擎中已经定义好的。你会在数据库的慢查询日志中看到一个 rows_examined的字段,表示这个语句执行过程中扫描了多少行。这个值就是在执行器每次调用引擎获取数据行的时候累加的。

MariaDB [(none)]> show variables  like '%slow_query_log%';
+---------------------+-------------+
| Variable_name       | Value       |
+---------------------+-------------+
| slow_query_log      | OFF         |
| slow_query_log_file | n1-slow.log |
+---------------------+-------------+
2 rows in set (0.00 sec)

MariaDB [(none)]> set global slow_query_log=1;
Query OK, 0 rows affected (0.04 sec)

MariaDB [(none)]>  show variables like '%slow_query_log%';
+---------------------+-------------+
| Variable_name       | Value       |
+---------------------+-------------+
| slow_query_log      | ON          |
| slow_query_log_file | n1-slow.log |
+---------------------+-------------+
2 rows in set (0.00 sec)

那么开启了慢查询日志后,什么样的SQL才会记录到慢查询日志里面呢? 这个是由参数long_query_time控制,默认情况下long_query_time的值为10秒,可以使用命令修改,也可以在my.cnf参数里面修改。关于运行时间正好等于long_query_time的情况,并不会被记录下来。

MariaDB [(none)]> select sleep(11);
+-----------+
| sleep(11) |
+-----------+
|         0 |
+-----------+
1 row in set (11.00 sec)

查看慢查询日志

[root@n1 /]# more /var/lib/mysql/n1-slow.log
/usr/libexec/mysqld, Version: 5.5.60-MariaDB (MariaDB Server). started with:
Tcp port: 3306  Unix socket: /var/lib/mysql/mysql.sock
Time                 Id Command    Argument
# Time: 200518 10:46:23
# User@Host: root[root] @ localhost []
# Thread_id: 199009283  Schema:   QC_hit: No
# Query_time: 11.000291  Lock_time: 0.000000  Rows_sent: 1  Rows_examined: 0
SET timestamp=1589769983;
select sleep(11);

参数说明

Query_time: duration
语句执行时间(以秒为单位)
Lock_time: duration
在几秒钟内获得锁定的时间
Rows_sent: N
发送到客户端的行数。
Rows_examined: 
优化程序检查的行数

mysqldumpslow 慢查询日志分析工具

#访问时间最长的10个sql语句
mysqldumpslow -t 10   /var/lib/mysql/n1-slow.log              
#访问次数最多的10个sql语句
mysqldumpslow -s c -t 10  /var/lib/mysql/n1-slow.log          
#访问记录集最多的10个sql
mysqldumpslow -s r -t 10  /var/lib/mysql/n1-slow.log

[root@n1 /]# mysqldumpslow

Reading mysql slow query log from /var/lib/mysql/n1-slow.log
Count: 1  Time=11.00s (11s)  Lock=0.00s (0s)  Rows_sent=1.0 (1), Rows_examined=0.0 (0), root[root]@localhost
  select sleep(N)

[root@n1 /]# more /var/lib/mysql/n1-slow.log
/usr/libexec/mysqld, Version: 5.5.60-MariaDB (MariaDB Server). started with:
Tcp port: 3306  Unix socket: /var/lib/mysql/mysql.sock
Time                 Id Command    Argument
# Time: 200518 10:46:23
# User@Host: root[root] @ localhost []
# Thread_id: 199009283  Schema:   QC_hit: No
# Query_time: 11.000291  Lock_time: 0.000000  Rows_sent: 1  Rows_examined: 0
SET timestamp=1589769983;
select sleep(11);

存储引擎对比

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传
存储引擎对比

慢查询日志开启方法

slow_query_log = ON
log_queries_not_using_indexes = ON;
slow_query_log_file = /usr/local/mysql/data/slow.log
long_query_time = 1

执行器的状态

image

程序员开发者社区

程序员开发者社区

展开阅读全文

没有更多推荐了,返回首页

©️2019 CSDN 皮肤主题: Age of Ai 设计师: meimeiellie
应支付0元
点击重新获取
扫码支付

支付成功即可阅读