神奇的 SQL 之 联表细节 → MySQL JOIN 的执行过程(一)bahttps://www.cnblogs.com/youzhibing/p/12004986.html
00 分钟
2022-8-26

问题背景

对于 MySQL 的 JOIN,不知道大家有没有去想过他的执行流程,亦或有没有怀疑过自己的理解(自信满满的自我认为!);如果大家不知道怎么检验,可以试着回答如下的问题

驱动表的选择

MySQL 会如何选择驱动表,按从左至右的顺序选择第一个?

多表连接的顺序

假设我们有 3 张表:A、B、C,和如下 SQL
  • - 伪 SQL,不能直接执行 A LEFT JOIN B ON B.aId = A.id LEFT JOIN C ON C.aId = A.id WHERE A.name = '666' AND B.state = 1 AND C.create_time > '2019-11-22 12:12:30'
是 A 和 B 联表处理完之后的结果再和 C 进行联表处理,还是 A、B、C 一起联表之后再进行过滤处理 ,还是说这两种都不对,有其他的处理方式 ?

ON、WHERE 的生效时机

楼主无意之间逛到了一篇博文,它里面有如下介绍
notion image
正经图1 摘自 Mysql - JOIN详解
看完这个,楼主第一时间有发现新大陆的感觉,原来 JOIN 的执行顺序是这样的(不是颠覆了楼主之前的认知,因为楼主之前就没想过这个问题,而是有种新技能获取的满足),可后面越想越不对,感觉像是学错了技能(6级没学大!)
如果两表各有几百上千万的数据,那这两张表做笛卡尔积,结果不敢想象!也就是说 正经图1 中的顺序还有待商榷,ON 和 WHERE 的生效时间也有待商榷
如果你对上述问题都了如指掌,那请你走开,别妨碍我装逼;如果你对上述问题还不是特别清楚,那么请坐好,我要开始装逼了

前提准备

正式开讲之前了,先给大家预备一些花生、瓜子和啤酒,装逼就得有装逼的氛围,不然怎么看的下去,你说是吧 ?(楼主,你个骗子,货了?)

驱动表

何谓驱动表,指多表关联查询时,第一个被处理的表,亦可称之为基表,然后再使用此表的记录去关联其他表。驱动表的选择遵循一个原则:在对最终结果集没影响的前提下,优先选择结果集最少的那张表作为驱动表。这个原则说的不好懂,结果集最少,这个也许我们能估出来,但对最终结果集不影响,这个就不好判断了,难归难,但还是有一定规律的:
LEFT JOIN 一般以左表为驱动表(RIGHT JOIN一般则是右表 ),INNER JOIN 一般以结果集少的表为驱动表,如果还觉得有疑问,则可用 EXPLAIN 来找驱动表,其结果的第一张表即是驱动表。你以为 EXPLAIN 就一定准吗 ? 执行计划在真正执行的时候是可能改变的! 绝大多少情况下是适用的,特别是 EXPLAIN
LEFT JOIN 某些情况下会被查询优化器优化成 INNER JOIN;结果集指的是表中记录过滤后的结果,而不是表中的所有记录,如果无过滤条件则是表中所有记录

SQL 执行的流程图

当我们向 MySQL 发送一个请求的时候,MySQL 到底做了些了什么
notion image
SQL 执行路径,摘自《高性能MySQL》
可以看到,执行计划是查询优化器的输出结果,执行引擎根据执行计划来查询数据

数据准备

MySQL 5.7.1,InnoDB 引擎;建表 SQL 和 数据初始 SQL

单表查询

单表查询的过程比较好理解,大致如下
notion image
关于单表查询就不细讲了,主要涉及到:聚簇索引,覆盖索引、回表操作,知道这 3 点,上图就好理解了(不知道的赶快去查资料,暴露了就丢人了!)。

联表算法

MySQL 的联表算法是基于嵌套循环算法(nested-loop algorithm)而衍生出来的一系列算法,根据不同条件而选用不同的算法
在使用索引关联的情况下,有 Index Nested-Loop join 和 Batched Key Access join 两种算法; 在未使用索引关联的情况下,有 Simple Nested-Loop join 和 Block Nested-Loop join 两种算法;

Simple Nested-Loop

简单嵌套循环,简称 SNL;逐条逐条匹配,就像这样
notion image
这种算法简单粗暴,但毫无性能可言,时间性能上来说是 n(表中记录数) 的 m(表的数量) 次方,所以 MySQL 做了优化,联表查询的时候不会出现这种算法,即使在无 WHERE  条件且 ON 的连接键上无索引时,也不会选用这种算法

Block Nested-Loop

缓存块嵌套循环连接,简称 BNL,是对 SNL 的一种优化;一次性缓存多条驱动表的数据到 Join Buffer,然后拿 Join Buffer 里的数据批量与内层循环读取的数据进行匹配,就像这样
将内部循环中读取的每一行与缓冲区中的所有记录进行比较,这样就可以减少内层循环的读表次数。举个例子,如果没有 Join Buffer,驱动表有 30 条记录,被驱动表有 50 条记录,那么内层循环的读表次数应该是 30 * 50 = 1500,如果 Join Buffer 可用并可以存 10 条记录(Join Buffer 存储的是驱动表中参与查询的列,包括 SELECT 的列、ON 的列、WHERE 的列,而不是驱动表中整行整行的完整记录),那么内层循环的读表次数应该是 30 / 10 * 50 = 150,被驱动表必须读取的次数减少了一个数量级。
当被驱动表在连接键上无索引且被驱动表在 WHERE 过滤条件上也没索引时,常常会采用此种算法来完成联表,如下所示
notion image
notion image

Index Nested-Loop

索引嵌套循环,简称 INL,是基于被驱动表的索引进行连接的算法;驱动表的记录逐条与被驱动表的索引进行匹配,避免和被驱动表的每条记录进行比较,减少了对被驱动表的匹配次数,大致流程如下图
notion image
我们来看看实际案例,先给 tbl_user_login_log 添加索引 ALTER TABLE tbl_user_login_log ADD INDEX idx_user_name (user_name); ,我们再来看联表执行计划
notion image
可以看到 tbl_user_login_log 的索引生效了,我们再往下看
notion image
有趣的事发生了,驱动表变成了 tbl_user_login_log ,而 tbl_user 成了被驱动表, tbl_user_login_log 走索引过滤后得到结果集,再通过 BNL 算法将结果集与 tbl_user 进行匹配。这其实是 MySQL进行了优化,因为 tbl_user_login_log 走索引过滤后得到的结果集比 tbl_user 记录数要少,所以选择了 tbl_user_login_log 作为驱动表,后面的也就理所当然了,是不是感觉 MySQL 好强大?

Batched Key Access

批量key访问,简称 BKA,是对 INL 算法的一种优化;
BKA 对 INL 的优化类似于 BNL 对 SNL 的优化,但又有不同; 鉴于篇幅原因,BKA 我们放到下期讲解,希望各位老哥见谅!实在是不行,你来打我呀!

总结

1、驱动表的选择有它的一套算法,有兴趣的可以去专研下;比较靠谱的确定方法是用 EXPLAIN
2、联表顺序,不是两两联合之后,再去联合第三张表,而是驱动表的一条记录穿到底,匹配完所有关联表之后,再取驱动表的下一条记录重复联表操作;
3、MySQL 的连接算法基于嵌套循环算法,基于不同的情况而采用不同的衍生算法
4、关于 ON 和 WHERE,我们下篇详细讲解,大家可以先考虑下它们的区别,以及生效时间

评论