MySQL的JOIN到底是怎么玩的

数据库 MySQL
MySQL通常采用嵌套循环(Nested-Loop Join)的方法来执行关联查询,具体而言,主要包括简单嵌套循环连接(Simple Nested Loop Join)、块状嵌套循环连接(Block Nested Loop Join)和索引嵌套循环连接(Index Nested Loop Join)这三种算法。

高手回答

在MySQL中,查询操作通常会涉及到联结不同表格,而JOIN命令则在这一过程中扮演了关键角色。在JOIN操作中,我们通常会使用三种不同的方式,分别是内连接、左连接以及右连接。

  • INNER JOIN(内连接,或称为等值连接):此操作获取了两个表中字段相互匹配的记录,实质上是取得了这两个表的交集部分。
  • LEFT JOIN(左连接):相较于内连接,左连接获取了左表格的所有记录,即便在右表格中可能没有对应的匹配记录。这样,查询结果将包含两个表格的交集部分,以及左表格中的所有数据。
  • RIGHT JOIN(右连接):右连接与左连接相反,它主要用于获取右表格中的所有记录,即便在左表格中找不到对应的匹配数据。因此,RIGHT JOIN同样会取得两个表格的交集部分,以及右表格中的所有数据。

在实施JOIN操作时,还常常会搭配上关键字ON,用以明确指定关联查询的一些条件。

嵌套循环算法

MySQL通常采用嵌套循环(Nested-Loop Join)的方法来执行关联查询,具体而言,主要包括简单嵌套循环连接(Simple Nested Loop Join)、块状嵌套循环连接(Block Nested Loop Join)和索引嵌套循环连接(Index Nested Loop Join)这三种算法。

然而,这三种算法的效率均未能达到特别的高水平。

  • 简单嵌套循环:该算法直截了当,通过全面扫描连接两张表来进行逐一数据比对,因此其复杂度可以被视为N*M,其中N是驱动表的数量,而M是被驱动表的数量。
  • 索引嵌套循环:如果内循环表中的字段具有索引,索引嵌套循环会利用该索引来查询数据。由于索引是基于B+树的,因此复杂度近似为N*logM。
  • 块状嵌套循环:这种算法引入了一个缓冲区(Buffer),它会提前将外循环的一部分结果存放在JOIN BUFFER中,然后内循环中的每一行都与整个缓冲区中的数据进行比较。尽管比较次数仍为N*M,但由于JOIN BUFFER是基于内存的,因此效率大大提高。

尽管MySQL已经尽力优化这些算法,但这几种算法的复杂度仍然相对较高。这也是为何不建议在数据库中频繁进行多表JOIN的原因。随着表格数量和数据量的增加,JOIN操作的效率会指数级下降。

当无法使用JOIN进行关联查询时,可以考虑使用子查询、临时表或者联合查询等方式来实现相同的查询需求。

如果不能通过数据库做关联查询,那么需要查询多表的数据的时候要怎么做呢?

主要有两种做法:

  • 在内存中自己做关联,即先从数据库中把数据查出来之后,我们在代码中再进行二次查询,然后再进行关联。
  • 数据冗余,那就是把一些重要的数据在表中做冗余,这样就可以避免关联查询了。
  • 宽表,就是基于一定的join关系,把数据库中多张表的数据打平做一张大宽表,可以同步到ES或者干脆直接在数据库中直接查都可以

若无法通过数据库进行关联查询,处理涉及多表数据的情况,常见的做法有两种:

  • 在内存中自行关联:首先从数据库中检索数据,然后在程序中执行第二次查询,随后进行关联操作。
  • 数据冗余:通过在表中存储一些重要数据的冗余副本,可以避免进行关联查询。
  • 宽表设计:基于一定的连接关系,将数据库中多个表的数据打平形成一个庞大的宽表,这个宽表可以同步到Elasticsearch(ES),或者直接在数据库中进行查询操作。

MySQL的Hash Join是什么?

在MySQL 8.0中新增的 Hash Join 算法是一种用于多表连接的算法。在此之前,MySQL通常使用嵌套循环(Nested-Loop Join)的方法来执行关联查询,然而嵌套循环算法在性能方面并不理想。因此,引入了 Hash Join 算法,旨在优化 Nested-Loop Join 的性能表现。

所谓的 Hash Join 实际上底层利用了哈希表。

Hash Join 是针对等值连接场景的优化方法,其基本原则是将驱动表的数据加载到内存中,并构建哈希表,这样只需遍历一次非驱动表,然后通过哈希查找在哈希表中寻找匹配的行,就能完成连接操作。

举个例子:

在上述的 left join SQL 中,在进行 Hash Join 过程时,主要包括两个步骤:构建和探测。

在构建阶段中,如果优化器经过优化选择了 employee 作为驱动表,那么就会将该驱动表的数据构建到哈希表中:

图片图片

在探测阶段,当从 company 表中取出记录后,会到哈希表中查询匹配的数据,然后进行聚合操作。

图片图片

需要注意的是,上述提到的哈希表是存在于内存中的。然而,内存是有限的(受到 join_buffer_size 的限制)。那么,如果内存无法容纳驱动表的数据怎么处理呢?那就不得不说一说基于磁盘的Hash Join了。

基于磁盘的Hash Join

基于磁盘的哈希连接

当驱动表中的数据量较大,无法一次性加载到内存中时,就需要考虑将数据存储在磁盘上。通过将哈希表的部分内容存储在磁盘上,可以分批加载和处理数据,减少对内存的需求。

在这种算法中,为了避免一个大型哈希表无法完全存储在内存中,可以采用分表的方法来解决。即通过哈希算法将驱动表分割成多个片段,并将临时分片写入磁盘。

这意味着将一个驱动表拆分成多个哈希表,并分别存储在磁盘上。

图片图片

接下来是进行连接操作,在这个过程中,对被驱动表也会使用相同的哈希算法进行分区,以确定在哪个分区中。在确定分区后,首先要确认该分区是否已经被加载到内存中,如果已加载,则可以直接在内存中的哈希表中查找匹配的行。

图片图片

如果哈希值对应的分区尚未加载到内存中,则需要从磁盘上读取该分区的数据到内存中的哈希表,并进行匹配。

这样不断重复进行,直至完成所有数据的连接操作,然后返回结果集。

责任编辑:武晓燕 来源: 码上遇见你
相关推荐

2019-05-28 13:50:27

MySQL幻读数据库

2020-12-28 08:18:55

安全代码线程

2019-07-23 15:34:29

MySQL存储引擎

2020-10-19 09:51:18

MYSQL知识数据库

2022-01-14 17:01:44

GoError结构

2022-01-07 07:59:14

Go语言Go Error

2023-07-14 12:21:29

流程@Autowired方法

2019-12-18 18:31:10

黑客医疗保险软件

2016-11-17 22:18:31

id串行化服务器

2023-11-16 12:34:00

MySQLjoin

2022-07-11 08:33:51

容器技术Docker

2024-02-22 08:00:00

SoraOpenAI

2022-08-08 08:00:00

人工智能机器学习计算机应用

2022-04-15 08:54:39

PythonAsync代码

2021-08-02 09:01:05

MySQL 多版本并发数据库

2020-03-05 10:28:19

MySQLMRR磁盘读

2022-05-24 17:00:41

区块链IT比特币

2018-09-30 15:05:01

Linux用户组命令

2018-02-24 23:19:31

iOSbug苹果

2023-10-12 08:54:20

Spring事务设置
点赞
收藏

51CTO技术栈公众号