小心避坑:MySQL分页时使用 limit+order by 会出现数据重复问题

数据库 MySQL
在MySQL中我们通常会采用limit来进行翻页查询,比如limit(0,10)表示列出第一页的10条数据,limit(10,10)表示列出第二页。但是,当limit遇到order by的时候,可能会出现翻到第二页的时候,竟然又出现了第一页的记录。

[[318427]]

0 问题描述

在MySQL中我们通常会采用limit来进行翻页查询,比如limit(0,10)表示列出第一页的10条数据,limit(10,10)表示列出第二页。但是,当limit遇到order by的时候,可能会出现翻到第二页的时候,竟然又出现了第一页的记录。

具体如下:

  1. SELECT 
  2. `post_title`, 
  3. `post_date` 
  4. FROM 
  5. post 
  6. WHERE 
  7. `post_status`='publish' 
  8. ORDERBY 
  9. view_countdesc 
  10. LIMIT 
  11. 5,5 

使用上述SQL查询的时候,很有可能出现和LIMIT 0,5相同的某条记录。而如果使用如下方式,则不会出现重复的情况:

  1. SELECT 
  2. FROM 
  3. post 
  4. WHERE 
  5. post_status='publish' 
  6. ORDERBY 
  7. view_countdesc 
  8. LIMIT 
  9. 5,5 

但是,由于post表的字段很多,仅仅希望用这两个字段,不想把post_content也查出来。为了解决这个情况,在ORDER BY后面使用了两个排序条件来解决这个问题,如下:

  1. SELECT 
  2. `post_title`, 
  3. `post_date` 
  4. FROM 
  5. post 
  6. WHERE 
  7. `post_status`='publish' 
  8. ORDERBY 
  9. view_countdesc, 
  10. IDasc 
  11. LIMIT 
  12. 5,5 

按理来说,MySQL的排序默认情况下是以主键ID作为排序条件的,也就是说,如果在view_count相等的情况下,主键ID作为默认的排序条件,不需要我们多此一举加ID asc。但是事实就是,MySQL再order by和limit混用的时候,出现了排序的混乱情况。

1 分析问题

在MySQL 5.6的版本上,优化器在遇到order by limit语句的时候,做了一个优化,即 使用了priority queue。

使用 priority queue 的目的,就是在不能使用索引有序性的时候,如果要排序,并且使用了limit n,那么只需要在排序的过程中,保留n条记录即可,这样虽然不能解决所有记录都需要排序的开销,但是只需要 sort buffer 少量的内存就可以完成排序

之所以MySQL 5.6出现了第二页数据重复的问题,是因为 priority queue 使用了堆排序的排序方法,而堆排序是一个不稳定的排序方法,也就是相同的值可能排序出来的结果和读出来的数据顺序不一致。

MySQL 5.5 没有这个优化,所以也就不会出现这个问题。

也就是说,MySQL 5.5是不存在本文提到的问题的,5.6版本之后才出现了这种情况。

再看下MySQL解释sql语言时的执行顺序:

(1)SELECT
(2)DISTINCT<select_list>
(3)FROM<left_table>
(4)<join_type>JOIN<right_table>
(5)ON<join_condition>
(6)WHERE<where_condition>
(7)GROUPBY<group_by_list>
(8)HAVING<having_condition>
(9)ORDERBY<order_by_condition>
(10)LIMIT<limit_number>

执行顺序依次为 form… where… select… order by… limit…,由于上述priority queue的原因,在完成select之后,所有记录是以堆排序的方法排列的,在进行order by时,仅把view_count值大的往前移动。

但由于limit的因素,排序过程中只需要保留到5条记录即可,view_count并不具备索引有序性,所以当第二页数据要展示时,mysql见到哪一条就拿哪一条,因此,当排序值相同的时候,第一次排序是随意排的,第二次再执行该sql的时候,其结果应该和第一次结果一样。

2 解决方法

1.索引排序字段

如果在字段添加上索引,就直接按照索引的有序性进行读取并分页,从而可以规避遇到的这个问题。

2.正确理解分页

分页是建立在排序的基础上,进行了数量范围分割。排序是数据库提供的功能,而分页却是衍生出来的应用需求。

在MySQL和Oracle的官方文档中提供了limit n和rownum < n的方法,但却没有明确的定义分页这个概念。

还有重要的一点,虽然上面的解决方法可以缓解用户的这个问题,但按照用户的理解,依然还有问题:比如,这个表插入比较频繁,用户查询的时候,在read-committed的隔离级别下,第一页和第二页仍然会有重合。

所以,分页一直都有这个问题,不同场景对数据分页都没有非常高的准确性要求。

3.一些常见的数据库排序问题

不加order by的时候的排序问题

用户在使用Oracle或MySQL的时候,发现MySQL总是有序的,Oracle却很混乱,这个主要是因为Oracle是堆表,MySQL是索引聚簇表的原因。所以没有order by的时候,数据库并不保证记录返回的顺序性,并且不保证每次返回都一致的。

分页问题 分页重复的问题

如前面所描述的,分页是在数据库提供的排序功能的基础上,衍生出来的应用需求,数据库并不保证分页的重复问题。

NULL值和空串问题

不同的数据库对于NULL值和空串的理解和处理是不一样的,比如Oracle NULL和NULL值是无法比较的,既不是相等也不是不相等,是未知的。而对于空串,在插入的时候,MySQL是一个字符串长度为0的空串,而Oracle则直接进行NULL值处理。 

责任编辑:庞桂玉 来源: 今日头条
相关推荐

2022-05-05 08:00:00

团队敏捷流程

2023-10-24 15:29:54

MySQL

2022-01-10 10:12:58

MySQL分页数据

2010-05-25 15:12:22

MySQL分页

2023-02-26 23:43:43

MySQL数据库分页查询

2010-06-04 16:12:39

MYSQL_ASSOC

2021-02-26 00:46:11

CIO数据决策数字化转型

2013-05-28 00:35:48

JavaScriptfor循环

2010-04-23 10:30:17

Oracle移植

2023-03-13 07:41:34

分页查询数据排序

2023-08-17 14:42:54

Redis分布式锁

2010-04-06 13:22:24

Oracle数据库

2010-01-28 15:45:35

C++老手

2011-07-28 16:16:27

MySQL数据库索引ORDER BY

2020-11-17 11:10:42

MySQL数据库索引

2010-10-27 15:40:14

oracle分页查询

2012-08-07 09:37:23

虚拟化

2018-08-27 08:19:07

Hadoop集群Ambari

2018-07-12 15:52:25

数字化CIO误区

2021-01-13 09:07:32

MySQLOrderLimit
点赞
收藏

51CTO技术栈公众号