Mysql分页使用limit+order by 出现数据重复问题解决

踩坑描述:

写分页查询接口,只取需要的字段进行查询,order by走的其他字段排序。
在进行第二页查询时,出现与第一页的数据一样的记录。

实例:
SELECT
  `id`,
  `name`
FROM
  test_table
WHERE
  `status` = 1
ORDER BY
  c_time desc
LIMIT
  1, 5

若使用上述sql查询,很有可能会出现与 LIMIT 0,5 相同的记录。
若使用如下方式,则恢复正常的情况:

SELECT
  *
FROM
  test_table
WHERE
  `status` = 1
ORDER BY
  c_time desc
LIMIT
  1, 5

业务场景需要,我们不可能把test_table表的所有的字段都取出来。
而是希望拿出我们需要用到的字段。
为了解决上述的情况,可以使用以下的手段:

1.在ORDER BY使用索引或主键排序

SELECT
  *
FROM
  test_table
WHERE
  `status` = 1
ORDER BY
  id asc,
LIMIT
  1, 5

2.在ORDER BY使用两个排序条件解决

SELECT
  *
FROM
  test_table
WHERE
  `status` = 1
ORDER BY
c_time desc
  id asc,
LIMIT
  1, 5

由上可知,mysql的排序默认走的是id主键作为排序条件。则在c_time相等的情况下,主键id就作为默认的排序条件,就不需要多此一举加上id asc。

但是事实上,mysql在和order by和limit混用的时候,出现了排序的混乱情况。

1.问题分析

查阅相关资料了解到,mysq5.6的版本上,优化器在遇到order by limit语句的时候,做了一个优化,即使用了priority queue。

使用priority queue的目的:
就是在不能使用索引有序性的时候,若要排序,并且使用了limit n,那么只需要在排序的过程中,保留n条记录即可。这样虽然不能解决所有记录都需要排序的开销,但是只需要sort buffer 少量的内存就可以完成排序。

所以mysql5.6以上版本出现了第二页数据重复的问题,就是因为priority queue 使用了堆排序的排序方法,而堆排序 是一个不稳定的排序方法,也就是相同的值可能排序出来的结果和读出来的数据顺序不一致。
(mysql5.5没有这个优化,所有不会有这个问题)

再来看下mysql解释sql语句时的执行语句:

(1)     SELECT 
(2)     DISTINCT <select_list>
(3)     FROM <left_table>
(4)     <join_type> JOIN <right_table>
(5)     ON <join_condition>
(6)     WHERE <where_condition>
(7)     GROUP BY <group_by_list>
(8)     HAVING <having_condition>
(9)     ORDER BY <order_by_condition>
(10)    LIMIT <limit_number>

执行顺序为:

 from / where / select / order by / limit 

由于priority queue的原因,在完成select之后,所有记录以堆排序的方法排列的。
在进行order by时,仅把c_time值大的行往前移动。

但是由于limit的因素,排序过程中只需要保留到5条记录即可。c_time并不具备索引有序性。所以当第二页数据展示的时候,mysql见到哪一条就拿哪一条,因此,当排序值相同的时候,第一次排序是随意排序的,第二次再执行该sql的时候,其结果应该和第一次的结果一样。

2.解决方法

1.索引排序字段
如果在字段添加上索引,就直接按照索引的有序性进行读取并分页,从而规避此类问题。

2.正确理解分页
分页是建立在排序的基础上,进行了数量范围的分割。
排序是数据库提供的功能,而分页是咱们衍生的应用需求。
在MySQL和Oracle的官方文档中提供了limit n和rownum < n的方法,但却没有明确的定义分页这个概念。
还有重要的一点,虽然上面的的解决方法可以缓解问题,但是依然还会有问题:比如,这个表插入频繁,用户在查询的时候,在read-committted的隔离级别下,第一页和第二页依然会有重合。
所以,分页一直都有这个问题,不同场景对数据分页都没有非常高的准确性要求。

3.一些常见的数据库排序问题

不加order by时候的排序问题
用户在使用mysql或者使用oracle的时候,会发现mysql总是有序的,oracle却很混乱,这是因为oracle是堆表,而mysql是索引聚簇表。 所在没有order by的时候,数据库并不保证记录返回的顺序性,并且不保证每次返回都一致。

分页问题 分页重复的问题
如前面所描述的,分页是在数据库提供的排序功能的基础上,衍生出来的应用需求,数据库并不保证分页的重复问题。

NULL值和空串问题
不同的数据对于null和空串的理解和处理是不一样的,比如oracle null和null值是无法比较的,既不是相等也是不相等,是未知的。而对于空串,在插入的时候,MySQL是一个字符串长度为0的空串,而Oracle则直接进行NULL值处理。

本文章为记录整理,感谢博主分享
www.jianshu.com/p/544c319fd838

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,053评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,527评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,779评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,685评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,699评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,609评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,989评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,654评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,890评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,634评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,716评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,394评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,976评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,950评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,191评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,849评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,458评论 2 342

推荐阅读更多精彩内容