高效的mysql分页方法及原理

时间:2024-01-20 04:23:46 

首先看一下分页的基本原理:


mysql> explain SELECT * FROM message ORDER BY id DESC LIMIT 10000, 20G ***************** 1. row ************** id: 1 select_type: SIMPLE table: message type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 10020 Extra: 1 row in set (0.00 sec)


limit 10000,20的意思扫描满足条件的10020行,扔掉前面的10000行,返回最后的20行,问题就在这里,如果是limit 100000,100,需要扫描100100行,在一个高并发的应用里,每次查询需要扫描超过10W行,性能肯定大打折扣。文中还提到limit n性能是没问题的,因为只扫描n行。

文中提到一种”clue”的做法,给翻页提供一些”线索”,比如还是SELECT * FROM message ORDER BY id DESC,按id降序分页,每页20条,当前是第10页,当前页条目id最大的是9527,最小的是9500,如果我们只提供”上一页”、”下一页”这样的跳转(不提供到第N页的跳转),那么在处理”上一页”的时候SQL语句可以是:


SELECT * FROM message WHERE id > 9527 ORDER BY id ASC LIMIT 20;

处理”下一页”的时候SQL语句可以是:


SELECT * FROM message WHERE id < 9500 ORDER BY id DESC LIMIT 20;


不管翻多少页,每次查询只扫描20行。

缺点是只能提供”上一页”、”下一页”的链接形式,但是我们的产品经理非常喜欢”<上一页 1 2 3 4 5 6 7 8 9 下一页>”这样的链接方式,怎么办呢?

如果LIMIT m,n不可避免的话,要优化效率,只有尽可能的让m小一下,我们扩展前面的”clue”做法,还是SELECT * FROM message ORDER BY id DESC,按id降序分页,每页20条,当前是第10页,当前页条目id最大的是9527,最小的是9500,比如要跳到第8页,我看的SQL语句可以这样写:


SELECT * FROM message WHERE id > 9527 ORDER BY id ASC LIMIT 20,20;


跳转到第13页:


SELECT * FROM message WHERE id < 9500 ORDER BY id DESC LIMIT 40,20;


原理还是一样,记录住当前页id的最大值和最小值,计算跳转页面和当前页相对偏移,由于页面相近,这个偏移量不会很大,这样的话m值相对较小,大大减少扫描的行数。其实传统的limit m,n,相对的偏移一直是第一页,这样的话越翻到后面,效率越差,而上面给出的方法就没有这样的问题。

注意SQL语句里面的ASC和DESC,如果是ASC取出来的结果,显示的时候记得倒置一下。

已在60W数据总量的表中测试,效果非常明显。

标签:高效,mysql,分页
0
投稿

猜你喜欢

  • SQL存储过程初探

    2009-09-09 14:22:00
  • GoFrame基于性能测试得知grpool使用场景

    2024-05-08 10:52:24
  • Django教程笔记之中间件middleware详解

    2023-06-18 00:48:33
  • 如何把URL和邮件地址自动转换为超级链接?

    2009-11-02 20:22:00
  • Python实战实现爬取天气数据并完成可视化分析详解

    2022-01-04 09:33:44
  • sqlserver 文件数据库和关系数据库的比较

    2011-10-24 20:11:38
  • Python调用高德API实现批量地址转经纬度并写入表格的功能

    2023-12-26 03:22:20
  • Python 3.x踩坑实战汇总

    2021-04-21 12:25:47
  • Go简单实现协程方法

    2024-02-06 05:00:12
  • Go语言基本的语法和内置数据类型初探

    2024-05-28 15:24:09
  • 教你怎么用Python实现GIF动图的提取及合成

    2023-11-29 14:16:15
  • 6G数据库的导入 报各种错误的解决办法

    2024-01-28 09:58:22
  • selenium与xpath之获取指定位置的元素的实现

    2022-01-14 12:02:35
  • Pycharm 操作Django Model的简单运用方法

    2022-05-09 14:07:15
  • 利用ASP发送和接收XML数据的处理方法

    2009-02-02 08:57:00
  • Python 过滤错误log并导出的实例

    2023-10-21 10:18:36
  • python实现单线程多任务非阻塞TCP服务端

    2021-05-29 07:26:52
  • Python常用数据类型之间的转换总结

    2023-06-21 10:06:21
  • JS简单实现DIV相对于浏览器固定位置不变的方法

    2023-08-05 22:30:12
  • 使用Pyhton 分析酒店针孔摄像头

    2022-04-16 18:59:24
  • asp之家 网络编程 m.aspxhome.com