MySQL深分页问题原理与三种解决方案
作者:JAVA前线 时间:2024-01-27 14:12:34
1 深分页问题
1.1 创建表
CREATE TABLE `player` (
`id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主键',
`player_id` varchar(256) NOT NULL COMMENT '运动员编号',
`player_name` varchar(256) NOT NULL COMMENT '运动员名称',
`height` int(11) NOT NULL COMMENT '身高',
`weight` int(11) NOT NULL COMMENT '体重',
`game_performance` text COMMENT '最近一场比赛表现',
PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8
1.2 新增100万条数据
@SpringBootTest(classes = TestApplication.class)
@RunWith(SpringJUnit4ClassRunner.class)
public class PlayerServiceTest {
@Resource
private PlayerRepository playerRepository;
@Test
public void initBigData() {
for (int i = 0; i < 1000000; i++) {
PlayerEntity entity = new PlayerEntity();
entity.setPlayerId(UUID.randomUUID().toString());
entity.setPlayerName("球员_" + System.currentTimeMillis());
entity.setWeight(150);
entity.setHeight(188);
entity.setGamePerformance("{\"runDistance\":8900.0,\"passSuccess\":80.12,\"scoreNum\":3}");
playerRepository.insert(entity);
}
}
}
1.3 深分页语句
select * from player limit 990000,5
1.4 结果分析
查询耗时:1.233秒
本语句目标查询
[990001-990005]
五条数据但是执行时需要排序
[1-990005]
数据最终丢弃
[1-990000]
只返回[990001-990005]
数据
2 深分页优化方案
2.1 方案一
我们可以从业务形态维度去解决,可以参考搜索引擎解决方案。因为ES也存在深分页问题,搜索引擎解决方案是在业务上会限制查询页数。因为页数越大,内容相关度越低,所以页数太大对业务价值不高。MySQL可以类比处理:
限制查询页数
限制全量导出
查询时要求带必要条件(时间范围、userId)
2.2 方案二
2.2.1 优化语句
select * from player a, (select id as tmpId from player limit 990000,5) b WHERE a.id = b.tmpId
2.2.2 执行计划
(1) 查看计划
explain select * from player a, (select id as tmpId from player limit 990000,5) b WHERE a.id = b.tmpId
(2) 执行顺序
id越大执行顺序越靠前
id相同则按照行数从上到下执行
本语句执行顺序如下图:
第一步和第二步表示执行子查询
第三步表示player表与子查询关联
(3) explain type
访问类型是重要分析指标:
(4) explain Extra
Extra表示执行计划扩展信息重点关注三个:
2.2.3 结果分析
查询耗时:0.5秒
原因是覆盖索引提升分页查询效率(只查询ID列)
覆盖索引含义是查询时索引列完全包含查询列
using index表示使用覆盖索引,性能提升
2.3 方案三
2.3.1 优化语句
select * from player where id > 990000 LIMIT 5
2.3.2 执行计划
(1) 查看计划
explain select * from player where id > 990000 LIMIT 5
(2) 结果分析
查询耗时:0.001秒
range表示索引范围搜索性能尚可
(3) 适用场景
不适用跳页场景
只适用【上一页】【下一页】场景
3 MyBatis
<mapper namespace="com.test.java.front.test.mysql.deep.page.repository.PlayerRepository">
<resultMap id="BaseResultMap" type="com.test.java.front.test.mysql.deep.page.entity.PlayerEntity">
<id column="id" jdbcType="BIGINT" property="id" />
<result column="player_id" jdbcType="VARCHAR" property="playerId" />
<result column="player_name" jdbcType="VARCHAR" property="playerName" />
<result column="height" jdbcType="INTEGER" property="height" />
<result column="weight" jdbcType="INTEGER" property="weight" />
<result column="game_performance" jdbcType="LONGVARCHAR" property="gamePerformance" />
</resultMap>
<sql id="Base_Column_List">
id, player_id, player_name, height, weight, game_performance
</sql>
<sql id="conditions">
<where>
<if test="playerId != null">
and player_id = #{playerId,jdbcType=VARCHAR}
</if>
</where>
</sql>
<sql id="pager">
<if test="skip != null and limit != null">
limit #{skip}, #{limit}
</if>
</sql>
<!-- 查询条数 -->
<select id="selectPageCount" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryParam" resultType="java.lang.Long">
select count(*) from player
<include refid="conditions" />
</select>
<!-- 分页方式1:普通分页存在深分页问题 -->
<!-- select * from player limit 990000,5 -->
<select id="selectPager1" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryParam" resultMap="BaseResultMap">
select
<include refid="Base_Column_List" />
from player
<include refid="conditions" />
<include refid="pager" />
</select>
<!-- 分页方式2:覆盖索引优化深分页问题 -->
<!-- select * from player a, (select id as tmpId from player limit 990000,5) b where a.id = b.tmpId -->
<select id="selectPager2" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryParam" resultMap="BaseResultMap">
select
<include refid="Base_Column_List" />
from player a,
(
select id as tmpId from player
<include refid="conditions" />
<include refid="pager" />
) b
where a.id = b.tmpId
</select>
<!-- 分页方式3:Id分页不支持跳页 -->
<!-- select * from player where id > 990000 limit 5 -->
<select id="selectPager3" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryIdParam" resultMap="BaseResultMap">
select
<include refid="Base_Column_List" />
<include refid="conditions" />
from player where id > #{startId} limit #{pageSize}
</select>
</mapper>
4 文章总结
本文第一介绍深分页问题表现和原因。第二介绍深分页问题三种解决方法,方案一是从业务维度优化,方案二是使用覆盖索引进行优化,方案三是使用Id分页。第三展示MyBatis相关代码。
来源:https://juejin.cn/post/7228801593327009829
标签:MySQL,深分页,原理,解决
0
投稿
猜你喜欢
numpy存取数据(tofile/fromfile)的实现
2021-12-12 02:06:24
利用python数据分析处理进行炒股实战行情
2022-01-30 10:28:29
Python+django实现简单的文件上传
2021-08-15 03:11:25
基于php socket(fsockopen)的应用实例分析
2023-11-18 21:38:32
如何理解python面向对象编程
2023-01-01 20:19:56
Python 命令行非阻塞输入的小例子
2023-12-09 19:48:29
ASP用JAVASCRIPT脚本实现分页的办法
2007-10-30 13:18:00
对django views中 request, response的常用操作详解
2021-02-21 15:00:51
go Cobra命令行工具入门教程
2023-06-24 18:27:12
对python requests的content和text方法的区别详解
2022-10-14 14:28:37
详解PHP的Sodium加密扩展函数
2024-03-17 23:53:02
JetBrains 学生认证教程(Pycharm,IDEA… 等学生认证教程)
2022-06-16 08:20:04
sql2005 HashBytes 加密函数
2024-01-21 11:28:23
ASP如何使用CDONTS来发送电子邮件?
2010-06-05 12:35:00
线程安全及Python中的GIL原理分析
2022-09-06 11:16:20
Javascript typeof 用法
2013-10-20 20:49:40
说说值类型数据“.”操作符的类型转换
2009-12-13 10:39:00
在Python中使用Mako模版库的简单教程
2021-11-08 12:33:45
mysql压缩包版zip安装配置方法
2024-01-17 08:06:01
解读ASP.NET 5 & MVC6系列教程(6):Middleware详解
2023-07-23 22:27:34