python 使用elasticsearch 实现翻页的三种方式
作者:祢唿 时间:2021-03-09 17:39:57
使用ES做搜索引擎拉取数据的时候,如果数据量太大,通过传统的from + size的方式并不能获取所有的数据(默认最大记录数10000),因为随着页数的增加,会消耗大量的内存,导致ES集群不稳定。因此延伸出了scroll,search_after等翻页方式。
一、from + size 浅分页
"浅"分页可以理解为简单意义上的分页。它的原理很简单,就是查询前20条数据,然后截断前10条,只返回10-20的数据。这样其实白白浪费了前10条的查询。
GET test/_search
{
"query": {
"bool": {
"filter": [
{
"term": {
"age": 28
}
}
]
}
},
"size": 10,
"from": 20,
"sort": [
{
"timestamp": {
"order": "desc"
},
"_id": {
"order": "desc"
}
}
]
}
from定义了目标数据的偏移值,size定义当前返回的数目。默认from为0,size为10,即所有的查询默认仅仅返回前10条数据。
在这里有必要了解一下from/size的原理:
因为es是基于分片的,假设有5个分片,from=100,size=10。则会根据排序规则从5个分片中各取回100条数据数据,然后汇总成500条数据后选择最后面的10条数据。
做过测试,越往后的分页,执行的效率越低。总体上会随着from的增加,消耗时间也会增加。而且数据量越大,就越明显!
二、scroll 深分页
from+size查询在10000-50000条数据(1000到5000页)以内的时候还是可以的,但是如果数据过多的话,就会出现深分页问题。为了解决上面的问题,elasticsearch提出了一个scroll滚动的方式。
scroll 类似于sql中的cursor,使用scroll,每次只能获取一页的内容,然后会返回一个scroll_id。根据返回的这个scroll_id可以不断地获取下一页的内容,所以scroll并不适用于有跳页的情景。
# -*- coding: utf-8 -*-
# @Time :
# @Author :
from elasticsearch import Elasticsearch
es = Elasticsearch(hosts="ip:9200", timeout=20, max_retries=10, retry_on_timeout=True)
# Elasticsearch 需要保持搜索的上下文环境多久 游标查询过期时间为10分钟(10m)
page = es.search(
index="source_keyword_message", doc_type="source_keyword_message",
scroll='10m',
size=100,
body={
"query": {"match_all": {}},
}
)
# 游标用于输出es查询出的所有结果
sid = page['_scroll_id']
# es查询出的结果总量
scroll_size = page['hits']['total']
# es查询出的结果第一页
datas = page.get('hits').get('hits')
while (scroll_size > 0):
page = es.scroll(scroll_id=sid, scroll='5m')
sid = page['_scroll_id']
scroll_size = len(page['hits']['hits'])
datas = page.get('hits').get('hits')
scroll=5m表示设置scroll_id保留5分钟可用。
使用scroll必须要将from设置为0。默认0
size决定后面每次调用_search搜索返回的数量
三、search_after 深分页
scroll 的方式,官方的建议不用于实时的请求(一般用于数据导出),因为每一个 scroll_id 不仅会占用大量的资源,而且会生成历史快照,对于数据的变更不会反映到快照上。
search_after 分页的方式是根据上一页的最后一条数据来确定下一页的位置,同时在分页请求的过程中,如果有索引数据的增删改查,这些变更也会实时的反映到游标上。但是需要注意,因为每一页的数据依赖于上一页最后一条数据,所以无法跳页请求。
为了找到每一页最后一条数据,每个文档必须有一个全局唯一值,官方推荐使用 _uid 作为全局唯一值,其实使用业务层的 id 也可以。
GET test/_search
{
"query": {
"bool": {
"filter": [
{
"term": {
"age": 28
}
}
]
}
},
"size": 20,
"from": 0,
"sort": [
{
"timestamp": {
"order": "desc"
},
"_id": {
"order": "desc"
}
}
]
}
使用search_after必须要设置from=0。
这里我使用timestamp和_id作为唯一值排序。
我们在返回的最后一条数据里拿到sort属性的值传入到search_after。
使用sort返回的值搜索下一页:
GET test/_search
{
"query": {
"bool": {
"filter": [
{
"term": {
"age": 28
}
}
]
}
},
"size": 10,
"from": 0,
"search_after": [
1541495312521,
"d0xH6GYBBtbwbQSP0j1A"
],
"sort": [
{
"timestamp": {
"order": "desc"
},
"_id": {
"order": "desc"
}
}
]
}
来源:https://blog.csdn.net/wywinstonwy/article/details/107223904
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
如何在页面中快捷地添加翻页按钮?
PyCharm专业最新版2019.1安装步骤(含激活码)
![](https://img.aspxhome.com/file/2023/7/89217_0s.png)
详解appium+python 启动一个app步骤
![](https://img.aspxhome.com/file/2023/3/70203_0s.png)
Python迭代器的实现原理
详解python中文编码问题
![](https://img.aspxhome.com/file/2023/2/63512_0s.png)
python函数的默认参数请勿定义可变类型详解
MySQL两种识别是否有中文字符的方法
Python中Selenium上传文件的几种方式
python 变量初始化空列表的例子
[翻译]标记语言和样式手册 Chapter 13 为文字指定样式
![](https://img.aspxhome.com/file/UploadPic/20082/15/2008215162639458s.jpg)
go语言发送smtp邮件的实现示例
![](https://img.aspxhome.com/file/2023/7/72727_0s.png)
Python实现查找系统盘中需要找的字符
创建数据表/创建列的一些asp函数
asp如何刪除客户端的Cookies?
python 实现循环定义、赋值多个变量的操作
PyQt5的相对布局管理的实现
![](https://img.aspxhome.com/file/2023/9/86199_0s.png)
python删除列表元素的三种方法(remove,pop,del)
python实现计算图形面积
![](https://img.aspxhome.com/file/2023/7/75967_0s.jpg)
Python中的random函数实例详解
![](https://img.aspxhome.com/file/2023/5/87555_0s.jpg)
Python之根据输入参数计算结果案例讲解
![](https://img.aspxhome.com/file/2023/9/69499_0s.jpg)