百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 文章教程 > 正文

Elasticsearch的scroll(游标)的使用技巧

yund56 2025-03-20 13:53 15 浏览

1. 介绍

1.1 介绍

我们都知道使用ES搜索文档的时候可以通过from和size进行文档数据的“翻页”处理,但是如果你的索引里面的文档超过了10000个的话,再使用这样的方式去实现数据翻页就会得到如下的错误:

Result window is too larg e, from + size must be less than or equal to: [10000] but was [11000]

意思是说from + size的和不能超过10000,这下麻烦了~~

2. 原因

原来这个from和size的设计初衷是为了适应那种类似某度、某歌那样的网页搜索引擎的,而那种搜索引擎的结果集一般情况下不会有人想去看10000条以后的文档的,所以设计from + size是完全够用的。

但是作为一般系统的全文搜索引擎的应用场景这10000的上限显然是不合理的,福哥通过查询官方文档发现了一个专门用来做数据翻页的功能——scroll,ES官方设计了这个scroll功能可以针对查询结果进行数据翻页。

需要注意的是,如果我们的使用情况是类似某度、某歌那样的搜索引擎的话,还是使用from + size效率更高哦~~

3. 终端

3.1 Curl

使用Curl实现scroll比较直观,我们通过查询用户索引tfapi_utf8users来给大家演示如何使用scroll进行分页。

3.1.1 data.json

这是查询的数据,福哥放到了一个data.json文件里面。

{
  "query": {
    "match": {
      "mName": "同福"
    }
  },
  "size": 2
}

3.1.2 scroll_id

提交查询并且拿到scroll_id,这个scroll_id要在查询下一页的时候使用的。

curl -X POST -H 'Content-Type: application/json' -d '@data.json' 'http://localhost:9200/tfapi_utf8users/_search?scroll=1m&pretty=true'

3.1.3 scroll

现在我们通过scroll_id去翻页下一部分内容。

{
  "scroll": "1m",
  "scroll_id": "DnF1ZXJ5VGhlbkZldGNoBQAAAAAAO4uKFnNpWFlnVF9GUjVlRmxSMHIzSFBDencAAAAAADuLixZzaVhZZ1RfRlI1ZUZsUjByM0hQQ3p3AAAAAAA7i4wWc2lYWWdUX0ZSNWVGbFIwcjNIUEN6dwAAAAAAO4uNFnNpWFlnVF9GUjVlRmxSMHIzSFBDencAAAAAADuLjhZzaVhZZ1RfRlI1ZUZsUjByM0hQQ3p3"
}

可以看到ES返回了下一页的结果了!

需要注意的是,我们每次查询下一页的时候都需要从上一页结果里面获取最新的scroll_id而不能始终使用第一页结果里面的scroll_id,直到查不到文档为止。

4. PHP

4.1 elasticsearch-php

使用elasticsearch-php库实现scroll功能,elasticsearch-php库提供了scroll方法,可以先通过search方法获得第一个scroll_id,然后循环用scroll方法查询后面的数据。

$builder = \Elasticsearch\ClientBuilder::create();
$builder->setHosts(array("127.0.0.1:9200"));
$client = $builder->build();

// query
$resp = $client->search(array(
    'index' => "tfapi_utf8users",
    'scroll'=>"1m",
    'size'=>2,
    'body' => array(
        'query' => array(
            'match' => array(
                'mName' => "同福"
            )
        )
    )
));

// cycle to scroll
while(isset($resp['hits']['hits'])
    && is_array($resp['hits']['hits'])
    && count($resp['hits']['hits']) > 0){
    // data
    foreach($resp['hits']['hits'] as $item){

    }

    // scroll next
    $scrollId = $resp['_scroll_id'];
    $resp = $client->scroll(array(
        'scroll_id'=>$scrollId,
        'scroll'=>"1m",
    ));
}

5. 注意事项

5.1 文档数量size

根据官方的说法,虽然我们设置了size参数规定了每次返回结果集的数量,但是实际的返回结果有可能会超过这个size规定的数量。

5.2 跳页

根据scroll的工作方式我们可以知道,如果文档数量很多,然后用户想要直接翻到第n页的话,我们也只能一页一页的滚动过去。

显然这不是一个很好的方案,也就是说它并不能实现传统意义上的数据翻页功能,类似MySQL的limit功能或者MongoDB的skip()+limit()功能。

6. 总结

今天福哥带着童鞋们针对使用ES搭建的搜索引擎功能实现查询结果的数据翻页的技巧做了一个系统的学习,相信大家在自己开发全文搜索功能的时候就会有感觉了~~


https://m.tongfu.net/home/35/blog/513351.html

相关推荐

七夕前学起来,程序员的浪漫:三十行代码实现用她的名字作幅画

hello,各位小伙伴们大家早上|中文|晚上|凌晨好,相信看这篇文章的有很多新朋友,估计也有少量的老朋友,首先做个简短的自我介绍,我是一灰灰,码农界的资深搬运工;今天呢,没有站在我身边的捧哏老师,那就...

127.手摇计算机的收藏(我的民间收藏笔记)

1970年代前后,我国生产的手摇计算机,主要有上海飞鱼牌和通用牌手摇计算机,天津文化牌手摇计算机。这几种手摇计算机的收藏价,目前很不统一。品相好又能使用的收藏价大概为1500—7000元。品相不好又...

计算机毕业设计Hadoop+Hive+PySpark小说推荐系统 小说可视化

基于Spark+hadoop大数据小说数据分析推荐系统(完整系统源码+数据库+开发笔记+详细部署教程+虚拟机分布式启动教程)直拍源码包部署爬虫可用基于用户协同过滤算法开发技术介绍编辑器:Pychar...

win7系统exe病毒文件夹怎么删除

Win7系统中exe病毒文件夹如何删除?下面为大家提供解决办法,快来了解吧!1、按下Win+R快捷键,输入gpedit.msc,所示,即可打开组策略编辑器。2、依次展开计算机配置下的管理模板,进入...

Windows 10 网络搜索设计太反人类?教你如何彻底关闭它

来源:太平洋电脑网我们知道微软在Windows10中,特别加强了系统的搜索功能,但Windows10的搜索的确很难称得上好用。抛开效率低下、呈现结果少、造成系统卡顿等老生常谈的问题不论,在功能设计...

win7系统exe病毒文件夹怎么删除?

经常遇到病毒文件夹,它们通常是带有exe后缀的文件夹名称,双击后会复制病毒。今天就教大家如何删除这些病毒文件夹。1、打开开始菜单,点击运行按钮;或者按下Win+R键,即可开启运行对话框。2、运行窗...

通过代码编写电脑关机程序

大家好,我是Anyday这期给大家分享的电脑小知识是通过代码编写程序进行关机。首先在桌面右键新建一个文本文档双击打开新建文档,在里面输入shutdown–s–t0,这就是我们上一期的关机代码(聪...

可视化程序设计必备书:从零开始Qt可视化程序设计

“可视化程序设计”是理工科极为重要的一门专业课程,实践性很强。其教学目标是使学生掌握可视化程序设计的基本方法、编程技能并具备上机调试能力,熟悉界面设计,掌握各种常用类(有些开发工具称控件,实...

重要通知!25年公务员专业参考目录已出!

大家关心的2025年江苏省公务员考试消息有了!一年一度江苏省公开征求对《江苏省2025年度考试录用公务员专业参考目录》的意见和建议公告出了!各地的公务员专业参考目录其实都查不多,江苏针对今年的具体情况...

计算机二级考试中的一些注意事项

科教武汉【计算机二级考试中的一些注意事项】1、要合理安排做题时间可以先通过观察整个题目的题形,判断整个试卷的难点,通过观察题型然后确定自己的应对策。选择题建议用时15-20分钟为好。自己要有一个时间...

天津专升本计算机知识点 选定文件和文件夹

在Windows7系统中,进行选定,包括多种,考试重点内容有三种。①选定多个连续的文件或文件夹,可用Shift键配合鼠标进行选定②选定多个不连续的文件或文件夹,可用Ctrl键配合鼠标进行选定③撤销某...

最新发布!四川这些岗位急需紧缺人才

12月17日,《四川省人力资源服务业急需紧缺人才目录》发布。据介绍,《四川省人力资源服务业急需紧缺人才目录》采集600余家用人单位信息,调查整理了40余家用人单位需求,从收集的上千条岗位信息中分析出3...

最新!普通高等学校本科专业目录(2024年)!共816种本科专业

高考成绩已定,目前最重要的,就是填报高考志愿了!!!(点击查看:广西2024高考分数线、一分一档表公布!今天开始填志愿!附前3年高考分数线、一分一档表)除了要在1308所本科大学中选出自己(孩子)喜欢...

cad文件夹加密

我学计算机辅助设计,常用CAD绘制图纸并存入文件夹。有时担心关机后设计被窃,便在网上寻找解决办法,最终找到了一种加密CAD文件夹的实用方法,有效保护了我的设计成果。1、首先,我们需要安装一款保护文件...

文件夹加密大师使用方法:快速加密文件指南

不想让他人看到私密文件?以下几种隐藏文件的方法各有优缺点,快来看看哪种最适合你!1、隐藏的文件夹2、首先,右击文件夹选择属性,在常规选项卡勾选隐藏,然后点击确定。3、若文件夹为隐藏状态,打开我的...