百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 文章教程 > 正文

Elasticsearch的scroll(游标)的使用技巧

yund56 2025-03-20 13:53 26 浏览

1. 介绍

1.1 介绍

我们都知道使用ES搜索文档的时候可以通过from和size进行文档数据的“翻页”处理,但是如果你的索引里面的文档超过了10000个的话,再使用这样的方式去实现数据翻页就会得到如下的错误:

Result window is too larg e, from + size must be less than or equal to: [10000] but was [11000]

意思是说from + size的和不能超过10000,这下麻烦了~~

2. 原因

原来这个from和size的设计初衷是为了适应那种类似某度、某歌那样的网页搜索引擎的,而那种搜索引擎的结果集一般情况下不会有人想去看10000条以后的文档的,所以设计from + size是完全够用的。

但是作为一般系统的全文搜索引擎的应用场景这10000的上限显然是不合理的,福哥通过查询官方文档发现了一个专门用来做数据翻页的功能——scroll,ES官方设计了这个scroll功能可以针对查询结果进行数据翻页。

需要注意的是,如果我们的使用情况是类似某度、某歌那样的搜索引擎的话,还是使用from + size效率更高哦~~

3. 终端

3.1 Curl

使用Curl实现scroll比较直观,我们通过查询用户索引tfapi_utf8users来给大家演示如何使用scroll进行分页。

3.1.1 data.json

这是查询的数据,福哥放到了一个data.json文件里面。

{
  "query": {
    "match": {
      "mName": "同福"
    }
  },
  "size": 2
}

3.1.2 scroll_id

提交查询并且拿到scroll_id,这个scroll_id要在查询下一页的时候使用的。

curl -X POST -H 'Content-Type: application/json' -d '@data.json' 'http://localhost:9200/tfapi_utf8users/_search?scroll=1m&pretty=true'

3.1.3 scroll

现在我们通过scroll_id去翻页下一部分内容。

{
  "scroll": "1m",
  "scroll_id": "DnF1ZXJ5VGhlbkZldGNoBQAAAAAAO4uKFnNpWFlnVF9GUjVlRmxSMHIzSFBDencAAAAAADuLixZzaVhZZ1RfRlI1ZUZsUjByM0hQQ3p3AAAAAAA7i4wWc2lYWWdUX0ZSNWVGbFIwcjNIUEN6dwAAAAAAO4uNFnNpWFlnVF9GUjVlRmxSMHIzSFBDencAAAAAADuLjhZzaVhZZ1RfRlI1ZUZsUjByM0hQQ3p3"
}

可以看到ES返回了下一页的结果了!

需要注意的是,我们每次查询下一页的时候都需要从上一页结果里面获取最新的scroll_id而不能始终使用第一页结果里面的scroll_id,直到查不到文档为止。

4. PHP

4.1 elasticsearch-php

使用elasticsearch-php库实现scroll功能,elasticsearch-php库提供了scroll方法,可以先通过search方法获得第一个scroll_id,然后循环用scroll方法查询后面的数据。

$builder = \Elasticsearch\ClientBuilder::create();
$builder->setHosts(array("127.0.0.1:9200"));
$client = $builder->build();

// query
$resp = $client->search(array(
    'index' => "tfapi_utf8users",
    'scroll'=>"1m",
    'size'=>2,
    'body' => array(
        'query' => array(
            'match' => array(
                'mName' => "同福"
            )
        )
    )
));

// cycle to scroll
while(isset($resp['hits']['hits'])
    && is_array($resp['hits']['hits'])
    && count($resp['hits']['hits']) > 0){
    // data
    foreach($resp['hits']['hits'] as $item){

    }

    // scroll next
    $scrollId = $resp['_scroll_id'];
    $resp = $client->scroll(array(
        'scroll_id'=>$scrollId,
        'scroll'=>"1m",
    ));
}

5. 注意事项

5.1 文档数量size

根据官方的说法,虽然我们设置了size参数规定了每次返回结果集的数量,但是实际的返回结果有可能会超过这个size规定的数量。

5.2 跳页

根据scroll的工作方式我们可以知道,如果文档数量很多,然后用户想要直接翻到第n页的话,我们也只能一页一页的滚动过去。

显然这不是一个很好的方案,也就是说它并不能实现传统意义上的数据翻页功能,类似MySQL的limit功能或者MongoDB的skip()+limit()功能。

6. 总结

今天福哥带着童鞋们针对使用ES搭建的搜索引擎功能实现查询结果的数据翻页的技巧做了一个系统的学习,相信大家在自己开发全文搜索功能的时候就会有感觉了~~


https://m.tongfu.net/home/35/blog/513351.html

相关推荐

如何在Office 中编辑 PDF?附详细化步骤

PDF很受欢迎,因为它能在不同的设备和操作系统上仍然保持原有格式。但是,这也意味着直接更改PDF文件比其他格式更难更复杂。值得庆幸的是,Microsoftoffice和UPDF帮你解决这一难题。一...

我的 Windows 装机必备软件清单

今天给大家分享下我的装机必备软件,都是用了好多年的软件神器。靠谱、好用、无广告,Windows电脑必备软件,收藏这一篇就够了!01.浏览器王者:Chromehttps://www.google.c...

Docnet Core 是一个轻量级、高性能的 .NET PDF 操作库

DocnetCore介绍DocnetCore是一个轻量级、高性能的.NETPDF操作库,依托于PDFium渲染引擎,提供强大的PDF文档解析、渲染、操作等功能。它完全支持.NET...

分享三款好用的PDF编辑软件,轻松处理PDF

作为一名需要经常和PDF文件打交道的工作者,我来分享一下几款好用的PDF编辑软件,并详细分析了它们的优缺点,希望能帮你找到合适的工具。1.AdobeAcrobatDC作为PDF格式的发明者,Ado...

PDF文档创建工具软件:novaPDF OEM 11.9 Build 432 for Windows

novaPDFOEM是一款实用高效的软件,从头开始设计,让您尽可能轻松地在应用程序中添加PDF打印功能。换句话说,这个实用程序是专门为应用程序开发人员设计的,可以直接在程序安装程序中集成为PDF打印...

线性表顺序存储结构求集合的并,交,补,差(源代码附上 超详细)

一:算法分析1)用数组A,B,C,E表示集合。假定A={1,3,4,5,6,7,9,10},  B={2,,3,4,7,8,10},E={1,2,3,4,5,6,7,8,9,10},  输入数组A...

分享一套SpringBoot开发博客系统源码,包含完整开发文档和视频

基本信息项目名称:eblog摘要:eblog是一个基于Springboot2.1.2开发的博客学习项目,为了让项目融合更多的知识点,达到学习目的,编写了详细的从0到1开发文档。主要学习包括:自定义Fr...

通达信指标合集〔源码齐全〕

很多朋友问到我哪款指标好用,这里我说一下,之所以有很多不同的指标是因为我们在针对不同的盘面情况的时候使用的指标是不同的,我给到的指标一般来讲就目前的环境来讲都是比较适合的,今天我就把我平时自己常用的指...

巅峰对决!Spring Boot VS .NET 6

SpringBoot和ASP.NETCore都是企业中流行的Web框架,对于喜欢C#的人会使用ASP.NETCore,而对于Java或Kotlin等基于JVM的语...

在asp.net core 中控制访问权限的方法

Intro#由于项目需要,需要在基于asp.netmvc的Web项目框架中做权限的控制,于是才有了这个权限控制组件,最初只是支持netframework,后来dotnetcore2.0...

ASP.NET是否无生存之地?

ASP.NET,这个已经很久的技术,总觉得已经被时代淘汰,我们公司是一个10人小公司,几个十年十五年的项目还是用ASP.NET开发的。这两年由于客户的需求变化,我们公司也顺势开始对这些项目重新开发,改...

Spring Boot + Vue.js 实现前后端分离(附源码)

作者:梁小生0101链接:juejin.im/post/5c622fb5e51d457f9f2c2381SpringBoot+Vue.js前后端涉及基本概念介绍,搭建记录,本文会列举出用到环...

ASP.NET Core 中的 Mapster 使用入门教程

在本文中,我们将学习如何在ASP.NETCore应用程序中使用Mapster。首先,我们将了解Mapster是什么以及如何将其安装到.NETCore应用程序中。然后,我们将在使用...

Asp.net常用方法及request和response-a

asp.net教程asp.net常用方法:1、Request.UrlReferrer请求的来源,可以根据这个判断从百度搜的哪个关键词、防下载盗链、防图片盗链,可以伪造(比如迅雷)。(使用全局一般处理...

ASP.NET Core使用功能开关控制路由访问

前言在前面的文章,我们介绍了使用Middleware有条件地允许访问路由(《ASP.NETCore使用Middleware有条件地允许访问路由》)。而对于一些试验性的功能,我们并不希望用密码去控制是...