ES解決深分頁問題以及實(shí)現(xiàn)Scroll 查詢 API的示例分析

這篇文章給大家介紹ES解決深分頁問題以及實(shí)現(xiàn)Scroll 查詢 API的示例分析，內(nèi)容非常詳細(xì)，感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助。

一、前言：

ES 普通的分頁查詢有深分頁限制，默認(rèn)是10000條。（因?yàn)樵酵竺娣衷胶膬?nèi)存）所以要查詢1萬條以后的數(shù)據(jù)，要不就縮小查詢范圍，要不用別的方法。

ES 提供了 scroll 查詢。第一次查詢獲取到scroll_id,下次查詢通過scroll_id直接查詢。scroll相當(dāng)于維護(hù)了一份當(dāng)前索引段的快照信息，這個快照信息是你執(zhí)行這個scroll查詢時的快照。在這個查詢后的任何新索引進(jìn)來的數(shù)據(jù)，都不會在這個快照中查詢到。但是它相對于from和size，不是查詢所有數(shù)據(jù)然后剔除不要的部分，而是記錄一個讀取的位置，保證下一次快速繼續(xù)讀取。而且也不能排序，只能按默認(rèn)的文檔順序，比較適合查詢掃描全量數(shù)據(jù)。

1、看一個DEMO

private static void scrollSearch(String indexName, String typeName,
            String... ids) {
        IdsQueryBuilder qb = QueryBuilders.idsQuery().addIds(ids);
        SearchResponse sResponse = client.prepareSearch(indexName)
                .setTypes(typeName)
                .setQuery(qb)
                .setScroll(new TimeValue(5000))
                .setSize(50)
                .execute()
                .actionGet();
        int tShards = sResponse.getTotalShards();
        long timeCost = sResponse.getTookInMillis();
        int sShards = sResponse.getSuccessfulShards();
        System.out.println(tShards+","+timeCost+","+sShards);
          
        while (true) {
            SearchHits hits = sResponse.getHits();
            SearchHit[] hitArray = hits.getHits();
            for(int i = 0; i < hitArray.length; i++) {
                SearchHit hit = hitArray[i];
                Map<String, Object> fields = hit.getSource();
                for(String key : fields.keySet()) {
                    System.out.println(key);
                    System.out.println(fields.get(key));
                }
            }
            sResponse = client.prepareSearchScroll(sResponse.getScrollId()).setScroll(new TimeValue(5000)).execute().actionGet();
            //Break condition: No hits are returned
            if (sResponse.getHits().getHits().length == 0) {
                break;
            }
        }
    }

2、自己實(shí)現(xiàn)的基礎(chǔ)API

// 接口定義
 
 
/**
 * Scroll 游標(biāo)全量數(shù)據(jù)查詢 （不支持排序，只按照doc_id排序）
 *
 * @param clazz 實(shí)體類類型
 * @param query 查詢參數(shù)
 * @param scrollId 游標(biāo)
 * @param size 一次拿取數(shù)據(jù)多少。
 * @param <T>
 * @return
 */
<T extends EEntity> EsScrollResponse<T> listByQueryScroll(Class<T> clazz, IQuery query, String scrollId,int size);
 
 
// 具體實(shí)現(xiàn)
@Override
public <T extends EEntity> EsScrollResponse<T> listByQueryScroll(Class<T> clazz, IQuery query, String scrollId, int size) {
    // 參數(shù)校驗(yàn)
    if (size < 1 || size > 200) {
        throw new RuntimeException("ES 查詢一次請求的數(shù)了超出范圍，請在 1-200 之間");
    }
    // 返回結(jié)果初始化
    EsScrollResponse response = new EsScrollResponse<>();
    List<T> result = new ArrayList<>();
    // 獲取文檔信息
    Document document = clazz.getAnnotation(Document.class);
    // 全局使用的查詢返回參數(shù)初始化。
    SearchResponse searchResponse = null;
    // 第一次查詢沒有游標(biāo)，獲取數(shù)據(jù)并記錄游標(biāo)
    if (StringUtils.isEmpty(scrollId)) {
        SearchRequestBuilder searchRequestBuilder = esDataSource.getClient().prepareSearch(document.indexName()).setTypes(document.type()).setQuery(query.buildQuery()).setScroll(TimeValue.timeValueMinutes(ES_TIME_OUT_MINUTES)).setSize(size);
        searchResponse = searchRequestBuilder.setTimeout(TimeValue.timeValueMinutes(ES_TIME_OUT_MINUTES)).execute().actionGet();
    } else {
        // 有游標(biāo)按游標(biāo)進(jìn)行查詢
        SearchScrollRequestBuilder searchScrollRequestBuilder = esDataSource.getClient().prepareSearchScroll(scrollId).setScroll(TimeValue.timeValueMinutes(ES_TIME_OUT_MINUTES));
        searchResponse = searchScrollRequestBuilder.execute().actionGet();
    }
    // 處理返回結(jié)果
    for (SearchHit hit : searchResponse.getHits()) {
        T rt = JSON.parseObject(hit.getSourceAsString(), clazz);
        result.add(rt);
    }
    response.setData(result);
    response.setScrollId(searchResponse.getScrollId());
    return response;
}
 
 
/**
 * ES Scroll 查詢的封裝實(shí)體
 */
@Data
public class EsScrollResponse<T> {
 
    /**
     * 存放數(shù)據(jù)
     */
    private List<T> data;
 
    /**
     * 指定游標(biāo)
     */
    private String scrollId;
}

三、兩種分頁方式比較

關(guān)于ES解決深分頁問題以及實(shí)現(xiàn)Scroll 查詢 API的示例分析就分享到這里了，希望以上內(nèi)容可以對大家有一定的幫助，可以學(xué)到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。