ElasticSearch7 X X初见模仿京东搜索的实战

目录

  • [简介]
  • [聊聊Doug Cutting]
  • [ES&Solr&Lucene]
  • [ES的安装]
  • [安装可视化界面ES head插件]
  • [了解ELK]
  • [安装Kibana]
  • [ES核心概念]
  • [文档]
  • [类型]
  • [索引]
    • [倒排索引]
  • [IK分词器插件]
  • [Rest风格说明]
  • [关于索引的基本操作]
  • [关于文档的基本操作(重点)]
  • [集成SpringBoot]
  • [京东搜索实战]

这里是ElasticSearch7.X.X +模仿京东搜索的实战 的学习笔记,6.X与7.X区别还是挺大的。

简介

Elaticsearch,简称为ES,ES是一个开源的高扩展的分布式全文检索引擎,它可以近乎实时的存储、检索数据;本身扩展性很好,可以扩展到上百台服务器,处理 PB 级别(大数据时代)的数据。 ES由 Java 语言开发并使用 Lucene 作为其核心来实现所有索引和搜索的功能,但是它的目的是通过简单的 RESTFULL API 来隐藏 Lucene 的复杂性,从而让全文搜索变得简单。

聊聊Doug Cutting

1998年9月4日,Google公司在美国硅谷成立,正如大家所知,它是一家做搜索引擎起家的公司

无独有偶,一位名叫Doug Cutting的美国工程师,也迷上了搜索引擎。他做了一个用于文本搜索的函数库(姑且理解为软件的功能组件),命名为Lucene。 Lucene是用JAVA写成的,目标是为各种中小型应用软件加入全文检索功能。因为好用而且开源,非常受程序员们的欢迎。

早期的时候,这个项目被发布在Doug Cutting的个人网站和SourceForge (一个开源软件网站)。后来,2001年底,Lucene成为Apache软件基金会jakarta项目的一个子项目。 2004年,Doug Cutting再接再励,在Lucene的基础上,和Apache开源伙伴Mike Cafarella合作,开发了一款可以代替当时的主流搜索的开源搜索引擎,命名为Nutch。

 Lucene 是一套信息检索工具包,jar包,不包含搜索引擎系统。

包含的:索引结构,读写索引的工具,排序,搜索规则…工具类。 Lucene和ElasticSearch关系 ElasticSearch是基于Lucene做了一些封装和增强(上手简单)。

ES&Solr&Lucene

Elasticsearch简介 Elasticsearch是一个实时分布式搜索和分析引擎。它让你以前所未有的速度处理大数据成为可能。它用于全文搜索、结构化搜索、分析以及将这三者混合使用︰

维基百科使用Elasticsearch提供全文搜索并高亮关键字,以及输入实时搜索(search-asyou-type)和搜索纠错(did-you-mean)等搜索建议功能。

英国卫报使用Elasticsearch结合用户日志和社交网络数据提供给他们的编辑以实时的反馈,以便及时了解公众对新发表的文章的回应。 StackOverflow结合全文搜索与地理位置查询,以及more-like-this功能来找到相关的问题和答案。Github使用Elasticsearch检索1300亿行的代码。

但是Elasticsearch不仅用于大型企业,它还让像DataDog以及Klout这样的创业公司将最初的想法变成可扩展的解决方案。Elasticsearch可以在你的笔记本上运行,也可以在数以百计的服务器上处理PB级别的数据。 Elasticsearch是一个基于Apache Lucene™的开源搜索引擎。无论在开源还是专有领域,Lucene可以被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库。

但是,Lucene只是一个库。想要使用它,你必须使用Java来作为开发语言并将其直接集成到你的应用中,更糟糕的是, Lucene非常复杂,你需要深入了解检索的相关知识来理解它是如何工作的。 Elasticsearch也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能,但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性,从而让全文搜索变得简单。

Solr简介
Solr是Apache下的一个顶级开源项目,采用Java开发,它是基于Lucene的全文搜索服务器。Solr提供了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展,并对索引、搜索性能进行了优化 Solr可以独立运行,运行在)Tomcat等这些Servlet容器中,Solr索引的实现方法很简单,用POST方法向Solr服务器发送一个描述Field及其内容的XML文档,Solr根据xml文档添加、删除、更新索引。Solr搜索只需要发送HTTP GET请求然后对 Solr返回Xml,json等格式的查询结果进行解析,组织页面布局。Solr不提供构建UI的功能,Solr提供了一个管理界面,通过管理界面可以查询Solr的配置和运行情况。 Solr是基于lucene开发企业级搜索服务器,实际上就是封装了lucene。 Solr是一个独立的企业级搜索应用服务器,它对外提供类似于Web-service的APlI接口。用户可以通过http请求,向搜索引擎服务器提衣一定格式的文件,牛成索引:也可以通讨提出杳找请求,并得到返回结果

Lucene简介
Lucene是apache软件基金会 jakarta项目组的一个子项目,是一个开放源代码的全文检索引擎工具包,但它不是一个完整的全文检索引擎,而是一个全文检索引擎的架构,提供了完整的查询引擎和索引引擎,部分文本分析引擎(英文与德文两种西方语言)。Lucene的目的是为软件开发人员提供一个简单易用的工具包,以方便的在目标系统中实现全文检索的功能,或者是以此为基础建立起完整的全文检索引擎。Lucene是一套用于全文检索和搜寻的开源程式库,由Apache软件基金会支持和提供。Lucene提供了一个简单却强大的应用程式接口,能够做全文索引和搜寻。在Java开发环境里Lucene是一个成熟的免费开源工具。就其本身而言,Lucene是当前以及最近几年最受欢迎的免费Java信息检索程序库。人们经常提到信息检索程序库,虽然与搜索引擎有关,但不应该将信息检索程序库与搜索引擎相混淆。 Lucene是一个全文检索引擎的架构。那什么是全文搜索引擎?

全文搜索引擎是名副其实的搜索引擎,国外具代表性的有Google、Fast/AliTheWeb、AltaVista、Inktomi、Teoma、WiseNut等,国内著名的有百度(Baidu )。它们都是通过从互联网上提取的各个网站的信息(以网页文字为主)而建立的数据库中,检索与用户查询条件匹配的相关记录,然后按一定的排列顺序将结果返回给用户,因此他们是真正的搜索引擎。

从搜索结果来源的角度,全文搜索引擎又可细分为两种,一种是拥有自己的检索程序(Indexer ),俗称"蜘蛛” ( Spider )程序或"机器人” ( Robot)程序,并自建网页数据库,搜索结果直接从自身的数据库中调用,如上面提到的7家引擎;另一种则是租用其他引擎的数据库,并按自定的格式排列搜索结果,如Lycos引擎。

总结

1、ES基本是开箱即用,非常简单。Solr安装略微复杂一丢丢!

2、Solr利用Zookeeper进行分布式管理,而Elasticsearch自身带有分布式协调管理功能。

3、Polr支持更多格式的数据,比如ISON、XML、CSV,而Elasticsearch仅支持json文件格式。

4、Solr官方提供的功能更多,而Elasticsearch本身更注重于核心功能,高级功能多有第三方插件提供,例如图形化界面需要kibana友好支撑。

5、Solr查询快,但更新索引时慢(即插入删除慢),用于电商等查询多的应用。

  • ES建立索引快(即查询慢),即实时性查询快,用于facebook新浪等搜索。
  • Solr是传统搜索应用的有力解决方案,但Elasticsearch更适用于新兴的实时搜索应用。 6、Solr比较成熟,有一个更大,更成熟的用户、开发和贡献者社区,而Elasticsearch相对开发维护者较少,更新太快,学习使用成本较高。

ES的安装

下载地址:https://www.elastic.co/cn/downloads/elasticsearch Version: 7.15.0 Release date: September 23, 2021 Downloads:

bin 启动文件
config 配置文件
    log4j 日志配置文件
    jvm.options java虚拟机相关的配置
    elasticSearch.yml ElasticSearch的配置文件 默认9200端口
lib 相关jar包
logs 日志
modules 功能模块
plugins 插件

点击bin文件夹中的bat就可以启动了,然后访问http://127.0.0.1:9200/就可以看到

{
  "name" : "DESKTOP-KFAD8D1",
  "cluster_name" : "elasticsearch",
  "cluster_uuid" : "K8DWmnQISdetKLrPlwchJQ",
  "version" : {
    "number" : "7.15.0",
    "build_flavor" : "default",
    "build_type" : "zip",
    "build_hash" : "79d65f6e357953a5b3cbcc5e2c7c21073d89aa29",
    "build_date" : "2021-09-16T03:05:29.143308416Z",
    "build_snapshot" : false,
    "lucene_version" : "8.9.0",
    "minimum_wire_compatibility_version" : "6.8.0",
    "minimum_index_compatibility_version" : "6.0.0-beta1"
  },
  "tagline" : "You Know, for Search"
}

安装可视化界面ES head插件

前提需要npm, 该目录下安装依赖npm install 也可以用cnpm install

启动测试npm run start(在这个目录里面cmd:D:java_envelasticsearch-head-masterelasticsearch-head-master)

再访问http://localhost:9100/就可以看到:

由于跨域问题 需要进行配置 config/elsaticsearch.yml

使用Easticsearc时侯启动时,点击elasticsearch.bat发生闪退。

原因:允许elasticsearch跨越访问时,在修改了elasticsearch的配置文件,并且以非UTF-8的格式修改的,结果就报错了。

http.cors.enabled: true
http.cors.allow-origin: "*"

初学时可以把ES当做一个数据库(可以建立索引 (库) ,文档 (库中的数据) )

这个head 们就把它当做数据展示工具 们后面所有的查询都用Kibana

了解ELK

ELK是Elasticsearch、Logstash、Kibana三大开源框架首字母大写简称。市面上也被成为Elastit Stack。其中Elasticsearch是一个基于Lucene、分布式、通过Restful方式进行交互的近实时搜索平台框架。像类似百度、谷歌这种大数据全文搜索引擎的场景都可以使用Elasticsearch作为底层支持框架,可见Elasticsearch提供的搜索能力确实强大,市面上很多时候们简称Elasticsearch为ES。

Logstash是ELK的中央数据流引擎,用于从不同目标(文件/数据存储/MQ)收集的不同格式数据,经过过滤后支持输出到不同目的地(文件/MQ/redis/elasticsearch/kafka等 )。Kibana可以将elasticsearch的数据通过友好的页面展示出来,提供实时分析的功能。

市面上很多开发只要提到ELK能够一致说出它是一个日志分析架构技术栈总称,但实际上ELK不仅仅适用于日志分析,它还可以支持其它任何数据分析和收集的场景,日志分析和收集只是更具有代表性。并非唯一性。

安装Kibana

Kibana是一个针对Elasticsearch的开源分析及可视化平台,用来搜索、查看交互存储在Elasticsearch索引中的数据。使用Kibana ,可以通过各种图表进行高级数据分析及展示。Kibana让海量数据更容易理解。它操作简单,基于浏览器的用户界面可以快速创建仪表板( dashboard ) 实时显示Elasticsearch查询动态。设置Kibana非常简单。无需编码或者额外的基础架构,几分钟内就可以完成Kibana安装并启动Elasticsearch索引监测。

官网https://www.elastic.co/cn/downloads/kibana Kibana 版本要和 Es一致,端口5601

好处:ELK都是基本上拆箱即用。 Version: 7.15.0 Release date: September 23, 2021 Downloads:

们之后的所有的操作都在这里编写:http://localhost:5601/app/dev_tools/console

这个项目做了国际化,所以在Kibana.yml中改为 **i18n.locale: “zh-CN”**就可以了。

ES核心概念

  1. 索引

  2. 字段类型(mapping)

  3. 文档(documents)

    ElasticSearch是面向文档,关系行数据库和elasticsearch客观的对比 一切都是JSON

Relational DB

ElasticSearch

DataBase

indicate

tables

type,慢慢在弃用

rows

documents

columns

fields

ElasticSearch(集群)中可以包含多个索引(数据库),每个索引中可以包含多个类型(表),每个类型下又包含多个文档行),每个文档中又包含多个字段(列)。
物理设计:
ElasticSearch在后台把每个索引划分成多个分片,每分分片可以在集群中的不同服务器间迁移

一个人就是一个集群,默认的集群名称就是ElasticSearch。
逻辑设计∶

一个索引类型中,包含多个文档,比如说文档1,文档2。当们索引一篇文档时,可以通过这样的一各顺序找到它:索引》类型文档ID,通过这个组合们就能索引到某个具体的文档。注意:ID不必是整数,实际上它是个字符串。

文档

之前说ElasticSearch是面向文档的,那么就意味着索引和搜索数据的最小单位是文档,ElasticSearch中,文档有几个重要属性︰

  • 自包含,一篇文档同时包含字段和对应的值,也就是同时包含key:value !
  • 可以是层次型的,一个文档中包含自文档,复杂的逻辑实体就是这么来的!
  • 灵活的结构,文档不依赖预先定义的模式,们知道关系型数据库中,要提前定义字段才能使用,在ElasticSearch中,对于字段是非常灵活的,有时候,们可以忽略该字段,或者动态的添加一个新的字段。

尽管们可以随意的新增或者忽略某个字段,但是,每个字段的类型非常重要,比如一个年龄字段类型,可以是字符串也可以是整形。因为ElasticSearch会保存字段和类型之间的映射及其他的设置。这种映射具体到每个映射的每种类型,这也是为什么在ElasticSearch中,类型有时候也称为映射类型。

类型

类型是文档的逻辑容器,就像关系型数据库一样,表格是行的容器。类型中对于字段的定义称为映射,比如name映射为字符串类型。们说文档是无模式的,它们不需要拥有映射中所定义的所有字段,比如新增一个字段,那么elasticsearch是怎么做的呢?elasticsearch会自动的将新字段加入映射,但是这个字段的不确定它是什么类型,elasticsearch就开始猜,如果这个值是18,那么elasticsearch会认为它是整形。但是elasticsearch也可能猜不对,所以最安全的方式就是提前定义好所需要的映射,这点跟关系型数据库殊途同归了,先定义好字段,然后再使用。

索引

就是数据库

索引是映射类型的容器, ElasticSearch中的索引是一个非常大的文档集合。索引存储了映射类型的字段和其他设置。然后它们被存储到了各个分片上了。
物理设计︰节点和分片如何工作

上图是一个有3个节点的集群,可以看到主分片和对应的复制分片都不会在同一个节点内,这样有利于某个节点挂掉了,数据也不至于丢失。实际上,一个分片是一个Lucene索引,一个包含倒排索引的文件目录,倒排索引的结构使得 ElasticSearch 在不扫描全部文档的情况下,就能告诉你哪些文档包含特定的关键字。
倒排索引
ElasticSearch 使用的是一种称为倒排索引的结构,采用Lucene倒排索作为底层。这种结构适用于快速的全文搜索,一个索引文档中所有不重复的列表构成,对于每一个词,都有一个包含它的文档列表。

例如,现在有两个文档,每个文档包含如下内容∶

Study every day,good good up to forever 文档1包含的内容 To forever, study every day, good good up 文档2包含的内容

为了创建倒排索引,们首先要将每个文档拆分成独立的词(或称为词条或者tokens),然后创建一个包含所有不重复的词条的排序列表,然后列出每个词条出现在哪个文档:

现在,们试图搜索to forever,只需要查看包含每个词条的文档

两个文档都匹配,但是第一个文档比第二个匹配程度更高。如果没有别的条件,现在,这两个包含关键字的文档都将返回。
ElasticSearch 的索引和Lucene的索引对比

在ElasticSearch 中,索引(库)这个词被频繁使用,这就是术语的使用。在ElasticSearch 中,索引被分为多个分片,每份分片是一个Lucene的索引。所以一个ElasticSearch 索引是由多个Lucene索引组成的。别问为什么,谁让elasticElasticSearch search使用Lucene作为底层呢!如无特指,说起索引都是指ElasticSearch 的索引。

接下来的一切操作都在kibana中Dev Tools下的Console里完成。

IK分词器插件

如果要使用中文,建议使用ik分词器
IK提供了两个分词算法: ik smart和ik_max_word,其中ik_smart为最少切分, ik_max_word为最细粒度划分!

查看不同的分词效果

ik_smart为最少切分


GET _analyze { “analyzer”: “ik_smart”, “text”: “中国爱你” } { “tokens” : [

```python
{
  "token" : "中国",
  "start_offset" : 0,
  "end_offset" : 2,
  "type" : "CN_WORD",
  "position" : 0
},
{
  "token" : "爱你",
  "start_offset" : 2,
  "end_offset" : 5,
  "type" : "CN_WORD",
  "position" : 1
}

**ik_max_word为最细粒度划分** ,**穷尽词库的可能**

GET _analyze { “analyzer”: “ik_max_word”, “text”: “中国爱你” } { “tokens” : [

{
  "token" : "中国",
  "start_offset" : 0,
  "end_offset" : 2,
  "type" : "CN_WORD",
  "position" : 0
},
{
  "token" : "爱你",
  "start_offset" : 2,
  "end_offset" : 5,
  "type" : "CN_WORD",
  "position" : 1
},
{
  "token" : "爱你",
  "start_offset" : 3,
  "end_offset" : 5,
  "type" : "CN_WORD",
  "position" : 2
}

] }

**ik分词器增加自己的配置**

GET _analyze { “analyzer”: “ik_smart”, “text”: “爱你贝贝子” } { “tokens” : [

{
  "token" : "爱你",
  "start_offset" : 0,
  "end_offset" : 3,
  "type" : "CN_WORD",
  "position" : 0
},
{
  "token" : "贝",
  "start_offset" : 3,
  "end_offset" : 4,
  "type" : "CN_CHAR",
  "position" : 1
},
{
  "token" : "贝子",
  "start_offset" : 4,
  "end_offset" : 6,
  "type" : "CN_WORD",
  "position" : 2
}

] }

但是贝贝子是一个名字,所以要把她加入到字典中。

{
  "token" : "爱你",
  "start_offset" : 0,
  "end_offset" : 3,
  "type" : "CN_WORD",
  "position" : 0
},
{
  "token" : "贝贝子",
  "start_offset" : 3,
  "end_offset" : 6,
  "type" : "CN_WORD",
  "position" : 1
}

] }

Rest风格说明

一种软件架构风格,而不是标准,只是提供了一组设计原则和约束条件。它主要是用于客户端和服务器交互类的软件。基于这个风格设计的软件可以更简洁,更有层次,更易于实现缓存等机制。

基本Rest命令说明:

关于索引的基本操作


PUT /索引名/~索引名(未来可能取消不写)~/文档id

PUT /test1/type1/1 { “name”: “lijiatu”, “age”: 12 } { “_index” : “test1”, “_type” : “type1”, “_id” : “1”, “_version” : 1, “result” : “created”, “_shards” : {
"total" : 2,
"successful" : 1,
"failed" : 0
}, “_seq_no” : 0, “_primary_term” : 1 }
数据就成功添加了


数据类型

  • 字符串类型
    text, keyword
  • 数值类型
    long, integer, short, byte, double, float, half float, scaled fload
  • 日期类型
    date
  • 布尔值类型
    boolean
  • 二进制类型
    binart
  • 等等…
    指定字段的类型

PUT /test2 { “mappings”: {

```python
"properties": {
  "name": {
    "type": "text"
  },
  "age": {
    "type": "long"
  },
  "birthday": {
    "type": "date"
  }
}

} } { “acknowledged” : true, “shards_acknowledged” : true, “index” : “test2” }


获得这个规则信息, 可以通过GET请求获取具体的信息


GET test2

{ “test2” : {

```python
"aliases" : ,
"mappings" : {
  "properties" : {
    "age" : {
      "type" : "long"
    },
    "birthday" : {
      "type" : "date"
    },
    "name" : {
      "type" : "text"
    }
  }
},
"settings" : {
  "index" : {
    "routing" : {
      "allocation" : {
        "include" : {
          "_tier_preference" : "data_content"
        }
      }
    },
    "number_of_shards" : "1",
    "provided_name" : "test2",
    "creation_date" : "1633697875995",
    "number_of_replicas" : "1",
    "uuid" : "SxOsgsKGR0CYM9Lejh4FWg",
    "version" : {
      "created" : "7150099"
    }
  }
}

}

}

PUT test3/_doc/1 { “name”: “lijiatu”, “age”: 12 } { “_index” : “test3”, “_type” : “_doc”, “_id” : “1”, “_version” : 1, “result” : “created”, “_shards” : {

"total" : 2,
"successful" : 1,
"failed" : 0

}, “_seq_no” : 0, “_primary_term” : 1

}

GET test3

{ “test3” : {

"aliases" : ,
"mappings" : {
  "properties" : {
    "age" : {
      "type" : "long"
    },
    "name" : {
      "type" : "text",
      "fields" : {
        "keyword" : {
          "type" : "keyword",
          "ignore_above" : 256
        }
      }
    }
  }
},
"settings" : {
  "index" : {
    "routing" : {
      "allocation" : {
        "include" : {
          "_tier_preference" : "data_content"
        }
      }
    },
    "number_of_shards" : "1",
    "provided_name" : "test3",
    "creation_date" : "1633698204680",
    "number_of_replicas" : "1",
    "uuid" : "ElIym67sQySiOW1AKCyJ9Q",
    "version" : {
      "created" : "7150099"
    }
  }
}

} }

**如果自己的文档字段没有指定,那么es就会给们默认配置字段类型!**
**通过get _cat/ 可以获得当前的很多信息。**
*** ** * ** ***
**修改** 提交还是使用PUT即可,然后覆盖值,或用新办法。

PUT test3/_doc/1 { “name”: “lijiatubeibeizi”, “age”: 12 } { “_index” : “test3”, “_type” : “_doc”, “_id” : “1”, “_version” : 2,版本号增加了 “result” : “updated”,修改 “_shards” : {

"total" : 2,
"successful" : 1,
"failed" : 0
}, “_seq_no” : 1, “_primary_term” : 1 }

或者使用post来更新


POST test3/_doc/1 { “doc”: {

```python
"name": "beibeizi"

} } { “_index” : “test3”, “_type” : “_doc”, “_id” : “1”, “_version” : 3,版本号增加了 “result” : “updated”,修改 “_shards” : {

"total" : 2,
"successful" : 1,
"failed" : 0

}, “_seq_no” : 3, “_primary_term” : 1 }

**删除索引**

通过DELETE命令实现删除, 根据你的请求来判断是删除索引还是删除文档记录

DELETE test1

{ “acknowledged” : true }

**使用RESTFUL风格是们ES推荐大家使用的。**

关于文档的基本操作(重点) 
------------------------------
**添加数据**

PUT lijiatu/test/1 { “name”: “lijiatu”, “age”: 21, “desc”: “愿你拥有大风与烈酒,也能享受孤独与自由”, “tags”: [“二次元”,“宅男”,“码农”] } PUT lijiatu/test/2 { “name”: “beibeizi”, “age”: 21, “desc”: “愿你拥有大风与烈酒,也能享受孤独与自由”, “tags”: [“二次元”,“女”,“码农”] }

获取数据


```python

GET lijiatu/test/1

{ “_index” : “lijiatu”, “_type” : “test”, “_id” : “1”, “_version” : 1, “_seq_no” : 0, “_primary_term” : 1, “found” : true, “_source” : {

"name" : "lijiatu",
"age" : 21,
"desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
"tags" : [
  "二次元",
  "宅男",
  "码农"
]
} }
**更新数据**

PUT lijiatu/test/3 { “name”: “beibeizi333”, “age”: 21, “desc”: “愿你拥有大风与烈酒,也能享受孤独与自由”, “tags”: [“二次元”,“女”,“码农”] }

**POST _update,推荐使用这种修改方式**
*** ** * ** ***
**复杂操作-搜索**

GET lijiatu/test/1

也可以带条件查询

GET lijiatu/test/_search?q=name:lijiatu

{ “took” : 57, “timed_out” : false, “_shards” : {

"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0

}, “hits” : {

"total" : {
  "value" : 1,
  "relation" : "eq"
},
"max_score" : 1.2039728,
"hits" : [
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "1",
    "_score" : 1.2039728,
    "_source" : {
      "name" : "lijiatu",
      "age" : 21,
      "desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
      "tags" : [
        "二次元",
        "宅男",
        "码农"
      ]
    }
  }
]

} }

简单的条件查询,可以根据默认的映射规则,产生基本的查询。
*** ** * ** ***
\*\*复杂查询 (排序,分页,高亮,模糊查询,精准查询等) \*\*

GET lijiatu/test/_search { “query”: {

"match": {
  "name": "李嘉图"
}

} } { “took” : 583, “timed_out” : false, “_shards” : {

"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0

}, “hits” : {

"total" : {
  "value" : 3,
  "relation" : "eq"
},
"max_score" : 0.43278474,
"hits" : [
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "1",
    "_score" : 0.43278474,
    "_source" : {
      "name" : "李嘉图",
      "age" : 21,
      "desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
      "tags" : [
        "二次元",
        "女",
        "码农"
      ]
    }
  },
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "2",
    "_score" : 0.38623023,
    "_source" : {
      "name" : "李嘉图2",
      "age" : 21,
      "desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
      "tags" : [
        "二次元",
        "女",
        "码农"
      ]
    }
  },
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "3",
    "_score" : 0.38623023,
    "_source" : {
      "name" : "李嘉图3",
      "age" : 21,
      "desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
      "tags" : [
        "二次元",
        "女",
        "码农"
      ]
    }
  }
]

} }

    hit :
    索引和文档的信息
    查询的结果总数
    然后就是查询出来的具体的文档
    数据中的东西都可以遍历出来了
    分数:们可以通过来判断谁更加更加符合结果
**结果过滤**

GET lijiatu/test/_search { “query”: {

"match": {
  "name": "李嘉图"
}

}, “_source”: [“name”,“age”] } { “took” : 0, “timed_out” : false, “_shards” : {

"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0

}, “hits” : {

"total" : {
  "value" : 3,
  "relation" : "eq"
},
"max_score" : 0.43278474,
"hits" : [
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "1",
    "_score" : 0.43278474,
    "_source" : {
      "name" : "李嘉图",
      "age" : 21
    }
  },
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "2",
    "_score" : 0.38623023,
    "_source" : {
      "name" : "李嘉图2",
      "age" : 21
    }
  },
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "3",
    "_score" : 0.38623023,
    "_source" : {
      "name" : "李嘉图3",
      "age" : 21
    }
  }
]

} }

**排序**

GET lijiatu/test/_search { “query”: {

"match": {
  "name": "李嘉图"
}

}, “sort”: [

{
  "age": {
    "order": "desc"
  }
}

] } { “took” : 5, “timed_out” : false, “_shards” : {

"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0

}, “hits” : {

"total" : {
  "value" : 3,
  "relation" : "eq"
},
"max_score" : null,
"hits" : [
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "1",
    "_score" : null,
    "_source" : {
      "name" : "李嘉图",
      "age" : 21,
      "desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
      "tags" : [
        "二次元",
        "女",
        "码农"
      ]
    },
    "sort" : [
      21
    ]
  },
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "2",
    "_score" : null,
    "_source" : {
      "name" : "李嘉图2",
      "age" : 21,
      "desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
      "tags" : [
        "二次元",
        "女",
        "码农"
      ]
    },
    "sort" : [
      21
    ]
  },
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "3",
    "_score" : null,
    "_source" : {
      "name" : "李嘉图3",
      "age" : 21,
      "desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
      "tags" : [
        "二次元",
        "女",
        "码农"
      ]
    },
    "sort" : [
      21
    ]
  }
]

} }

**分页查询**

GET lijiatu/test/_search { “query”: {

"match": {
  "name": "李嘉图"
}

}, “sort”: [

{
  "age": {
    "order": "desc"
  }
}

], “from”: 0, “size”: 2 } { “took” : 0, “timed_out” : false, “_shards” : {

"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0

}, “hits” : {

"total" : {
  "value" : 3,
  "relation" : "eq"
},
"max_score" : null,
"hits" : [
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "1",
    "_score" : null,
    "_source" : {
      "name" : "李嘉图",
      "age" : 21,
      "desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
      "tags" : [
        "二次元",
        "女",
        "码农"
      ]
    },
    "sort" : [
      21
    ]
  },
  {
    "_index" : "lijiatu",
    "_type" : "test",
    "_id" : "2",
    "_score" : null,
    "_source" : {
      "name" : "李嘉图2",
      "age" : 21,
      "desc" : "愿你拥有大风与烈酒,也能享受孤独与自由",
      "tags" : [
        "二次元",
        "女",
        "码农"
      ]
    },
    "sort" : [
      21
    ]
  }
]

} }

数据下标还是从0开始
**布尔值查询**
> must (and) 所有的条件都要符合 相当于 where id = 1 and name = xxx

GET lijiatu/test/_search { “query”: {

"bool": {
  "must": [
    {
    "match": {
      "name": "李"
    }
  },
  {
    "match": {
      "age": 21
    }
  }
  ]
}

} }

**should (or) 所有的条件符合其一 相当于 where id = 1 or name = xxx**

GET lijiatu/test/_search { “query”: {

"bool": {
  "should": [
    {
    "match": {
      "name": "李"
    }
  },
  {
    "match": {
      "age": 21
    }
  }
  ]
}

} }

**must_not (not) 反向查询**

GET lijiatu/test/_search { “query”: {

"bool": {
  "must_not": [
    {
      "match": {
        "age": 21
      }
    }
  ]
}

} }

**过滤器 filter**

“filter”: [

  ]

gt 大于 gte 大于等于 lt 小于 lte 小于等于

**匹配多个条件**

GET lijiatu/test/_search { “query”: {

"match": {
  "tags": "男 码农"
}

} }

多个条件使用空格隔开

只要满足其中一个结果既可以被查出

这个时候可以通过分值基本的判断
*** ** * ** ***
**精确查询**
term 查询是直接通过倒排索引指定的词条进程精确的查找的
**关于分词:**
* term,直接查询精确的
* match, 会使用分词器解析 (先分析文档,然后通过分析的文档进行查询)
**两个类型 text keyword**

GET _analyze { “analyzer”: “keyword”, “text”: [“李嘉图”] }

没有被拆分 { “tokens” : [

{
  "token" : "李嘉图",
  "start_offset" : 0,
  "end_offset" : 3,
  "type" : "word",
  "position" : 0
}

] } GET _analyze { “analyzer”: “standard”, “text”: “李嘉图” }

拆分了

{ “tokens” : [

{
  "token" : "李",
  "start_offset" : 0,
  "end_offset" : 1,
  "type" : "<IDEOGRAPHIC>",
  "position" : 0
},
{
  "token" : "嘉",
  "start_offset" : 1,
  "end_offset" : 2,
  "type" : "<IDEOGRAPHIC>",
  "position" : 1
},
{
  "token" : "图",
  "start_offset" : 2,
  "end_offset" : 3,
  "type" : "<IDEOGRAPHIC>",
  "position" : 2
}

] }

**多个值匹配的精确查询**

bool should term

**高亮查询**

GET lijiatu/test/_search { “query”: {

"match": {
  "name": "李嘉图"
}

}, “highlight”: {

"pre_tags": "<p class='key' style='color:red'>",
"post_tags": "</p>",
"fields": {
  "name": 
}

} }

集成SpringBoot 
------------------------

项目地址:<https://gitee.com/zwtgit/elastic-search-jing-dong-and-apistudy>

找到原生的依赖

<repository>
    <id>es-snapshots</id>
    <name>elasticsearch snapshot repo</name>
    <url>https://snapshots.elastic.co/maven/</url>
</repository>

然后就是要注意导入SpringBoot项目后ES的版本不一致的问题。

例如导入后:

![](https://static.oomspot.com/image/cnbo/2020/2465789-20211009104105623-1066086344.png)

所以要相应的修改一下

![](https://static.oomspot.com/image/cnbo/2020/2465789-20211009104719148-1319580423.png)

快速开始,使用 源码中提供的对象

package com.zwt.esapi.config; import org.apache.http.HttpHost; import org.elasticsearch.client.RestClient; import org.elasticsearch.client.RestHighLevelClient; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; //Spring俩个步骤 1.找对象 2.放到Spring中 @Configuration public class ESConfig {

@Bean
public RestHighLevelClient restHighLevelClient(){
    RestHighLevelClient client = new RestHighLevelClient(
            RestClient.builder(
                    new HttpHost("127.0.0.1",9200,"http")
            )
    );
    return client;
}

}

*** ** * ** ***
**具体的API测试**
1. 创建索引
2. 判断索引是否存在
3. 删除索引
4. 创建文档
5. CRUD文档
**关于索引的API操作**

@Autowired

@Qualifier("restHighLevelClient")   //不加也行 但定义的名字要是这个名字
private RestHighLevelClient client;
//测试索引的创建 Request PUT lijiatu_index
@Test
void testCreateIndex() throws IOException {
    //1. 创建索引请求
    CreateIndexRequest request = new CreateIndexRequest("lijiatu_index");
    //2. 客户端执行请求
    CreateIndexResponse createIndexRequest = client.indices().create(request, RequestOptions.DEFAULT);
    System.out.println(createIndexRequest);
}
//测试获取索引,判断其是否存在
@Test
void testExistIndex() throws IOException {
    GetIndexRequest request = new GetIndexRequest("lijiatu_index");
    boolean exists = client.indices().exists(request, RequestOptions.DEFAULT);
    System.out.println(exists);
}
//测试删除索引
@Test
void testDeleteIndex() throws IOException {
    DeleteIndexRequest request = new DeleteIndexRequest("lijiatu_index");
    //删除
    AcknowledgedResponse delete = client.indices().delete(request, RequestOptions.DEFAULT);
    System.out.println(delete.isAcknowledged());
}

**关于文档的API操作**

//测试添加文档

@Test
void testAddDocument() throws IOException {
    //创建对象
    User user = new User("李嘉图", 12);
    //创建请求
    IndexRequest request = new IndexRequest("ahui_index");
    //规则 put lijiatu_index/_doc/1
    request.id("1");
    request.timeout(TimeValue.timeValueSeconds(1));
    request.timeout("1s");
    //将们的数据放入请求 json (使用fastjson进行转换)
    IndexRequest source = request.source(JSON.toJSONString(user), XContentType.JSON);
    //客户端发送请求, 获取响应的结果
    IndexResponse indexResponse = client.index(request, RequestOptions.DEFAULT);
    //返回具体的json信息
    System.out.println(indexResponse.toString());
    //对应们命令返回的状态 CREATED
    System.out.println(indexResponse.status());
}
//获取文档
@Test
void testIsExistes() throws IOException {
    GetRequest getRequest = new GetRequest("lijiatu_index", "1");
    //不获取返回的_source 的上下文了
    getRequest.fetchSourceContext(new FetchSourceContext(false));
    getRequest.storedFields("_none_");
    boolean exists = client.exists(getRequest, RequestOptions.DEFAULT);
    System.out.println(exists);
}
//获取文档的信息
@Test
void testGetDocument() throws IOException {
    GetRequest getRequest = new GetRequest("lijiatu_index", "1");
    GetResponse getResponse = client.get(getRequest, RequestOptions.DEFAULT);
    //打印文档的内容
    System.out.println(getResponse.getSourceAsString());
    //返回的全部内容和命令是一样的
    System.out.println(getResponse);
}
//获取文档的信息
@Test
void testUpdateRequest() throws IOException {
    UpdateRequest updateRequest = new UpdateRequest("lijiatu_index", "1");
    updateRequest.timeout("1s");
    User user = new User("李嘉图学Java", 22);
    updateRequest.doc(JSON.toJSONString(user), XContentType.JSON);
    UpdateResponse updateResponse = client.update(updateRequest, RequestOptions.DEFAULT);
    System.out.println(updateResponse.status());
}
//删除文档记录
@Test
void testDeleteRequest() throws IOException {
    DeleteRequest deleteRequest = new DeleteRequest("lijiatu_index", "1");
    deleteRequest.timeout("1s");
    DeleteResponse delete = client.delete(deleteRequest, RequestOptions.DEFAULT);
    System.out.println(delete.status());
}
//特殊的,实际项目中一般都会批量插入数据
@Test
void testBulkRequest() throws IOException {
    BulkRequest bulkRequest = new BulkRequest();
    bulkRequest.timeout("10s");
    ArrayList<User> userList = new ArrayList<>();
    userList.add(new User("lijiatu1", 18));
    userList.add(new User("lijiatu1", 18));
    userList.add(new User("lijiatu1", 18));
    userList.add(new User("lijiatu1", 18));
    userList.add(new User("lijiatu1", 18));
    userList.add(new User("lijiatu1", 18));
    //批量处理请求
    for (int i = 0; i < userList.size(); i++) {
        //批量更新和批量修改等, 就在这里修改对应的请求就可以了
        bulkRequest.add(new IndexRequest("ahui_index")
                .id("" + (i + 1)) //不加id的话会默认生成随机id
                .source(JSON.toJSONString(userList.get(i)), XContentType.JSON));
    }
    BulkResponse bulkResponse = client.bulk(bulkRequest, RequestOptions.DEFAULT);
    //是够失败, 返回false代表成功
    System.out.println(bulkResponse.hasFailures());
}
//查询
//SearchRequest 搜索请求
//SearchSourceBuilder 条件构造
//HighLightBuilder 构建高亮
//xxx QueryBuilder 对应们刚才看到的所有命令
@Test
void testSearch() throws IOException {
    SearchRequest searchRequest = new SearchRequest("lijiatu_index");
    //构建搜索条件
    SearchSourceBuilder sourceBuilder = new SearchSourceBuilder();
    //查询条件,们可以使用QueryBuilders 工具类来实现
    //QueryBuilders.termQuery  精确匹配
    //QueryBuilders.matchAllQuery 匹配所有
    TermQueryBuilder termQueryBuilder = QueryBuilders.termQuery("name", "lijiatu");

// MatchAllQueryBuilder matchAllQueryBuilder = QueryBuilders.matchAllQuery();

    sourceBuilder.query(termQueryBuilder);
    sourceBuilder.timeout(new TimeValue(60, TimeUnit.SECONDS));
    searchRequest.source(sourceBuilder);
    SearchResponse searchResponse = client.search(searchRequest, RequestOptions.DEFAULT);

    System.out.println(JSON.toJSONString(searchResponse.getHits()));
    System.out.println("==========================================");
    for (SearchHit documentFileds : searchResponse.getHits().getHits()) {
        System.out.println(documentFileds.getSourceAsMap());
    }
}

*** ** * ** ***
**源码**

![](https://static.oomspot.com/image/cnbo/2020/2465789-20211009122402507-1041334801.png)

@Import({ RestClientConfigurations.RestClientBuilderConfiguration.class,

    RestClientConfigurations.RestHighLevelClientConfiguration.class,
    RestClientConfigurations.RestClientFallbackConfiguration.class })

/*

  • right 2012-2019 the original author or authors. *

  • Licensed under the Apache License, Version 2.0 (the “License”);

  • you may not use this file except in compliance with the License.

  • You may obtain a copy of the License at *

  •  https://www.apache.org/licenses/LICENSE-2.0
    
    
  • Unless required by applicable law or agreed to in writing, software

  • distributed under the License is distributed on an “AS IS” BASIS,

  • WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.

  • See the License for the specific language governing permissions and

  • limitations under the License. / package org.springframework.boot.autoconfigure.elasticsearch.rest; import java.time.Duration; import org.apache.http.HttpHost; import org.apache.http.auth.AuthScope; import org.apache.http.auth.Credentials; import org.apache.http.auth.UsernamePasswordCredentials; import org.apache.http.client.CredentialsProvider; import org.apache.http.impl.client.BasicCredentialsProvider; import org.elasticsearch.client.RestClient; import org.elasticsearch.client.RestClientBuilder; import org.elasticsearch.client.RestHighLevelClient; import org.springframework.beans.factory.ObjectProvider; import org.springframework.boot.autoconfigure.condition.ConditionalOnClass; import org.springframework.boot.autoconfigure.condition.ConditionalOnMissingBean; import org.springframework.boot.context.properties.PropertyMapper; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; /*

  • Elasticsearch rest client infrastructure configurations. *

  • @author Brian Clozel

  • @author Stephane Nicoll */ class RestClientConfigurations { @Configuration(proxyBeanMethods = false) static class RestClientBuilderConfiguration {

    @Bean
    @ConditionalOnMissingBean
    RestClientBuilder elasticsearchRestClientBuilder(RestClientProperties properties,
            ObjectProvider<RestClientBuilderCustomizer> builderCustomizers) {
        HttpHost[] hosts = properties.getUris().stream().map(HttpHost::create).toArray(HttpHost[]::new);
        RestClientBuilder builder = RestClient.builder(hosts);
        PropertyMapper map = PropertyMapper.get();
        map.from(properties::getUsername).whenHasText().to((username) -> {
            CredentialsProvider credentialsProvider = new BasicCredentialsProvider();
            Credentials credentials = new UsernamePasswordCredentials(properties.getUsername(),
                    properties.getPassword());
            credentialsProvider.setCredentials(AuthScope.ANY, credentials);
            builder.setHttpClientConfigCallback(
                    (httpClientBuilder) -> httpClientBuilder.setDefaultCredentialsProvider(credentialsProvider));
        });
        builder.setRequestConfigCallback((requestConfigBuilder) -> {
            map.from(properties::getConnectionTimeout).whenNonNull().asInt(Duration::toMillis)
                    .to(requestConfigBuilder::setConnectTimeout);
            map.from(properties::getReadTimeout).whenNonNull().asInt(Duration::toMillis)
                    .to(requestConfigBuilder::setSocketTimeout);
            return requestConfigBuilder;
        });
        builderCustomizers.orderedStream().forEach((customizer) -> customizer.customize(builder));
        return builder;
    }
    
    

    } @Configuration(proxyBeanMethods = false) @ConditionalOnClass(RestHighLevelClient.class) static class RestHighLevelClientConfiguration {

    @Bean
    @ConditionalOnMissingBean
    RestHighLevelClient elasticsearchRestHighLevelClient(RestClientBuilder restClientBuilder) {
        return new RestHighLevelClient(restClientBuilder);
    }
    @Bean
    @ConditionalOnMissingBean
    RestClient elasticsearchRestClient(RestClientBuilder builder,
            ObjectProvider<RestHighLevelClient> restHighLevelClient) {
        RestHighLevelClient client = restHighLevelClient.getIfUnique();
        if (client != null) {
            return client.getLowLevelClient();
        }
        return builder.build();
    }
    
    

    } @Configuration(proxyBeanMethods = false) static class RestClientFallbackConfiguration {

    @Bean
    @ConditionalOnMissingBean
    RestClient elasticsearchRestClient(RestClientBuilder builder) {
        return builder.build();
    }
    
    

    } }

京东搜索实战

项目导入静态资源后:

数据爬取京东的首页,可以看之前的爬虫小项目爬取数据

爬虫项目地址:https://www.cnblogs.com/zwtblog/p/15216808.html 具体的业务编写

package com.zwt.service;
import com.alibaba.fastjson.JSON;
import com.zwt.pojo.Content;
import com.zwt.utils.HtmlParseUtil;
import org.elasticsearch.action.bulk.BulkRequest;
import org.elasticsearch.action.bulk.BulkResponse;
import org.elasticsearch.action.index.IndexRequest;
import org.elasticsearch.action.search.SearchRequest;
import org.elasticsearch.action.search.SearchResponse;
import org.elasticsearch.client.RequestOptions;
import org.elasticsearch.client.RestHighLevelClient;
import org.elasticsearch.common.xcontent.XContentType;
import org.elasticsearch.core.TimeValue;
import org.elasticsearch.index.query.QueryBuilders;
import org.elasticsearch.index.query.TermQueryBuilder;
import org.elasticsearch.search.SearchHit;
import org.elasticsearch.search.builder.SearchSourceBuilder;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import java.io.IOException;
import java.util.ArrayList;
import java.util.List;
import java.util.Map;
import java.util.concurrent.TimeUnit;
@Service
public class ContentService {
    @Autowired
    private RestHighLevelClient restHighLevelClient;
    //1.解析数据 放入 ES 索引中
    public Boolean parseContent(String ketwords) throws IOException {
        List<Content> contents = new HtmlParseUtil().parseJD(ketwords);
        //把查询出来的数据放入 ES中
        BulkRequest bulkRequest = new BulkRequest();
        bulkRequest.timeout("2m");
        for (int i = 0; i < contents.size(); i++) {
            bulkRequest.add(
                    new IndexRequest("jd_goods")
                            .source(JSON.toJSONString(contents.get(i)), XContentType.JSON)
            );
        }
        BulkResponse bulk = restHighLevelClient.bulk(bulkRequest, RequestOptions.DEFAULT);
        return !bulk.hasFailures();
    }
    //2.获取这些数据  实现搜索功能
    public List<Map<String, Object>> searchPage(String keyword, int pageNo, int pageSize) throws IOException {
        if (pageNo <= 1) {
            pageNo = 1;
        }
        //条件搜索
        SearchRequest searchRequest = new SearchRequest("jd_goods");
        SearchSourceBuilder searcheBuilder = new SearchSourceBuilder();
        //分页
        searcheBuilder.from(pageNo);
        searcheBuilder.size(pageSize);
        //精准匹配
        TermQueryBuilder termQueryBuilder = QueryBuilders.termQuery("title", keyword);
        searcheBuilder.query(termQueryBuilder);
        searcheBuilder.timeout(new TimeValue(60, TimeUnit.SECONDS));
        //执行搜索
        searchRequest.source(searcheBuilder);
        SearchResponse searchResponse = restHighLevelClient.search(searchRequest, RequestOptions.DEFAULT);
        //解析结果
        ArrayList<Map<String, Object>> list = new ArrayList<>();
        for (SearchHit documentFields : searchResponse.getHits().getHits()) {
            list.add(documentFields.getSourceAsMap());
        }
        return list;
    }
}

package com.zwt.controller;
import com.zwt.service.ContentService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RestController;
import java.io.IOException;
import java.util.List;
import java.util.Map;
//请求编写
@RestController
public class ContentController {
    @Autowired
    private ContentService contentService;
    @GetMapping("/parse/")
    public Boolean parse(@PathVariable("keyword") String keyword) throws Exception {
        return contentService.parseContent(keyword);
    }
    @GetMapping("/search//{pageNo}/{pageSize}")
    public List<Map<String, Object>> search(@PathVariable("keyword") String keyword,
                                            @PathVariable("pageNo") int pageNo,
                                            @PathVariable("pageSize") int pageSize) throws IOException {
        return contentService.searchPage(keyword, pageNo, pageSize);
    }
}

业务基本编写完成,准备进行前后端交换

最后实现"高亮”

效果图

原文创作:ML李嘉图

原文链接:https://www.cnblogs.com/zwtblog/p/15387306.html

文章列表

更多推荐

更多
这里什么都没有

近期文章

更多
文章目录

    推荐作者

    更多