Elasticsearch入门,看完又要会!慎点

本文主要介绍 ElasticSearch的使用

如有需要,可以参考

如有帮助,不忘 点赞 ❥收藏+关注哦

ELK是一个免费开源的日志分析架构技术栈总称,其中包含三大基础组件,分别是 ElasticSearch、Logstash、Kibana。ELK在实际开发中不仅仅使用于日志分析,它还可以支持其他任何数据搜索、分析和收集的场景,其中日志分析和收集更具有代表性。

既然 ELK 这么有用,那这篇我们就先来认识一下什么是 ElasticSearch吧!

简介

简单来说 ElasticSearch 就是一个搜索框架。对于搜索这个词我们并不陌生,当我们输入关键词后,返回含有该关键词的所有信息结果。

在我们平时用到最多的便是数据库搜索:

SELECT * FROM USE WHERE NAME LIKE %小菜%
复制代码

但是用数据库做搜索存在着许多弊端,例如:

  • 存储问题:当数据量大的时候就必须进行分库分表。
  • 性能问题:当数据量过大时,使用LIKE会对上亿条数据进行逐行扫描,性能受到严重影响。
  • 不能分词:当我们搜索 游戏本电脑 的时候,只会返回完全和关键词一样的数据,如果搜索 游戏电脑,那么是不是就会没有数据返回。

因此基于以上问题,ElasticSearch出现了。它是使用 Java 开发的,基于 Lucene、分布式、通过 Restful 方式进行交互的近实时搜索平台框架。它的优点如下:

  • 分布式的搜索引擎和数据分析引擎
  • 全文检索,结构化检索和数据分析
  • 对海量数据进行近实时的处理

Lucene 介绍

Lucene 是一个功能强大的搜索库,如果我们直接基于 Lucene 开发,那么会非常复杂。而 ElasticSearch 是基于 Lucene 开发的,封装了许多 Lucene 底层功能,提供了简单易用的 RestFul api接口和许多语言的客户端。

ElasticSearch核心概念

  • NRT(Near Realtime) 近实时
  1. 写入数据时,过 1 秒才会被搜索到,因为内部需要分词,引入索引
  2. es 搜索和分析数据都是秒级内出结果
  • Cluster 集群

包含一个或多个启动着es实例的机器群。通常一台机器起一个es实例。同一网络下,集名一样的多个es实例自动组成集群,自动均衡分片等行为。默认集群名为“elasticsearch”。

  • Node 节点

每个es实例称为一个节点。节点名自动分配,也可以手动配置。

  • Index 索引

包含一堆有相似结构的文档数据。索引创建规则:

  1. 仅限小写字母
  2. 不能包含 *\、/、 、?、"、<、>、|、# 以及空格符等特殊符号
  3. 7.0版本开始不再包含冒号
  4. 不能以-、_+开头
  5. 不能超过255个字节(注意它是字节,因此多字节字符将计入255个限制)
  • Document 文档

es中的最小数据单元。一个document就像数据库中的一条记录。通常以json格式显示。多个document存储于一个索引(Index)中。

  • Field 字段

就像数据库中的列(Columns),定义每个document应该有的字段。

  • Type 类型

每个索引里都可以有一个或多个typetypeindex中的一个逻辑数据分类,一个type下的document,都有相同的field

:6.0之前的版本有type(类型)概念,type相当于关系数据库的表,ES官方将在ES9.0版本中彻底删除type。本教程typy都为_doc。

  • Shard 分片

index数据过大时,将index里面的数据,分为多个shard,分布式的存储在各个服务器上面。可以支持海量数据和高并发,提升性能和吞吐量,充分利用多台机器的cpu

  • replica 副本

在分布式环境下,任何一台机器都会随时宕机,如果宕机,index一个分片都没有,那么导致此index不能搜索。所以,为了保证数据的安全,我们会将每个index的分片进行备份,存储在另外的机器上。保证少数机器宕机es集群仍可以搜索。

能正常提供查询和插入的分片我们叫做主分片(primary shard),其余的叫做备份的分片(replica shard)。

与数据库同比

<colgroup style="box-sizing: border-box;"><col style="box-sizing: border-box;"><col style="box-sizing: border-box;"></colgroup>
|

关系型数据库

|

非关系型数据库(Elasticsearch)

|
|

数据库 Database

|

索引 Index

|
|

表 Table

|

索引 Index(原为 Type)

|
|

数据行 Row

|

文档 Document

|
|

数据列 Column

|

字段 Field

|
|

约束 Schema

|

映射 Mapping

|

前期准备

演示环境: Windows

ElasticSearch 安装

我们进入 ElasticSearch下载地址 下载和解压 ElasticSearch ,目录结构如下:

  • bin:脚本目录,包括:启动、停止等可执行的脚本
  • config:配置文件目录
  • data:索引目录
  • logs:日志目录
  • modules:模块目录,包括了 es 的功能模块
  • plugins:插件目录,es 支持插件机制

准备好配置文件后,双击elasticsearch.bat启动,接着访问http://localhost:9200,出现以下界面即为成功:

Elasticsearch入门,看完又要会!慎点

Kibana 安装

进入下载地址 下载和解压 Kibana,修改配置文件后,双击kibana.bat启动,接着访问http://localhost:5601/,出现以下界面即为成功:

Elasticsearch入门,看完又要会!慎点

进入 Kibana 控制台,输入 GET /查看ElasticSearch信息,出现以下界面即为成功:

Elasticsearch入门,看完又要会!慎点

前期准备工作做好了,咱们现在开始进入ElasticSearch的正式环节!

Elasticsearch入门,看完又要会!慎点

ES开讲

什么是 Index

Index就相当于数据库中的数据表,ElasticSearch会索引所有字段,经过处理后写入一个反向索引(Inverted Index)。查找数据的时候,直接查找该索引。所以,ElasticSearch数据管理的顶层单位就叫做 Index(索引)注: 每个 Index 的名字必须是小写。

  • 创建一个 test 索引:

语法:PUT /${index}

Elasticsearch入门,看完又要会!慎点
  • 删除 test 索引:

语法:DELETE /${index}

Elasticsearch入门,看完又要会!慎点

其中删除支持其他语法:

1\. DELETE /test
2. DELETE /test1,test2
3. DELETE /test_*
4. DELETE /_all
复制代码

什么是 Document

首先员工和部门对象如下:

public class Employee{
    private String id;
    private String name;
    private String deptId;
}
public class Department{
    private String id;
    private String deptName;
    private String describe;
}
复制代码

我们如果用关系型数据存数据的话,应该是一个员工表和一个部门表,查询员工的时候想要带上部门的信息就得使用关联查询。

但是在 ES 中,它是面向文档的,文档中存储的数据结构与对象一致。一个对象可以直接保存成一个文档,这就是ES中的 Documentdocument 是采用 json 数据格式表示,示例如下:

{
    "id":"1",
    "name":"小菜",
    "department":{
        "id":"1",
        "deptName":"搬砖部",
        "describe":"努力搬好每一块砖"
    }
}
复制代码

接下来我们在 employee索引中演示基本的增删改查操作:

创建员工信息

Elasticsearch入门,看完又要会!慎点

获取员工信息

Elasticsearch入门,看完又要会!慎点

修改员工信息

以下是替换操作,要带上所有信息

Elasticsearch入门,看完又要会!慎点

局部更新操作

Elasticsearch入门,看完又要会!慎点

局部更新操作的语法为:POST /{index}/_update/{id},其中要更新的信息需要放在doc里面

删除员工信息

Elasticsearch入门,看完又要会!慎点

字段信息

{
  "_index" : "employee",
  "_type" : "_doc",
  "_id" : "1",
  "_version" : 4,
  "_seq_no" : 7,
  "_primary_term" : 1,
  "found" : true,
  "_source" : {
    "id" : "1",
    "name" : "小菜",
    "department" : {
      "id" : "1",
      "deptName" : "搬砖部",
      "describe" : "努力搬好每一块砖"
    }
  }
}
复制代码

当我们通过GET /employee/_doc/1 可以获取到一条文档信息如上,其中出现 8 个字段,接下来为你们解析一番重要字段:

  • _index:文档所属的索引名称
  • _type:类别。在 es9 只有会删除此字段,因此不用关注,默认都为 _doc
  • _id:文档的唯一标志,类似于表中的主键ID,可以用来标识和定义一个文档。可以手动生成,也可以自动生成

1.手动生成

Elasticsearch入门,看完又要会!慎点

2.自动生成:

注: 这里用到是 POST请求,将会为我们自动生成 20 个字符的 ID

Elasticsearch入门,看完又要会!慎点
  • _version:版本号

这里的版本号是在 全量替换局部更新删除 操作时,版本号都会加 1,上面 ID 为 1 的员工信息版本表为4,说明这条记录已经更新了 4 次。

  • _seq_no:序列号

作用于 version 类似,当数据发生变更时,值就会加 1

  • _source:插入数据时的所有字段和值

我们也可以不需要返回所有字段,需要用以下语句:

GET /employee/_doc/1?_source_includes=id,name

Elasticsearch入门,看完又要会!慎点

当然不仅可以使用_source_includes ,还可以使用_source_excludes,两个意思分别是包括排除

乐观锁机制

在我们学习 Java 并发的时候,我们认识了 CAS 乐观锁机制,在 ES 中我们同样也可以使用乐观锁来控制。

CAS是基于版本号的,而在上述 Document 字段解析中,我们也看到了 _seq_no 这个字段,不由想象,我们是否也能根据 _seq_no 来做乐观锁控制解决并发问题呢,答案是可以的。

我们首先创建一条员工记录:

Elasticsearch入门,看完又要会!慎点

此时,版本号毋庸置疑是 1_seq_no10

然后我们将这条员工信息删除:

Elasticsearch入门,看完又要会!慎点

接着我们重新创建一条相同的员工信息:

Elasticsearch入门,看完又要会!慎点

可以看到这个时候的版本号变成了 3_seq_no 变成了 14

这是因为 ES 内部采用了 延迟删除策略,这是因为如果删除一条数据立马删除的话,所有分片和副本都要立马删除,这会对 ES 集群压力太大。

进行并发控制:

  • 步骤1:我们先查出当前的 _seq_no17

语句: PUT /employee/_doc/5?if_seq_no=17&if_primary_term=1

Elasticsearch入门,看完又要会!慎点

可以看到更新后,_version_seq_no 都加上了 1

如果 _seq_no 版本不匹配的情况下:

Elasticsearch入门,看完又要会!慎点

将会报出错误!

批量操作

批量查询 (_mget)

上面我们用到的语句都是指定ID单个查询,如果我们想要查询当前索引下的所有数据,那么应当使用以下语句:

GET /employee/_mget
{
  "docs" : [
      {
         "_id" : 1
      },
      {
         "_id" : 5
      }
   ]
}
复制代码
Elasticsearch入门,看完又要会!慎点

如果我们要同时查询不同索引下的 ID 时,应当使用以下语句:

GET /_mget
{
   "docs" : [
      {
         "_index" : "employee",
         "_id" : 1
      },
      {
         "_index" : "employee",
         "_id" : 5
      }
   ]
}
复制代码
Elasticsearch入门,看完又要会!慎点

批量增删改 (bulk)

语法:

POST /_bulk
{"action": {"metadata"}}
{"data"}
复制代码

示例:

Elasticsearch入门,看完又要会!慎点

注:

  • delete: 删除一个文档,只需 1 个 json
  • create: 创建一个文档,相当于 PUT /index/type/id/_create
  • index: 普通的 put 操作,可以创建文档,也可以全量替换文档
  • update: 更新一个文档,执行的是局部更新

每个操作之间互不影响,操作失败的行会返回对应的失败信息

buld 操作请求一次不宜过大, 否则一下子容易挤压到内存中,性能会下降

与开发融合

ElasticSearch 是基于 Java 开发的,当然我们开发中要使用 ElasticSearch 也是非常方便的。

首先便是引入依赖

    <dependency>
        <groupId>org.elasticsearch.client</groupId>
        <artifactId>elasticsearch-rest-high-level-client</artifactId>
        <version>7.9.0</version>
        <exclusions>
            <exclusion>
                <groupId>org.elasticsearch</groupId>
                <artifactId>elasticsearch</artifactId>
            </exclusion>
        </exclusions>
    </dependency>
    <dependency>
        <groupId>org.elasticsearch</groupId>
        <artifactId>elasticsearch</artifactId>
        <version>7.9.0</version>
    </dependency>
复制代码

获取员工信息示例

Elasticsearch入门,看完又要会!慎点
/** OUTPUT:
{"id":"1","name":"小菜啊","department":{"id":"1","deptName":"搬砖部","describe":"努力搬好每一块砖"}}
 */
复制代码

如果你觉得只从 getResponse 中获取一个 source 不满足,没有关系!我们还可以从getResponse 获取以下信息:

Elasticsearch入门,看完又要会!慎点

我们在上面的查询文档中发现,如果需要从 ES 中获取信息,我们先要 获取客户端连接,然后再 构建请求,最后 执行得到结果。这一系列操作不知道你是否有点熟悉,我们以前用的 JDBC,也是需要这一系列的操作,后来出现了 HibernateMybatis,大大简化了我们的代码量。无独有偶,ES 也可以完美结合 Spring 框架开发。

首先我们需要需要在 application.yaml 文件中定义好elasticsearch 的 host:

server:
  port: 8081
spring:
  application:
    name: search-service
  elasticsearch:
    address: 127.0.0.1:9200 #多个节点用逗号分隔
复制代码

然后我们需要在 Spring 中注册 RestHighLevelClient

Elasticsearch入门,看完又要会!慎点

执行查询

Elasticsearch入门,看完又要会!慎点

我们在上述例子中认识到了_source_includes 和_source_excludes的用法,当然在 Java 中也是支持的:

Elasticsearch入门,看完又要会!慎点

而且ES在 Java 中还支持异步查询:

Elasticsearch入门,看完又要会!慎点

执行新增

Elasticsearch入门,看完又要会!慎点

在上面我们是用 json 传递我们需要新增的参数,当然也支持另外方式:

//方式1: json
Map<String, String> insertInfo = new HashMap<>();
insertInfo.put("id", "8");
insertInfo.put("name", "老王");
request.source(JSON.toJSONString(insertInfo), XContentType.JSON);

//方式2: map
Map<String, String> insertInfo = new HashMap<>();
insertInfo.put("id", "8");
insertInfo.put("name", "老王");
request.source(insertInfo);

//方式3: XContentBuilder
XContentBuilder builder = XContentFactory.jsonBuilder();
builder.startObject();
{
    builder.field("id", "8");
    builder.field("name", "老王");
}
builder.endObject();
request.source(builder);

//方式4: 直接构建
request.source("id", "8", "name", "老王");
复制代码

当然不止新增支持异步操作,更新同样也支持异步操作:

Elasticsearch入门,看完又要会!慎点

执行修改

Elasticsearch入门,看完又要会!慎点

异步支持:

Elasticsearch入门,看完又要会!慎点

执行删除

Elasticsearch入门,看完又要会!慎点

异步支持:

Elasticsearch入门,看完又要会!慎点

执行批量

Elasticsearch入门,看完又要会!慎点

Mapping 介绍

什么是Mapping: 自动或手动为 index 中的 _doc 建立的一种数据结构和相关配置

我们如果使用关系型数据库插入一条员工信息,首先需要建立一个员工表 employee,然后表里面有两个字段:id,name:

create table website(
    id varchar(8),
    name varchar(8)
);
复制代码

我们往 员工索引 中插入数据:

PUT /employee/_doc/1
{
    "id":"1",
    "name":
}
复制代码

感觉少了点什么,那就是我们不需要建立字段了,甚至不需要手动建立 employee 索引,只需要一句语句就可以解决!

这是因为ES 里面存在动态映射(Dynamic Mapping),会自动为我们建立 index,以及对应的 mappingmapping 中包含了每个 field 对应的数据类型,以及如何分词等设置。

我们可以通过 GET /{index}/_mapping 查看自己索引的字段映射:

Elasticsearch入门,看完又要会!慎点

核心数据类型

Elasticsearch入门,看完又要会!慎点

动态推测类型

Elasticsearch入门,看完又要会!慎点

<colgroup style="box-sizing: border-box;"><col style="box-sizing: border-box;"><col style="box-sizing: border-box;"></colgroup>
|

JSON datatype

|

ElasticSearch datatype

|
|

true or false

|

boolean

|
|

123

|

long

|
|

123.45

|

double

|
|

2019-01-01

|

date

|
|

"test"

|

text/keyword

|

自定义

我们在创建完索引后,可以手动创建映射:

语法: PUT ${index}/_mapping

PUT department/_mapping
{
    "properties": {
        "id": {
            "type": "text"
        },
        "description": {
            "type": "text",
            "analyzer":"english",
            "search_analyzer":"english"
        }
    }
} 
复制代码

其中可以通过analyzer属性指定分词器。上边指定了analyzer是指在索引和搜索都使用english,如果单独想定义搜索时使用的分词器则可以通过search_analyzer属性。

注: 日期类型不支持分词器

【END】

以上便是 ElasticSearch 的入门介绍啦!ElasticSearch 可以讲的内容还有很多哦,接下来也会抽时间整理一下 ElasticSearch 的深入内容哦,关注小编不迷路。路漫漫,小编与你一同求索!

Elasticsearch入门,看完又要会!慎点

原文链接:
https://juejin.cn/post/6887197630033346568

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,324评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,303评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,192评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,555评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,569评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,566评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,927评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,583评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,827评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,590评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,669评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,365评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,941评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,928评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,159评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,880评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,399评论 2 342

推荐阅读更多精彩内容