ELK实现全文检索

版本:7.8.0

下载好elasticsearch,logstash,kibana,ik分词器

https://www.elastic.co/cn/downloads/elasticsearch
https://www.elastic.co/cn/downloads/logstash
https://www.elastic.co/cn/downloads/kibana
https://github.com/medcl/elasticsearch-analysis-ik/releases

image.png

启动elasticsearch

解压后直接点击bin目录下elasticsearch.bat文件,在浏览器访问localhost:9200


image.png

使用curl命令操作es

创建索引


image.png

新增数据


image.png

查询数据


image.png

启动kibana

解压后直接点击bin目录下kibana.bat,在kibana.yml可以看到默认配置elasticsearch.host :http://localhost:9200
浏览器访问localhost:5601

image.png

在kibana上操作es

点击devtools


image.png

查询


image.png

删除索引
image.png

创建索引


image.png

新增数据


image.png

安装ik分词器

在es的plugins的文件夹下创建了一个ik文件夹
将ik分词器的压缩包解压后的所有文件放到ik文件夹下
然后 重启es


image.png

使用es默认的分词器查询


image.png

使用ik_smart分词器查询


image.png

使用ik_max_word分词器查询
image.png

使用logstash同步mysql数据到elasticsearch

1、解压后,在config文件夹下创建用来同步mysql的配置文件mysql.conf


image.png

配置文件内容

input {
  jdbc {
    jdbc_driver_library => "C:\\soft\\logstash-7.8.0\\mysql-connector-java-8.0.21.jar"
    jdbc_connection_string => "jdbc:mysql://127.0.0.1:3306/test?useUnicode=true&characterEncoding=utf-8&useSSL=true&serverTimezone=UTC"
    jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
    jdbc_user => "root"
    jdbc_password => "root"
    schedule => "* * * * * *"
    clean_run => true
    statement => "select * from blog where update_time>=:sql_last_value and update_time < now() order by update_time DESC;"
  }
}

output {
  elasticsearch {
    hosts => ["127.0.0.1:9200"]
    index => "blog"
    document_id => "%{id}"
  }
}

创建表

CREATE TABLE `blog` (
  `id` int NOT NULL AUTO_INCREMENT,
  `title` varchar(255) COLLATE utf8mb4_croatian_ci DEFAULT NULL,
  `content` varchar(255) COLLATE utf8mb4_croatian_ci DEFAULT NULL,
  `update_time` datetime DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=8 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_croatian_ci;

启动logstash
bin/logstash -f ../config/mysql.conf
数据库插入一条数据,查看kibana


image.png

image.png

logstash重启遇到的问题

在终端,ctrl+c发现并不能退出logstash,但是直接关闭窗口,再启动的时候会提示已经启动了,不能再启动,这个时候把data文件夹下面的.lock删除就可以了


image.png

使用java客户端elasticsearch-rest-high-level-client操作es,实现全文检索

引入maven依赖

<dependency>
            <groupId>org.elasticsearch.client</groupId>
            <artifactId>elasticsearch-rest-high-level-client</artifactId>
            <version>7.8.0</version>
        </dependency>
        <dependency>
            <groupId>org.elasticsearch.client</groupId>
            <artifactId>elasticsearch-rest-client</artifactId>
            <version>7.8.0</version>
        </dependency>
        <dependency>
            <groupId>org.elasticsearch</groupId>
            <artifactId>elasticsearch</artifactId>
            <version>7.8.0</version>
        </dependency>

利用spring的便利,创建springbean注入到spring容器中

@Configuration
public class EsConfig {
    @Bean
    public RestHighLevelClient restHighLevelClient(){
        HttpHost httpHost = new HttpHost("localhost", 9200, "http");
        RestClientBuilder builder = RestClient.builder(httpHost);
        return new RestHighLevelClient(builder);
    }
}

Blog.java

@Data
public class Blog {
    private Integer id;
    private String title;
    private String content;
}

EsBlogManager.java

@Service
public class EsBlogManager {
    @Autowired
    private RestHighLevelClient restHighLevelClient;

    public List<Blog> searchByKeyWord(String keyWord){
        List<Blog> biogs = new ArrayList<>();

        SearchSourceBuilder sourceBuilder = new SearchSourceBuilder();
        BoolQueryBuilder boolQueryBuilder = QueryBuilders.boolQuery();
        boolQueryBuilder.should(QueryBuilders.matchPhraseQuery("title",keyWord));
        boolQueryBuilder.should(QueryBuilders.matchPhraseQuery("content",keyWord));
        sourceBuilder.query(boolQueryBuilder);

        try {
            SearchResponse search = restHighLevelClient.search(searchRequest(sourceBuilder), RequestOptions.DEFAULT);
            SearchHit[] hits = search.getHits().getHits();
            for (SearchHit hit:hits) {
                Map<String, Object> sourceAsMap = hit.getSourceAsMap();
                String jsonString = JSON.toJSONString(sourceAsMap);
                Blog blog = JSON.parseObject(jsonString,Blog.class);
                biogs.add(blog);
            }
        } catch (IOException e) {
            e.printStackTrace();
        }
        return biogs;
    }

    private SearchRequest searchRequest(SearchSourceBuilder sourceBuilder){
        SearchRequest searchRequest = new SearchRequest("blog");
        searchRequest.source(sourceBuilder);
        return searchRequest;
    }
}
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 195,898评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,401评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 143,058评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,539评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,382评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,319评论 1 273
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,706评论 3 386
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,370评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,664评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,715评论 2 312
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,476评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,326评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,730评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,003评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,275评论 1 251
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,683评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,877评论 2 335

推荐阅读更多精彩内容