ElasticSearch介绍ES客户端IK分词器Kibana安装

前言

安装内容：

版本说明：

安装时可能遇到的问题：

一、全文检索基础

1.1 什么是全文检索

1. 2全文检索流程

1.3 相关概念

1.3.1. 索引库

1.3.2. document对象

1.3.3. field对象

1.3.4. term对象

二、ElasticSearch简介

2.1 什么是ElasticSearch

2.2 ElasticSearch的使用案例

2.3 ElasticSearch对比Solr

三、ElasticSearch相关概念(术语)

3.1 概述

3.2 Elasticsearch核心概念

3.2.1 索引 index

3.2.2 类型 type

3.2.3 字段Field

3.2.4 映射 mapping

3.2.5 文档 document

3.2.6 接近实时 NRT

3.2.7 集群 cluster

3.2.8 节点 node

3.2.9 分片和复制 shards&replicas

四、Elasticsearch 安装

4.1docker镜像下载

4.2安装es容器

4.3开启远程连接

五、ElasticSearch的客户端操作

5.1 elasticsearch-head

六、IK分词器

6.1 IK分词器简介

6.2 IK分词器安装

6.2.1 安装ik分词器

七、Kibana使用-掌握DSL语句

7.1 Kibana下载安装

前言

安装环境为Linux下docker安装

因为我们学的是ElasticSearch的5.6.8版本，所以只介绍是什么，怎么装，原因：版本说明。

安装内容：

ElasticSearchES客户端（条件时本机已经安装了nodejs和cnpm）IK分词器Kibana

版本说明：

es的版本阶段我分为6.0之前，6.0~7.0，7.0之后。6.0之前一个索引下可以有很多type，6.0~7.0type已经被逐渐废弃，但是这时候一个索引仍然可以设置多个类型，7.0之后一个索引就只能创建一个类型，版本变化，但是安装和概念还是不变的。
本文章es、IK分词器、Kibana使用的都是5.6.8，es和IK分词器版本不容会产生es容器启动不起来，es和Kibana版本不用会产生Kibana的status：red

安装时可能遇到的问题：

1.连接Linux的工具右键粘贴失效：esc切换命令模式，输入set mouse-=a 回车再右键粘贴，如图：

2.kibana的Status：Red

解决：status：Red&Unable to connect to Elasticsearch at http....9200_nathen小光的博客-CSDN博客

一、全文检索基础

1.1 什么是全文检索

将非结构化数据中的一部分信息提取出来，重新组织，使其变得有一定结构，然后对此有一定结构的数据进行搜索，从而达到搜索相对较快的目的。这部分从非结构化数据中提取出的然后重新组织的信息，我们称之索引。例如：字典。字典的拼音表和部首检字表就相当于字典的索引，对每一个字的解释是非结构化的，如果字典没有音节表和部首检字表，在茫茫辞海中找一个字只能顺序扫描。然而字的某些信息可以提取出来进行结构化处理，比如读音，就比较结构化，分声母和韵母，分别只有几种可以一一列举，于是将读音拿出来按一定的顺序排列，每一项读音都指向此字的详细解释的页数。我们搜索时按结构化的拼音搜到读音，然后按其指向的页数，便可找到我们的非结构化数据——也即对字的解释。这种先建立索引，再对索引进行搜索的过程就叫全文检索(Full-text Search)。虽然创建索引的过程也是非常耗时的，但是索引一旦创建就可以多次使用，全文检索主要处理的是查询，所以耗时间创建索引是值得的。

1. 2全文检索流程

1.3 相关概念

1.3.1. 索引库

索引库就是存储索引的保存在磁盘上的一系列的文件。里面存储了建立好的索引信息以及文档对象。

一个索引库相当于数据库中的一张表。

1.3.2. document对象

获取原始内容的目的是为了索引，在索引前需要将原始内容创建成文档（Document），文档中包括一个一个的域（Field），域中存储内容。每个文档都有一个唯一的编号，就是文档id。

document对象相当于表中的一条记录。

1.3.3. field对象

如果我们把document看做是数据库中一条记录的话，field相当于是记录中的字段。field是索引库中存储数据的最小单位。field的数据类型大致可以分为数值类型和文本类型，一般需要查询的字段都是文本类型的，field的还有如下属性：

是否分词：是否对域的内容进行分词处理。前提是我们要对域的内容进行查询。是否索引：将Field分析后的词或整个Field值进行索引，只有索引方可搜索到。比如：商品名称、商品简介分析后进行索引，订单号、身份证号不用分词但也要索引，这些将来都要作为查询条件。

是否存储：将Field值存储在文档中，存储在文档中的Field才可以从Document中获取比如：商品

名称、订单号，凡是将来要从Document中获取的Field都要存储。

1.3.4. term对象

term对象从文档对象中拆分出来的每个单词叫做一个Term，不同的域中拆分出来的相同的单词是不同的term。term中包含两部分一部分是文档的域名，另一部分是单词的内容。term是创建索引的关键词对象。

二、ElasticSearch简介

2.1 什么是ElasticSearch

Elaticsearch，简称为es， es是一个开源的高扩展的分布式全文检索引擎，它可以近乎实时的存储、检索数据；本身扩展性很好，可以扩展到上百台服务器，处理PB级别的数据。es也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能，但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性，从而让全文搜索变得简单。

2.2 ElasticSearch的使用案例

初，GitHub抛弃了Solr，采取ElasticSearch 来做PB级的搜索。 “GitHub使用ElasticSearch搜索20TB的数据，包括13亿文件和1300亿行代码”维基百科：启动以elasticsearch为基础的核心搜索架构SoundCloud：“SoundCloud使用ElasticSearch为1.8亿用户提供即时而精准的音乐搜索服务”百度：百度目前广泛使用ElasticSearch作为文本数据分析，采集百度所有服务器上的各类指标数据及用户自定义数据，通过对各种数据进行多维分析展示，辅助定位分析实例异常或业务层面异常。目前覆盖百度内部20多个业务线（包括casio、云分析、网盟、预测、文库、直达号、钱包、风控等），单集群最大100台机器，200个ES节点，每天导入30TB+数据新浪使用ES 分析处理32亿条实时日志阿里使用ES 构建挖财自己的日志采集和分析体系

2.3 ElasticSearch对比Solr

Solr 利用 Zookeeper 进行分布式管理，而 Elasticsearch 自身带有分布式协调管理功能;Solr 支持更多格式的数据，而 Elasticsearch 仅支持json文件格式；Solr 官方提供的功能更多，而 Elasticsearch 本身更注重于核心功能，高级功能多有第三方插件提供；Solr 在传统的搜索应用中表现好于 Elasticsearch，但在处理实时搜索应用时效率明显低于 Elasticsearch

三、ElasticSearch相关概念(术语)

3.1 概述

Elasticsearch是面向文档(document oriented)的，这意味着它可以存储整个对象或文档(document)。然而它不仅仅是存储，还会索引(index)每个文档的内容使之可以被搜索。在Elasticsearch中，你可以对文档（而非成行成列的数据）进行索引、搜索、排序、过滤。Elasticsearch比传统关系型数据库如下

Relational DB -> Databases -> Tables -> Rows -> Columns

Elasticsearch -> Indices -> Types -> Documents -> Fields

3.2 Elasticsearch核心概念

3.2.1 索引 index

一个索引就是一个拥有几分相似特征的文档的集合。比如说，你可以有一个客户数据的索引，另一个产品目录的索引，还有一个订单数据的索引。一个索引由一个名字来标识（必须全部是小写字母的），并且当我们要对对应于这个索引中的文档进行索引、搜索、更新和删除的时候，都要使用到这个名字。在一个集群中，可以定义任意多的索引。

3.2.2 类型 type

在一个索引中，你可以定义一种或多种类型。一个类型是你的索引的一个逻辑上的分类/分区，其语义完全由你来定。通常，会为具有一组共同字段的文档定义一个类型。比如说，我们假设你运营一个博客平台并且将你所有的数据存储到一个索引中。在这个索引中，你可以为用户数据定义一个类型，为博客数据定义另一个类型，当然，也可以为评论数据定义另一个类型。

3.2.3 字段Field

相当于是数据表的字段，对文档数据根据不同属性进行的分类标识

3.2.4 映射 mapping

mapping是处理数据的方式和规则方面做一些限制，如某个字段的数据类型、默认值、分析器、是否被索引等等，这些都是映射里面可以设置的，其它就是处理es里面数据的一些使用规则设置也叫做映射，按着最优规则处理数据对性能提高很大，因此才需要建立映射，并且需要思考如何建立映射才能对性能更好。

3.2.5 文档 document

一个文档是一个可被索引的基础信息单元。比如，你可以拥有某一个客户的文档，某一个产品的一个文档，当然，也可以拥有某个订单的一个文档。文档以JSON（Javascript Object Notation）格式来表示，而JSON是一个到处存在的互联网数据交互格式。在一个index/type里面，你可以存储任意多的文档。注意，尽管一个文档，物理上存在于一个索引之中，文档必须被索引/赋予一个索引的type。

3.2.6 接近实时 NRT

Elasticsearch是一个接近实时的搜索平台。这意味着，从索引一个文档直到这个文档能够被搜索到有一个轻微的延迟（通常是1秒以内）

3.2.7 集群 cluster

一个集群就是由一个或多个节点组织在一起，它们共同持有整个的数据，并一起提供索引和搜索功能。一个集群由一个唯一的名字标识，这个名字默认就是“elasticsearch”。这个名字是重要的，因为一个节点只能通过指定某个集群的名字，来加入这个集群

3.2.8 节点 node

一个节点是集群中的一个服务器，作为集群的一部分，它存储数据，参与集群的索引和搜索功能。和集群类似，一个节点也是由一个名字来标识的，默认情况下，这个名字是一个随机的漫威漫画角色的名字，这个名字会在启动的时候赋予节点。这个名字对于管理工作来说挺重要的，因为在这个管理过程中，你会去确定网络中的哪些服务器对应于Elasticsearch集群中的哪些节点。一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下，每个节点都会被安排加入到一个叫做“elasticsearch”的集群中，这意味着，如果你在你的网络中启动了若干个节点，并假定它们能够相互发现彼此，它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中。在一个集群里，只要你想，可以拥有任意多个节点。而且，如果当前你的网络中没有运行任何Elasticsearch节点，这时启动一个节点，会默认创建并加入一个叫做“elasticsearch”的集群。

3.2.9 分片和复制 shards&replicas

一个索引可以存储超出单个结点硬件限制的大量数据。比如，一个具有10亿文档的索引占据1TB的磁盘空间，而任一节点都没有这样大的磁盘空间；或者单个节点处理搜索请求，响应太慢。为了解决这个问题，Elasticsearch提供了将索引划分成多份的能力，这些份就叫做分片。当你创建一个索引的时候，你可以指定你想要的分片的数量。每个分片本身也是一个功能完善并且独立的“索引”，这个“索引”可以被放置到集群中的任何节点上。分片很重要，主要有两方面的原因： 1）允许你水平分割/扩展你的内容容量。2）允许你在分片（潜在地，位于多个节点上）之上进行分布式的、并行的操作，进而提高性能/吞吐量。至于一个分片怎样分布，它的文档怎样聚合回搜索请求，是完全由Elasticsearch管理的，对于作为用户的你来说，这些都是透明的。在一个网络/云的环境里，失败随时都可能发生，在某个分片/节点不知怎么的就处于离线状态，或者由于任何原因消失了，这种情况下，有一个故障转移机制是非常有用并且是强烈推荐的。为此目的，Elasticsearch允许你创建分片的一份或多份拷贝，这些拷贝叫做复制分片，或者直接叫复制。复制之所以重要，有两个主要原因：在分片/节点失败的情况下，提供了高可用性。因为这个原因，注意到复制分片从不与原/主要（original/primary）分片置于同一节点上是非常重要的。扩展你的搜索量/吞吐量，因为搜索可以在所有的复制上并行运行。总之，每个索引可以被分成多个分片。一个索引也可以被复制0次（意思是没有复制）或多次。一旦复制了，每个索引就有了主分片（作为复制源的原来的分片）和复制分片（主分片的拷贝）之别。分片和复制的数量可以在索引创建的时候指定。在索引创建之后，你可以在任何时候动态地改变复制的数量，但是你事后不能改变分片的数量。默认情况下，Elasticsearch中的每个索引被分片5个主分片和1个复制，这意味着，如果你的集群中至少有两个节点，你的索引将会有5个主分片和另外5个复制分片（1个完全拷贝），这样的话每个索引总共就有10个分片。

四、Elasticsearch 安装

4.1docker镜像下载

docker pull elasticsearch:5.6.8

4.2安装es容器

docker run -di --name=kkb_es -p 9200:9200 -p 9300:9300 elasticsearch:5.6.8
9200端口(Web管理平台端口) 9300(服务默认端口)
浏览器输入地址访问： http://192.168.211.132:9200/

4.3开启远程连接

我们需要修改es配置开启远程连接，代码如下：

#1.登录容器

docker exec -it kkb_es /bin/bash

# 2. 安装vim编辑器（es是没有vim命令的，所以需要安装）

apt-get update //链接失败是查看es异常文档
apt-get install vim//安装vim

# 3. 修改elasticsearch.yml配置：

vi config/elasticsearch.yml

cluster.name: my-estransport.host: 0.0.0.0http.cors.enabled: true # 允许elasticsearch跨域访问，默认falsehttp.cors.allow-origin: "*" # 允许任意域名跨域访问network.host: 192.168.0.104

（如果右键粘贴失败，esc命令输入模式输入：set mouse-=a，回车再右键）

如图：

exit # 退出es容器

# 4. 设置nofile

vi /etc/security/limits.conf

* soft nofile 65536* hard nofile 65536 # nofile是单个进程允许打开的最大文件个数 soft nofile 是软限制

hardnofile是硬限制

# 5. 设置虚拟内存

vi /etc/sysctl.conf

vm.max_map_count=655360 # 限制一个进程可以拥有的VMA(虚拟内存区域)的数量

# 修改内核参数马上生效

sysctl -p

# 6. 重启linux

reboot

# 7. 测试，启动es

docker start kkb_es

访问：192.168.0.104:9200

五、ElasticSearch的客户端操作

实际开发中，主要有三种方式可以作为elasticsearch服务的客户端：

第一种，elasticsearch-head插件第二种，使用elasticsearch提供的Restful接口直接访问第三种，使用elasticsearch提供的API进行访问

5.1 elasticsearch-head

ElasticSearch不同于Solr自带图形化界面，我们可以通过安装ElasticSearch的head插件，完成图形化界面的效果，完成索引数据的查看。安装插件的方式有两种，在线安装和本地安装。本文档采用本地安装方式进行head插件的安装。elasticsearch-5-*以上版本安装head需要安装node和grunt

1）下载head插件：/mobz/elasticsearch-head

2）将elasticsearch-head-master压缩包解压到本机任意目录，不是虚拟机，但是要和elasticsearch的安装目录区别开，目录最好不要有中文和空格

3）检查本机是否装有node,没安装的先安装，es客户端安装要用，cnpm没安装的将下面cnpm换成npm即可

终端输入： node -v

5）将grunt安装为全局命令，Grunt是基于Node.js的项目构建工具

在cmd控制台中输入如下执行命令：

cnpm install -g grunt-cli

6）进入elasticsearch安装目录启动head，在命令提示符下输入命令：

cnpm install//可能报错，只要是不报找不到package.json，就在运行一次
grunt server//启动head，如图

7）打开浏览器，输入 http://localhost:9100，看到如下页面：

链接时输入自己的虚拟机ip:9200

如果不能成功连接到es服务，需要修改ElasticSearch的config目录下的配置文件：

config/elasticsearch.yml，增加以下两句命令：

http.cors.enabled: true
http.cors.allow-origin: "*"

然后重新启动ElasticSearch服务。

六、IK分词器

6.1 IK分词器简介

IKAnalyzer是一个开源的，基于java语言开发的轻量级的中文分词工具包。从12月推出1.0版开始，IKAnalyzer已经推出了3个大版本。最初，它是以开源项目Lucene为应用主体的，结合词典分词和文法分析算法的中文分词组件。新版本的IKAnalyzer3.0则发展为面向Java的公用分词组件，独立于Lucene项目，同时提供了对Lucene的默认优化实现。

IK分词器3.0的特性如下：

1）采用了特有的“正向迭代最细粒度切分算法“，具有60万字/秒的高速处理能力。

2）采用了多子处理器分析模式，支持：英文字母（IP地址、Email、URL）、数字（日期，常用中文数量词，罗马数字，科学计数法），中文词汇（姓名、地名处理）等分词处理。

3）对中英联合支持不是很好,在这方面的处理比较麻烦.需再做一次查询,同时是支持个人词条的优化的词典存储，更小的内存占用。

4）支持用户词典扩展定义。

5）针对Lucene全文检索优化的查询分析器IKQueryParser；采用歧义分析算法优化查询关键字的搜索排列组合，能极大的提高Lucene检索的命中率。

6.2 IK分词器安装

6.2.1 安装ik分词器

IK分词器下载地址 /medcl/elasticsearch-analysis-ik/releases

将ik分词器上传到服务器上，然后解压，并改名字为ik,具体命令如下

下载：说明，ik版本要和es版本一致，否则容器启动失败

创建目录

cd ~
mkdir elasticsearch

上传文件（略）

进入所在目录，解压

cd elasticsearch
unzip elasticsearch-analysis-ik-8.1.0

重命名

mv elasticsearch/ ik

复制到dockers容器中

docker cp ./ik kkb_es:/usr/share/elasticsearch/plugins

查看

重启daoker

exit
docker restart kkb_es

(如果启动失败，可以查看日志：docker logs -f -t --tail 100 容器名，

如果es和ik版本不一样也会出现不兼容问题)

(2)IK分词器测试

说明：

ik_smart：会做最粗粒度的拆分
ik_max_word：会将文本做最细粒度的拆分

访问

1）测试：ik_smart：

http://192.168.0.104:9200/_analyze?analyzer=ik_smart&pretty=true&text=我是程序员

2）测试：ik_max_word

http://192.168.0.104:9200/_analyze?analyzer=ik_max_word&pretty=true&text=我是程序员

七、Kibana使用-掌握DSL语句

我们上面使用的是elasticsearch-head插件实现数据查找的，但是elasticsearch-head的功能比较单一，我们这里需要一个更专业的工具实现对日志的实时分析，也就是我们接下来要讲的kibana。Kibana 是一款开源的数据分析和可视化平台，它是 Elastic Stack 成员之一，设计用于和 Elasticsearch协作。您可以使用 Kibana 对 Elasticsearch 索引中的数据进行搜索、查看、交互操作。您可以很方便的利用图表、表格及地图对数据进行多元化的分析和呈现。Kibana 可以使大数据通俗易懂。它很简单，基于浏览器的界面便于您快速创建和分享动态数据仪表板来追踪 Elasticsearch 的实时数据变化。搭建 Kibana 非常简单。您可以分分钟完成 Kibana 的安装并开始探索 Elasticsearch 的索引数据 — 没有代码、不需要额外的基础设施。