ELK以及Grafana对google股价分析

目的:还原《learning ELK stack》第二章中的例子,学习timelion基本的使用方法,完成时间序列的绘图

环境unbuntu16,

注意:ELK中下载程序版本号要一致,否则可能不能使用

1、下载并安装ELK工具

(1)安装Elastic Search

    从该网址下载最新的版本:https://www.elastic.co/downloads/elasticsearch

  下载TAR版本,解压,运行:bin/elasticsearch

(2)安装kibana

从该网址下载最新的版本:https://www.elastic.co/downloads/kibana

下载TAR版本,解压,运行:bin/kibana

(3)安装Logstash

从该网址下载最新的版本:https://www.elastic.co/downloads/logstash

下载TAR版本,解压,运行:bin/logstash -f logstash.conf

注意:这里的logstash.conf需要根据实际情况进行定制

2、获取数据源

从该网址获取google的历史股票值:https://finance.yahoo.com/quote/GOOG/history?ltr=1

Google的股价

文件格式如下:

采集的google股价

删除:Date,Open,High,Low,Close,Adj Close,Volume

3、编辑logstash.conf文件

input{

      file{

      path => "/home//xxx/GOOG8.csv"

      start_position => "beginning"

}

}

filter{

      csv{

      columns => ["date_of_record","open","high","low","close","volume","adj_close"]

      separator => ","

}

      date{

      match => ["date_of_record","yyyy-MM-dd"]

}

      mutate {

      convert => ["open", "float"]

      convert => ["high", "float"]

      convert => ["low", "float"]

      convert => ["close", "float"]

      convert => ["volume", "integer"]

      convert => ["adj_close", "float"]

}

}

output {

    # tdout { codec => "rubydebug" }

    # 筛选过滤后的内容输出到终端显示

    elasticsearch {  # 导出到es,最常用的插件

        #codec => "json"

        # 导出格式为json

        hosts => ["127.0.0.1:9200"]

        # ES地址+端口

        index => "logstash-new11-%{+YYYY.MM.dd}"     

    }

}

然后运行:bin/logstash -f logstash.conf,将数据输入到elasticsearch中。

5、在kibana中进行时间序列的绘制,使用Timelion完成

输入:.es(index='logstash-new11-*',metric='avg:volume',timefield='@timestamp').lines(show=1)

解释,metric起到聚合分析的作用,由于每一时刻只有一个文档,并且只有一个值,那么平均值就是文档中采集时刻的值


使用kibana的google股价的时间序列展示

6、下载grafana

从该网址下载最新的版本:https://grafana.com/grafana/download

下载:wget https://s3-us-west-2.amazonaws.com/grafana-releases/release/grafana_5.2.2_amd64.deb

sudo dpkg -i grafana_5.2.2_amd64.deb

使用说明:http://docs.grafana.org/installation/debian/

启动grafana:sudo service grafana-server start

This will start the grafana-server process as the grafana user, which was created during the package installation. The default HTTP port is 3000 and default user and group is admin.用户名和密码默认是:admin

(1)添加数据源

添加data source

(2)添加dashboard

选择graph


metric选择“sum”即可出现值,选择其它函数则不会出现值,但是改变Draw mode就可显示,这是为什么?




将Draw mode改成bar后数据即可显示



7、警告引擎和规则指南

来源:http://docs.grafana.org/alerting/rules/

警报只适用于Grafana v4.0及以上版本。5.2版本以后支持ES数据库,要使用相关告警功能,请下载最新的Grafana版本。

(1)简介

在Grafana中,警报(Alerting )允许您将规则附加到仪表板面板上。当您保存仪表板时,Grafana将把警报规则提取到一个单独的警报规则存储中,并安排它们进行评估。

在图形面板的alert选项卡中,您可以配置应该评估警报规则的频率,以及警报更改状态和触发其通知所需满足的条件。

(2)执行

警报规则是在一个调度器和查询执行引擎中的Grafana后端计算的,该引擎是core Grafana的一部分。目前只支持一些数据源。他们包括Graphite, Prometheus, Elasticsearch, InfluxDB, OpenTSDB, MySQL, Postgres and Cloudwatch。

注意:对Elasticsearch的告警支持仅在Grafana v5.2或更高版本中可用。

(3)聚类

目前的警报支持一种有限形式的高可用性。由于Grafana的v4.2.0,所以在运行多台服务器时,警报通知会被deduped。这意味着所有警报都在每个服务器上执行,但是由于deduping逻辑,不会发送重复的警报通知。将来将引入适当的警报负载平衡。

(4)规则配置

目前只有图形面板支持警报规则,但这将在以后的版本中添加到Singlestat和表格面板。

(5)名称与评价间隔

在这里,您可以指定警报规则的名称以及调度程序计算警报规则的频率。

(6)条件

目前唯一存在的条件类型是查询条件,它允许您指定查询字母、时间范围和聚合函数。



(7)查询条件的例子

avg() OF query(A,5m,now) IS BELOW 14

(1)avg()控制如何将每个系列的值变成可以与阈值进行比较的值。单击该函数将其更改为另一个聚合函数。

(2)query(A, 5m, now) 。A这个字母定义了要从Metrics标签执行什么查询。第二个参数定义了时间范围,5m,Now,是5分钟前到现在。你也可以做10 m,Now-2m来定义一个时间范围,时间范围是10分钟前到2分钟之前。如果您想忽略最后2分钟的数据,这是非常有用的。

(3)IS BELOW 14定义阈值和阈值的类型。您可以点击下面的按钮来更改阈值的类型。

警报规则中使用的查询不能包含任何模板变量。目前我们只支持条件之间的AND和OR运算符,它们是串行执行的。

对GOOGLE股票的close设置阈值,并设置相关查询条件,出现告警:

相关的告警测试:




相关告警发送配置参考:https://blog.csdn.net/jailman/article/details/78920166;;;https://blog.csdn.net/xiegh2014/article/details/79002607;;https://blog.csdn.net/Jailman/article/details/78920166


8、配置Alerting告警

1、修改grafana配置文件

sudo gedit /etc/grafana/grafana.ini

288:enabled = true

289:host = smtp.163.com:25

290:user = 你的邮箱名

292:password = *******

295:skip_verify = true

296:from_address = 你的邮箱名@163.com

379:execute_alerts = true

9、模板的使用

参考:http://www.bubuko.com/infodetail-2130749.html和https://segmentfault.com/a/1190000008897731

http://docs.grafana.org/features/datasources/elasticsearch/#templating

https://www.elastic.co/guide/en/elasticsearch/reference/current/fielddata.html

注意:在Elasticsearch升级到5.0以后,去掉了原有的string类型,添加了text和keyword类型。其中text类型适用于电子邮件正文、产品描述等需要进行全文索引的信息;而keyword适用于电子邮箱地址、主机名、网络传输状态码、国际邮政编码、标记文件等能够精确命中字段的信息。

(1)进入dashbord的界面并点击“setting”

(2)在“general”中进行常规设置



(3)进入“variables”进行设置

重点在这里,{ "find" : "terms", "field" : "src_ip.keyword" },这里面一定要遵守json格式,花括号里的空格要留好,否则报错,field字段必须后面要加一个.keyword,否则出现不了数据


(4)进入dashboard界面,更改查询参数


最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,457评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,837评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,696评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,183评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,057评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,105评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,520评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,211评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,482评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,574评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,353评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,213评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,576评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,897评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,489评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,683评论 2 335

推荐阅读更多精彩内容