应用级监控系统建设概述

一、什么是应用级监控系统

所谓应用级监控,也有被称做应用监控、交易监控、业务监控。与传统的面向服务器、网络、操作系统、数据库等系统级监控相区别的是,应用级监控更关注从应用角度来进行监控,包括对应用程序(应用进程、端口、应用队列等)、交易处理(交易量、交易耗时、交易成功率、返回码等)、业务处理(业务统计、业务体验)等方面的监控。

二、为什么要有应用级监控系统

    在传统的运维中,由于开放式平台标准化产品的特点,通过使用IBM tivoli、HP OpenView、Oracle EM等标准化的商用监控产品,数据中心能够方便快捷地实现面向主机、服务器、网络、存储、环境动力、操作系统、数据库、中间件等标准化软硬件产品的监控,并实现了各个专业的监控事件和容量性能数据的集中展现和处理。

    但是近年来,随着用户体验要求的不断增强,传统这种标准软硬件产品的系统级监控工具,已经远远不能满足高标准下的运维要求了。这是因为:

1)很多故障发生时,在基础服务层面并未明显体现出来。比如说业务在使用系统时,发现有交易或业务处理非常缓慢,但监控系统并没有收到关于操作系统、网络、数据库、中间件等层面的自动报警。

2)系统级监控缺少对各业务应用交易的运行情况(交易量、成功率、平均响应时间等)的监控,难以全面、准确、及时地掌握业务应用系统的运行情况。

3)系统级监控无法自动发现应用拓扑关系和交易访问路径,并以此为基础实现故障应用系统的自动定位

4)系统级监控无法将操作系统、中间件、数据库、存储、网络、环境动力等IT基础设施专业事件与各应用系统的业务交易或系统交易事件关联起来进行自动故障树分析。

上述系统级监控的缺陷,导致了IT运维中专业事件处理量大、业务影响分析困难、故障根源定位慢、故障节点难以自动隔离恢复等问题。相比于系统级监控,应用级监控更贴近用户和业务,更能够在第一时间反映出用户体验、业务使用和交易处理的真实情况,是在系统级监控基础上的进一步发展和提升。

三、如何建设应用级监控系统

与系统级监控一样,应用级监控只是一个统称,前面也提到了,应用级监控包含了对应用程序(应用进程、端口、应用队列等)、交易处理(交易量、交易耗时、交易成功率、返回码等)、业务处理(业务统计、业务体验)等多方面、多指标、多维度的监控。针对不同的需求,有不同的实现思路、方法和工具。因此,建设一个应用级监控系统,首先需要考虑的是我们的监控需求、想要监控的对象和实现的监控目标到底是什么,然后才能有针对性的建设应用级监控系统。需求不明确,不能针对性地选择实现方法和工具,最终得到的结果肯定与预期是大相径庭的。

从应用级监控的实现方式上,可以分为如下几大类:

1)在服务端实现的应用级监控

服务端旁路:部署定位后通过SPAN,TAP旁路应用访问流量进行Sniffer,解析网络报文后再进行各类TCP协议分析和性能采集(NPM)。它的优点是非侵入式,对生产影响最小,缺点是难以适配多种协议,无法定位到问题代码等。运维部门方便推广使用,能获得服务及应用、交易级别的监控。使用服务器端旁路进行应用监控的典型产品是天旦公司的BPC。

应用服务器端代理:通过在应用代码中埋点来实现性能监控BCI(ByteCode

Instrumentation)技术。优点是可实现代码级的监控,缺点是它是侵入式的,对性能有轻微影响,可以实现代码级的监控,效果依赖开发部门的支持。使用应用服务器端代理的典型产品包括DynaTrace、听云等。

应用日志分析:通过对文本的应用日志进行实时的采集,提炼出需要的各个字段和记录,进行加工、清洗、分析、计算等,实现精确到秒级的应用级监控功能。优点是非侵入式,只收集和分析日志,对生产影响小,缺点是监控的详细程度依赖于应用日志中记录的内容,有时需要对应用日志进行适应性改造。使用日志分析的典型产品包括splunk、日志易等,开源工具方面有ELK。

数据库流水分析:通过监控工具连接到数据库流水表,定时抽取流水表中的记录导入到工具平台中,再对流水记录进行处理,实现应用级监控功能。优点是流水表记录已经是格式化的数据,比较方便分析和计算;缺点是数据抽取可能会对源系统有一定的性能影响,且实时性上会有分钟级的延时。

2)在客户端实现的应用级监控

主动模拟拨测:主动式、客户端监控。主要通过在部署客户端部署自动化的监测工具,进行网页或网站的可用性和性能监测。适合于网络带来的问题,更适合互联网应用。比如博睿公司提供的网络监测服务。

页面插入代码:被动式、客户端监控。主要通过在客户端浏览器插入JavaScript代码以采集最终用户的性能体验,W3C推出了Web性能API标准,现在已经可以做大非常细粒度的监控。侵入式,需要在浏览器上嵌入代码,是被动监控方式。

客户端插件采集:因为移动端应用有多种方式,原生应用、Hybrid App以及Web App,因此监控的方式也多样化,有通过手机浏览器自动拨测、嵌入SDK、HTML5页面内插件、JSBridge等方式。

四、优秀的应用级监控产品推荐

由于应用级监控的范围很广,且由于应用的非标准化特点,市场上也没有一个产品能够涵盖应用级监控的方方面面。这里推荐几款适合做应用级监控的产品。这些产品各有特定的用途,在建设应用级监控系统时,可根据用户自身的需求选用合适的产品和工具:

1、splunk:日志分析类的工具的顶级产品。可以通过对应用日志进行实时的采集,提炼出需要的各个字段,进行加工、清洗、分析、计算等,实现精确到秒级的应用级监控功能。

2、ELK:开源的用于日志分析的工具,功能与splunk相似,对于数据量大、实时性要求高的监控系统,需要与Hadoop、Spark、Flume等大数据开源组件结合起来使用。

3、BPC:网络旁路流量分析工具。通过对网络报文的收集和解析,能够深入进行应用层的分析,实现交易在整条链路上的端到端的分析和监控,当交易发生异常或缓慢时快速发现具体是由哪个节点引起的。还能获得交易量、交易耗时、成功率、响应率、返回码、流水号等关键交易和业务指标数据。

4、DynaTrace:全栈式监测,包括模拟可用性监测、真实用户监测、移动应用分析、业务交易、应用性能管理、代码级可视化、深度应用监测等,对应用环境中的运营状况进行深入分析。不仅能实时跟踪从真实用户行为到应用性能的所有相关指标、以可视化方式呈现,深入到每一个单个交易。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,671评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,442评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,524评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,623评论 1 275
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,642评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,584评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,953评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,621评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,865评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,608评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,698评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,378评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,958评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,940评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,173评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,419评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,425评论 2 342

推荐阅读更多精彩内容