mitmproxy_flask+layui+schedule+多线程实现监控数据实时展示_2021-11-06

一、首先,我们先说一下监控的思路
(1)我们之前录好的接口,如果服务器变动,我们要回放一次,服务器的变动,对各个接口是不是有影响,所以我们要先回放一次,从头过一次接口看有没有问题
(2)那所谓的监控,听起来很高大上,说白了就是将你的接口在服务器上不停的回放,一旦哪次接口出错,要有一个报警机制
为什么要不停的回放:如果不是不停的回放,那还叫监控吗
为什么要部署在服务器上:因为监控是全天24小时,如果你要有台机器能保证全年365天不关机也可以

二、为了解决上面的问题,所以想了个方式
1、我要起一个定时任务,监控程序一般是多长时间跑一次,这个python里的schedule可以帮助我们实现

import schedule
import time

def job(count):
    print("I'm working..."+count)

schedule.every(10).minutes.do(job)   #每十分钟执行一次任务
schedule.every().hour.do(job)   #  每XX小时执行一次任务
schedule.every().day.at("10:30").do(job) #  每天几点执行一次任务
schedule.every().monday.do(job)    #  每天周一执行一次任务
schedule.every().wednesday.at("13:15").do(job) #  每天周三,13:15执行一次任务

while True:
    schedule.run_pending()

2、我们要有个网页实时展示我们的运行结果,那就用到上个文章中的
layui前端ui框架,具体不再赘述了
https://www.jianshu.com/p/67692805e452

3、如果我们要展示一个网页,我们可以另一种方式flask,flask是一个轻量级的web框架,照比django他小很多,所以很适合做这种不复杂的网页
flask的使用,网上一抓一大把,这里不过度说明,附上我的代码

from flask import Flask,render_template
import threading
app = Flask(__name__)

 #host,ip地址后面的接口路径
@app.route('/monitor/index') 
def  return_monitor_index():
    global monitor_data
    return render_template("monitor.html",monitor_data=monitor_data)#返回html页面,同时传放参数,实现动态数据加载

def start_flask():
    app.run(host="127.0.0.1", port="5555") #这里可以设置访问的ip地址和端口号
image.png

启动起来后就是这个样子啦

需要说明的是,我们的监控时实时展示,所以为了获取最新的信息,所以我们的页面要不停的自动刷新,那个在html页面怎么实现的呢

<script>
    function refresh() {
        window.location.reload()
    }

    setTimeout('refresh()', 5000)  //5秒刷新一次

</script>

4、下一个,线上接口出了问题,是紧急情况,所以我的处理方式是,如果有问题,马上发邮件给相关人员,接口的出错信息写在邮件里,所以要准备一个发邮件的函数,如果有错,就发邮件

 def send_error_log_email(self):
        error_data = CSVReader.read_csv_without_headline("./replay/fail.csv")
        if len(error_data) > 0:
            formatted_data  = self.format_error_data(error_data)
            messageObj = MIMEText(formatted_data, "plain", "utf-8")
            messageObj['Subject'] = Header("api监控邮件", "utf-8")
            messageObj['From'] = mail_address
            messageObj['To'] = ";".join(list(receiver))
            try:
                smtp = smtplib.SMTP()
                # 连接到服务器
                smtp.connect(email_host,25)
                # 登录到服务器
                smtp.login(mail_address, password)
                # 发送
                smtp.sendmail(
                    mail_address, ";".join(list(receiver)), messageObj.as_string())
                # 退出
                smtp.quit()
                print('邮件发送成功')
            except Exception as e:
                print('邮件发送错误', str(e))  # 打印错误

5、因为我这边跑着监控,同时也要让人看见实时的网页,所以这里要用到多线程,另起一个线程实时展现网页,因为只要我的监控停了,我的网页也需要停,所以我启的网页的线程要设成主线程的守护线程
setDaemon(True)将线程声明为守护线程,必须在start() 方法调用之前设置
所以总体的代码就是下面这些


mport schedule
from replay_helper import ReplayHelper
from flask import Flask,render_template
import threading
app = Flask(__name__)
monitor_data = []



def run_api(api_file_path):
    global count
    global monitor_data
    monitor_data =ReplayHelper().replay(api_file_path,"m")
    print(str(monitor_data))


def start_monitor(interval_minutes,api_file_path):
    schedule.every(interval_minutes).minutes.do(run_api, api_file_path)
#每隔X分钟跑一次,run_api是要执行的函数名,api_file_path是函数的参数
    while True:
        schedule.run_pending() #启动所有的定时任务


@app.route('/monitor/index')  #host,ip地址后面的接口路径
def  return_monitor_index():
    global monitor_data
    return render_template("monitor.html",monitor_data=monitor_data)#返回html页面,同时传放参数,实现动态数据加载


def start_flask():
    app.run(host="127.0.0.1", port="5555")


if __name__ == "__main__":
    run_web = threading.Thread(target=start_flask) #另启一个线程实现网页实时显示
    run_web.setDaemon(True)  #设成守护线程
    run_web.start()
    start_monitor(1, "./record/record_20210907_183652.csv") #开始监控

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,457评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,837评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,696评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,183评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,057评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,105评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,520评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,211评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,482评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,574评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,353评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,213评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,576评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,897评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,489评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,683评论 2 335

推荐阅读更多精彩内容

  • # Python 资源大全中文版 我想很多程序员应该记得 GitHub 上有一个 Awesome - XXX 系列...
    aimaile阅读 26,421评论 6 428
  • 16宿命:用概率思维提高你的胜算 以前的我是风险厌恶者,不喜欢去冒险,但是人生放弃了冒险,也就放弃了无数的可能。 ...
    yichen大刀阅读 6,018评论 0 4
  • 公元:2019年11月28日19时42分农历:二零一九年 十一月 初三日 戌时干支:己亥乙亥己巳甲戌当月节气:立冬...
    石放阅读 6,864评论 0 2
  • 今天上午陪老妈看病,下午健身房跑步,晚上想想今天还没有断舍离,马上做,衣架和旁边的的布衣架,一看乱乱,又想想自己是...
    影子3623253阅读 2,898评论 1 8