python日记之--logging日志


title: python的LOGGING模块
date: 2018-04-10 01:55:05
tags: python 基础


自从开通了简书,我就每天拿着刷刷一波美文,时不时想着趁程序运行着,来简书上记录生活点点滴滴。

接着上篇文章写吧,先说说日志:

  1. 日志的作用
    通过log的分析,可以方便用户了解系统或软件、程序应用的运行情况。web方面,如果你的应用log足够丰富,那可以分析用户的操作行为,喜好、地域分布或其他更多信息。爬虫方面,通过设置不同级别的等级,那么可以得到实时的状况反馈,及时发现问题并快速定位,解决问题,甚至有时可以补救损失。
    日志的作用可以简单总结三点:程序DEBUG调试,程序运行情况,是否有异常,软件程序运行是否有故障。
    2.日志的等级
LEVEL description
DEBUG 指出细粒度信息事件对调试应用程序是非常有帮助的,主要用于开发过程中打印一些运行信息
INFO 消息在粗粒度级别上突出强调应用程序的运行过程。打印一些你感兴趣的或者重要的信息,这个可以用于生产环境中输出程序运行的一些重要信息,但是不能滥用,避免打印过多的日志。
NOTICE
WARING 表明会出现潜在错误的情形,有些信息不是错误信息,但是也要给程序员的一些提示。
ERROR 指出虽然发生错误事件,但仍然不影响系统的继续运行。打印错误和异常信息,如果不想输出太多的日志,可以使用这个级别
CRITICAL
ALERT
EMERGENCY

进入主题吧,python的LOGGING模块

logging模块简介:
logging模块是Python的一个标准库模块,由标准库模块提供日志记录API的关键好处是所有Python模块都可以使用这个日志记录功能

  1. logging模块的日志级别
日志等级(level) 描述(description)
DEBUG 最详细的日志信息,典型应用场景是 问题诊断
INFO 信息详细程度仅次于DEBUG,通常只记录关键节点信息
WARING 当某些不期望的事情发生时记录的信息(如:版本问题,存储可用空间较低),但此时还能正常运行
ERROR 由于一个更严重的问题导致某些功能不能正常运行时记录的信息
CRITICAL = FATAL 当发生严重错误时,导致应用程序不能继续运行时记录的信息

开发应用程序或部署开发环境时,可以使用DEBUG或INFO级别的日志获取尽可能详细的日志信息来进行开发或部署调试;应用上线或部署生产环境时,应该使用WARNING或ERROR或CRITICAL级别的日志来降低机器的I/O压力和提高获取错误日志信息的效率。日志级别的指定通常都是在应用程序的配置文件中进行指定的。

  1. logging的基本用法
  #-*- coding:utf-8 -*-
  import logging
  #指定logger的输出格式
  formatter = logging.Formatter('%(asctime)s %(levelname)-8s: %(message)s')
  #文件日志
  file_handler = logging.FieldHandler('xxx.log')
  file_handler = setFormatter(formatter)  #可以通过setFormatter指定输出格式


  # 控制台日志
  console_handler = logging.StreamHandler(sys.stdout)
  console_handler.formatter = formatter  # 也可以直接给formatter赋值

  # 为logger添加的日志处理器
  logger.addHandler(file_handler)
  logger.addHandler(console_handler)

  # 指定日志的最低输出级别,默认为WARN级别
  logger.setLevel(logging.INFO)

  # 输出不同级别的log
  logger.debug('this is debug info')
  logger.info('this is information')
  logger.warn('this is warning message')
  logger.error('this is error message')
  logger.fatal('this is fatal message, it is same as logger.critical')
  logger.critical('this is critical message')

  #移除一些日志处理
  logger.removeHandler(file_handler)

  1. scrapy中如何使用logging日志呢?
    为了让我们自己希望输出到终端的内容能容易看一些:
    我们可以在setting中设置log级别
    在setting中添加一行(全部大写):LOG_LEVEL = "WARNING”
    默认终端显示的是debug级别的log信息

通过在setting.py中进行以下设置可以被用来配置logging:(具体设置参考代码的custom-settings)

LOG_ENABLED 默认: True,启用logging
LOG_ENCODING 默认: 'utf-8',logging使用的编码
LOG_FILE 默认: None,在当前目录里创建logging输出文件的文件名
LOG_LEVEL 默认: 'DEBUG',log的最低级别
LOG_STDOUT 默认: False 如果为 True,进程所有的标准输出(及错误)将会被重定向到log中。例如,执行 print "hello" ,其将会在Scrapy log中显示

#此种方法无法显示log位置
import logging
def process_item(self,item,spider):
    logging.warning(item)

#添加__name__就能够显示log位置
import logging
logger=logging.getLogger(__name__)
def process_item(self,item,spider):
    logging.warning(item)

  1. 格式化输出日志

service_name = "Spider"
logger.error('%s service is down!' % service_name) # 使用python自带的字符串格式化,不推荐
logger.error('%s service is down!', service_name) # 使用logger的格式化,推荐
logger.error('%s service is %s!', service_name, 'down') # 多参数格式化
logger.error('{} service is {}'.format(service_name, 'down')) # 使用format函数,推荐

  1. 那现在就来说说Formatter日志写法吧
    Formatter 对象定义了log信息的结构和内容,构造时需要带两个参数:
  • 格式化的模板fmt,默认会包含最近本的level和message信息
  • 格式化的时间样式,默认为%Y-%m-%d %H:%M:%S 如:2018-04-10.
    fmt中允许使用的变量可以参考如下表:
参数变量 含义
%(name)s Logger的名字
%(message)s 用户输出的消息
%(process)d 进程ID
%(threadName)s 线程名
%(thread)d 线程ID
%(asctime)s 字符串形式的当前时间。默认格式是“2003-07-08 16:49:45,896”。逗号后面的是毫秒
%(relativeCreated)d 输出日志信息时的,自Logger创建以来的毫秒数
%(created)f 当前时间,用UNIX标准的表示时间的浮点数表示
%(lineno)d 调用日志输出函数的语句所在的代码行
%(funcName)s 调用日志输出函数的函数名
%(module)s 调用日志输出函数的模块名
%(filename)s 调用日志输出函数的模块的文件名
%(pathname)s 调用日志输出函数的模块的完整路径名,可能没有
%(levelno)s 数字形式的日志级别
%(levelname)s 文本形式的日志级别
  1. 日志重复输出的坑
    你有可能会看到你的日志会重复显示多次,请注意是否使用了重复的handler
    暂时没出现打印日志错误,嘿嘿有可能是自己写的log需求不大吧,在公司里正儿八经的,这要记录日志,那要记录日志,估计重复可能性还是蛮大的。
    还是记录下来,以后会用到:
    • 调用basicConfig()方法时系统会默认创建一个handler,如果你再添加一个控制台handler时就会出现重复日志
    • 每次调用get_logger()方法时都会添加一个新的handler 那岂不是很明显的呵呵了....建议全局只配logger一次
  2. 日志何去何从?
    日志作为python中的标准库模块,也支持如过滤,文件锁等高级功能,暂时还没怎么应用就不扯犊子了 ()

感谢您的阅读,以上是本人遇到过或学习过程记录的笔记,水平有限,仅供参考,如果发现错误请及时联系作者,谢谢!

欢迎进我的个人博客Danniel'S,不定时更新,祝
共同进步!

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,937评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,503评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,712评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,668评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,677评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,601评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,975评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,637评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,881评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,621评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,710评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,387评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,971评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,947评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,189评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,805评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,449评论 2 342

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,591评论 18 139
  • 前言 在自动化测试实践过程中,必不可少的就是进行日志管理,方便调试和生产问题追踪,python提供了logg...
    苦叶子阅读 805评论 0 0
  • logging模块介绍: logging是python内置的标准库模块,模块提供不同的日志级别,并可以采用不同的方...
    4ffde5305e8f阅读 2,819评论 0 2
  • 本文翻译自logging howto 基础教程 日志是跟踪软件运行时发生事件的一种手段。Python开发者在代码中...
    大蟒传奇阅读 4,243评论 0 17
  • 穷人思维的特点是量入为出 富人思维的特点是目标导向 从经济学的角度讲,你缺少什么,就会把什么看得特别重 你不缺少什...
    印纪文化珠宝阅读 217评论 0 0