python监控日志中的报错并进行邮件报警
作者:linkenzhou 时间:2023-10-14 02:18:30
前言
在测试过程中,注意力往往都在功能上,如果功能正常,是基本不会查看日志的,反之会查看日志定位问题。但是表面上的功能正常不能确保日志没有报错,不能确保其他功能点没有问题,这时我们就需要日志的监控,一旦有报错就触发报警机制(报警机制可以有邮件报警、钉钉微信发消息报警等),我选择的是发邮件报警。
实现思路
1、在测试过程中,日志时时在刷,时时监控难度太大
2、转换思路,每分钟对日志进行扫描一次,发现报错即报警
a.获取当前时间前一分钟的日志,并将日志全部写入一个文件中,每次写入前会将该文件清空
b.获取前一分钟文件时,方法是获取前一分钟日志的第一行的行号和最后一行的行号,然后将这两个行号间的所有内容输出到一个文件中(这样做相比于直接根据时间过滤的好处就是会包含报错内容,因为java日志中报错信息前面是没有时间的,根据时间过滤就会漏掉报错信息)
c.在前一分钟日志中进行java关键词报错过滤,并将查询到的报错信息的前后20行(具体多少行根据实际情况而定)内容都输出到另一个文件中
d.发邮件之前判断上一步生成的文件大小,如果大于0(说明有报错)就触发邮件,如果等于0就不触发邮件报警
3.脚本写好后,放入crond定时任务中,每分钟执行一次,即可进行监控
实现代码
仅供参考
#!/bin/sh
#日志路径
mall_c_log_path='/data/admin/log/mall-c/1.0.0/qa/base/1/mall-c.log'
mall_mg_log_path='/data/admin/log/mall-mg/1.0.0/qa/base/1/mall-mg.log'
#当前时间前一分钟,精确到分
curdate=`date -d "1 minute ago" +"%Y-%m-%d %H:%M"`
echo ${curdate}
#获取mall_c要截取日期日志的开始和结束行号
c_start_line=`cat -n $mall_c_log_path | grep "${curdate}" | head -1 | cut -f1`
c_end_line=`cat -n $mall_c_log_path | grep "${curdate}" | tail -1 | cut -f1`
#获取mall_mg要截取日期日志的开始和结束行号
mg_start_line=`cat -n $mall_mg_log_path | grep "${curdate}" | head -1 | cut -f1`
mg_end_line=`cat -n $mall_mg_log_path | grep "${curdate}" | tail -1 | cut -f1`
sed -n "$c_start_line,${c_end_line}p" $mall_c_log_path > /data/admin/log_err/mall_c_now.log
sed -n "$mg_start_line,${mg_end_line}p" $mall_mg_log_path > /data/admin/log_err/mall_mg_now.log
#清空错误日志文件
> /data/admin/log_err/mall-c_err.txt
> /data/admin/log_err/mall-mg_err.txt
#将报错信息写入文件
err_list=(ArithmeticExecption NullPointerException ClassCastException NegativeArrayException ArrayIndexOutOfBoundsException SecturityException EOFException FileNotFoundException NumberFormatException SQLException IOException NoSuchMethodException SocketTimeoutException)
for i in ${err_list[*]}; do
cat /data/admin/log_err/mall_c_now.log | grep -C 20 "${i}" >> /data/admin/log_err/mall-c_err.txt
cat /data/admin/log_err/mall_mg_now.log | grep -C 20 "${i}" >> /data/admin/log_err/mall-mg_err.txt
done
# -*- coding: UTF-8 -*-
import smtplib,os
from email.mime.text import MIMEText
from email.mime.multipart import MIMEMultipart
from email.header import Header
def send_mail_attch():
#发送邮箱
# sender='18706710668@163.com'
sender='815618406@qq.com'
#接收邮箱
receiver='815618406@qq.com'
#发送邮箱服务器
# smtpserver='smtp.163.com'
smtpserver='smtp.qq.com'
#用户名 口令
# username='18706710668@163.com'
username='815618406@qq.com'
password='vwrfpqwbwgsybdah'
#中文需参数‘utf8',单字节字符不需要
# 发送邮件主题
subject = '互动赢家QA环境日志监控报警'
msg = MIMEMultipart('mixed')
msg['Subject'] = Header(subject, 'utf-8')
#邮件正文
text = "Dear all!\n 附件是后端日志报错内容,请查收~"
zw = MIMEText(text,'plain','utf-8')
msg.attach(zw)
#邮件附件1
size_mall_c = os.path.getsize('/data/admin/log_err/mall-c_err.txt')
if size_mall_c != 0:
mall_c_log = open('/data/admin/log_err/mall-c_err.txt',"rb")
send_mall_c_log = mall_c_log.read()
mall_c_log.close()
att_1 = MIMEText(send_mall_c_log, 'base64', 'utf-8')
att_1["Content-Type"] = "application/octet-stream"
att_1["Content-Disposition"] = "attachment;filename = 'mall_c_err.txt'"
msg.attach(att_1)
#邮件附件2
size_mall_mg = os.path.getsize('/data/admin/log_err/mall-mg_err.txt')
if size_mall_mg != 0:
mall_mg_log = open('/data/admin/log_err/mall-mg_err.txt',"rb")
send_mall_mg_log = mall_mg_log.read()
mall_mg_log.close()
att_2 = MIMEText(send_mall_mg_log, 'base64', 'utf-8')
att_2["Content-Type"] = "application/octet-stream"
att_2["Content-Disposition"] = "attachment;filename = 'mall_mg_err.txt'"
msg.attach(att_2)
msg['to']='815618406@qq.com'
msg['from']='815618406@qq.com'
smtp=smtplib.SMTP_SSL('smtp.qq.com',port=465)
#smtp=smtplib.SMTP()
#smtp.connect('smtp.qq.com')
#smtp.set_debuglevel(1)
smtp.login(username,password)
smtp.sendmail(sender,receiver,msg.as_string())
smtp.quit()
if __name__ == '__main__':
size_mall_c = os.path.getsize('/data/admin/log_err/mall-c_err.txt')
size_mall_mg = os.path.getsize('/data/admin/log_err/mall-mg_err.txt')
if (size_mall_c != 0) or (size_mall_mg != 0):
send_mail_attch()
#!/bin/sh
#执行收集报错的脚本
sh /data/admin/log_err/monitor_log_err.sh
sleep 10
#执行发送邮件脚本
/usr/bin/python /data/admin/log_err/send_email.py
来源:https://www.cnblogs.com/zy0209/p/12769466.html
标签:python,监控,日志报错,邮件报警
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
python面向对象编程设计原则之单一职责原则详解
2022-02-13 20:51:25
![](https://img.aspxhome.com/file/2023/3/96943_0s.png)
PHP结构型模式之享元模式详解
2023-05-27 22:38:40
python实现图像最近邻插值
2023-02-01 00:03:34
![](https://img.aspxhome.com/file/2023/3/93563_0s.jpg)
如何基于python对接钉钉并获取access_token
2023-11-27 04:25:07
python3获取当前文件的上一级目录实例
2021-06-03 02:22:22
python日期相关操作实例小结
2021-07-14 18:39:13
Python聚类算法之DBSACN实例分析
2021-03-26 00:11:10
![](https://img.aspxhome.com/file/2023/7/120607_0s.png)
Chrome V8 引擎对 sort 的优化
2010-02-04 17:27:00
IE6下的CSS BUG枚举
2010-06-11 10:45:00
Golang使用Consul详解
2024-04-26 17:35:56
MongoDB与MySQL常用操作语句对照
2024-01-13 12:08:17
Python Pygame实战之超级炸弹人游戏的实现
2023-07-24 00:56:11
![](https://img.aspxhome.com/file/2023/3/120353_0s.jpg)
像表格一样用DIV+CSS给网页布局
2008-10-18 15:45:00
OpenCV+python实现膨胀和腐蚀的示例
2021-06-12 10:35:00
![](https://img.aspxhome.com/file/2023/3/110063_0s.png)
php防止SQL注入详解及防范
2023-07-22 19:25:53
python内置模块collections知识点总结
2023-10-27 19:37:08
总结python 三种常见的内存泄漏场景
2023-02-18 16:37:49
用画为5.12地震受灾同胞们祈福
2008-05-20 12:08:00
![](https://img.aspxhome.com/file/UploadPic/20085/20/200852012169748s.jpg)
关于numpy中eye和identity的区别详解
2021-11-18 14:33:08
js控制多图左右滚动切换效果代码分享
2023-08-28 00:14:32
![](https://img.aspxhome.com/file/2023/0/56190_0s.jpg)