python实现scrapy爬虫每天定时抓取数据的示例代码

作者:Kosmoo 时间:2022-05-04 22:33:18 

1. 前言。

1.1. 需求背景。

  •  每天抓取的是同一份商品的数据,用来做趋势分析。

  • 要求每天都需要抓一份,也仅限抓取一份数据。

  • 但是整个爬取数据的过程在时间上并不确定,受本地网络,代理速度,抓取数据量有关,一般情况下在20小时左右,极少情况下会超过24小时。

1.2. 实现功能。

通过以下三步,保证爬虫能自动隔天抓取数据:
每天凌晨00:01启动监控脚本,监控爬虫的运行状态,一旦爬虫进入空闲状态,启动爬虫。

一旦爬虫执行完毕,自动退出脚本,结束今天的任务。

一旦脚本距离启动时间超过24小时,自动退出脚本,等待第二天的监控脚本启动,重复这三步。

2. 环境。

python 3.6.1

系统:win7

IDE:pycharm

安装过scrapy

3. 设计思路。

3.1. 前提:

目前爬虫是通过scrapy模块自带的cmdline.execute来启动的。


from scrapy import cmdline
cmdline.execute('scrapy crawl mySpider'.split())

3.2. 将自动执行脚本做到scrapy爬虫的外部

(1)每天凌晨00:01启动脚本(控制脚本的存活时间为24小时),监测爬虫的运行状态(需要用一个标记信息来表示爬虫的状态:运行还是停止)。

  • 如果爬虫处于运行状态(前一天爬取数据尚未结束),进入第(2)步;

  • 如果爬虫处于非运行状态(前一天的爬取任务已完成,今天的尚未开始),进入第(3)步;

(2)脚本进入等待阶段,每隔10分钟,检查一下爬虫的运行状态,如(1)。但是一旦发现,脚本的等待时间超过了24小时,则自动退出脚本,因为第二天的监测脚本已经开始运行了,接替了它的任务。

(3)做一些爬虫启动前的准备工作(删除用来续爬的文件,防止爬虫不运行了),启动爬虫爬取数据,待爬虫正常结束后,退出脚本,完成当天的爬取任务。

4. 准备工作。

4.1. 标记爬虫的运行状态。

通过判断文件是否存在的方式来判断爬虫是否处于运行状态:

  • 在爬虫启动时,创建一个isRunning.txt文件。

  • 在爬虫结束时,删除这个isRunning.txt文件。

那么isRunning.txt存在,就说明爬虫正在运行;文件不存在,就说明爬虫不在运行。


# 文件pipelines.py
# 爬虫启动时
checkFile = "isRunning.txt"
class myPipeline:
 def open_spider(self, spider):
   self.client = MongoClient('localhost:27017') # 连接Mongodb
   self.db = self.client['mydata']        # 待存储数据的数据库mydata
   f = open(checkFile, "w")     # 创建一个文件,代表爬虫在运行中
   f.close()

# 文件pipelines.py
# 爬虫正常结束时
checkFile = "isRunning.txt"
class myPipeline:
 def close_spider(self, spider):
   self.client.close()
   isFileExsit = os.path.isfile(checkFile)
   if isFileExsit:
     os.remove(checkFile)

4.2. 爬虫支持续爬,能随时暂停,方便调试。


# 在scrapy项目中添加start.py文件,用于启动爬虫
from scrapy import cmdline
# 在爬虫运行过程中,会自动将状态信息存储在crawls/storeMyRequest目录下,支持续爬
cmdline.execute('scrapy crawl mySpider -s JOBDIR=crawls/storeMyRequest'.split())
# Note:若想支持续爬,在ctrl+c终止爬虫时,只能按一次,爬虫在终止时需要进行善后工作,切勿连续多次按ctrl+c

python实现scrapy爬虫每天定时抓取数据的示例代码

4.3. Log按照每天的日期命名,方便查看和调试

设置Log等级:


# 文件mySpider.py
class mySpider(CrawlSpider):
 name = "mySpider"
 allowed_domains = ['http://photo.poco.cn/']
 custom_settings = {
   'LOG_LEVEL':'INFO', # 减少Log输出量,仅保留必要的信息
   # ...... 在爬虫内部用custom_setting可以让这个配置信息仅对这一个爬虫生效
 }

以日期为Log文件命名


# 文件settings.py
import datetime
BOT_NAME = 'mySpider'
ROBOTSTXT_OBEY = False
startDate = datetime.datetime.now().strftime('%Y%m%d')
LOG_FILE=f"mySpiderlog{startDate}.txt"

4.4. 为数据按日期存储到不同的表(mongodb的集合)中


# 文件pipelines.py
import datetime
GALANCE=f'galance{datetime.datetime.now().strftime("%Y%m%d")}' # 表名

class myPipeline:
 def open_spider(self, spider):
   self.client = MongoClient('localhost:27017') # 连接Mongodb
   self.db = self.client['mydata']        # 待存储数据的数据库mydata

self.db[GALANCE].insert(dict(item))

python实现scrapy爬虫每天定时抓取数据的示例代码

4.5. 编写批处理文件启动爬虫


# 文件run.bat
cd /d F:/newClawer20170831/mySpider
call python main.py
pause

python实现scrapy爬虫每天定时抓取数据的示例代码

5. 实现代码

5.1. 编写python脚本


# 文件timerStartDaily.py
from scrapy import cmdline
import datetime
import time
import shutil
import os

recoderDir = r"crawls"  # 这是为了爬虫能够续爬而创建的目录,存储续爬需要的数据
checkFile = "isRunning.txt" # 爬虫是否在运行的标志

startTime = datetime.datetime.now()
print(f"startTime = {startTime}")

i = 0
miniter = 0
while True:
 isRunning = os.path.isfile(checkFile)
 if not isRunning:            # 爬虫不在执行,开始启动爬虫
   # 在爬虫启动之前处理一些事情,清掉JOBDIR = crawls
   isExsit = os.path.isdir(recoderDir) # 检查JOBDIR目录crawls是否存在
   print(f"mySpider not running, ready to start. isExsit:{isExsit}")
   if isExsit:
     removeRes = shutil.rmtree(recoderDir) # 删除续爬目录crawls及目录下所有文件
     print(f"At time:{datetime.datetime.now()}, delete res:{removeRes}")
   else:
     print(f"At time:{datetime.datetime.now()}, Dir:{recoderDir} is not exsit.")
   time.sleep(20)
   clawerTime = datetime.datetime.now()
   waitTime = clawerTime - startTime
   print(f"At time:{clawerTime}, start clawer: mySpider !!!, waitTime:{waitTime}")
   cmdline.execute('scrapy crawl mySpider -s JOBDIR=crawls/storeMyRequest'.split())
   break #爬虫结束之后,退出脚本
 else:
   print(f"At time:{datetime.datetime.now()}, mySpider is running, sleep to wait.")
 i += 1
 time.sleep(600)    # 每10分钟检查一次
 miniter += 10
 if miniter >= 1440:  # 等待满24小时,自动退出监控脚本
   break

5.2. 编写bat批处理文件


# 文件runTimerRunDaily.bat
cd /d F:/newClawer20170831/mySpider
call python timerStartDaily.py
pause

6. 部署。

6.1. 添加计划任务。

参考以下这篇博客部署windows计划任务:

https://www.jb51.net/article/204879.htm

有关windows计划任务相关设置的详细说明如下:

https://technet.microsoft.com/zh-cn/library/cc722178.aspx

6.2. 注意事项。

(1)在添加计划任务时,要按照如下图进行勾选(只在用户登录时运行),才能弹出下面的cmd任务界面,方便观察和调试。

python实现scrapy爬虫每天定时抓取数据的示例代码 

python实现scrapy爬虫每天定时抓取数据的示例代码

(2)由于爬虫运行时间很长,如果按照默认设置,在凌晨运行实例时,上一次启动尚未结束,会导致这次启动失败,所以要更改默认设置为(如果此任务已经运行:并行运行新实例。保护机制在于每个启动脚本在等待24小时候会自动退出,来保证不会重复启动)。

python实现scrapy爬虫每天定时抓取数据的示例代码

(3)如果想支持续传,只能按一次 ctrl + c 来停止爬虫运行。因为终止爬虫时,爬虫需要做一些善后工作,如果连续按多次ctrl + c来停止爬虫,爬虫将来不及善后,会导致无法续爬。 6.3. 效果展示。

正常执行完成:

python实现scrapy爬虫每天定时抓取数据的示例代码

正在执行中:

python实现scrapy爬虫每天定时抓取数据的示例代码

来源:https://blog.csdn.net/zwq912318834/article/details/77806737

标签:python,scrapy,爬虫,定时抓取
0
投稿

猜你喜欢

  • python3爬虫中异步协程的用法

    2021-11-01 01:16:02
  • 用Python Flask创建简洁高效的URL短链接服务

    2022-10-12 16:21:49
  • vue axios拦截器常用之重复请求取消

    2023-07-02 17:03:21
  • 基于vue cli 通过命令行传参实现多环境配置

    2024-04-29 13:08:30
  • JS实现带鼠标效果的头像及文章列表代码

    2024-04-22 22:32:09
  • Python+django实现文件下载

    2022-03-10 15:54:16
  • Python取出字典中的值的实现

    2022-01-09 20:16:07
  • Python 十个字典用法使用技巧归纳

    2023-10-14 16:52:54
  • C#中通过使用Connection类来实现打开/关闭数据库的代码实例

    2024-01-21 22:36:55
  • javascript修正12个浏览器兼容问题[译]

    2009-04-23 12:19:00
  • Flask框架实现的前端RSA加密与后端Python解密功能详解

    2021-07-26 16:28:13
  • python实现发送邮件

    2021-08-06 04:33:28
  • python笔记(2)

    2021-10-16 21:50:00
  • Django 中间键和上下文处理器的使用

    2022-04-19 05:04:56
  • 实操MySQL+PostgreSQL批量插入更新insertOrUpdate

    2024-01-17 09:06:19
  • 详解用Node.js实现Restful风格webservice

    2024-05-13 09:35:20
  • js 创建一个浮动div的代码

    2024-04-10 14:02:55
  • CentOS6.5设置Django开发环境

    2022-09-29 22:55:30
  • 静态页面分页的AJAX实现

    2008-01-19 16:19:00
  • python生成器generator:深度学习读取batch图片的操作

    2022-07-31 08:43:06
  • asp之家 网络编程 m.aspxhome.com