Scrapy爬虫文件批量运行的实现
作者:SteveForever 时间:2022-04-25 18:29:57
Scrapy批量运行爬虫文件的两种方法:
1、使用CrawProcess实现
https://doc.scrapy.org/en/latest/topics/practices.html
2、修改craw源码+自定义命令的方式实现
(1)我们打开scrapy.commands.crawl.py 文件可以看到:
def run(self, args, opts):
if len(args) < 1:
raise UsageError()
elif len(args) > 1:
raise UsageError("running 'scrapy crawl' with more than one spider is no longer supported")
spname = args[0]
self.crawler_process.crawl(spname, **opts.spargs)
self.crawler_process.start()
这是crawl.py 文件中的run() 方法,在此可以指定运行哪个爬虫,要运行所有的爬虫,则需要更改这个方法。
run() 方法中通过crawler_process.crawl(spname, **opts.spargs) 实现了爬虫文件的运行,spname代表爬虫名。要运行多个爬虫文件,首先要获取所有的爬虫文件,可以通过crawler_process.spider_loader.list() 实现。
(2)实现过程:
a、在spider目录的同级目录下创建存放源代码的文件夹mycmd,并在该目录下创建文件mycrawl.py;
b、将crawl.py 中的代码复制到mycrawl.py 文件中,然后进行修改:
#修改后的run() 方法
def run(self, args, opts):
#获取爬虫列表
spd_loader_list = self.crawler_process.spider_loader.list()
#遍历各爬虫
for spname in spd_loader_list or args:
self.crawler_process.crawl(spname, **opts.spargs)
print("此时启动的爬虫:"+spname)
self.crawler_process.start()
同时可以修改:
def short_desc(self):
return "Run all spider"
c、在mycmd文件夹下添加一个初始化文件__init__.py,在项目配置文件(setting.py)中添加格式为“COMMANDS_MODULES='项目核心目录.自定义命令源码目录'”的配置;
例如:COMMANDS_MODULE = 'firstpjt.mycmd'
随后通过命令“scrapy -h”,可以查看到我们添加的命令mycrawl
这样,我们就可以同时启动多个爬虫文件了,使用命令:
scrapy mycrawl --nolog
来源:https://blog.csdn.net/SteveForever/article/details/81607018
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
asp在sql server2000中新建帐号和给帐号权限代码
python脚本实现统计日志文件中的ip访问次数代码分享
Django实现分页功能
![](https://img.aspxhome.com/file/2023/4/72104_0s.png)
xmlHTTP技术资料
js鼠标滑过图片震动特效的方法
SQL SERVER数据库开发之触发器的应用
asp如何编写一个小数转换分数的函数?
python openpyxl使用方法详解
Oracle SQL中实现indexOf和lastIndexOf功能的思路及代码
Python设计模式中的结构型适配器模式
![](https://img.aspxhome.com/file/2023/7/59657_0s.png)
asp函数遍历文件夹代码
用伪类:hover实现提示效果
python基础教程之实现石头剪刀布游戏示例
5个css+div导航菜单
Django中URL视图函数的一些高级概念介绍
PHP PDOStatement::nextRowset讲解
Django框架登录加上验证码校验实现验证功能示例
在Sublime Editor中配置Python环境的详细教程
![](https://img.aspxhome.com/file/2023/8/97648_0s.png)
DW MX新功能试用:嵌套模板
![](https://img.aspxhome.com/file/UploadPic/20072/200723113533349s.jpg)
PHP中集成PayPal标准支付的实现方法分享
![](https://img.aspxhome.com/file/2023/0/55650_0s.gif)