Python爬虫框架Scrapy常用命令总结
作者:喷跑的豆子 时间:2022-02-21 20:45:23
本文实例讲述了Python爬虫框架Scrapy常用命令。分享给大家供大家参考,具体如下:
在Scrapy中,工具命令分为两种,一种为全局命令,一种为项目命令。
全局命令不需要依靠Scrapy项目就可以在全局中直接运行,而项目命令必须要在Scrapy项目中才可以运行
全局命令
全局命令有哪些呢,要想了解在Scrapy中有哪些全局命令,可以在不进入Scrapy项目所在目录的情况下,运行scrapy-h
,如图所示:
可以看到,此时在可用命令在终端下展示出了常见的全局命令,分别为fetch、runspider、settings、shell、startproject、version、view。
fetch命令
fetch命令主要用来显示爬虫爬取的过程.如下图所示:
在使用fetch命令时,同样可以使用某些参数进行相应的控制。那么fetch有哪些相关参数可以使用呢?我们可以通过scrpy fetch -h
列出所有可以使用的fetch相关参数。比如我们可以使用–headers显示头信息,也可以使用–nolog控制不显示日志信息,还可以使用–spider=SPIDER参数来控制使用哪个爬虫,通过–logfile=FILE指定存储日志信息的文件,通过–loglevel=LEVEL控制日志等级。举个栗子:
# 显示头信息,并且不显示日志信息
scrpay -fetch --headers --nolog http://www.baidu.com
sunspider命令
通过runspider
命令可以不依托scrapy的爬虫项目,直接运行一个爬虫文件
# first.py为自定义的一个爬虫文件
scrapy runspider first.py
settings命令
在scrapy项目所在的目录中使用settings命令查看的使用对应的项目配置信息,如果在scrapy项目所在的目录外使用settings命令查看的Scrapy默认的配置信息
# 在项目中使用此命令打印的为BOT_NAME对应的值,即scrapy项目名称。
# 在项目外使用此命令打印的为scrapybot
scrapy settings --get BOT_NAME
shell命令
通过shell命令可以启动Scrapy的交互终端。
Scrapy的交互终端经常在开发以及调试的时候用到,使用Scrapy的交互终端可以实现在不启动Scrapy爬虫的情况下,对网站响应进行调试,同样,在该交互终端下,我们也可以写一些Python代码进行相应测试。
在>>>后面可以输入交互命令以及相应的代码
startproject命令
用于创建scrapy项目
version命令
查看scrapy版本
view命令
用于下载某个网页,然后通过浏览器查看
项目命令
bench命令
测试本地硬件的性能
scrapy bench
genspider命令
用于创建爬虫文件,这是一种快速创建爬虫文件的方式。
# scrpay genspider -t 基本格式
# basic 模板
# baidu.com 爬取的域名
scrapy genspider -t basic xxx baidu.com
此时在spider文件夹下会生成一个以xxx命名的py文件。可以使用scrapy genspider -l
查看所有可用爬虫模板。当前可用的爬虫模板有:basic、crawl、csvfeed、xmlfeed
check命令
使用check命令可以实现对某个爬虫文件进行合同检查,即测试.
# xxx为爬虫名
scrapy check xxx
crawl命令
启动某个爬虫
# xxx为爬虫名
scrapy crawl xxx
list命令
列出当前可使用的爬虫文件
scrapy list
edit命令
编辑爬虫文件
scrapy edit xxx
parse命令
通过parse命令,我们可以实现获取指定的URL网址,并使用对应的爬虫文件进行处理和分析
日志等级
等级名 | 含义 |
---|---|
CRITICAL | 发生了最严重的错误 |
ERROR | 发生了必须立即处理的错误 |
WARNING | 出现了一些警告信息,即存在潜在错误 |
INFO | 输出一些提示显示 |
DEBUG | 输出一些调试信息 |
希望本文所述对大家Python程序设计有所帮助。
来源:https://blog.csdn.net/y472360651/article/details/75194621
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
Mysql中limit的用法方法详解与注意事项
python实现中文转换url编码的方法
numpy.reshape(-1,1)的具体使用
Apache2.4.x版wampserver本地php服务器如何让外网访问及启用.htaccess
详解如何通过Python制作一个密码生成器
![](https://img.aspxhome.com/file/2023/6/63986_0s.png)
php获取访问者IP地址汇总
Python3基础之输入和输出实例分析
Python使用ClickHouse的实践与踩坑记录
![](https://img.aspxhome.com/file/2023/3/59643_0s.jpg)
详解python项目实战:模拟登陆CSDN
![](https://img.aspxhome.com/file/2023/1/113121_0s.png)
基于Pygame实现简单的贪吃蛇游戏
![](https://img.aspxhome.com/file/2023/8/117628_0s.png)
python冒泡排序简单实现方法
探究数组排序提升Python程序的循环的运行效率的原因
PHP实现用户认证及管理完全源码
php5.4传引用时报错问题分析
Python 输出详细的异常信息(traceback)方式
![](https://img.aspxhome.com/file/2023/3/89283_0s.jpg)
Oracle中获取执行计划的几种方法分析
plt.subplot()参数及使用介绍
![](https://img.aspxhome.com/file/2023/4/105284_0s.png)
关于python3的ThreadPoolExecutor线程池大小设置
python数学建模是加深Numpy和Pandas学习
![](https://img.aspxhome.com/file/2023/9/77019_0s.png)
python 利用百度API进行淘宝评论关键词提取
![](https://img.aspxhome.com/file/2023/5/67835_0s.png)