简述python Scrapy框架
作者:算法与编程之美 时间:2022-07-13 06:19:30
一、Scrapy框架简介
Scrapy是用纯Python实现一个为了爬取网站数据,提取结构性数据而编写的应用框架,用途非常广泛。利用框架,用户只需要定制开发几个模块就可以轻松的实现一个爬虫,用来抓取网页内容以及各种图片,非常的方便。它使用Twisted这个异步网络库来处理网络通讯,架构清晰,并且包含了各种中间件接口,可以灵活的完成各种需求。Scrapy是Python世界里面最强大的爬虫框架,它比BeautifulSoup更加完善,BeautifulSoup可以说是轮子,而Scrapy则是车子,不需要关注太多的细节。
二、Scrapy原理
1.ScrapyEngine(引擎):负责Spider、ItemPipeline、Downloader、Scheduler中间的通讯,信号数据传递等。
2.Scheduler(调度器):它负责接受引擎发送过来的request请求,并按照定的方式进行整理排列,入队,当引擎需要时,交还给引擎。
3.Downloader(下载器):负责下载ScrapyEngine发送的所有requests请求,并将其获取到的responses交还给ScrapyEngine,由引擎交给Spider来处理。
4.Spider(爬虫):它负责处理所有Responses,从中分析提取数据,获取ltem字段需要的数据,并将需要跟进的URL提交给引擎,再次进入Scheduler。
5.ItemPipeline(管道):它负责处理Spider中获取到的ltem,并进行进行后期处理,详细分析,过滤,存储等的地方。
6.DownloaderMiddlewares(下载中间件):它是一个可以自定义扩展下载功能的组件。
7.SpiderMiddlewares(Spider中间件):它是一个可以自定扩展和操作引擎和Spider中间通信的功能组件比如进入Spider的Responses,和从Spider出去的Requests。
三、创建Scrapy项目
新建项目命令:
scrapy startproject xxx
在开始爬取之前,必须创建一个新的Scrapy项目。进入自定义的项目目录中,运行下列命令:
scrapy startproject xxx
其中,xxx为项目名称,可以看到将会创建一个xxx文件夹,目录结构大致如下:
四、创建爬虫
创建爬虫的命令:
scrapy genspider 爬虫名字网站域名
应当注意的是爬虫名字不要和项目名字一-样,网站域名是允许爬虫采集的域名如,baidu. com,zhihu. com。创建后python文件如下:
五、总结
Scrapy框架相当于一辆造好的车子,只要我们会开,我们就可以利用这辆车子去到任意想去的地方。通常我们使用的request的方法就相当于在出发前再去造一辆车子,这是相当麻烦的。学好Scrapy,对于网上80%的网站我们都可以进行爬取。
来源:https://cloud.tencent.com/developer/article/1635188
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
Mysql开启慢SQL并分析原因
![](https://img.aspxhome.com/file/2023/9/66599_0s.png)
JS图形技术的终极体现
![](https://img.aspxhome.com/file/UploadPic/20084/30/200843019490727s.jpg)
win10系统Anaconda和Pycharm的Tensorflow2.0之CPU和GPU版本安装教程
![](https://img.aspxhome.com/file/2023/3/134853_0s.png)
JavaScript编写推箱子游戏
![](https://img.aspxhome.com/file/2023/3/56343_0s.jpg)
Python中模块与包有相同名字的处理方法
python爬虫爬取淘宝商品比价(附淘宝反爬虫机制解决小办法)
![](https://img.aspxhome.com/file/2023/2/75242_0s.jpg)
TensorFlow2.X使用图片制作简单的数据集训练模型
![](https://img.aspxhome.com/file/2023/7/134537_0s.png)
使用tensorflow实现线性回归
![](https://img.aspxhome.com/file/2023/6/92516_0s.jpg)
使用豆瓣提供的国内pypi源 <font color=red>原创</font>
Python利用turtle库绘制彩虹代码示例
![](https://img.aspxhome.com/file/2023/3/72853_0s.png)
如何利用pandas工具输出每行的索引值、及其对应的行数据
Python手动或自动协程操作方法解析
在tensorflow以及keras安装目录查询操作(windows下)
![](https://img.aspxhome.com/file/2023/3/86463_0s.jpg)
ASP.NET中Image控件使用详解
![](https://img.aspxhome.com/file/2023/8/129808_0s.jpg)
Python第三方库undetected_chromedriver的使用
![](https://img.aspxhome.com/file/2023/1/110081_0s.png)
详解VScode自动补全CSS3前缀插件以及配置无效的解决办法
![](https://img.aspxhome.com/file/2023/9/114689_0s.png)
python协程与 asyncio 库详情
![](https://img.aspxhome.com/file/2023/4/62874_0s.webp)
Python报错SyntaxError:unexpected EOF while parsing的解决办法
没编程基础可以学python吗
linux centos 7.x 安装 python3.x 替换 python2.x的过程解析
![](https://img.aspxhome.com/file/2023/8/102878_0s.png)