scrapy头部修改的方法详解
作者:周少钦 时间:2023-09-13 05:58:10
被Scrapy自动添加的头部
在没有任何配置的情况下,scrapy会对请求默认加上一些头部信息
Scrapy会通过配置文件中的USER_AGENT配置,自动为头部添加User-Agent,这条配置会被任何包含User-Agent的配置覆盖
当请求经过下载器后,会被自动添加头部Accept-Encoding: gzip,deflate, 会被任意包含Accept-Encoding的头部配置覆盖
配置settings.py文件中默认的头部
#DEFAULT_REQUEST_HEADERS = {
# 'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
# 'Accept-Language': 'en'
#}
当这个配置属于注释状态时,头部被设置为Accept:text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8与
Accept-Language: en,可以通过取消注释修改或增删其中的内容
优先级
会被Request和中间件中的头部配置覆盖
可以覆盖scrapy自动添加的User-Agent和Accept-Encoding
可以在爬虫中通过custom_settings设置配置仅在当前爬虫生效
class XXXSpider(scrapy.Spider):
...
custom_settings = {
DEFAULT_REQUEST_HEADERS = {...}
}
....
在Request中设置头部
当给引擎返回Request时,可以为他配置头部
...
def parse(self):
headers = {
...
}
yield scrapy.Request(url, headers=headers)
优先级
Request中设置的header会和settings.py文件中的默认头部合并到一起,如果有重复的配置,那么会覆盖那条配置
会被中间件中的配置覆盖
在中间件中配置
当Request请求通过下载中间件发往下载器时,可以通过下载中间件配置头部
class XXXDownloaderMiddleware
def process_request(self, request, spider):
request.headers["key"] = value
return None
还需要在配置文件中启用下载中间价
DOWNLOADER_MIDDLEWARES = {
'project.middlewares.XXXDownloaderMiddleware': 543,
}
优先级
会覆盖除了Referer以外的所有头部配置
referer中间件
当存在多次请求时,referer中间件会自动帮Request的头部中的referer加上上一次请求的url
优先级
最高,会在所有头部配置完之后,添加referer
除了只请求一次没有referer的情况,就算在其他头部配置中设置了referer也会被referer中间件覆盖
关闭referer中间件
在配置文件中添加REFERER_ENABLED=False即可关闭
优先级分析
Scrapy自动添加的User-Agent与Accept-Encoding < 配置文件中的默认配置DEFAULT_REQUEST_HEADERS < Request中修改的header < 中间件中添加的header < referer中间件添加的referer
此篇文章仅表示自己对scrapy的理解,如有错误欢迎指正
来源:https://blog.csdn.net/mrkkmrkkk/article/details/110534234
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
t-sql清空表数据的两种方式示例(truncate and delete)
详解python的变量缓存机制
![](https://img.aspxhome.com/file/2023/3/127243_0s.png)
解决Linux系统中python matplotlib画图的中文显示问题
golang 数组去重,利用map的实现
python @classmethod 的使用场合详解
Python实现连接两个无规则列表后删除重复元素并升序排序的方法
![](https://img.aspxhome.com/file/2023/2/82602_0s.png)
python GUI库图形界面开发之PyQt5美化窗体与控件(异形窗体)实例
![](https://img.aspxhome.com/file/2023/3/112793_0s.png)
PHP session 会话处理函数
Vue Router根据后台数据加载不同的组件实现
利用Python网络爬虫爬取各大音乐评论的代码
![](https://img.aspxhome.com/file/2023/6/95466_0s.png)
Python实现把回车符\\r\\n转换成\\n
Windows安装MySQL8.0.16 的步骤及出现错误问题解决方法
![](https://img.aspxhome.com/file/2023/4/115314_0s.jpg)
如何操作Access数据库?
php中替换字符串函数strtr()和str_repalce()的用法与区别
Vue按回车键进行搜索的实现方式
![](https://img.aspxhome.com/file/2023/3/130853_0s.png)
OpenCV Python实现拼图小游戏
![](https://img.aspxhome.com/file/2023/2/79762_0s.gif)
Python入门教程(四十一)Python的NumPy数组索引
![](https://img.aspxhome.com/file/2023/5/135265_0s.png)
django+xadmin+djcelery实现后台管理定时任务
![](https://img.aspxhome.com/file/2023/5/97325_0s.png)
Python利用arcpy模块实现栅格的创建与拼接
![](https://img.aspxhome.com/file/2023/8/81798_0s.png)
疯狂上涨的Python 开发者应从2.x还是3.x着手?
![](https://img.aspxhome.com/file/2023/2/124362_0s.jpg)