Python使用urlretrieve实现直接远程下载图片的示例代码
作者:Amo Xiang 时间:2022-11-10 16:54:33
在实现爬虫任务时,经常需要将一些图片下载到本地当中。那么在python中除了通过open()函数
,以二进制写入方式来下载图片以外,还有什么其他方式吗?本文将使用urlretrieve
实现直接远程下载图片。
下面我们再来看看 urllib 模块提供的 urlretrieve() 函数。urlretrieve() 方法直接将远程数据下载到本地。
>>> help(urllib.urlretrieve)
Help on function urlretrieve in module urllib:
urlretrieve(url, filename=None, reporthook=None, data=None)
参数 finename 指定了保存本地路径(如果参数未指定,urllib会生成一个临时文件保存数据。)
参数 reporthook 是一个回调函数,当连接上服务器、以及相应的数据块传输完毕时会触发该回调,我们可以利用这个回调函数来显示当前的下载进度。
参数 data 指 post 到服务器的数据,该方法返回一个包含两个元素的(filename, headers)元组,filename 表示保存到本地的路径,header 表示服务器的响应头。
下面通过例子来演示一下这个方法的使用,这个例子将 google 的 html 抓取到本地,保存在 D:/google.html 文件中,同时显示下载的进度。
import urllib
def cbk(a, b, c):
'''回调函数
@a: 已经下载的数据块
@b: 数据块的大小
@c: 远程文件的大小
'''
per = 100.0 * a * b / c
if per > 100:
per = 100
print '%.2f%%' % per
url = 'http://www.google.com'
local = 'd://google.html'
urllib.urlretrieve(url, local, cbk)
代码实现
在python中除了使用open()函数
实现图片的下载,还可以通过urllib.request模块
中的urlretrieve
实现直接远程下载图片的操作。以远程下载某网页外设产品图片为例,代码如下:
import requests
import urllib.request
import os # 系统模块
import shutil # 文件夹控制
def download_pictures(url):
headers = {
"user-agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_6) "
"AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.129 Safari/537.36"}
response = requests.get(url, headers=headers) # 发送网络请求 获取响应
if response.status_code == 200: # 判断请求是否成功
# print(response.json())
# 每次获取数据之前,先将保存图片的文件夹清空 在创建目录
if os.path.exists("img_download"): # 判断文件夹是否存在
shutil.rmtree("img_download") # 存在则删除
os.makedirs("img_download") # 重新创建
else:
os.makedirs("img_download") # 不存在 直接创建
content = response.json()["products"] # 获取响应内容
print(content)
for index, item in enumerate(content):
# 图片地址
img_path = "http://img13.360buyimg.com/n1/s320x320_" + item["imgPath"]
# print(item["imgPath"])
# 根据下标命名图片名称
urllib.request.urlretrieve(img_path, "img_download/" + "img" + str(index) + ".jpg")
else:
print("请求失败")
if __name__ == '__main__':
download_pictures("https://ch.jd.com/hotsale2?cateid=686")
运行结果如下图所示:
来源:https://blog.csdn.net/xw1680/article/details/105882690
标签:Python,urlretrieve,远程下载


猜你喜欢
Django密码系统实现过程详解
2022-10-13 15:55:33
Django的models模型的具体使用
2022-08-13 07:57:04
pythonfor循环中range与len区别
2023-06-22 03:17:10

Python 异常处理实例详解
2021-10-14 05:36:39
dedecms 批量提取第一张图片最为缩略图的代码(文章+软件)
2024-04-28 09:45:40
超级实用的8个Python列表技巧
2021-01-14 06:27:12

JSP request.setAttribute()详解及实例
2023-06-18 23:59:32
python操作日期和时间的方法
2021-08-29 18:32:59
谈一谈bootstrap响应式布局
2023-08-22 20:17:39

基于Python制作一个简单的文章搜索工具
2021-07-08 02:16:28

PyCharm中鼠标悬停在函数上时显示函数和帮助的解决方法
2023-08-10 19:20:02

Centos8(最小化安装)全新安装Python3.8+pip的方法教程
2022-11-09 06:00:27
vue表单数据交互提交演示教程
2024-04-10 13:48:08
浅谈Python几种常见的归一化方法
2021-01-22 16:36:45

Python 字符串操作(string替换、删除、截取、复制、连接、比较、查找、包含、大小写转换、分割等)
2021-01-12 08:30:45
python使用selenium实现批量文件下载
2022-09-23 15:27:08

Python数据可视化之Seaborn的使用详解
2022-10-25 21:57:31

Python3 导入上级目录中的模块实例
2023-09-01 02:25:20
Python 2种方法求某个范围内的所有素数(质数)
2022-09-07 08:43:40

python通过apply使用元祖和列表调用函数实例
2021-02-18 03:18:32