python爬虫获取京东手机图片的图文教程

作者:丢你刘某 时间:2023-12-24 08:29:21 

如题,首先当然是要打开京东的手机页面

python爬虫获取京东手机图片的图文教程

python爬虫获取京东手机图片的图文教程

因为要获取不同页面的所有手机图片,所以我们要跳转到不同页面观察页面地址的规律,这里观察第二页页面

python爬虫获取京东手机图片的图文教程

由观察可以得到,第二页的链接地址很有可能是

https://list.jd.com/list.html?cat=9987,653,655&page=2

那么对应第n页的地址就是

https://list.jd.com/list.html?cat=9987,653,655&page=n

我们就可以利用这个规律在编程的时候打开自己想要获取的页面了

接着我们查看页面的源代码,观察图片链接的规律

python爬虫获取京东手机图片的图文教程

python爬虫获取京东手机图片的图文教程

我们使用在源代码的页面使用ctrl+f查找,然后在查找框里面输入页面第一台手机的名字 “vivo X9s 全网通 4GB+64GB 玫瑰金 移动” 快速定位到图片链接附近的代码,便于后面编程对图片范围进行筛选

python爬虫获取京东手机图片的图文教程

可以看到,上图的画红线的三个部分,<div id="plist" 在这一页中是唯一出现的一个元素,而且离图片链接比较近,所以可以作为筛选页面的开头位置

<img width=“220”……这个是手机图片的信息,我们要获取的是后面

//img14.360buyimg.com/n7/jfs/t6088/107/5539077608/409616/7f98b2bb/596c2edaN9792cd20.jpg

这个链接,但是观察发现后面也有一个图片链接

img data-sku="5291744" width="25" height="25" class="loading-style2" src="//img14.360buyimg.com/n9/jfs/t6088/107/5539077608/409616/7f98b2bb/596c2edaN9792cd20.jpg"

这个很明显不是我们要找的手机图片链接

所以我们要使用正则表达式将真正的图片链接筛选出来,观察发现这两个图片链接的区别在于手机图片链接里面含有n7元素,而另外一个图片链接含有n9元素,这样子我们的正则表达式就可以表示为pat2 = '//.+?/n7/.+?\.jpg'

接着我们要找到这个页面最后一张手机图片的位置,方便找出可以作为筛选页面的结束位置,方法和上面类似,在源代码搜索框输入 小米(MI) 红米Note4X 手机 香槟金 全网通 3GB+32GB 定位到页面最后一张图片位置

python爬虫获取京东手机图片的图文教程

可以看到,下面<div class="page clearfix">在该页面中是唯一的,而且比较接近最后一张手机图片附近的链接,所以可以作为筛选结尾位置的元素,其实筛选的元素只要满足唯一并且接近我们要获取的目标,那么也可以作为我们要选取的元素

经过上面准备之后,我们得出了大概的思路

1首先进行第一次筛选,使用正则表达式pat1 = '<div id="plist".+<div class="page clearfix">'将图片链接的范围大概筛选出来

2然后进行第二次筛选,使用正则表达式pat2 = '//.+?/n7/.+?\.jpg'将手机图片链接筛选出来

3使用urllib.urlretrieve保存链接图片到本地

下面给出python代码


# -*- coding: UTF-8 -*-
import re
import urllib2
import urllib

def craw(url, page):
html1 = urllib2.urlopen(url).read()
html1 = str(html1)
pat1 = '<div id="plist".+<div class="page clearfix">'
result1 = re.compile(pat1, re.DOTALL).findall(html1)
#获取第一次筛选结果
result1 = result1[0]
#*匹配0个或者多个前面表达式
#.匹配任意字符,加上re.dotall包括换行符
#+匹配1个或者多个前面表达式
#?非贪婪匹配,就是只匹配一组
#筛选出图片链接列表
pat2 = '//.+?/n7/.+?\.jpg'
imagelist = re.compile(pat2).findall(result1)
#x作为图片文件的顺序
x=1

for imageurl in imagelist:
imagename = "C:/Users/Administrator/Desktop/jdphone_img/" + str(page) + str(x) + ".jpg"
imageurl = "http:" + imageurl
try:
 #保存图片
 urllib.urlretrieve(imageurl, filename=imagename)
except urllib2.URLError as e:
 #hasattr判断对象里面是否有name属性
 if hasattr(e, "code"):
 x+=1
 if hasattr(e, "reason"):
 x+=1
x+=1

for i in range(1, 3):
url = "https://list.jd.com/list.html?cat=9987,653,655&page=" + str(i)
craw(url, i)

注意:我这里只保存了第一二页的手机图片,在进行第二次筛选的时候正则表达式之所以会加了一个"?"进行非贪婪匹配,也就是一次只筛选出一张手机图片链接,如果不加这个非贪婪匹配那么我们会把第一个含有“//”到最后一个结尾含有.jpg之间的所有内容都会筛选出来,显示是不符合的,在这里建议可以把正则表达式的?去掉,然后看一下输出结果,去体会一下非贪婪匹配是怎么样的。

来源:http://blog.csdn.net/qq_26614295/article/details/78918159

标签:python,爬虫,京东,手机图片
0
投稿

猜你喜欢

  • python 爬虫如何实现百度翻译

    2023-02-20 18:33:51
  • django与小程序实现登录验证功能的示例代码

    2023-08-04 01:06:58
  • PHP chunk_split()函数讲解

    2023-06-09 13:54:44
  • python+numpy+matplotalib实现梯度下降法

    2023-07-26 04:07:35
  • 详细讲解MySQL数据库对文件操作的封装

    2008-12-17 16:08:00
  • 浅谈Python数学建模之整数规划

    2021-12-01 18:26:07
  • ASP FSO显示特殊文件夹的实现代码(畸形目录名、UNC路径)

    2012-11-30 20:10:46
  • golang切片扩容规则实现

    2024-04-27 15:31:22
  • 正则表达式的基本概念

    2007-10-17 21:07:00
  • Golang import本地包和导入问题相关详解

    2024-01-30 09:35:37
  • 使用python 打开文件并做匹配处理的实例

    2022-01-15 16:27:30
  • 搜索关键字加亮js实现方法

    2007-08-27 14:11:00
  • CentOS中安装python3.8.2的详细教程

    2022-05-08 11:55:52
  • Python Tkinter简单布局实例教程

    2021-03-08 13:41:23
  • 用Oracle并行查询发挥多CPU的威力

    2010-07-23 12:52:00
  • Golang 编译成DLL文件的操作

    2024-05-09 09:55:30
  • 在应用环境中如何构造最优的数据库模式

    2009-04-01 14:28:00
  • 简单实用的图片播放器1.0(Javascript + css )

    2008-07-16 10:39:00
  • python中的bool数组取反案例

    2023-04-12 07:33:15
  • python实现图片二值化及灰度处理方式

    2022-06-29 23:35:34
  • asp之家 网络编程 m.aspxhome.com