python爬虫获取京东手机图片的图文教程
作者:丢你刘某 发布时间:2023-12-24 08:29:21
如题,首先当然是要打开京东的手机页面
因为要获取不同页面的所有手机图片,所以我们要跳转到不同页面观察页面地址的规律,这里观察第二页页面
由观察可以得到,第二页的链接地址很有可能是
https://list.jd.com/list.html?cat=9987,653,655&page=2
那么对应第n页的地址就是
https://list.jd.com/list.html?cat=9987,653,655&page=n
我们就可以利用这个规律在编程的时候打开自己想要获取的页面了
接着我们查看页面的源代码,观察图片链接的规律
我们使用在源代码的页面使用ctrl+f查找,然后在查找框里面输入页面第一台手机的名字 “vivo X9s 全网通 4GB+64GB 玫瑰金 移动” 快速定位到图片链接附近的代码,便于后面编程对图片范围进行筛选
可以看到,上图的画红线的三个部分,<div id="plist" 在这一页中是唯一出现的一个元素,而且离图片链接比较近,所以可以作为筛选页面的开头位置
<img width=“220”……这个是手机图片的信息,我们要获取的是后面
//img14.360buyimg.com/n7/jfs/t6088/107/5539077608/409616/7f98b2bb/596c2edaN9792cd20.jpg
这个链接,但是观察发现后面也有一个图片链接
img data-sku="5291744" width="25" height="25" class="loading-style2" src="//img14.360buyimg.com/n9/jfs/t6088/107/5539077608/409616/7f98b2bb/596c2edaN9792cd20.jpg"
这个很明显不是我们要找的手机图片链接
所以我们要使用正则表达式将真正的图片链接筛选出来,观察发现这两个图片链接的区别在于手机图片链接里面含有n7元素,而另外一个图片链接含有n9元素,这样子我们的正则表达式就可以表示为pat2 = '//.+?/n7/.+?\.jpg'
接着我们要找到这个页面最后一张手机图片的位置,方便找出可以作为筛选页面的结束位置,方法和上面类似,在源代码搜索框输入 小米(MI) 红米Note4X 手机 香槟金 全网通 3GB+32GB 定位到页面最后一张图片位置
可以看到,下面<div class="page clearfix">在该页面中是唯一的,而且比较接近最后一张手机图片附近的链接,所以可以作为筛选结尾位置的元素,其实筛选的元素只要满足唯一并且接近我们要获取的目标,那么也可以作为我们要选取的元素
经过上面准备之后,我们得出了大概的思路
1首先进行第一次筛选,使用正则表达式pat1 = '<div id="plist".+<div class="page clearfix">'将图片链接的范围大概筛选出来
2然后进行第二次筛选,使用正则表达式pat2 = '//.+?/n7/.+?\.jpg'将手机图片链接筛选出来
3使用urllib.urlretrieve保存链接图片到本地
下面给出python代码
# -*- coding: UTF-8 -*-
import re
import urllib2
import urllib
def craw(url, page):
html1 = urllib2.urlopen(url).read()
html1 = str(html1)
pat1 = '<div id="plist".+<div class="page clearfix">'
result1 = re.compile(pat1, re.DOTALL).findall(html1)
#获取第一次筛选结果
result1 = result1[0]
#*匹配0个或者多个前面表达式
#.匹配任意字符,加上re.dotall包括换行符
#+匹配1个或者多个前面表达式
#?非贪婪匹配,就是只匹配一组
#筛选出图片链接列表
pat2 = '//.+?/n7/.+?\.jpg'
imagelist = re.compile(pat2).findall(result1)
#x作为图片文件的顺序
x=1
for imageurl in imagelist:
imagename = "C:/Users/Administrator/Desktop/jdphone_img/" + str(page) + str(x) + ".jpg"
imageurl = "http:" + imageurl
try:
#保存图片
urllib.urlretrieve(imageurl, filename=imagename)
except urllib2.URLError as e:
#hasattr判断对象里面是否有name属性
if hasattr(e, "code"):
x+=1
if hasattr(e, "reason"):
x+=1
x+=1
for i in range(1, 3):
url = "https://list.jd.com/list.html?cat=9987,653,655&page=" + str(i)
craw(url, i)
注意:我这里只保存了第一二页的手机图片,在进行第二次筛选的时候正则表达式之所以会加了一个"?"进行非贪婪匹配,也就是一次只筛选出一张手机图片链接,如果不加这个非贪婪匹配那么我们会把第一个含有“//”到最后一个结尾含有.jpg之间的所有内容都会筛选出来,显示是不符合的,在这里建议可以把正则表达式的?去掉,然后看一下输出结果,去体会一下非贪婪匹配是怎么样的。
来源:http://blog.csdn.net/qq_26614295/article/details/78918159
猜你喜欢
- 今天我和中国著名画家"渔人"谈了一个关于"怎样才能设计好"的问题,他给我说了一句话,得益不浅,那句话
- 前言以下是我对python中编写脚本最重要的库之一pyautogui的学习整理,分享给大家希望有所帮助提示:我在初步使用pyautogui的
- 前言print()函数用来将信息输出到控制台如果希望输出文字信息的同时,一起输出数据,可以使用格式化操作符%,格式化操作符负责处理字符串中的
- <% Response.Buffer = True Server.ScriptTimeOut=9999999&
- 感觉这个东西很常用,很多其它js框架里有,但是太大了,用不了太多,自己写了个。需要的朋友可以参考下。下面是html测试代码:<!DOC
- javascript动画效果 打开层/关闭层:运行代码框<!DOCTYPE html PUBLIC "-//W3C//DTD
- 在一些网页应用中,就比如在投票系统中,当我们进行的是多项投票时,我们要求用户最多只能选择几项进行投票,这也是就是说选择复选框的个数最多几个.
- 前言本文主要介绍的是关于python中open函数用法的相关资料,用法如下:name = open('errname.txt'
- 首先,来说一下对话框: 对话框在Windows应用程序中使用非常普遍,许多应用程序的设定,与用户交互需要通过对话框来进行,因此对话框是Win
- NLTK 是使用 Python 教学以及实践计算语言学的极好工具。此外,计算语言学与人工 智能、语言/专门语言识别、翻译以及语法检查等领域关
- 一:input()函数的输入机制我们编写的大部分程序,都需要读取输入并对其进行处理,而基本的输入操作是从键盘键入数据。Python从键盘键入
- 1.安装pyserialhttps://pypi.python.org/pypi/pyserialDoc:http://pythonhost
- Flask数据模型和连接数据库flask是基于MTV的结构,其中M指的就是模型,即数据模型,在项目中对应的是数据库。flask与数据库建立联
- 请问如何在ASP中使用ADO调用Oracle的存储过程?我们可以在下面的代码里使用微软Oracle 的OLE DB Provider ,包括
- 声明定位元素:position属性值设置除默认值static以外的元素,包括relative,absolute,fixed。平台:win/I
- 如下所示:# -*- coding: utf-8 -*-# 要求:输入一行字符,分别统计出其中英文字母、空格、数字和其它字符的个数。def
- parse_dates : boolean or list of ints or names or list of lists or dic
- 在做一些工作的时候,有时候会涉及到给图片加上水印,这个如果手动添加的话,效率太低了,通常选择代码完成。下面这个是给图像添加文字水印(图片水印
- 本文实例讲述了Python注释、分支结构、循环结构、伪“选择结构”用法。分享给大家供大家参考,具体如下:注释:python使用#作为行注释符
- 症状: 访问asp网页的时候出现如下错误:Server object error ''ASP 0178 : 80070005