Python爬虫实战案例——第五例

2023-09-17 16:28:21

文章中所有内容仅供学习交流使用,不用于其他任何目的!严禁将文中内容用于任何商业与非法用途,由此产生的一切后果与作者无关。若有侵权,请联系删除。

目标:采集三国杀官网的精美壁纸

地址:aHR0cHM6Ly93d3cuc2FuZ3Vvc2hhLmNvbS9tc2dzL21XYWxsUGFwZXI=

在这里插入图片描述

从开发者工具中进行分析

在这里插入图片描述

可以看到图片是位于一个class值为galary_wrapperdiv标签之中,所以我们可以先考虑数据是否是在这个html页面中响应而非异步加载的,从响应文本中搜索一下galary_wrapper看看是否有相应数据。

在这里插入图片描述

这就很润了,一共九张图片都在当前这个html页面中,那么就直接xpath解析就好了,但紧接着后边页面的图片又怎么来呢。

在这里插入图片描述

点击“查看更多”然后才会加载出来新的图片,毫无疑问,除了第一页之外的图片都是异步加载来的,所以我们来抓包分析一下。

在这里插入图片描述

可以看到点击之后抓到的包中返回了图片url,那么也就是说通过这个包我们就可以拿到第二页的图片地址了。那么第三页呢,它的url必然和第二页是有着一定的共同之处的。再点击“查看更多”然后观察第三页和第二页两个包的url。两页的url地址如下:

第二页:https://www.sanguosha.com/msgs/mWallPaper/cur/2
第三页:https://www.sanguosha.com/msgs/mWallPaper/cur/3

可以看到只有最后的数字发生了变化,前面的不管是域名还是路径都没有任何的区别。所以我们只需要修改最后的数字就可以获取到图片url了。但是要注意,第一页的图片只能通过html页面获取,不能通过这个接口获取。所以我们请求的时候需要判断请求的是第一页或其他。伪代码如下:

if 页码 ==  1:
	请求https://www.sanguosha.com/msgs/mWallPaper并解析
else:
	请求https://www.sanguosha.com/msgs/mWallPaper/cur/%d
	解析图片地址

最后,将所有放到列表中的图片url遍历出来进行请求并将图片保存到本地即可。

完整代码请移步:https://gitee.com/shuailiuquan/spider-code/tree/master/

更多推荐

【ELK】日志分析系统概述及部署(ELFK部署实验)

目录一、ELK概述1、ELK是什么?2、ELK的组成部分2.1ElasticSearch(1)分片和副本(2)es和传统数据库的区别2.2Kiabana2.3Logstash(1)LogStash主要组件2.4可添加的其它组件3、为什么要使用ELK二、完整日志系统基本特征三、ELK工作原理四、部署ELK日志分析系统实验

0基础学习VR全景平台篇 第100篇:美团酒店丨平台上传全景全流程

目前美团平台已经具备VR全景图在美团App客户端的展示能力,但目前E-Booking暂未开通上传通道,若商家您有全景图且有意愿上传至平台,需要签署授权书,并依照规定的格式要求发送邮件申请,由平台代为人工上传。具体规则和要求有哪些呢?小编带大家了解一下!应用人群本功能适用于所有已经入驻了美团酒店平台的酒店商家上传流程邮件

【PostgreSQL内核学习(十一)—— (CreatePortal)】

CreatePortal概述CreatePortal函数GetPortalByName函数PortalHashTableLookup函数MemoryContextAllocZero函数AllocSetContextCreate函数ResourceOwnerCreatePortalHashTableInsert总结声明:

分享VR眼镜加密播放器OEM方案

随着科技的发展,电子成品更新换代很快,用户的娱乐工具也更加多样化,从电脑、手机、平板在到现在使用越来越多的VR眼镜,给用户的体验也越来越多样。而对于内容提供商来说,内容是其竞争优势所在。那么如何做好视频在VR眼镜中的安全播放呢?考虑VR眼镜的特殊性,用户在初期使用可能不是很熟悉,因此对VR视频加密要考虑用户的便捷性。如

MyBatis执行SQL的两种方式

MyBatis有两种执行SQL语句的方式,如下:通过SqlSession发送SQL通过SqlSession获取Mapper接口,通过Mapper接口发送SQLSqlSession发送SQL有映射器之后就可以通过SqlSession发送SQL了。我们以getWebsite这条SQL为例看看如何发送SQL。Websitew

注入之SQLMAP(工具注入)

isqlmap是一个自动化的SQL注入工具,其主要功能是扫描,发现并利用给定的URL和SQL注入漏洞,其广泛的功能和选项包括数据库指纹,枚举,数据库提权,访问目标文件系统,并在获取操作权限时执行任意命令。希望这篇文章能让你不仅有一定的收获,而且可以愉快的学习,如果有什么建议,都可以留言和我交流sqlmap相关参数介绍-

广州华锐互动:利用VR复原文化遗址,沉浸式体验历史文物古迹的魅力

在过去的几十年里,科技发展飞速,为我们打开了无数新的视角和可能性。其中,虚拟现实(VirtualReality,简称VR)技术的崭新应用,为我们提供了一种全新的、近乎身临其境的体验历史的方式。本文将重点探讨VR技术在复原历史古迹方面的应用及其潜力。虚拟现实技术是一种可以创建和体验虚拟世界的计算机模拟系统。它利用计算机生

VR+中医骨伤学仿真情景实训教学|英途信息

首先,VR骨伤学虚拟实训教学可以突破地域限制。传统的实训教学需要学生亲身前往实地进行观察学习,但这常常受到时间、地点和费用等方面的限制。而通过虚拟现实技术,学生只需佩戴VR头盔,便可随时随地进行学习和实训,无需受到地理位置的限制,大大提高了学习的自由度和灵活性。其次,VR骨伤学虚拟实训教学可以提供更加真实的实践环境。在

VR全景算不算好的创业项目?有哪些特性?

现在是全民创业的时代,大家都在找创业项目,那么什么是好的创业项目呢?有人会问VR全景算不算创业好项目呢?一般情况下好的创业项目,发展前景和市场消费群体都是比较大的,市场需求大才能满足多数消费者的需求。现如今数字化时代,各个行业的实体商户已经离不开互联网的宣传推广了,加上之前遭受疫情的影响,很多老板也明白了线上宣传推广的

《数字图像处理-OpenCV/Python》连载(4)图像的读取与保存

《数字图像处理-OpenCV/Python》连载(4)图像的读取与保存本书京东优惠购书链接:https://item.jd.com/14098452.html本书CSDN独家连载专栏:https://blog.csdn.net/youcans/category_12418787.html第1章图像的基本操作为了方便初学

【Opencv入门到项目实战】(三):图像腐蚀与膨胀操作

文章目录1.腐蚀操作2.膨胀操作3.开运算和闭运算4.礼帽与黑帽5.梯度运算1.腐蚀操作腐蚀操作是图像处理中常用的一种形态学操作,我们通常用于去除图像中的噪声、分割连通区域、减小目标物体的尺寸等。腐蚀操作的原理是,在给定的结构元素下,遍历图像的每个像素,并将其值替换为该像素周围邻域内像素的最小值。结构元素控制了腐蚀的邻

热文推荐