网站建设公司广告合作请联系站长QQ:51112717
当前位置:建站无忧网 > 建站知识 > 正文

Python爬取网站上面的数据很简单

05-18 建站知识

在我们在爬取手机APP上面的数据的时候,都会借助Fidder来爬取。今天就教大家如何爬取手机APP上面的数据。

 

环境配置

1、Fidder的安装和配置

下载Fidder软件地址:https://www.telerik.com/download/fiddler

然后就是傻瓜式的安装,安装步骤很简单。在安装完成后,打开软件,进行如下设置:

默认的8888端口

Python爬取网站上面的数据很简单,但是如何爬取APP上面的数据呢

2、手机的配置

首先打开cmd,输入ipconfig查看IP地址,记录下这个IP地址:

Python爬取网站上面的数据很简单,但是如何爬取APP上面的数据呢

想要使用FIdder进行手机抓包,要让手机和PC处在同一个内网中,方法就是连接同一个无线网络。然后打开手机,进入Wi-FI设置修改代理为手动代理,再把上面的IP地址和8888端口号输入进去:

Python爬取网站上面的数据很简单,但是如何爬取APP上面的数据呢

然后打开浏览器,输入http://127.0.0.1:8888,会看到如下界面,点击FidderRoot certificate下载证书:

Python爬取网站上面的数据很简单,但是如何爬取APP上面的数据呢

下载好之后如果出现无法安装的情况,可以进入设置进行手动安装证书,我的安装步骤是“设置->系统安全->从SD卡安装”,不同的手机安装步骤不同,不过也差不多吧。

3、抓包测试

在完成上面的步骤之后,我们先进行一下抓包测试,打开手机的浏览器,然后打开百度的网页,可以看到出现了对应的包,这样就可以进行之后的抓取了。

Python爬取网站上面的数据很简单,但是如何爬取APP上面的数据呢

 

抓取步骤

这次使用的APP是王者荣耀盒子,打开APP,点击英雄,可以看到第一个英雄-上官婉儿,然后点进去。

Python爬取网站上面的数据很简单,但是如何爬取APP上面的数据呢

然后在Fidder中可以找到如下这个包:

Python爬取网站上面的数据很简单,但是如何爬取APP上面的数据呢

然后在右侧可以看到如下信息:

Python爬取网站上面的数据很简单,但是如何爬取APP上面的数据呢

把这些信息复制一下,然后解码一下就可以看到如下数据了,包括英雄名字、英雄图片、英雄技能等信息:

Python爬取网站上面的数据很简单,但是如何爬取APP上面的数据呢

但是在推荐装备的信息里,只有装备的id值,却没有装备的名字,那我们要怎么获得这些装备的名字呢?还是同样的办法,点击查看所有装备,然后抓包,找到对应的包,再进行爬取。在获得所有的装备和对应的id后,可以再爬取所有的英雄名称,然后就可以制作我们自己的英雄攻略了==

版权保护: 本文由 建站无忧网 原创,转载请保留链接: https://www.tianyihui.cn/jianzhan/689.html

网站建设公司 网站建设公司建网站公司
本站汇聚全国各地区的网站建设公司、建网站公司,让企业建站者轻松找到网络公司为你服务,建站无忧!
建站无忧网

网站建设公司推荐

建网站公司推荐

无忧建站