python实现爱奇艺登陆密码RSA加密的方法示例详解
作者:其实还好啦 时间:2022-02-10 00:41:53
前言
通过Python实现对大麦网近期全国演唱会数据进行爬取,通过分析,我们发现大麦网属于Python爬虫策略中“中等型”难度网站,演唱会数据封装在json文件中。因此,我们简单的通过requests、json就可以将数据爬取出来,后期通过pandas进行数据筛选并保存至Excel文件中。
1.目标网站分析
检查一下看xhr中有没有我们需要的数据。
很好,就在xhr中用json封装了数据。
2.构造相应的Request URL
request url中只有一个参数变化,那就是“Page=”这个选项变了,简单了😄,一共6页,直接循环构造了。
for i in range(1,7):
url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
# print(url)
3.requests爬虫走起
直接上代码:
def crawl(url):
headers={
'cookie': 'cna=J7K2Fok5AXECARu7QWn6+cxu; isg=BCcnDiP-NfKV5bF-OctWuXuatl3xrPuOyBVJJfmQLrZn6ESqAX0y3jrhCuj2ANMG; l=eBSmWoPRQeT6Zn3iBO5whurza77O1CAf1sPzaNbMiIncC6BR1AvOCJxQLtyCvptRR8XcGLLB4nU7C5eTae7_7CDmndLHuI50MbkyCef..',
'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
}
response=requests.get(url,headers=headers)
json_text=json.loads(response.text)
# print(json_text.keys())
rdata=json_text['pageData']['resultData']
# print(rdata)
return(rdata)
加一个headers,简单做一个防反爬。
4.保存至excel文件
基本思路是将每页数据保存成pandas的DataFrame结构,然后进行拼接,拼接完后再保存到Excel文件中。
inidata=pd.DataFrame(columns=('name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic'))
for i in range(1,7):
url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
# print(url)
# print(crawl(url))
data=pd.DataFrame(crawl(url))
data1=data[['name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic']]
inidata=inidata.append(data1)
# print(inidata)
inidata.to_excel('大麦网演唱会.xlsx',index=0)
5.看看效果
来源:https://www.cnblogs.com/python0921/p/12968842.html
标签:python,爱奇艺,密码,加密
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
基于Python 的进程管理工具supervisor使用指南
2021-01-06 20:55:03
![](https://img.aspxhome.com/file/2023/7/81647_0s.jpg)
Django+boostrap 美化admin后台的操作
2022-02-26 16:16:21
![](https://img.aspxhome.com/file/2023/3/71503_0s.jpg)
py3nvml实现GPU相关信息读取的案例分析
2022-01-11 11:00:52
asp中判断是否是手机浏览器以及手机类型
2014-12-06 09:33:05
神经网络(BP)算法Python实现及应用
2021-11-12 20:00:14
![](https://img.aspxhome.com/file/2023/9/98319_0s.png)
Python利用VideoCapture读取视频或摄像头并进行保存
2022-12-06 18:26:27
php入门学习知识点三 PHP上传
2023-11-23 12:10:49
python中的json模块常用方法汇总
2022-02-27 01:35:09
![](https://img.aspxhome.com/file/2023/3/103273_0s.png)
让你同时上传 1000 个文件 (二)
2023-11-14 10:22:52
Python中is和==的区别详解
2022-08-22 10:53:09
python对配置文件.ini进行增删改查操作的方法示例
2023-10-25 05:56:13
WEB2.0网页制作标准教程(3)定义语言编码
2007-11-13 13:23:00
Python 转换RGB颜色值的示例代码
2022-06-26 22:02:33
基于python实现双向链表
2022-02-17 04:06:44
![](https://img.aspxhome.com/file/2023/9/99219_0s.jpg)
在Python函数中输入任意数量参数的实例
2022-07-09 04:58:08
Python3实现带附件的定时发送邮件功能
2023-07-08 23:33:57
MySQL 重装笔记
2011-02-23 12:22:00
Python3.5迭代器与生成器用法实例分析
2022-11-03 14:50:47
![](https://img.aspxhome.com/file/2023/3/67343_0s.png)
详解Python的迭代器、生成器以及相关的itertools包
2022-07-24 01:03:44
PHP变量作用域(全局变量&局部变量)&global&static关键字用法实例分析
2023-11-23 11:42:05