python爬虫获取新浪新闻教学

作者:wang_yubin92 时间:2021-10-13 11:15:41 

一提到python,大家经常会提到爬虫,爬虫近来兴起的原因我觉得主要还是因为大数据的原因,大数据导致了我们的数据不在只存在于自己的服务器,而python语言的简便也成了爬虫工具的首要语言,我们这篇文章来讲下爬虫,爬取新浪新闻

1、

大家知道,爬虫实际上就是模拟浏览器请求,然后把请求到的数据,经过我们的分析,提取出我们想要的内容,这也就是爬虫的实现

大家知道,爬虫实际上就是模拟浏览器请求,然后把请求到的数据,经过我们的分析,提取出我们想要的内容,这也就是爬虫的实现

2、首先,我们要写爬虫,可以借鉴一些工具,我们先从简单的入门,首先说到请求,我们就会想到python中,非常好用的requests,然后说到分析解析就会用到bs4,然后我们可以直接用pip命令来实现安装,假如安装的是python3,也可以用pip3

python爬虫获取新浪新闻教学

3、安装好这两个类库之后,然后我们就可以先请求数据,查看下新闻的内容,这个时候我们有可能看到的是乱码

python爬虫获取新浪新闻教学

4、怎么处理乱码呢?我们可以拿浏览器打开网页,右键查看网页源代码,我们可以看到编码格式为utf-8

python爬虫获取新浪新闻教学

python爬虫获取新浪新闻教学

5、然后我们在输出的时候添加编码格式,就可以查看到正确编码的数据了

python爬虫获取新浪新闻教学

6、拿到数据之后,我们需要先分析数据,看我们想要的数据在哪里,我们打开浏览器,右键审查,然后按示例图操作,就可以看到我们新闻所在的标签,假如是windows系统,选择开发中工具里面一样

python爬虫获取新浪新闻教学

python爬虫获取新浪新闻教学

7、我们知道属于哪个标签之后,就是用bs4来解析拿到我们想要的数据了

python爬虫获取新浪新闻教学

8、我们想要拿到新闻的具体标题,时间,地址,就需要我们在对元素进行深入的解析,我们还是按之前的方法,找到标题所在的标签

python爬虫获取新浪新闻教学

9、然后我们编写标题时间地址的python程序,就可以爬取出对应的标题内容,时间和地址

python爬虫获取新浪新闻教学

10、

简单的python爬取新闻就讲到这里啦

 总结:以上就是关于Python爬虫获取新浪新闻内容的步骤,感谢大家的的阅读和对脚本之家的支持。

来源:https://jingyan.baidu.com/article/a3761b2bf391671576f9aaa1.html

标签:python,爬虫,新浪
0
投稿

猜你喜欢

  • Python实现简易信息分类存储软件

    2023-08-09 20:45:08
  • Python Flask微信小程序登录流程及登录api实现代码

    2022-03-21 14:33:47
  • python实现断点调试的方法

    2021-07-01 07:49:40
  • Python正则表达式和元字符详解

    2021-02-26 02:54:19
  • python中字典按键或键值排序的实现代码

    2023-07-22 00:26:49
  • GPU版本安装Pytorch的最新方法步骤

    2022-02-09 16:31:28
  • Python连接字符串过程详解

    2022-12-09 23:49:45
  • 科讯商业版中用到的ajax空间与分页函数

    2024-04-17 10:05:45
  • Python脚本实现下载合并SAE日志

    2023-04-13 06:41:41
  • Python读取yaml文件的详细教程

    2021-03-16 20:43:27
  • 理解CSS3线性渐变

    2010-03-28 13:42:00
  • PHP图像处理技术实例总结【绘图、水印、验证码、图像压缩】

    2023-10-03 00:48:07
  • myFocus 一个KindEditor的焦点图插件

    2023-11-09 03:56:09
  • 修改apache配置文件去除thinkphp url中的index.php

    2024-05-21 10:21:10
  • PyCharm2021最新激活码+激活码补丁(亲测最新版PyCharm2021.3激活成功)

    2022-09-18 05:22:03
  • Python OpenCV处理图像之图像直方图和反向投影

    2023-09-26 20:18:13
  • python 中赋值,深拷贝,浅拷贝的区别

    2022-11-15 09:35:44
  • 用Python进行TCP网络编程的教程

    2021-07-31 06:06:07
  • Golang利用channel协调协程的方法详解

    2024-05-08 10:21:54
  • NumPy统计函数的实现方法

    2021-10-15 22:02:27
  • asp之家 网络编程 m.aspxhome.com