python 爬取小说并下载的示例
作者:Jack-Cherish 时间:2023-08-24 19:31:49
代码
import requests
import time
from tqdm import tqdm
from bs4 import BeautifulSoup
"""
Author:
Jack Cui
Wechat:
https://mp.weixin.qq.com/s/OCWwRVDFNslIuKyiCVUoTA
"""
def get_content(target):
req = requests.get(url = target)
req.encoding = 'utf-8'
html = req.text
bf = BeautifulSoup(html, 'lxml')
texts = bf.find('div', id='content')
content = texts.text.strip().split('\xa0'*4)
return content
if __name__ == '__main__':
server = 'https://www.xsbiquge.com'
book_name = '诡秘之主.txt'
target = 'https://www.xsbiquge.com/15_15338/'
req = requests.get(url = target)
req.encoding = 'utf-8'
html = req.text
chapter_bs = BeautifulSoup(html, 'lxml')
chapters = chapter_bs.find('div', id='list')
chapters = chapters.find_all('a')
for chapter in tqdm(chapters):
chapter_name = chapter.string
url = server + chapter.get('href')
content = get_content(url)
with open(book_name, 'a', encoding='utf-8') as f:
f.write(chapter_name)
f.write('\n')
f.write('\n'.join(content))
f.write('\n')
下载效果:
可以看到,小说内容保存到“诡秘之主.txt”中,小说一共 1416 章,下载需要大约 20 分钟,每秒钟大约下载 1 个章节。
下载完成,实际花费了 27 分钟。
20 多分钟下载一本小说,你可能感觉太慢了。想提速,可以使用多进程,大幅提高下载速度。如果使用分布式,甚至可以1秒钟内下载完毕。
但是,我不建议这样做。
我们要做一个友好的爬虫,如果我们去提速,那么我们访问的服务器也会面临更大的压力。
以我们这次下载小说的代码为例,每秒钟下载 1 个章节,服务器承受的压力大约 1qps,意思就是,一秒钟请求一次。
如果我们 1 秒同时下载 1416 个章节,那么服务器将承受大约 1416 qps 的压力,这还是仅仅你发出的并发请求数,再算上其他的用户的请求,并发量可能更多。
如果服务器资源不足,这个并发量足以一瞬间将服务器“打死”,特别是一些小网站,都很脆弱。
过大并发量的爬虫程序,相当于发起了一次 CC 攻击,并不是所有网站都能承受百万级别并发量的。
所以,写爬虫,一定要谨慎,勿给服务器增加过多的压力,满足我们的获取数据的需求,这就够了。
你好,我也好,大家好才是真的好。
来源:https://github.com/Jack-Cherish/python-spider/tree/master/2020
标签:python,爬虫,下载,小说
0
投稿
猜你喜欢
了解WEB页面工具语言XML(五)好处
2008-09-05 17:19:00
PHP htmlentities()函数用法讲解
2023-06-04 14:47:30
asp如何选择访问速度最快的站点?
2010-06-10 18:34:00
怎样设置密码保护问题
2009-02-16 13:12:00
win10子系统python开发环境准备及kenlm和nltk的使用教程
2023-07-31 01:48:28
asp如何同时处理数据库和页面错误?
2010-06-07 20:58:00
浅谈购物类网站如何保持视觉设计的一致性
2009-03-30 16:02:00
SQLServer 连接 EXCEL
2009-07-09 19:00:00
Oracle的数据字典技术简析
2010-07-20 13:03:00
IE8将是IE的最后一个版本?
2009-03-12 12:44:00
MySQL数据库优化经验详谈
2009-12-15 10:34:00
Dreamweaver滑动菜单的制作[图]
2007-11-08 12:43:00
python类的方法属性与方法属性的动态绑定代码详解
2023-07-02 03:31:26
ASp使用AspJpeg组件制作透明文字水印
2008-01-15 20:25:00
搜索系统与导航系统的关系
2009-09-08 12:44:00
Mootools 1.2教程(12)——用Drag.Move实现拖拽和拖放
2008-12-05 12:29:00
vertical-align表单元素垂直对齐
2009-07-27 13:02:00
Python画图时如何调用本地字体
2023-08-02 08:51:31
python实现括号匹配的思路详解
2023-08-24 16:50:30
请站在用户的角度上说话
2009-05-12 12:03:00