Python编程
搜索
分类

Python实现抓取HTML网页并以PDF文件形式保存的方法

作者：Limerence 时间：2022-12-15 22:56:30　

本文实例讲述了Python实现抓取HTML网页并以PDF文件形式保存的方法。分享给大家供大家参考，具体如下：

一、前言

今天介绍将HTML网页抓取下来，然后以PDF保存，废话不多说直接进入教程。

今天的例子以廖雪峰老师的Python教程网站为例：http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000

二、准备工作

1. PyPDF2的安装使用（用来合并PDF）：

PyPDF2版本：1.25.1

https://pypi.python.org/pypi/PyPDF2/1.25.1

或

https://github.com/mstamy2/PyPDF2

安装：


pip install PyPDF2

使用示例：


from PyPDF2 import PdfFileMerger
merger = PdfFileMerger()
input1 = open("hql_1_20.pdf", "rb")
input2 = open("hql_21_40.pdf", "rb")
merger.append(input1)
merger.append(input2)
# Write to an output PDF document
output = open("hql_all.pdf", "wb")
merger.write(output)

2. requests、beautifulsoup 是爬虫两大神器，reuqests 用于网络请求，beautifusoup 用于操作 html 数据。有了这两把梭子，干起活来利索。scrapy 这样的爬虫框架我们就不用了，这样的小程序派上它有点杀鸡用牛刀的意思。此外，既然是把 html 文件转为 pdf，那么也要有相应的库支持， wkhtmltopdf 就是一个非常的工具，它可以用适用于多平台的 html 到 pdf 的转换，pdfkit 是 wkhtmltopdf 的Python封装包。首先安装好下面的依赖包


pip install requests
pip install beautifulsoup4
pip install pdfkit

3. 安装 wkhtmltopdf

Windows平台直接在 http://wkhtmltopdf.org/downloads.html 下载稳定版的 wkhtmltopdf 进行安装，安装完成之后把该程序的执行路径加入到系统环境 $PATH 变量中，否则 pdfkit 找不到 wkhtmltopdf 就出现错误 “No wkhtmltopdf executable found”。Ubuntu 和 CentOS 可以直接用命令行进行安装


$ sudo apt-get install wkhtmltopdf # ubuntu
$ sudo yum intsall wkhtmltopdf   # centos

三、数据准备

1. 获取每篇文章的url


def get_url_list():
 """
 获取所有URL目录列表
 :return:
 """
 response = requests.get("http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000")
 soup = BeautifulSoup(response.content, "html.parser")
 menu_tag = soup.find_all(class_="uk-nav uk-nav-side")[1]
 urls = []
 for li in menu_tag.find_all("li"):
   url = "http://www.liaoxuefeng.com" + li.a.get('href')
   urls.append(url)
 return urls

2. 通过文章url用模板保存每篇文章的HTML文件

html模板：


html_template = """
<!DOCTYPE html>
<html lang="en">
<head>
 <meta charset="UTF-8">
</head>
<body>
{content}
</body>
</html>
"""

进行保存：


def parse_url_to_html(url, name):
 """
 解析URL，返回HTML内容
 :param url:解析的url
 :param name: 保存的html文件名
 :return: html
 """
 try:
   response = requests.get(url)
   soup = BeautifulSoup(response.content, 'html.parser')
   # 正文
   body = soup.find_all(class_="x-wiki-content")[0]
   # 标题
   title = soup.find('h4').get_text()
   # 标题加入到正文的最前面，居中显示
   center_tag = soup.new_tag("center")
   title_tag = soup.new_tag('h1')
   title_tag.string = title
   center_tag.insert(1, title_tag)
   body.insert(1, center_tag)
   html = str(body)
   # body中的img标签的src相对路径的改成绝对路径
   pattern = "(<img .*?src=\")(.*?)(\")"
   def func(m):
     if not m.group(3).startswith("http"):
       rtn = m.group(1) + "http://www.liaoxuefeng.com" + m.group(2) + m.group(3)
       return rtn
     else:
       return m.group(1)+m.group(2)+m.group(3)
   html = re.compile(pattern).sub(func, html)
   html = html_template.format(content=html)
   html = html.encode("utf-8")
   with open(name, 'wb') as f:
     f.write(html)
   return name
 except Exception as e:
   logging.error("解析错误", exc_info=True)

3. 把html转换成pdf


def save_pdf(htmls, file_name):
 """
 把所有html文件保存到pdf文件
 :param htmls: html文件列表
 :param file_name: pdf文件名
 :return:
 """
 options = {
   'page-size': 'Letter',
   'margin-top': '0.75in',
   'margin-right': '0.75in',
   'margin-bottom': '0.75in',
   'margin-left': '0.75in',
   'encoding': "UTF-8",
   'custom-header': [
     ('Accept-Encoding', 'gzip')
   ],
   'cookie': [
     ('cookie-name1', 'cookie-value1'),
     ('cookie-name2', 'cookie-value2'),
   ],
   'outline-depth': 10,
 }
 pdfkit.from_file(htmls, file_name, options=options)

4. 把转换好的单个PDF合并为一个PDF


merger = PdfFileMerger()
for pdf in pdfs:
 merger.append(open(pdf,'rb'))
 print u"合并完成第"+str(i)+'个pdf'+pdf

完整源码：


# coding=utf-8
import os
import re
import time
import logging
import pdfkit
import requests
from bs4 import BeautifulSoup
from PyPDF2 import PdfFileMerger
html_template = """
<!DOCTYPE html>
<html lang="en">
<head>
 <meta charset="UTF-8">
</head>
<body>
{content}
</body>
</html>
"""
def parse_url_to_html(url, name):
 """
 解析URL，返回HTML内容
 :param url:解析的url
 :param name: 保存的html文件名
 :return: html
 """
 try:
   response = requests.get(url)
   soup = BeautifulSoup(response.content, 'html.parser')
   # 正文
   body = soup.find_all(class_="x-wiki-content")[0]
   # 标题
   title = soup.find('h4').get_text()
   # 标题加入到正文的最前面，居中显示
   center_tag = soup.new_tag("center")
   title_tag = soup.new_tag('h1')
   title_tag.string = title
   center_tag.insert(1, title_tag)
   body.insert(1, center_tag)
   html = str(body)
   # body中的img标签的src相对路径的改成绝对路径
   pattern = "(<img .*?src=\")(.*?)(\")"
   def func(m):
     if not m.group(3).startswith("http"):
       rtn = m.group(1) + "http://www.liaoxuefeng.com" + m.group(2) + m.group(3)
       return rtn
     else:
       return m.group(1)+m.group(2)+m.group(3)
   html = re.compile(pattern).sub(func, html)
   html = html_template.format(content=html)
   html = html.encode("utf-8")
   with open(name, 'wb') as f:
     f.write(html)
   return name
 except Exception as e:
   logging.error("解析错误", exc_info=True)
def get_url_list():
 """
 获取所有URL目录列表
 :return:
 """
 response = requests.get("http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000")
 soup = BeautifulSoup(response.content, "html.parser")
 menu_tag = soup.find_all(class_="uk-nav uk-nav-side")[1]
 urls = []
 for li in menu_tag.find_all("li"):
   url = "http://www.liaoxuefeng.com" + li.a.get('href')
   urls.append(url)
 return urls
def save_pdf(htmls, file_name):
 """
 把所有html文件保存到pdf文件
 :param htmls: html文件列表
 :param file_name: pdf文件名
 :return:
 """
 options = {
   'page-size': 'Letter',
   'margin-top': '0.75in',
   'margin-right': '0.75in',
   'margin-bottom': '0.75in',
   'margin-left': '0.75in',
   'encoding': "UTF-8",
   'custom-header': [
     ('Accept-Encoding', 'gzip')
   ],
   'cookie': [
     ('cookie-name1', 'cookie-value1'),
     ('cookie-name2', 'cookie-value2'),
   ],
   'outline-depth': 10,
 }
 pdfkit.from_file(htmls, file_name, options=options)
def main():
 start = time.time()
 file_name = u"liaoxuefeng_Python3_tutorial"
 urls = get_url_list()
 for index, url in enumerate(urls):
  parse_url_to_html(url, str(index) + ".html")
 htmls =[]
 pdfs =[]
 for i in range(0,124):
   htmls.append(str(i)+'.html')
   pdfs.append(file_name+str(i)+'.pdf')
   save_pdf(str(i)+'.html', file_name+str(i)+'.pdf')
   print u"转换完成第"+str(i)+'个html'
 merger = PdfFileMerger()
 for pdf in pdfs:
   merger.append(open(pdf,'rb'))
   print u"合并完成第"+str(i)+'个pdf'+pdf
 output = open(u"廖雪峰Python_all.pdf", "wb")
 merger.write(output)
 print u"输出PDF成功！"
 for html in htmls:
   os.remove(html)
   print u"删除临时文件"+html
 for pdf in pdfs:
   os.remove(pdf)
   print u"删除临时文件"+pdf
 total_time = time.time() - start
 print(u"总共耗时：％f 秒" ％ total_time)
if __name__ == '__main__':
 main()

更多Python相关内容感兴趣的读者可查看本站专题：《Python文件与目录操作技巧汇总》、《Python编码操作技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》及《Python入门与进阶经典教程》

希望本文所述对大家Python程序设计有所帮助。

来源：https://blog.csdn.net/hubaoquanu/article/details/66973149

标签：Python,HTML,PDF文件
0
投稿

猜你喜欢

  • Asp的上下午时间格式问题

    2009-04-13 16:06:00

  • python中的Reportlab模块详解最新推荐

    2023-04-09 21:33:46

  • 国外新闻报纸排版布局设计欣赏

    2008-02-25 23:14:00

  • 解决Go语言time包数字与时间相乘的问题

    2023-08-06 17:07:55

  • Css Reset(复位)整理

    2008-09-09 21:58:00

  • JavaScript十二月新标准ECMA262v5快速浏览

    2009-12-27 12:56:00

  • 保护Access 2000数据库的安全

    2008-10-23 13:55:00

  • 在javascript中如何取整？

    2009-06-07 18:34:00

  • Python多重继承的方法解析执行顺序实例分析

    2021-06-08 04:34:51

  • python在windows命令行下输出彩色文字的方法

    2021-11-10 09:20:36

  • FF和IE之间7个JavaScript的差异[译]

    2009-05-04 18:19:00

  • Dreamweaver里使用层的一些建议

    2010-03-25 12:27:00

  • 对python条件表达式的四种实现方法小结

    2023-11-05 17:01:58

  • python 字符串的驻留机制及优缺点

    2022-11-16 10:07:37

  • JS截取字符串常用方法详细整理

    2023-07-04 03:37:49

  • python groupby函数实现分组后选取最值

    2022-06-02 09:27:45

  • python中实现迭代器（iterator）的方法示例

    2021-07-12 19:32:41

  • 6个卓越Web设计细节[译]

    2010-03-24 18:34:00

  • Python中的函数参数传递问题

    2023-09-28 05:38:12

  • 引起用户注意的界面方式

    2007-10-07 21:17:00
    • asp之家 网络编程 m.aspxhome.com