批量下载文档有救了:Python下载某网站文档保存PDF
迪丽瓦拉
2025-05-31 15:27:30
0

人生苦短,我用python

最近毕业季要做毕业设计的同学真的特别多

需要大量文献、文档、PDF但是不想因为这个花money的

举起你们的双手!!!

接下来就以某度某库为例,

下载我们想要的文档并保存为PDF!

源码资料电子书:点击此处跳转文末名片获取

在这里插入图片描述


基本开发环境💨

Python 3.6
Pycharm

相关模块的使用💨

import requests
import parsel
import re
import os
import pdfkit

安装Python并添加到环境变量,
pip安装需要的相关模块即可。

需要使用到一个软件 wkhtmltopdf
这个软件的作用就是把html文件转成PDF

想要把文档内容保存成PDF,
首先保存成html文件,
然后把html文件转PDF

在这里插入图片描述

💥需求数据来源分析

请添加图片描述

网站分类有比较多种,
也可以选择自己要爬取的。

这个网站如果你只是正常直接去复制文章内容的话,
会直接弹出需要money的窗口…

在这里插入图片描述

但是这个网站上面的数据内容又非常好找,
因为网站本身仅仅只是静态网页数据,
可以直接获取相关的内容。

请添加图片描述

通过上述内容,
如果想要批量下载文章内容,
获取每篇文章的url地址即可,
想要获取每篇文章的url地址,
这就需要去文章的列表页面找寻相关的数据内容了。

请添加图片描述

在这里插入图片描述

💥整体思路

  1. 发送请求,对于文章列表url地址发送请求
  2. 获取数据,获取网页源代码数据内容
  3. 解析数据,提取文章url地址
  4. 发送请求,对于文章url地址发送请求
  5. 获取数据,获取网页源代码数据内容
  6. 解析数据,提取文章标题以及文章内容
  7. 保存数据,把获取的数据内容保存成PDF
  8. 转成PDF文件

💥代码实现

import requests
import parsel
import re
import os
import pdfkithtml_filename = 'html\\'
if not os.path.exists(html_filename):os.mkdir(html_filename)pdf_filename = 'pdf\\'
if not os.path.exists(pdf_filename):os.mkdir(pdf_filename)html_str = """


Document


{article}


"""def change_title(name):pattern = re.compile(r"[\/\\\:\*\?\"\<\>\|]")  # '/ \ : * ? " < > |'new_title = re.sub(pattern, "_", name)  # 替换为下划线return new_titlefor page in range(1, 11):print(f'正在爬取第{page}页数据内容')url = f'https:/自己替换一下/zlist-55-{page}.html'headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36'}response = requests.get(url=url, headers=headers)href = re.findall('

', response.text)for index in href:response_1 = requests.get(url=index, headers=headers)selector = parsel.Selector(response_1.text)title = selector.css('.content-page-header-div h1::text').get()title = change_title(title)content = selector.css('.content-page-main-content-div').get()article = html_str.format(article=content)html_path = html_filename + title + '.html'pdf_path = pdf_filename + title + '.pdf'try:with open(html_path, mode='w', encoding='utf-8') as f:f.write(article)# exe 文件存放的路径config = pdfkit.configuration(wkhtmltopdf='C:\\Program Files\\wkhtmltopdf\\bin\\wkhtmltopdf.exe')# 把 html 通过 pdfkit 变成 pdf 文件pdfkit.from_file(html_path, pdf_path, configuration=config)print(f'{title}保存成功...')except:pass

💥实现效果

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

👇问题解答 · 源码获取 · 技术交流 · 抱团学习请联系👇

相关内容

热门资讯

linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
C++ 机房预约系统(六):学... 8、 学生模块 8.1 学生子菜单、登录和注销 实现步骤: 在Student.cpp的...
A.机器学习入门算法(三):基... 机器学习算法(三):K近邻(k-nearest neigh...
数字温湿度传感器DHT11模块... 模块实例https://blog.csdn.net/qq_38393591/article/deta...
有限元三角形单元的等效节点力 文章目录前言一、重新复习一下有限元三角形单元的理论1、三角形单元的形函数(Nÿ...
Redis 所有支持的数据结构... Redis 是一种开源的基于键值对存储的 NoSQL 数据库,支持多种数据结构。以下是...
win下pytorch安装—c... 安装目录一、cuda安装1.1、cuda版本选择1.2、下载安装二、cudnn安装三、pytorch...
MySQL基础-多表查询 文章目录MySQL基础-多表查询一、案例及引入1、基础概念2、笛卡尔积的理解二、多表查询的分类1、等...
keil调试专题篇 调试的前提是需要连接调试器比如STLINK。 然后点击菜单或者快捷图标均可进入调试模式。 如果前面...
MATLAB | 全网最详细网... 一篇超超超长,超超超全面网络图绘制教程,本篇基本能讲清楚所有绘制要点&#...
IHome主页 - 让你的浏览... 随着互联网的发展,人们越来越离不开浏览器了。每天上班、学习、娱乐,浏览器...
TCP 协议 一、TCP 协议概念 TCP即传输控制协议(Transmission Control ...
营业执照的经营范围有哪些 营业执照的经营范围有哪些 经营范围是指企业可以从事的生产经营与服务项目,是进行公司注册...
C++ 可变体(variant... 一、可变体(variant) 基础用法 Union的问题: 无法知道当前使用的类型是什...
血压计语音芯片,电子医疗设备声... 语音电子血压计是带有语音提示功能的电子血压计,测量前至测量结果全程语音播报࿰...
MySQL OCP888题解0... 文章目录1、原题1.1、英文原题1.2、答案2、题目解析2.1、题干解析2.2、选项解析3、知识点3...
【2023-Pytorch-检... (肆十二想说的一些话)Yolo这个系列我们已经更新了大概一年的时间,现在基本的流程也走走通了,包含数...
实战项目:保险行业用户分类 这里写目录标题1、项目介绍1.1 行业背景1.2 数据介绍2、代码实现导入数据探索数据处理列标签名异...
记录--我在前端干工地(thr... 这里给大家分享我在网上总结出来的一些知识,希望对大家有所帮助 前段时间接触了Th...
43 openEuler搭建A... 文章目录43 openEuler搭建Apache服务器-配置文件说明和管理模块43.1 配置文件说明...