admin管理员组文章数量:1530325
本次内容:
Python采集网站数据内容, 并把详情信息保存PDF
本次使用开发环境:
- Python 3.8
- Pycharm 2021.2专业版
- 保存PDF 需要 wkhtmltopdf 安装包
以上环境都可以点击领取
模块使用:
需安装模块
- requests 数据请求模块
安装方法：pip install requests - parsel 数据解析模块 pip install parsel
- pdfkit PDF模块 pip install pdfkit
内置模块（不许安装）
- re 正则表达式 内置模块
- json 字符串转Json数据 内置模块
- csv 保存csv模块 内置模块
- time 时间模块 内置模块
如何安装模块
- win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车
- 在pycharm中点击Terminal(终端) 输入安装命令
本节课的案例思路(爬虫最基本思路流程):
一. 数据来源分析
- 确定我们想要数据内容是什么? 音乐
- 通过开发者工具进行抓包分析, 分析数据来源 >>> 音乐播放地址是从哪里的
二. 代码实现步骤 爬虫四部曲: 发送请求 >>> 获取数据 >>> 解析数据 >>> 保存数据
- 发送请求, 对于什么url发送什么请求, 携带headers伪装
网址
发送请求get请求 - 获取数据, 获取服务器返回响应数据
- 解析数据, 提取我们想要数据内容 职位相关信息数据
- 保存数据, 保存文本/数据库/表格… csv表格数据
- 多页数据采集
代码展示
相对应的安装包/安装教程/激活码/使用教程/学习资料/工具插件 可以点击免费领取
首先导入模块
import requests
import parsel # 数据解析模块 pip install parsel
import pdfkit # pip install pdfkit
# 导入正则表达式模块
import re # 内置模块
# 导入json
import json # 内置模块
# 导入格式化输出模块
import pprint # 内置模块
# 导入csv模块
import csv # 内置模块
# 导入时间模块
import time
1. 发送请求
def get_job_content(title, html_url):
# url = '详情页网址自己复制一下哦~' # 招聘详情页
html_str = """
<!doctype html>
<html lang="en">
<head>
<meta charset="UTF-8">
<title>Document</title>
</head>
<body>
{article}
</body>
</html>
"""
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36',
}
response = requests.get(url=html_url, headers=headers, proxies=<版权声明：本文标题：Python采集网站数据内容, 并把详情信息保存PDF 内容由热心网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://m.elefans.com/xitong/1725442306a1023720.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。
发表评论