Python爬虫实战，完整的思路和步骤（附源码）

小的时候心中总有十万个为什么类似的问题，今天带大家爬取一个问答类的网站。

本堂课使用正则表达式对文本类的数据进行提取，正则表达式是数据提取的通用方法。

环境介绍：

python 3.6

pycharm

requests

re

json

爬虫的一般思路

1、确定爬取的url路径，headers参数

2、发送请求 – requests 模拟浏览器发送请求，获取响应数据

3、解析数据 – re模块：提供全部的正则表达式功能

4、保存数据 – 保存json格式的数据

完整步骤：

1、安装库和导入模块

如果没有安装库的，可以WIN+R，然后输入cmd，最后输入代码安装

pip install requests

安装完成后可以输入代码查看你安装过所有的库：

pip list

导入模块

import requests 
import re import json

2、确定爬取的url路径，headers参数

base_url = 'https://www.guokr.com/ask/highlight/'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}

3、发送请求 – requests 模拟浏览器发送请求，获取响应数据

response = requests.get(base_url, headers=headers)
data = response.text

4、解析数据 – re模块：提供全部的正则表达式功能

href="https://www.guokr.com/question/669761/">印度人把男人的生殖器叫林伽，把女人的生殖器叫瑜尼，林伽和瑜尼的交合，便是瑜伽。这是真还是假的</a></h2>

编译正则表达式 预编译的代码对象比直接使用字符串要快，因为解释器在执行字符串形式的代码前都必须把字符串编译成代码对象

pattern = re.compile('<h2><a target="_blank" href="(.*?)">(.*?)</a></h2>', re.S)
pattern_list = pattern.findall(data)  # -->list
 
# json [{[]}]{}
# 构建json数据格式
data_list = []
 
for i in pattern_list:
    data_dict = {}
    data_dict['title'] = i[1]
    data_dict['href'] = i[0]
 
    data_list.append(data_dict)

5、保存json格式的文件

with open("guoke01.json", 'w', encoding='utf-8') as f:
    f.write(json_data_list)

6.构建一个循环爬取

for page in range(1, 101):
    print("====正在爬取第{}业数据====\n".format(page))

优化代码，把page传递进去

base_url = 'https://www.guokr.com/ask/highlight/?page={}'.format(str(page))

把列表添加到for循环上面去

data_list = []

最后运行代码，效果如下图：

关于Python技术储备

学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

四、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

五、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

这份完整版的Python全套学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】