网创优客建站品牌官网
为成都网站建设公司企业提供高品质网站建设
热线:028-86922220
成都专业网站建设公司

定制建站费用3500元

符合中小企业对网站设计、功能常规化式的企业展示型网站建设

成都品牌网站建设

品牌网站建设费用6000元

本套餐主要针对企业品牌型网站、中高端设计、前端互动体验...

成都商城网站建设

商城网站建设费用8000元

商城网站建设因基本功能的需求不同费用上面也有很大的差别...

成都微信网站建设

手机微信网站建站3000元

手机微信网站开发、微信官网、微信商城网站...

建站知识

当前位置:首页 > 建站知识

正则表达式如何在python中爬取问答

了解正则表达式如何在python中爬取问答?这个问题可能是我们日常学习或工作经常见到的。希望通过这个问题能让你收获颇深。下面是小编给大家带来的参考内容,让我们一起来看看吧!

成都创新互联公司坚持“要么做到,要么别承诺”的工作理念,服务领域包括:网站设计、成都网站建设、企业官网、英文网站、手机端网站、网站推广等服务,满足客户于互联网时代的青铜峡网站设计、移动媒体设计的需求,帮助企业找到有效的互联网解决方案。努力成为您成熟可靠的网络建设合作伙伴!

爬虫思路

1、确定爬取的url路径,headers参数

2、发送请求 -- requests 模拟浏览器发送请求,获取响应数据

3、解析数据 -- re模块:提供全部的正则表达式功能

4、保存数据 -- 保存json格式的数据

完整步骤:

确定爬取的url路径,headers参数

正则表达式如何在python中爬取问答

base_url = 'https://www.guokr.com/ask/highlight/'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}

发送请求 -- requests 模拟浏览器发送请求,获取响应数据

response = requests.get(base_url, headers=headers)
data = response.text

解析数据 -- re模块:提供全部的正则表达式功能

href="https://www.guokr.com/question/669761/">印度人把男人的生殖器叫林伽,把女人的生殖器叫瑜尼,林伽和瑜尼的交合,便是瑜伽。这是真还是假的

编译正则表达式 预编译的代码对象比直接使用字符串要快,因为解释器在执行字符串形式的代码前都必须把字符串编译成代码对象

pattern = re.compile('

(.*?)

', re.S) pattern_list = pattern.findall(data)  # -->list # json [{[]}]{} # 构建json数据格式 data_list = []   for i in pattern_list:     data_dict = {}     data_dict['title'] = i[1]     data_dict['href'] = i[0]   data_list.append(data_dict)

保存json格式的文件

with open("guoke01.json", 'w', encoding='utf-8') as f:
f.write(json_data_list)

构建一个循环爬取

for page in range(1, 101):
print("====正在爬取第{}业数据====\n".format(page))

优化代码,把page传递进去

base_url = 'https://www.guokr.com/ask/highlight/?page={}'.format(str(page))

把列表添加到for循环上面去

data_list = []

最后运行代码。

感谢各位的阅读!看完上述内容,你们对正则表达式如何在python中爬取问答大概了解了吗?希望文章内容对大家有所帮助。如果想了解更多相关文章内容,欢迎关注创新互联行业资讯频道。


当前文章:正则表达式如何在python中爬取问答
转载来于:http://bjjierui.cn/article/gjddcd.html

其他资讯