Python中如何使用正則表達(dá)式對(duì)文本類(lèi)的數(shù)據(jù)進(jìn)行提取

小編給大家分享一下Python中如何使用正則表達(dá)式對(duì)文本類(lèi)的數(shù)據(jù)進(jìn)行提取，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

環(huán)境介紹：

python 3.6

pycharm

requests

re

json

爬蟲(chóng)的一般思路

1、確定爬取的url路徑，headers參數(shù)

2、發(fā)送請(qǐng)求 -- requests 模擬瀏覽器發(fā)送請(qǐng)求，獲取響應(yīng)數(shù)據(jù)

3、解析數(shù)據(jù) -- re模塊：提供全部的正則表達(dá)式功能

4、保存數(shù)據(jù) -- 保存json格式的數(shù)據(jù)

完整步驟：

1、安裝庫(kù)和導(dǎo)入模塊

如果沒(méi)有安裝庫(kù)的，可以WIN+R，然后輸入cmd，最后輸入代碼安裝

pip install requests

安裝完成后可以輸入代碼查看你安裝過(guò)所有的庫(kù)：

pip list

導(dǎo)入模塊

import requests 
import re import json

2、確定爬取的url路徑，headers參數(shù)

base_url = 'https://www.guokr.com/ask/highlight/'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}

3、發(fā)送請(qǐng)求 -- requests 模擬瀏覽器發(fā)送請(qǐng)求，獲取響應(yīng)數(shù)據(jù)

response = requests.get(base_url, headers=headers)
data = response.text

4、解析數(shù)據(jù) -- re模塊：提供全部的正則表達(dá)式功能

href="https://www.guokr.com/question/669761/">印度人把男人的生殖器叫林伽，把女人的生殖器叫瑜尼，林伽和瑜尼的交合，便是瑜伽。這是真還是假的</a></h3>

編譯正則表達(dá)式 預(yù)編譯的代碼對(duì)象比直接使用字符串要快，因?yàn)榻忉屍髟趫?zhí)行字符串形式的代碼前都必須把字符串編譯成代碼對(duì)象

pattern = re.compile('<h3><a target="_blank">

5、保存json格式的文件

with open("guoke01.json", 'w', encoding='utf-8') as f:
    f.write(json_data_list)

6.構(gòu)建一個(gè)循環(huán)爬取

for page in range(1, 101):
    print("====正在爬取第{}業(yè)數(shù)據(jù)====\n".format(page))

優(yōu)化代碼，把page傳遞進(jìn)去

base_url = 'https://www.guokr.com/ask/highlight/?page={}'.format(str(page))

把列表添加到for循環(huán)上面去

data_list = []

最后運(yùn)行代碼，效果如下圖：

以上是“Python中如何使用正則表達(dá)式對(duì)文本類(lèi)的數(shù)據(jù)進(jìn)行提取”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注億速云行業(yè)資訊頻道！