溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python爬蟲中正則表達式怎么用

發(fā)布時間:2021-08-25 11:21:28 來源:億速云 閱讀:179 作者:小新 欄目:開發(fā)技術

小編給大家分享一下python爬蟲中正則表達式怎么用,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!

- re.I # 忽略大小寫
- re.M # 多行匹配,將正則作用到源數(shù)據(jù)的每一行
- re.S # 單行匹配,將正則作用到整個源數(shù)據(jù),輸出一個整體字符串(包括換行符也打?。?/p>

string = '''fall in love with you
i love you very much
i love she
i love her'''
# 去除以i開頭的每一行數(shù)據(jù)
re.findall('^i.*',string,re.M)

['i love you very much', 'i love she', 'i love her']

#匹配全部行
string1 = """細思極恐
你的隊友在看書
你的敵人在磨刀
你的閨蜜在減肥
隔壁老王在練腰
"""
re.findall('.*',string1,re.S)

['細思極恐\n你的隊友在看書\n你的敵人在磨刀\n你的閨蜜在減肥\n隔壁老王在練腰\n', '']

爬取糗事百科中所有的圖片進行保存

import requests
import re
import urllib
import os

url = 'https://www.qiushibaike.com/pic/page/%d/?s=5170552'
# 自定義請求頭信息
headers = {
  'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.119 Safari/537.36'
}
# 判斷是否存在名為qiutu的文件夾,如果不存在則創(chuàng)建文件夾
if not os.path.exists('./qiutu'):
  os.mkdir('./qiutu')
# 手動輸入開始頁,結(jié)束頁
start_page = int(input('start>>>'))
end_page = int(input('end>>>'))

for page in range(start_page,end_page+1):
  # 按照每頁url形式拼接指定url
  new_url = format(url%page)
  # 發(fā)起請求
  page_text = requests.get(url=new_url,headers=headers).text
  # 使用正則找出page_text頁面中所有圖片url
  img_url_list = re.findall('<div class="thumb">.*?<img src="(.*?)" alt=.*?</div>',page_text,re.S)
  # 給每一個圖片url添加https協(xié)議頭
  for img_url in img_url_list:
    img_url = 'https:' + img_url
     # 將圖片url切割去除圖片名稱,作為存儲時圖片的名稱
    img_name = img_url.split('/')[-1]
    img_path = 'qiutu/' + img_name、
     # 對圖片做持久化存儲
    urllib.request.urlretrieve(url=img_url,filename=img_path)
    print(img_path,'下載成功')
print('over')

看完了這篇文章,相信你對“python爬蟲中正則表達式怎么用”有了一定的了解,如果想了解更多相關知識,歡迎關注億速云行業(yè)資訊頻道,感謝各位的閱讀!

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI