溫馨提示×

您好，登錄后才能下訂單哦！

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

使用正則表達(dá)式怎么實(shí)現(xiàn)一個(gè)Python爬蟲(chóng)

發(fā)布時(shí)間：2021-03-26 15:22:46 來(lái)源：億速云 閱讀：139 作者：Leah 欄目：開(kāi)發(fā)技術(shù)

今天就跟大家聊聊有關(guān)使用正則表達(dá)式怎么實(shí)現(xiàn)一個(gè)Python爬蟲(chóng)，可能很多人都不太了解，為了讓大家更加了解，小編給大家總結(jié)了以下內(nèi)容，希望大家根據(jù)這篇文章可以有所收獲。

正則表達(dá)式的使用

re.match(pattern,string,flags=0)

re.match嘗試從字符串的起始位置匹配一個(gè)模式，如果不是起始位置匹配成功的話，match()就返回none

參數(shù)介紹：

pattern:正則表達(dá)式

string：匹配的目標(biāo)字符串

flags：匹配模式

正則表達(dá)式的匹配模式：

使用正則表達(dá)式怎么實(shí)現(xiàn)一個(gè)Python爬蟲(chóng)

最常規(guī)的匹配

import re
content ='hello 123456 World_This is a Regex Demo'
print(len(content))
result = re.match('^hello\s\d{6}\s\w{10}.*Demo$$',content)
print(result)
print(result.group()) #返回匹配結(jié)果
print(result.span()) #返回匹配結(jié)果的范圍

結(jié)果運(yùn)行如下：

39
<_sre.SRE_Match object; span=(0, 39), match='hello 123456 World_This is a Regex Demo'>
hello 123456 World_This is a Regex Demo
(0, 39)

泛匹配

使用（.*）匹配更多內(nèi)容

import re
content ='hello 123456 World_This is a Regex Demo'
result = re.match('^hello.*Demo$',content)
print(result)
print(result.group())

結(jié)果運(yùn)行如下：

<_sre.SRE_Match object; span=(0, 39), match='hello 123456 World_This is a Regex Demo'>
hello 123456 World_This is a Regex Demo

匹配目標(biāo)

在正則表達(dá)式中使用（）將要獲取的內(nèi)容括起來(lái)

使用group(1)獲取第一處，group(2)獲取第二處，如此可以提取我們想要獲取的內(nèi)容

import re
content ='hello 123456 World_This is a Regex Demo'
result = re.match('^hello\s(\d{6})\s.*Demo$',content)
print(result)
print(result.group(1))#獲取匹配目標(biāo)

結(jié)果運(yùn)行如下：

<_sre.SRE_Match object; span=(0, 39), match='hello 123456 World_This is a Regex Demo'>
123456

貪婪匹配

import re
content ='hello 123456 World_This is a Regex Demo'
result = re.match('^he.*(\d+).*Demo$',content)
print(result)
print(result.group(1))

注意：.*會(huì)盡可能的多匹配字符

非貪婪匹配

import re
content ='hello 123456 World_This is a Regex Demo'
result = re.match('^he.*?(\d+).*Demo$',content)
print(result)
print(result.group(1))　

注意：.*?會(huì)盡可能匹配少的字符

使用匹配模式

在解析HTML代碼時(shí)會(huì)有換行，這時(shí)我們就要使用re.S

import re
content ='hello 123456 World_This ' \
'is a Regex Demo'
result = re.match('^he.*?(\d+).*?Demo$',content,re.S)
print(result)
print(result.group(1))

運(yùn)行結(jié)果如下：

<_sre.SRE_Match object; span=(0, 39), match='hello 123456 World_This is a Regex Demo'>
123456

轉(zhuǎn)義

在解析過(guò)程中遇到特殊字符，就需要做轉(zhuǎn)義，比如下面的$符號(hào)。

import re
content = 'price is $5.00'
result = re.match('^price.*\$5\.00',content)
print(result.group())

總結(jié)：盡量使用泛匹配，使用括號(hào)得到匹配目標(biāo)，盡量使用非貪婪模式，有換行就用re.S

re.search(pattern,string,flags=0)

re.search掃描整個(gè)字符串并返回第一個(gè)成功的匹配。

比如我想要提取字符串中的123456，使用match方法無(wú)法提取，只能使用search方法。

import re
content ='hello 123456 World_This is a Regex Demo'
result = re.match('\d{6}',content)
print(result)
import re
content ='hello 123456 World_This is a Regex Demo'
result = re.search('\d{6}',content)
print(result)
print(result.group())

運(yùn)行結(jié)果如下：

<_sre.SRE_Match object; span=(6, 12), match='123456'>

匹配演練

可以匹配代碼里結(jié)構(gòu)相同的部分，這樣可以返回你需要的內(nèi)容

import re
content = '<a title="2009年中信出版社出版圖書(shū)" href="/doc/2703035-2853985.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" rel="external nofollow" target="_blank" data-log="old:2703035-2853885,new:2703035-2853985" data-cid="sense-list">2009年中信出版社出版圖書(shū)</a>'
result = re.search('<a.*?new:\d{7}-\d{7}.*?>(.*?)</a>',content)
print(result.group(1))
2009年中信出版社出版圖書(shū)
re.findall(pattern,string,flags=0)

搜索字符串，以列表形式返回全部能匹配的字串

import re
html ='''
<li>
<a title="網(wǎng)絡(luò)歌曲" href="/doc/2703035-2853927.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" target="_blank" data-log="old:2703035-2853885,new:2703035-2853927" data-cid="sense-list">網(wǎng)絡(luò)歌曲</a>
</li>
<li>
<a title="2009年中信出版社出版圖書(shū)" href="/doc/2703035-2853985.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" rel="external nofollow" target="_blank" data-log="old:2703035-2853885,new:2703035-2853985" data-cid="sense-list">2009年中信出版社出版圖書(shū)</a>
</li>
'''
result = re.findall('<a.*?new:\d{7}-\d{7}.*?>(.*?)</a>',html,re.S)
count = 0
for list in result:
  print(result[count])
  count+=1
網(wǎng)絡(luò)歌曲
2009年中信出版社出版圖書(shū)
re.sub( pattern，repl，string，count，flags)

re.sub共有五個(gè)參數(shù)

三個(gè)必選參數(shù) pattern，repl，string

兩個(gè)可選參數(shù)count，flags

替換字符串中每一個(gè)匹配的字符串后替換后的字符串

import re
content = 'hello 123456 World_This is a Regex Demo'
content = re.sub('\d+','',content)
print(content)

運(yùn)行結(jié)果如下：

hello  World_This is a Regex Demo
import re
content = 'hello 123456 World_This is a Regex Demo'
content = re.sub('\d+','what',content)
print(content)

運(yùn)行結(jié)果如下：

hello what World_This is a Regex Demo
import re
content = 'hello 123456 World_This is a Regex Demo'
content = re.sub('(\d+)',r'\1 789',content)
print(content)

運(yùn)行結(jié)果如下：

hello 123456 789 World_This is a Regex Demo

注意：這里\1代表前面匹配的123456

演練

在這里我們替換li標(biāo)簽

import re
html ='''
<li>
<a title="網(wǎng)絡(luò)歌曲" href="/doc/2703035-2853927.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" target="_blank" data-log="old:2703035-2853885,new:2703035-2853927" data-cid="sense-list">網(wǎng)絡(luò)歌曲</a>
</li>
<li>
<a title="2009年中信出版社出版圖書(shū)" href="/doc/2703035-2853985.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" rel="external nofollow" target="_blank" data-log="old:2703035-2853885,new:2703035-2853985" data-cid="sense-list">2009年中信出版社出版圖書(shū)</a>
</li>
'''
html = re.sub('<li>|</li>','',html)
print(html)

運(yùn)行結(jié)果如下，里面就沒(méi)有l(wèi)i標(biāo)簽

<a title="網(wǎng)絡(luò)歌曲" href="/doc/2703035-2853927.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" target="_blank" data-log="old:2703035-2853885,new:2703035-2853927" data-cid="sense-list">網(wǎng)絡(luò)歌曲</a>
<a title="2009年中信出版社出版圖書(shū)" href="/doc/2703035-2853985.html" rel="external nofollow" rel="external nofollow" rel="external nofollow" rel="external nofollow" target="_blank" data-log="old:2703035-2853885,new:2703035-2853985" data-cid="sense-list">2009年中信出版社出版圖書(shū)</a>
compile(pattern [, flags])

該函數(shù)根據(jù)包含的正則表達(dá)式的字符串創(chuàng)建模式對(duì)象?？梢詫?shí)現(xiàn)更有效率的匹配

將正則表達(dá)式編譯成正則表達(dá)式對(duì)象，以便于復(fù)用該匹配模式

import re
content = 'hello 123456 ' \
'World_This is a Regex Demo'
pattern = re.compile('hello.*?Demo',re.S)
result = re.match(pattern,content)
print(result.group())　

運(yùn)行結(jié)果如下：

hello 123456 World_This is a Regex Demo

綜合使用

import re
html = '''
<div class="slide-page"  data-index="1">
    <a class="item" target="_blank" href="https://movie.douban.com/subject/26725678/?tag=熱門&from=gaia">
      <div class="cover-wp" data-isnew="false" data-id="26725678">
        <img src="https://img1.doubanio.com/view/photo/s_ratio_poster/public/p2525020357.jpg" alt="解除好友2：暗網(wǎng)" data-x="694" data-y="1000">
      </div>
      <p>
        解除好友2：暗網(wǎng)
          <strong>7.9</strong>
      </p>
    </a>
    <a class="item" target="_blank" href="https://movie.douban.com/subject/26916229/?tag=熱門&from=gaia_video">
      <div class="cover-wp" data-isnew="false" data-id="26916229">
        <img src="https://img1.doubanio.com/view/photo/s_ratio_poster/public/p2532008868.jpg" alt="鐮倉(cāng)物語(yǔ)" data-x="2143" data-y="2993">
      </div>
      <p>
        鐮倉(cāng)物語(yǔ)
          <strong>6.9</strong>
      </p>
    </a>
    <a class="item" target="_blank" href="https://movie.douban.com/subject/26683421/?tag=熱門&from=gaia">
      <div class="cover-wp" data-isnew="false" data-id="26683421">
        <img src="https://img3.doubanio.com/view/photo/s_ratio_poster/public/p2528281606.jpg" alt="特工" data-x="690" data-y="986">
      </div>
      <p>
        特工
          <strong>8.3</strong>
      </p>
    </a>
    <a class="item" target="_blank" href="https://movie.douban.com/subject/27072795/?tag=熱門&from=gaia">
      <div class="cover-wp" data-isnew="false" data-id="27072795">
        <img src="https://img3.doubanio.com/view/photo/s_ratio_poster/public/p2521583093.jpg" alt="幸福的拉扎羅" data-x="640" data-y="914">
      </div>
      <p>
        幸福的拉扎羅
          <strong>8.6</strong>
      </p>
    </a>
    <a class="item" target="_blank" href="https://movie.douban.com/subject/27201353/?tag=熱門&from=gaia_video">
      <div class="cover-wp" data-isnew="false" data-id="27201353">
        <img src="https://img1.doubanio.com/view/photo/s_ratio_poster/public/p2528842218.jpg" alt="大師兄" data-x="679" data-y="950">
      </div>
      <p>
        大師兄
          <strong>5.2</strong>
      </p>
    </a>
    <a class="item" target="_blank" href="https://movie.douban.com/subject/30146756/?tag=熱門&from=gaia_video">
      <div class="cover-wp" data-isnew="false" data-id="30146756">
        <img src="https://img3.doubanio.com/view/photo/s_ratio_poster/public/p2530872223.jpg" alt="風(fēng)語(yǔ)咒" data-x="1079" data-y="1685">
      </div>
      <p>
        風(fēng)語(yǔ)咒
          <strong>6.9</strong>
      </p>
    </a>
    <a class="item" target="_blank" href="https://movie.douban.com/subject/26630714/?tag=熱門&from=gaia">
      <div class="cover-wp" data-isnew="false" data-id="26630714">
        <img src="https://img3.doubanio.com/view/photo/s_ratio_poster/public/p2530591543.jpg" alt="精靈旅社3：瘋狂假期" data-x="1063" data-y="1488">
      </div>
      <p>
        精靈旅社3：瘋狂假期
          <strong>6.8</strong>
      </p>
    </a>
    <a class="item" target="_blank" href="https://movie.douban.com/subject/25882296/?tag=熱門&from=gaia_video">
      <div class="cover-wp" data-isnew="false" data-id="25882296">
        <img src="https://img3.doubanio.com/view/photo/s_ratio_poster/public/p2526405034.jpg" alt="狄仁杰之四大天王" data-x="2500" data-y="3500">
      </div>
      <p>
        狄仁杰之四大天王
          <strong>6.2</strong>
      </p>
    </a>
    <a class="item" target="_blank" href="https://movie.douban.com/subject/26804147/?tag=熱門&from=gaia_video">
      <div class="cover-wp" data-isnew="false" data-id="26804147">
        <img src="https://img3.doubanio.com/view/photo/s_ratio_poster/public/p2527484082.jpg" alt="摩天營(yíng)救" data-x="1371" data-y="1920">
      </div>
      <p>
        摩天營(yíng)救
          <strong>6.4</strong>
      </p>
    </a>
    <a class="item" target="_blank" href="https://movie.douban.com/subject/24773958/?tag=熱門&from=gaia_video">
      <div class="cover-wp" data-isnew="false" data-id="24773958">
        <img src="https://img3.doubanio.com/view/photo/s_ratio_poster/public/p2517753454.jpg" alt="復(fù)仇者聯(lián)盟3：無(wú)限戰(zhàn)爭(zhēng)" data-x="1968" data-y="2756">
      </div>
      <p>
        復(fù)仇者聯(lián)盟3：無(wú)限戰(zhàn)爭(zhēng)
          <strong>8.1</strong>
      </p>
    </a>
  </div>
'''
count = 0
for list in result:
  print(result[count])
  count+=1

運(yùn)行結(jié)果如下：

('解除好友2：暗網(wǎng)', '7.9')
('鐮倉(cāng)物語(yǔ)', '6.9')
('特工', '8.3')
('幸福的拉扎羅', '8.6')
('大師兄', '5.2')
('風(fēng)語(yǔ)咒', '6.9')
('精靈旅社3：瘋狂假期', '6.8')
('狄仁杰之四大天王', '6.2')
('摩天營(yíng)救', '6.4')
('復(fù)仇者聯(lián)盟3：無(wú)限戰(zhàn)爭(zhēng)', '8.1')

看完上述內(nèi)容，你們對(duì)使用正則表達(dá)式怎么實(shí)現(xiàn)一個(gè)Python爬蟲(chóng)有進(jìn)一步的了解嗎？如果還想了解更多知識(shí)或者相關(guān)內(nèi)容，請(qǐng)關(guān)注億速云行業(yè)資訊頻道，感謝大家的支持。

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明：本站發(fā)布的內(nèi)容（圖片、視頻和文字）以原創(chuàng)、轉(zhuǎn)載和分享為主，文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱：is@yisu.com進(jìn)行舉報(bào)，并提供相關(guān)證據(jù)，一經(jīng)查實(shí)，將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI
助
手