您好,登錄后才能下訂單哦!
BeautifulSoup的使用
我們學(xué)習(xí)了正則表達(dá)式的相關(guān)用法,但是一旦正則寫的有問(wèn)題,可能得到的就不是我們想要的結(jié)果了,而且對(duì)于一個(gè)網(wǎng)頁(yè)來(lái)說(shuō),都有一定的特殊的結(jié)構(gòu)和層級(jí)關(guān)系,而且很多標(biāo)簽都有id或class來(lái)對(duì)作區(qū)分,所以我們借助于它們的結(jié)構(gòu)和屬性來(lái)提取不也是可以的嗎?
所以,這一節(jié)我們就介紹一個(gè)強(qiáng)大的解析工具,叫做BeautiSoup,它就是借助網(wǎng)頁(yè)的結(jié)構(gòu)和屬性等特性來(lái)解析網(wǎng)頁(yè)的工具,有了它我們不用再去寫一些復(fù)雜的正則,只需要簡(jiǎn)單的幾條語(yǔ)句就可以完成網(wǎng)頁(yè)中某個(gè)元素的提取。
廢話不多說(shuō),接下來(lái)我們就來(lái)感受一下BeautifulSoup的強(qiáng)大之處吧。
BeautifulSoup簡(jiǎn)介
簡(jiǎn)單來(lái)說(shuō),BeautifulSoup就是Python的一個(gè)HTML或XML的解析庫(kù),我們可以用它來(lái)方便地從網(wǎng)頁(yè)中提取數(shù)據(jù),官方的解釋如下:
BeautifulSoup提供一些簡(jiǎn)單的、python式的函數(shù)用來(lái)處理導(dǎo)航、搜索、修改分析樹等功能。它是一個(gè)工具箱,通過(guò)解析文檔為用戶提供需要抓取的數(shù)據(jù),因?yàn)楹?jiǎn)單,所以不需要多少代碼就可以寫出一個(gè)完整的應(yīng)用程序。BeautifulSoup自動(dòng)將輸入文檔轉(zhuǎn)換為Unicode編碼,輸出文檔轉(zhuǎn)換為utf-8編碼。你不需要考慮編碼方式,除非文檔沒有指定一個(gè)編碼方式,這時(shí)你僅僅需要說(shuō)明一下原始編碼方式就可以了。BeautifulSoup已成為和lxml、html6lib一樣出色的python解釋器,為用戶靈活地提供不同的解析策略或強(qiáng)勁的速度。
所以說(shuō),利用它我們可以省去很多繁瑣的提取工作,提高解析效率。
安裝
使用之前,我們當(dāng)然需要首先說(shuō)明一下它的安裝方式。目前BeautifulSoup的最新版本是4.x版本,之前的版本已經(jīng)停止開發(fā)了,推薦使用pip來(lái)安裝,安裝命令如下:
pip3installbeautifulsoup4
當(dāng)然也可以從pypi下載whl文件安裝,鏈接如下:
https://pypi.python.org/pypi/beautifulsoup4
好,安裝完成之后可以驗(yàn)證一下,寫一段Python程序試驗(yàn)一下。
運(yùn)行結(jié)果
Hello
如果沒有報(bào)錯(cuò),則證明安裝沒有問(wèn)題,關(guān)于它的解析用法我們?cè)诤竺鏁?huì)詳細(xì)介紹。
注意在這里我們雖然安裝的是beautifulsoup4這個(gè)包,但是在引入的時(shí)候是引入的bs4,這是因?yàn)檫@個(gè)包源代碼本身的庫(kù)文件夾名稱就是bs4,所以安裝完成之后,這個(gè)庫(kù)文件夾就被移入到我們本機(jī)Python3的lib庫(kù)里,所以識(shí)別到的庫(kù)文件名稱就叫做bs4,所以我們引入的時(shí)候就引入bs4這個(gè)包。因此,包本身的名稱和我們使用時(shí)導(dǎo)入的包的名稱并不一定是一致的。
解析器
BeautifulSoup在解析的時(shí)候?qū)嶋H上是依賴于解析器的,它除了支持Python標(biāo)準(zhǔn)庫(kù)中的HTML解析器,還支持一些第三方的解析器比如lxml,下面我們對(duì)BeautifulSoup支持的解析器及它們的一些優(yōu)缺點(diǎn)做一個(gè)簡(jiǎn)單的對(duì)比。
解析器使用方法優(yōu)勢(shì)劣勢(shì)
Python標(biāo)準(zhǔn)庫(kù)BeautifulSoup(markup, "html.parser")Python的內(nèi)置標(biāo)準(zhǔn)庫(kù)、執(zhí)行速度適中 、文檔容錯(cuò)能力強(qiáng)Python 2.7.3 or 3.2.2)前的版本中文容錯(cuò)能力差
lxml HTML 解析器BeautifulSoup(markup, "lxml")速度快、文檔容錯(cuò)能力強(qiáng)需要安裝C語(yǔ)言庫(kù)
lxml XML 解析器BeautifulSoup(markup, "xml")速度快、唯一支持XML的解析器需要安裝C語(yǔ)言庫(kù)
html5libBeautifulSoup(markup, "html5lib")最好的容錯(cuò)性、以瀏覽器的方式解析文檔、生成HTML5格式的文檔速度慢、不依賴外部擴(kuò)展
所以通過(guò)以上對(duì)比可以看出,lxml這個(gè)解析器有解析HTML和XML的功能,而且速度快,容錯(cuò)能力強(qiáng),所以推薦使用這個(gè)庫(kù)來(lái)進(jìn)行解析,但是這里的劣勢(shì)是必須安裝一個(gè)C語(yǔ)言庫(kù),它叫做lxml,我們?cè)谶@里依然使用pip安裝即可,命令如下:
pip3installlxml
安裝完成之后,我們就可以使用lxml這個(gè)解析器來(lái)解析了,在初始化的時(shí)候我們可以把第二個(gè)參數(shù)改為lxml,如下:
運(yùn)行結(jié)果是完全一致的,后面BeautifulSoup的用法實(shí)例也統(tǒng)一用這個(gè)庫(kù)來(lái)演示。
基本使用
下面我們首先用一個(gè)實(shí)例來(lái)感受一下BeautifulSoup的基本使用:
運(yùn)行結(jié)果:
首先我們聲明了一個(gè)變量html,它是一個(gè)HTML字符串,但是注意到,它并不是一個(gè)完整的HTML字符串,<body>和<html>標(biāo)簽都沒有閉合,但是我們將它當(dāng)作第一個(gè)參數(shù)傳給BeautifulSoup對(duì)象,第二個(gè)參數(shù)傳入的是解析器的類型,在這里我們使用lxml,這樣就完成了BeaufulSoup對(duì)象的初始化,將它賦值給soup這個(gè)變量。
那么接下來(lái)我們就可以通過(guò)調(diào)用soup的各個(gè)方法和屬性對(duì)這串HTML代碼解析了。
我們首先調(diào)用了prettify()方法,這個(gè)方法可以把要解析的字符串以標(biāo)準(zhǔn)的縮進(jìn)格式輸出,在這里注意到輸出結(jié)果里面包含了</body>和</html>標(biāo)簽,也就是說(shuō)對(duì)于不標(biāo)準(zhǔn)的HTML字符串BeautifulSoup可以自動(dòng)更正格式,這一步實(shí)際上不是由prettify()方法做的,這個(gè)更正實(shí)際上在初始化BeautifulSoup時(shí)就完成了。
然后我們調(diào)用了soup.title.string,這個(gè)實(shí)際上是輸出了HTML中<title>標(biāo)簽的文本內(nèi)容。所以soup.title就可以選擇出HTML中的<title>標(biāo)簽,再調(diào)用string屬性就可以得到里面的文本了,所以我們就可以通過(guò)簡(jiǎn)單地調(diào)用幾個(gè)屬性就可以完成文本的提取了,是不是非常方便?
標(biāo)簽選擇器
剛才我們選擇元素的時(shí)候直接通過(guò)調(diào)用標(biāo)簽的名稱就可以選擇節(jié)點(diǎn)元素了,然后再調(diào)用string屬性就可以得到標(biāo)簽內(nèi)的文本了,這種選擇方式速度非??欤绻麊蝹€(gè)標(biāo)簽結(jié)構(gòu)話層次非常清晰,可以選用這種方式來(lái)解析。
選擇元素
下面我們?cè)儆靡粋€(gè)例子詳細(xì)說(shuō)明一下它的選擇方法。
運(yùn)行結(jié)果:
在這里我們依然選用了剛才的HTML代碼,我們首先打印輸出了title標(biāo)簽的選擇結(jié)果,輸出結(jié)果正是title標(biāo)簽加里面的文字內(nèi)容。接下來(lái)輸出了它的類型,是bs4.element.Tag類型,這是BeautifulSoup中的一個(gè)重要的數(shù)據(jù)結(jié)構(gòu),經(jīng)過(guò)選擇器選擇之后,選擇結(jié)果都是這種Tag類型,它具有一些屬性比如string屬性,調(diào)用Tag的string屬性,就可以得到節(jié)點(diǎn)的文本內(nèi)容了,所以接下來(lái)的輸出結(jié)果正是節(jié)點(diǎn)的文本內(nèi)容。
接下來(lái)我們又嘗試選擇了head標(biāo)簽,結(jié)果也是標(biāo)簽加其內(nèi)部的所有內(nèi)容,再接下來(lái)選擇了p標(biāo)簽,不過(guò)這次情況比較特殊,我們發(fā)現(xiàn)結(jié)果是第一個(gè)p標(biāo)簽的內(nèi)容,后面的幾個(gè)p標(biāo)簽并沒有選擇到,也就是說(shuō),當(dāng)有多個(gè)標(biāo)簽時(shí),這種選擇方式只會(huì)選擇到第一個(gè)匹配的標(biāo)簽,其他的后面的標(biāo)簽都會(huì)忽略。
提取信息
在上面我們演示了調(diào)用string屬性來(lái)獲取文本的值,那我們要獲取標(biāo)簽屬性值怎么辦呢?獲取標(biāo)簽名怎么辦呢?下面我們來(lái)統(tǒng)一梳理一下信息的提取方式
獲取名稱
可以利用name屬性來(lái)獲取標(biāo)簽的名稱。還是以上面的文本為例,我們選取title標(biāo)簽,然后調(diào)用name屬性就可以得到標(biāo)簽名稱。
print(soup.title.name)
運(yùn)行結(jié)果:
title
獲取屬性
每個(gè)標(biāo)簽可能有多個(gè)屬性,比如id,class等等,我們選擇到這個(gè)節(jié)點(diǎn)元素之后,可以調(diào)用attrs獲取所有屬性。
print(soup.p.attrs)
print(soup.p.attrs['name'])
運(yùn)行結(jié)果:
{'class':['title'],'name':'dromouse'}
dromouse
可以看到attrs的返回結(jié)果是字典形式,把選擇的標(biāo)簽的所有屬性和屬性值組合成一個(gè)字典,接下來(lái)如果要獲取name屬性,就相當(dāng)于從字典中獲取某個(gè)鍵值,只需要用中括號(hào)加屬性名稱就可以得到結(jié)果了,比如獲取name屬性就可以通過(guò)attrs['name']得到相應(yīng)的屬性值。
其實(shí)這樣的寫法還有點(diǎn)繁瑣,還有一種更簡(jiǎn)單的獲取方式,我們可以不用寫attrs,直接節(jié)點(diǎn)元素后面加中括號(hào),傳入屬性名就可以達(dá)到屬性值了,樣例如下:
print(soup.p['name'])
print(soup.p['class'])
運(yùn)行結(jié)果:
dromouse
['title']
在這里注意到有的返回結(jié)果是字符串,有的返回結(jié)果是字符串組成的列表。比如name屬性的值是唯一的,返回的結(jié)果就是單個(gè)字符串,而對(duì)于class,一個(gè)節(jié)點(diǎn)元素可能由多個(gè)class,所以返回的是列表,所以在實(shí)際處理過(guò)程中要注意判斷類型。
獲取內(nèi)容
可以利用string屬性獲取節(jié)點(diǎn)元素包含的文本內(nèi)容,比如上面的文本我們獲取第一個(gè)p標(biāo)簽的文本:
print(soup.p.string)
運(yùn)行結(jié)果:
The Dormouse's story
再次注意一下這里選擇到的p標(biāo)簽是第一個(gè)p標(biāo)簽,獲取的文本也就是第一個(gè)p標(biāo)簽里面的文本。
嵌套選擇
在上面的例子中我們知道每一個(gè)返回結(jié)果都是bs4.element.Tag類型,它同樣可以繼續(xù)調(diào)用標(biāo)簽進(jìn)行下一步的選擇,比如我們獲取了head節(jié)點(diǎn)元素,我們可以繼續(xù)調(diào)用head來(lái)選取其內(nèi)部的head節(jié)點(diǎn)元素。
運(yùn)行結(jié)果:
第一行結(jié)果是我們調(diào)用了head之后再次調(diào)用了title來(lái)選擇的title節(jié)點(diǎn)元素,然后我們緊接著打印輸出了它的類型,可以看到它仍然是bs4.element.Tag類型,也就是說(shuō)我們?cè)赥ag類型的基礎(chǔ)上再次選擇得到的依然還是Tag類型,每次返回的結(jié)果都相同,所以這樣我們就可以這樣做嵌套的選擇了。
最后輸出了一下它的string屬性,也就是標(biāo)簽里的文本內(nèi)容。
關(guān)聯(lián)選擇
我們?cè)谧鲞x擇的時(shí)候有時(shí)候不能做到一步就可以選擇到想要的節(jié)點(diǎn)元素,有時(shí)候在選擇的時(shí)候需要先選中某一個(gè)節(jié)點(diǎn)元素,然后以它為基準(zhǔn)再選擇它的子節(jié)點(diǎn)、父節(jié)點(diǎn)、兄弟節(jié)點(diǎn)等等。所以在這里我們就介紹下如何來(lái)選擇這些節(jié)點(diǎn)元素。
子節(jié)點(diǎn)和子孫節(jié)點(diǎn)
選取到了一個(gè)節(jié)點(diǎn)元素之后,如果想要獲取它的直接子節(jié)點(diǎn)可以調(diào)用contents屬性,我們用一個(gè)實(shí)例來(lái)感受一下:
運(yùn)行結(jié)果:
返回的結(jié)果是列表形式,p標(biāo)簽里面既包含文本,又包含標(biāo)簽,返回的結(jié)果會(huì)將他們以列表形式都統(tǒng)一返回。
注意得到的列表的每一個(gè)元素都是p標(biāo)簽的直接子節(jié)點(diǎn),比如第一個(gè)a標(biāo)簽里面包含了一層span標(biāo)簽,這個(gè)就相當(dāng)于孫子節(jié)點(diǎn)了,但是返回結(jié)果中并沒有單獨(dú)把span標(biāo)簽選出來(lái)作為結(jié)果的一部分,所以說(shuō)contents屬性得到的結(jié)果是直接子節(jié)點(diǎn)的列表。
同樣地我們可以調(diào)用children屬性,得到相應(yīng)的結(jié)果。
運(yùn)行結(jié)果:
還是同樣的HTML文本,在這里我們調(diào)用了children屬性來(lái)進(jìn)行選擇,返回結(jié)果可以看到是生成器類型,所以接下來(lái)我們用for循環(huán)輸出了一下相應(yīng)的內(nèi)容,內(nèi)容其實(shí)是一樣的,只不過(guò)children返回的是生成器類型,而contents返回的是列表類型。
如果我們要得到所有的子孫節(jié)點(diǎn)的話可以調(diào)用descendants屬性。
運(yùn)行結(jié)果:
返回結(jié)果還是生成器,遍歷輸出一下可以看到這次的輸出結(jié)果就包含了span標(biāo)簽,descendants會(huì)遞歸地查詢所有子節(jié)點(diǎn),得到的是所有的子孫節(jié)點(diǎn)。
父節(jié)點(diǎn)和祖先節(jié)點(diǎn)
如果要獲取某個(gè)節(jié)點(diǎn)元素的父節(jié)點(diǎn),可以調(diào)用parent屬性。
運(yùn)行結(jié)果:
在這里我們選擇的是第一個(gè)a標(biāo)簽的父節(jié)點(diǎn)元素,很明顯它的父節(jié)點(diǎn)是p標(biāo)簽,輸出結(jié)果便是p標(biāo)簽及其內(nèi)部的內(nèi)容。
注意到這里輸出的僅僅是a標(biāo)簽的直接父節(jié)點(diǎn),而沒有再向外尋找父節(jié)點(diǎn)的祖先節(jié)點(diǎn),如果我們要想獲取所有的祖先節(jié)點(diǎn),可以調(diào)用parents屬性。
運(yùn)行結(jié)果:
返回結(jié)果是一個(gè)生成器類型,我們?cè)谶@里用列表輸出了它的索引和內(nèi)容,可以發(fā)現(xiàn)列表中的元素就是a標(biāo)簽的祖先節(jié)點(diǎn)。
兄弟節(jié)點(diǎn)
上面說(shuō)明了子節(jié)點(diǎn)和父節(jié)點(diǎn)的獲取方式,如果要獲取同級(jí)的節(jié)點(diǎn)也就是兄弟節(jié)點(diǎn)應(yīng)該怎么辦?我們先用一個(gè)實(shí)例來(lái)感受一下:
運(yùn)行結(jié)果:
可以看到在這里我們調(diào)用了四個(gè)不同的屬性,next_sibling和previous_sibling分別可以獲取節(jié)點(diǎn)的下一個(gè)和上一個(gè)兄弟元素,next_siblings和previous_siblings則分別返回所有前面和后面的兄弟節(jié)點(diǎn)的生成器。
提取信息
在上面我們講解了關(guān)聯(lián)元素節(jié)點(diǎn)的選擇方法,如果我們想要獲取它們的一些信息,比如文本、屬性等等也是同樣的方法。
運(yùn)行結(jié)果:
如果返回結(jié)果是單個(gè)節(jié)點(diǎn),那么可以直接調(diào)用string、attrs等屬性來(lái)獲得其文本和屬性,如果返回結(jié)果是多個(gè)節(jié)點(diǎn)的生成器,則可以轉(zhuǎn)為list后取出某個(gè)元素,然后再調(diào)用string、attrs等屬性來(lái)獲取其對(duì)應(yīng)節(jié)點(diǎn)等文本和屬性。
方法選擇器
前面我們所講的選擇方法都是用.這種運(yùn)算符來(lái)選擇元素的,這種選擇方法非???,但是如果要進(jìn)行比較復(fù)雜的選擇的話則會(huì)比較繁瑣,不夠靈活。所以BeautifulSoup還為我們提供了一些查詢的方法,比如find_all()、find()等方法,我們可以調(diào)用方法然后傳入相應(yīng)等參數(shù)就可以靈活地進(jìn)行查詢了。
最常用的查詢方法莫過(guò)于find_all()和find()了,下面我們對(duì)它們的用法進(jìn)行詳細(xì)的介紹。
find_all(name , attrs , recursive , text , **kwargs)
find_all,顧名思義,就是查詢所有符合條件的元素,可以給它傳入一些屬性或文本來(lái)得到符合條件的元素,功能十分強(qiáng)大。
name
我們可以根據(jù)標(biāo)簽名來(lái)查詢?cè)?,下面我們用一個(gè)實(shí)例來(lái)感受一下:
運(yùn)行結(jié)果:
在這里我們調(diào)用了find_all()方法,傳入了一個(gè)name參數(shù),參數(shù)值為ul,也就是說(shuō)我們想要查詢所有ul標(biāo)簽,返回結(jié)果是list類型,長(zhǎng)度為2,每個(gè)元素依然都是bs4.element.Tag類型。
因?yàn)槎际荰ag類型,所以我們依然可以進(jìn)行嵌套查詢,還是同樣的文本,在這里我們查詢出所有ul標(biāo)簽后再繼續(xù)查詢其內(nèi)部的li標(biāo)簽。
forulinsoup.find_all(name='ul'):
print(ul.find_all(name='li'))
運(yùn)行結(jié)果:
返回結(jié)果是列表類型,列表中的每個(gè)元素依然還是Tag類型。
接下來(lái)我們就可以遍歷每個(gè)li獲取它的文本了。
運(yùn)行結(jié)果:
attrs
除了根據(jù)標(biāo)簽名查詢,我們也可以傳入一些屬性來(lái)進(jìn)行查詢,我們用一個(gè)實(shí)例感受一下:
運(yùn)行結(jié)果:
在這里我們查詢的時(shí)候傳入的是attrs參數(shù),參數(shù)的類型是字典類型,比如我們要查詢id為list-1的節(jié)點(diǎn),那就可以傳入attrs={'id': 'list-1'}的查詢條件,得到的結(jié)果是列表形式,包含的內(nèi)容就是符合id為list-1的所有節(jié)點(diǎn),上面的例子中符合條件的元素個(gè)數(shù)是1,所以結(jié)果是長(zhǎng)度為1的列表。
對(duì)于一些常用的屬性比如id、class等,我們可以不用attrs來(lái)傳遞,比如我們要查詢id為list-1的節(jié)點(diǎn),我們可以直接傳入id這個(gè)參數(shù),還是上面的文本,我們換一種方式來(lái)查詢。
運(yùn)行結(jié)果:
在這里我們直接傳入id='list-1'就可以查詢id為list-1的節(jié)點(diǎn)元素了。而對(duì)于class來(lái)說(shuō),由于class在python里是一個(gè)關(guān)鍵字,所以在這里后面需要加一個(gè)下劃線,class_='element',返回的結(jié)果依然還是Tag組成的列表。
text
text參數(shù)可以用來(lái)匹配節(jié)點(diǎn)的文本,傳入的形式可以是字符串,可以是正則表達(dá)式對(duì)象,我們用一個(gè)實(shí)例來(lái)感受一下:
運(yùn)行結(jié)果:
['Hello, this is a link','Hello, this is a link, too']
在這里有兩個(gè)a節(jié)點(diǎn),其內(nèi)部包含有文本信息,在這里我們調(diào)用find_all()方法傳入text參數(shù),參數(shù)為正則表達(dá)式對(duì)象,結(jié)果會(huì)返回所有匹配正則表達(dá)式的節(jié)點(diǎn)文本組成的列表。
find(name , attrs , recursive , text , **kwargs)
除了find_all()方法,還有find()方法,只不過(guò)find()方法返回的是單個(gè)元素,也就是第一個(gè)匹配的元素,而find_all()返回的是所有匹配的元素組成的列表。
運(yùn)行結(jié)果:
返回結(jié)果不再是列表形式,而是第一個(gè)匹配的節(jié)點(diǎn)元素,類型依然是Tag類型。
另外還有許多的查詢方法,用法與前面介紹的find_all()、find()方法完全相同,只不過(guò)查詢范圍不同,在此做一下簡(jiǎn)單的說(shuō)明。
find_parents() find_parent()
find_parents()返回所有祖先節(jié)點(diǎn),find_parent()返回直接父節(jié)點(diǎn)。
find_next_siblings() find_next_sibling()
find_next_siblings()返回后面所有兄弟節(jié)點(diǎn),find_next_sibling()返回后面第一個(gè)兄弟節(jié)點(diǎn)。
find_previous_siblings() find_previous_sibling()
find_previous_siblings()返回前面所有兄弟節(jié)點(diǎn),find_previous_sibling()返回前面第一個(gè)兄弟節(jié)點(diǎn)。
find_all_next() find_next()
find_all_next()返回節(jié)點(diǎn)后所有符合條件的節(jié)點(diǎn), find_next()返回第一個(gè)符合條件的節(jié)點(diǎn)。
find_all_previous() 和 find_previous()
find_all_previous()返回節(jié)點(diǎn)后所有符合條件的節(jié)點(diǎn), find_previous()返回第一個(gè)符合條件的節(jié)點(diǎn)
CSS選擇器
BeautifulSoup還提供了另外一種選擇器,那就是CSS選擇器,如果對(duì)web開發(fā)熟悉對(duì)話,CSS選擇器肯定也不陌生,如果不熟悉的話,可以看一下CSS選擇器參考手冊(cè)。
使用CSS選擇器,只需要調(diào)用select()方法,傳入相應(yīng)的CSS選擇器即可,我們用一個(gè)實(shí)例來(lái)感受一下:
運(yùn)行結(jié)果:
在這里我們用了三次CSS選擇器,返回的結(jié)果均是符合CSS選擇器的節(jié)點(diǎn)組成的列表。例如select('ul li')則是選擇所有ul節(jié)點(diǎn)下面的所有l(wèi)i節(jié)點(diǎn),結(jié)果便是所有的li節(jié)點(diǎn)組成的列表。
最后一句我們打印輸出了列表中元素的類型,可以看到類型依然是Tag類型。
嵌套選擇
select()方法同樣支持嵌套選擇,例如我們先選擇所有ul節(jié)點(diǎn),再遍歷每個(gè)ul節(jié)點(diǎn)選擇其li節(jié)點(diǎn),樣例如下:
運(yùn)行結(jié)果:
可以看到正常輸出了遍歷每個(gè)ul節(jié)點(diǎn)之后,其下的所有l(wèi)i節(jié)點(diǎn)組成的列表。
獲取屬性
我們知道節(jié)點(diǎn)類型是Tag類型,所以獲取屬性還是可以用原來(lái)的方法獲取,仍然是上面的HTML文本,我們?cè)谶@里嘗試獲取每個(gè)ul節(jié)點(diǎn)的id屬性。
運(yùn)行結(jié)果:
可以看到直接傳入中括號(hào)和屬性名和通過(guò)attrs屬性獲取屬性值都是可以成功的。
獲取文本
那么獲取文本當(dāng)然也可以用前面所講的string屬性,還有一個(gè)方法那就是get_text(),同樣可以獲取文本值。
運(yùn)行結(jié)果:
二者的效果是完全一致的,都可以獲取到節(jié)點(diǎn)的文本值。
綜述
到此BeautifulSoup的使用介紹基本就結(jié)束了,最后做一下簡(jiǎn)單的總結(jié):
推薦使用lxml解析庫(kù),必要時(shí)使用html.parser
標(biāo)簽選擇篩選功能弱但是速度快
建議使用find()、find_all() 查詢匹配單個(gè)結(jié)果或者多個(gè)結(jié)果
如果對(duì)CSS選擇器熟悉的話可以使用select()選擇法
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。