python中使用XPath爬取小說的方法

這篇“python中使用XPath爬取小說的方法”文章的知識點大部分人都不太理解，所以小編給大家總結(jié)了以下內(nèi)容，內(nèi)容詳細，步驟清晰，具有一定的借鑒價值，希望大家閱讀完這篇文章能有所收獲，下面我們一起來看看這篇“python中使用XPath爬取小說的方法”文章吧。

說明

xpath是一種在XML文檔中搜索信息的語言。

過程

1、獲得瀏覽器中的標(biāo)題和作者測試。

2、在瀏覽器安裝xpath插件:

3、在html中找到book-mid-info:

4、找到我們想得到小說的名字、作者

即//div[@class='book-mid-info']/h5/a/txt()

實例

# 作者：
# 開發(fā)時間：2021/4/8/0008 8:24
 
import requests
from lxml import etree
url="https://www.qidian.com/rank/yuepiao"
headers={'user-agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3861.400 QQBrowser/10.7.4313.400'}
#發(fā)送請求
resp=requests.get(url,headers)
e=etree.HTML(resp.text) #類型轉(zhuǎn)換，把str轉(zhuǎn)變?yōu)閏lass 'lxml.etree._ELement
print(type(e))
names=e.xpath('//div[@class="book-mid-info"]/h5/a/text()')
authors=e.xpath('//p[@class="author"]/a[1]/text()')
print(names)
print(authors)
#名稱和作者對應(yīng)
for name,authors in zip(names,authors):
    print(name,":",authors)

以上就是關(guān)于“python中使用XPath爬取小說的方法”這篇文章的內(nèi)容，相信大家都有了一定的了解，希望小編分享的內(nèi)容對大家有幫助，若想了解更多相關(guān)的知識內(nèi)容，請關(guān)注億速云行業(yè)資訊頻道。