python中Xpath的語法分析

這篇文章主要介紹了python中Xpath的語法分析，具有一定借鑒價值，需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。

一、XMl簡介

（一）什么是 XML

• XML 指可擴展標(biāo)記語言(EXtensible)

• XML 是一種標(biāo)記語言，很類似 HTML。

• XML 的設(shè)計宗旨是傳輸數(shù)據(jù)，而非顯示數(shù)據(jù)。

• XML 的標(biāo)簽需要我們自行定義。

• XML 被設(shè)計為具有自我描述性。

• XML 是 W3C 的推薦標(biāo)準(zhǔn)。

W3School 官方文檔：http://www.w3school.com.cn/xml/index.asp

（二）XML 和 HTML 的區(qū)別

他們兩者都是用于操作數(shù)據(jù)或者結(jié)構(gòu)數(shù)據(jù)，在結(jié)構(gòu)上大致相同的，但他們在本質(zhì)上卻存在著明顯的區(qū)別。

（三）XML 的節(jié)點關(guān)系

<?XML version='1.0' encoding=""utf-8><book category="cooking">
	<title lang="en">Harry Potter</title>
	<author>J K.Rowling</author>
	<year>2005</year>
	<price>29.00</price></book>

1.父(Parent)

每個元素以及屬性都有一個父。上面是一個簡單的 XML 例子中，book 元素是 title、author、year 以及 price 元素的父

2.子(Children)

元素節(jié)點可有零個、一個或多個子元素。在上面的例子中，title、author、year 以及 price 元素都是 book 元素的子元素

3. 同胞(Sibling)

擁有相同的父的節(jié)點。在上面的例子中，title、author、year 以及 price 元素都是同胞

4. 先輩(Ancestor)

某節(jié)點的父、父的父，等等。在上面的例子中，title 元素的先輩是 book 元素和 bookstore元素

5. 后代(Descendant)

某個節(jié)點的子，子的子等等。在上面的例子中，bookstore 的后代是 book、title、author、year 以及 price 元素：

二、XPATH

XPath (XML Path Language) 是一門在 XML 文檔中查找信息的語言，可用來在 XML 文檔中對元素和屬性進(jìn)行遍歷。

（一）選取節(jié)點

XPath 使用路徑表達(dá)式來選取 XML 文檔中的節(jié)點或者節(jié)點集。這些路徑表達(dá)式和我們在常規(guī)的電腦文件系統(tǒng)中看到的表達(dá)式非常相似。下面列出了最常用的路徑表達(dá)式：

在下面的表格中，我們已列出了一些路徑表達(dá)式以及表達(dá)式的結(jié)果：

（二）謂語(Predicates)

謂語用來查找某個特定的節(jié)點或者包含某個指定的值的節(jié)點，被嵌在方括號中。在下面的表格中，我們列出了帶有謂語的一些路徑表達(dá)式，以及表達(dá)式的結(jié)果：

（三）選取未知節(jié)點

XPath 通配符可用來選取未知的 XML 元素。

在下面的表格中，我們列出了一些路徑表達(dá)式，以及這些表達(dá)式的結(jié)果：

（四）選取若干路徑

通過在路徑表達(dá)式中使用“|”運算符，您可以選取若干個路徑。在下面的表格中，我們列出了一些路徑表達(dá)式，以及這些表達(dá)式的結(jié)果：

三、lxml 模塊

（一）lxml 簡介與安裝

lxml 是一個 HTML/XML 的解析器，主要的功能是如何解析和提取 HTML/XML 數(shù)據(jù)。我們可以利用之前學(xué)習(xí)的 XPath 語法，來快速的定位特定元素以及節(jié)點信息。
安裝方法:pip install lxml

（二）lxml 初步使用

1、解析HTML字符串

XML 素材：http://www.cnblogs.com/zhangboblogs/p/10114698.html
小結(jié)：lxml 可以自動修正 html 代碼，例子里不僅補全了 li 標(biāo)簽，還添加了 body，html 標(biāo)簽。

2.、lxml 文件讀取

XML 素材：http://www.cnblogs.com/zhangboblogs/p/10114698.htm
除了直接讀取字符串，lxml 還支持從文件里讀取內(nèi)容。我們新建一個 hello.html 文件，再利用 etree.parse()方法來讀取文件。
注意：從文件中讀取數(shù)據(jù)，要求文件內(nèi)容符合 xml 格式，如果標(biāo)簽缺失，則不能正常讀取。

四、XPath 節(jié)點信息解析：

# 安裝lxml: pip install lxml

# 1. 導(dǎo)入etree: 兩種導(dǎo)入方式
# 第一種: 直接導(dǎo)入
from lxml import etree
# 注意: 此種導(dǎo)入方式,可能會導(dǎo)致報錯(etree下面會出現(xiàn)紅色波浪線,不影響正常使用)

# 第二種: 
# from lxml import html
# etree = html.etree

str = '<bookstore>' \
            '<book>' \
                '<title src="https://www.baidu.com">Harry Potter</title>' \
                '<price>29.99</price>' \
            '</book>' \
            '<book>' \
                '<title>Learning XML</title>' \
                '<price>39.95</price>' \
            '</book>' \
            '<book>' \
                '<title>西游記</title>' \
                '<price>69.95</price>' \
            '</book>' \
            '<book>' \
                '<title src="https://www.jd.com">水滸傳</title>' \
                '<price>29.95</price>' \
            '</book>' \
            '<book>' \
                '<title src="https://www.jd.com">三國演義</title>' \
                '<price>29.95</price>' \
            '</book>' \
        '</bookstore>'


# 2. etree.HTML() 將字符串轉(zhuǎn)換成HTML元素對象,可以自動添加缺失的元素
html = etree.HTML(str)  # <Element html at 0x1e17b839708>  是一個el對象
# print(html)


# 3. 方法:
# 3.1 tostring()  查看轉(zhuǎn)換之后的內(nèi)容(二進(jìn)制類型)
# 如果想要查看字符串,需要解碼
# 如果想要顯示漢字,需要先編碼,再解碼
# content = etree.tostring(html,encoding='utf-8')
# print(content.decode())


# 3.2 xpath()方法  作用:提取頁面數(shù)據(jù),返回值是一個列表
# xpath的使用一定是建立在etree.HTML()之后的內(nèi)容中的

# xpath是如何來提取頁面數(shù)據(jù)的?
# 答:使用的是路徑表達(dá)式

# 3.2.1 xpath路徑分為兩種:
# 第一種: /  代表一層層的查找,如果/存在于開頭,代表根路徑
# bookstore = html.xpath('/html/body/bookstore')
# print(bookstore)  # [<Element bookstore at 0x2dd535efb88>]

# 第二種: // 任意路徑  焦點在元素身上
# 例如：查找bookstore標(biāo)簽
# bookstore = html.xpath('//bookstore')
# print(bookstore)  # [<Element bookstore at 0x1639054fdc8>]

# 第一種和第二種結(jié)合
# 例如：查找所有book標(biāo)簽
# book = html.xpath('//bookstore/book')
# print(book)  # [<Element book at 0x2737fd7fa48>, <Element book at 0x2737fd7fc88>, <Element book at 0x2737fd7fcc8>, <Element book at 0x2737fd7fd08>, <Element book at 0x2737fd7fd88>]

# 3.2.2 /text()  獲取標(biāo)簽之間的內(nèi)容
# 例如：獲取所有title標(biāo)簽的內(nèi)容
# 步驟：
# 1. 找到所有title標(biāo)簽
# 2. 獲取內(nèi)容
# title = html.xpath('//book/title/text()')
# print(title)  # ['Harry Potter', 'Learning XML', '西游記', '水滸傳', '三國演義']

# 3.3 位于  使用[]  可以理解成條件
# 3.3.1 [n] 代表獲取第n個元素,n是數(shù)字,n<=1
# 例如: 獲取第二個title標(biāo)簽
# title = html.xpath('//book[2]/title/text()')
# title1 = html.xpath('//title[2]/text()')
# print(title)  # ['Learning XML']
# print(title1)  # []

# last()  獲取最后一個
# 同理: last()-1  獲取倒數(shù)第二個
# 例如: 獲取最后一本書的title標(biāo)簽之間的內(nèi)容
# title = html.xpath('//book[last()]/title/text()')
# title1 = html.xpath('//book[last()-1]/title/text()')
# print(title)  # ['三國演義']
# print(title1)  # ['水滸傳']

# 3.3.2 position()  位置,范圍  支持 > / < / = / >= / <= / !=
# 例如: 獲取最后兩本書的title標(biāo)簽之間的內(nèi)容
# 步驟:
# 1. 先獲取后兩本書
# 2. 獲取內(nèi)容
# title = html.xpath('//book[position()>3]/title/text()')
# print(title)  # ['水滸傳', '三國演義']
# ? title = html.xpath('//book[position()>last()-2]/title/text()')
# print(title)  # ['水滸傳', '三國演義']

# 3.3.3 獲取屬性值:@屬性名

# 例如: 獲取lang屬性值為cng的title標(biāo)簽的內(nèi)容
# title = html.xpath('//book/title[@lang="cng"]/text()')
# print(title)  # ['西游記']

# 例如: 獲取包含src屬性得title標(biāo)簽的內(nèi)容
# title = html.xpath('//book/title[@src]/text()')
# print(title)  # ['Harry Potter', '水滸傳', '三國演義']

# 例如: 獲取包含屬性的title標(biāo)簽的內(nèi)容
# title = html.xpath('//book/title[@*]/text()')
# print(title)  # ['Harry Potter', 'Learning XML', '西游記', '水滸傳', '三國演義']

# 例如: 獲取最后一個title標(biāo)簽的src屬性的值
# title = html.xpath('//book[last()]/title/@src')
# print(title)  # ['https://www.jd.com']

# 例如: 獲取所有包含src屬性的標(biāo)簽之間的內(nèi)容
# node = html.xpath('//*[@src]/text()')
# print(node)  # ['Harry Potter', '水滸傳', '三國演義']


# 3.4 and  與  連接的是謂語(條件)
# 例如: 獲取lang="dng"并且class="t1"的title標(biāo)簽的內(nèi)容
# title = html.xpath('//book/title[@lang="dng" and @class="t1"]/text()')
# title1 = html.xpath('//book/title[@lang="dng"][@class="t1"]/text()')
# print(title)  # ['三國演義']
# print(title1)  # ['三國演義']


# 3.5 or  或  連接謂語
# 例如: 查找lang="cng"或者lang="bng"的title標(biāo)簽的內(nèi)容
# title = html.xpath('//book/title[@lang="cng" or @lang="bng"]/text()')
# print(title)  # ['Harry Potter', '西游記']


# 3.6 |  連接路徑
# 例如: 獲取所有title標(biāo)簽和price標(biāo)簽之間的內(nèi)容
# title = html.xpath('//title/text() | //price/text()')
# print(title)  # ['Harry Potter', '29.99', 'Learning XML', '39.95', '西游記', '69.95', '水滸傳', '29.95', '三國演義', '29.95']


# 3.8 parse()  作用:從文件中讀取數(shù)據(jù)
# 注意: 讀取的文件,必須滿足xml格式**(不存在單標(biāo)簽,全部都是上標(biāo)簽)**
content = etree.parse('test.html')
# print(content)  # <lxml.etree._ElementTree object at 0x000001DC5CF5ED08>
res = etree.tostring(content,encoding='utf-8')
print(res.decode())  
<!DOCTYPE html>
<html>
<head>
    <title>test</title>
</head>
<body>
    <h2>
        這是一個html
    </h2>
</body>
</html>

感謝你能夠認(rèn)真閱讀完這篇文章，希望小編分享python中Xpath的語法分析內(nèi)容對大家有幫助，同時也希望大家多多支持億速云，關(guān)注億速云行業(yè)資訊頻道，遇到問題就找億速云，詳細(xì)的解決方法等著你來學(xué)習(xí)!