您好,登錄后才能下訂單哦!
今天簡單使用了一下python的re模塊和lxml模塊,分別利用的它們提供的正則表達(dá)式和xpath來解析頁面源碼從中提取所需的title,xpath在完成這樣的小任務(wù)上效率非常好,在這里之所以又使用了一下正則表達(dá)式是因?yàn)閤path在處理一些特殊的頁面的時(shí)候會(huì)出現(xiàn)亂碼的情況,當(dāng)然這不是xpath的原因,而是頁面本身編碼,跟utf-8轉(zhuǎn)碼之間有沖突所致,這里看代碼:
# !/usr/bin/python #-*-coding:utf-8-*- ''' 功能:抽取指定url的頁面內(nèi)容中的title ''' import re import chardet import urllib from lxml import etree def utf8_transfer(strs): ''' utf8編碼轉(zhuǎn)換 ''' try: if isinstance(strs, unicode): strs = strs.encode('utf-8') elif chardet.detect(strs)['encoding'] == 'GB2312': strs = strs.decode("gb2312", 'ignore').encode('utf-8') elif chardet.detect(strs)['encoding'] == 'utf-8': strs = strs.decode('utf-8', 'ignore').encode('utf-8') except Exception, e: print 'utf8_transfer error', strs, e return strs def get_title_xpath(Html): ''' 用xpath抽取網(wǎng)頁Title ''' Html = utf8_transfer(Html) Html_encoding = chardet.detect(Html)['encoding'] page = etree.HTML(Html, parser=etree.HTMLParser(encoding=Html_encoding)) title = page.xpath('/html/head/title/text()') try: title = title[0].strip() except IndexError: print 'Nothing' print title def get_title(Html): ''' 用re抽取網(wǎng)頁Title ''' Html = utf8_transfer(Html) compile_rule = ur'<title>.*</title>' title_list = re.findall(compile_rule, Html) if title_list == []: title = '' else: title = title_list[0][7:-8] print title if __name__ == '__main__': url = 'http://www.baidu.com' html = urllib.urlopen(url).read() new_html = utf8_transfer(html) try: get_title_xpath(new_html) get_title(new_html) except Exception, e: print e
下面是結(jié)果:
百度一下,你就知道
百度一下,你就知道
簡單的小實(shí)踐,繼續(xù)學(xué)習(xí),歡迎交流。
以上這篇python抽取指定url頁面的title方法就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持億速云。
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。