您好,登錄后才能下訂單哦!
本篇文章給大家分享的是有關(guān)Python中怎么利用aiohttp制作一個異步爬蟲,小編覺得挺實(shí)用的,因此分享給大家學(xué)習(xí),希望大家閱讀完這篇文章后可以有所收獲,話不多說,跟著小編一起來看看吧。
簡介
asyncio可以實(shí)現(xiàn)單線程并發(fā)IO操作,是Python中常用的異步處理模塊。關(guān)于asyncio模塊的介紹,筆者會在后續(xù)的文章中加以介紹,本文將會講述一個基于asyncio實(shí)現(xiàn)的HTTP框架——aiohttp,它可以幫助我們異步地實(shí)現(xiàn)HTTP請求,從而使得我們的程序效率大大提高。
本文將會介紹aiohttp在爬蟲中的一個簡單應(yīng)用。
在原來的項(xiàng)目中,我們是利用Python的爬蟲框架scrapy來爬取當(dāng)當(dāng)網(wǎng)圖書暢銷榜的圖書信息的。在本文中,筆者將會以兩種方式來制作爬蟲,比較同步爬蟲與異步爬蟲(利用aiohttp實(shí)現(xiàn))的效率,展示aiohttp在爬蟲方面的優(yōu)勢。
同步爬蟲
首先,我們先來看看用一般的方法實(shí)現(xiàn)的爬蟲,即同步方法,完整的Python代碼如下:
''' 同步方式爬取當(dāng)當(dāng)暢銷書的圖書信息 ''' import time import requests import pandas as pd from bs4 import BeautifulSoup # table表格用于儲存書本信息 table = [] # 處理網(wǎng)頁 def download(url): html = requests.get(url).text # 利用BeautifulSoup將獲取到的文本解析成HTML soup = BeautifulSoup(html, "lxml") # 獲取網(wǎng)頁中的暢銷書信息 book_list = soup.find('ul', class_="bang_list clearfix bang_list_mode")('li') for book in book_list: info = book.find_all('div') # 獲取每本暢銷書的排名,名稱,評論數(shù),作者,出版社 rank = info[0].text[0:-1] name = info[2].text comments = info[3].text.split('條')[0] author = info[4].text date_and_publisher = info[5].text.split() publisher = date_and_publisher[1] if len(date_and_publisher) >= 2 else '' # 將每本暢銷書的上述信息加入到table中 table.append([rank, name, comments, author, publisher]) # 全部網(wǎng)頁 urls = ['http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-recent7-0-0-1-%d' % i for i in range(1, 26)] # 統(tǒng)計(jì)該爬蟲的消耗時間 print('#' * 50) t1 = time.time() # 開始時間 for url in urls: download(url) # 將table轉(zhuǎn)化為pandas中的DataFrame并保存為CSV格式的文件 df = pd.DataFrame(table, columns=['rank', 'name', 'comments', 'author', 'publisher']) df.to_csv('E://douban/dangdang.csv', index=False) t2 = time.time() # 結(jié)束時間 print('使用一般方法,總共耗時:%s' % (t2 - t1)) print('#' * 50)
輸出結(jié)果如下:
##################################################
使用一般方法,總共耗時:23.522345542907715
##################################################
程序運(yùn)行了23.5秒,爬取了500本書的信息,效率還是可以的。我們前往目錄中查看文件,如下:
異步爬蟲
接下來我們看看用aiohttp制作的異步爬蟲的效率,完整的源代碼如下:
''' 異步方式爬取當(dāng)當(dāng)暢銷書的圖書信息 ''' import time import aiohttp import asyncio import pandas as pd from bs4 import BeautifulSoup # table表格用于儲存書本信息 table = [] # 獲取網(wǎng)頁(文本信息) async def fetch(session, url): async with session.get(url) as response: return await response.text(encoding='gb18030') # 解析網(wǎng)頁 async def parser(html): # 利用BeautifulSoup將獲取到的文本解析成HTML soup = BeautifulSoup(html, "lxml") # 獲取網(wǎng)頁中的暢銷書信息 book_list = soup.find('ul', class_="bang_list clearfix bang_list_mode")('li') for book in book_list: info = book.find_all('div') # 獲取每本暢銷書的排名,名稱,評論數(shù),作者,出版社 rank = info[0].text[0:-1] name = info[2].text comments = info[3].text.split('條')[0] author = info[4].text date_and_publisher = info[5].text.split() publisher = date_and_publisher[1] if len(date_and_publisher) >=2 else '' # 將每本暢銷書的上述信息加入到table中 table.append([rank,name,comments,author,publisher]) # 處理網(wǎng)頁 async def download(url): async with aiohttp.ClientSession() as session: html = await fetch(session, url) await parser(html) # 全部網(wǎng)頁 urls = ['http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-recent7-0-0-1-%d'%i for i in range(1,26)] # 統(tǒng)計(jì)該爬蟲的消耗時間 print('#' * 50) t1 = time.time() # 開始時間 # 利用asyncio模塊進(jìn)行異步IO處理 loop = asyncio.get_event_loop() tasks = [asyncio.ensure_future(download(url)) for url in urls] tasks = asyncio.gather(*tasks) loop.run_until_complete(tasks) # 將table轉(zhuǎn)化為pandas中的DataFrame并保存為CSV格式的文件 df = pd.DataFrame(table, columns=['rank','name','comments','author','publisher']) df.to_csv('E://douban/dangdang.csv',index=False) t2 = time.time() # 結(jié)束時間 print('使用aiohttp,總共耗時:%s' % (t2 - t1)) print('#' * 50)
我們可以看到,這個爬蟲與原先的一般方法的爬蟲的思路和處理方法基本一致,只是在處理HTTP請求時使用了aiohttp模塊以及在解析網(wǎng)頁時函數(shù)變成了協(xié)程(coroutine),再利用aysncio進(jìn)行并發(fā)處理,這樣無疑能夠提升爬蟲的效率。它的運(yùn)行結(jié)果如下:
##################################################
使用aiohttp,總共耗時:2.405137538909912
##################################################
2.4秒,如此神奇?。?!再來看看文件的內(nèi)容:
以上就是Python中怎么利用aiohttp制作一個異步爬蟲,小編相信有部分知識點(diǎn)可能是我們?nèi)粘9ぷ鲿姷交蛴玫降?。希望你能通過這篇文章學(xué)到更多知識。更多詳情敬請關(guān)注億速云行業(yè)資訊頻道。
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。