溫馨提示×

溫馨提示×

您好，登錄后才能下訂單哦！

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

在Python中利用grequests實現(xiàn)一個并發(fā)請求功能

發(fā)布時間：2020-11-06 14:30:52 來源：億速云 閱讀：396 作者：Leah 欄目：開發(fā)技術(shù)

在Python中利用grequests實現(xiàn)一個并發(fā)請求功能？相信很多沒有經(jīng)驗的人對此束手無策，為此本文總結(jié)了問題出現(xiàn)的原因和解決方法，通過這篇文章希望你能解決這個問題。

前言

requests是Python發(fā)送接口請求非常好用的一個三方庫，由K神編寫，簡單，方便上手快。但是requests發(fā)送請求是串行的，即阻塞的。發(fā)送完一條請求才能發(fā)送另一條請求。
為了提升測試效率，一般我們需要并行發(fā)送請求。這里可以使用多線程，或者協(xié)程，gevent或者aiohttp，然而使用起來，都相對麻煩。

grequests簡單使用

首先構(gòu)造一個請求列表，使用grequests.map()并行發(fā)送，得到一個響應(yīng)列表。示例如下。

import grequests

req_list = [ # 請求列表
 grequests.get('http://httpbin.org/get?a=1&b=2'),
 grequests.post('http://httpbin.org/post', data={'a':1,'b':2}),
 grequests.put('http://httpbin.org/post', json={'a': 1, 'b': 2}),
]

res_list = grequests.map(req_list) # 并行發(fā)送，等最后一個運行完后返回
print(res_list[0].text) # 打印第一個請求的響應(yīng)文本

grequests支持get、post、put、delete等requests支持的HTTP請求方法，使用參數(shù)和requests一致，發(fā)送請求非常簡單。
通過遍歷res_list可以得到所有請求的返回結(jié)果。

grequests和requests性能對比

我們可以對比下requests串行和grequests并行請求100次github.com的時間，示例如下。
使用requests發(fā)送請求

import requests
import time

start = time.time()
res_list = [requests.get('https://github.com') for i in range(100)]
print(time.time()-start)

實際耗時約100s+

使用grequests發(fā)送

import grequests
import time

start = time.time()
req_list = [grequests.get('https://github.com') for i in range(100)]
res_list = grequests.map(req_list)
print(time.time()-start)

際耗時約3.58s

異常處理

在批量發(fā)送請求時難免遇到某個請求url無法訪問或超時等異常，grequests.map()方法還支持自定義異常處理函數(shù)，示例如下。

import grequests

def err_handler(request, exception):
 print("請求出錯")

req_list = [
 grequests.get('http://httpbin.org/delay/1', timeout=0.001), # 超時異常
 grequests.get('http://fakedomain/'), # 該域名不存在
 grequests.get('http://httpbin.org/status/500') # 正常返回500的請求
]

res_list = grequests.map(reqs, exception_handler=err_handler)
print(res_list)

運行結(jié)果：

請求出錯
請求出錯
[None, None, <Response [500]>]

看完上述內(nèi)容，你們掌握在Python中利用grequests實現(xiàn)一個并發(fā)請求功能的方法了嗎？如果還想學(xué)到更多技能或想了解更多相關(guān)內(nèi)容，歡迎關(guān)注億速云行業(yè)資訊頻道，感謝各位的閱讀！

向AI問一下細(xì)節(jié)

免責(zé)聲明：本站發(fā)布的內(nèi)容（圖片、視頻和文字）以原創(chuàng)、轉(zhuǎn)載和分享為主，文章觀點不代表本網(wǎng)站立場，如果涉及侵權(quán)請聯(lián)系站長郵箱：is@yisu.com進行舉報，并提供相關(guān)證據(jù)，一經(jīng)查實，將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI
助
手