溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

python爬蟲中偽裝瀏覽器的方法

發(fā)布時(shí)間:2020-11-24 09:26:11 來源:億速云 閱讀:338 作者:小新 欄目:編程語(yǔ)言

小編給大家分享一下python爬蟲中偽裝瀏覽器的方法,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!

實(shí)現(xiàn)偽裝瀏覽器須知:

我們?nèi)绻肴カ@取某些內(nèi)容,得先讓自己和他們處于同類,這樣才不會(huì)被攻擊,才可以跟對(duì)手網(wǎng)站和平相處,接收到他們的信息。引入ProxyHandler組件,訪問需要通過build_opener調(diào)用handler來實(shí)現(xiàn)。

實(shí)現(xiàn)代碼如下:

from urllib.request import Request, build_opener
from fake_useragent import UserAgent
from urllib.request import ProxyHandler
url = "http://httpbin.org/get"
headers={
 "User-Agent": UserAgent().chrome
}
request = Request(url, headers=headers)
handler = ProxyHandler({"http" : "112.85.129.8:9999"})
opener = build_opener(handler)
response = opener.open(request)
print(response.read().decode())

測(cè)試結(jié)果

先運(yùn)行程序看看目前沒有用代理的時(shí)候IP的信息

python爬蟲中偽裝瀏覽器的方法

再看看利用了proxy之后產(chǎn)生的結(jié)果

python爬蟲中偽裝瀏覽器的方法

以上是“python爬蟲中偽裝瀏覽器的方法”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對(duì)大家有所幫助,如果還想學(xué)習(xí)更多知識(shí),歡迎關(guān)注億速云行業(yè)資訊頻道!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI