您好,登錄后才能下訂單哦!
小編給大家分享一下python爬蟲中偽裝瀏覽器的方法,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
實(shí)現(xiàn)偽裝瀏覽器須知:
我們?nèi)绻肴カ@取某些內(nèi)容,得先讓自己和他們處于同類,這樣才不會(huì)被攻擊,才可以跟對(duì)手網(wǎng)站和平相處,接收到他們的信息。引入ProxyHandler組件,訪問需要通過build_opener調(diào)用handler來實(shí)現(xiàn)。
實(shí)現(xiàn)代碼如下:
from urllib.request import Request, build_opener from fake_useragent import UserAgent from urllib.request import ProxyHandler url = "http://httpbin.org/get" headers={ "User-Agent": UserAgent().chrome } request = Request(url, headers=headers) handler = ProxyHandler({"http" : "112.85.129.8:9999"}) opener = build_opener(handler) response = opener.open(request) print(response.read().decode())
測(cè)試結(jié)果
先運(yùn)行程序看看目前沒有用代理的時(shí)候IP的信息
再看看利用了proxy之后產(chǎn)生的結(jié)果
以上是“python爬蟲中偽裝瀏覽器的方法”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對(duì)大家有所幫助,如果還想學(xué)習(xí)更多知識(shí),歡迎關(guān)注億速云行業(yè)資訊頻道!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。