溫馨提示×

溫馨提示×

您好，登錄后才能下訂單哦！

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

selenium+python設(shè)置爬蟲代理IP的方法

發(fā)布時(shí)間：2020-09-23 19:01:54 來源：腳本之家 閱讀：629 作者：Kosmoo 欄目：開發(fā)技術(shù)

1. 背景

在使用selenium瀏覽器渲染技術(shù)，爬取網(wǎng)站信息時(shí)，一般來說，速度是很慢的。而且一般需要用到這種技術(shù)爬取的網(wǎng)站，反爬技術(shù)都比較厲害，對IP的訪問頻率應(yīng)該有相當(dāng)?shù)南拗?。所以，如果想提升selenium抓取數(shù)據(jù)的速度，可以從兩個(gè)方面出發(fā)：

第一，提高抓取頻率，出現(xiàn)驗(yàn)證信息時(shí)進(jìn)行破解，一般是驗(yàn)證碼或者用戶登錄。

第二，使用多線程 + 代理IP， 這種方式，需要電腦有足夠的內(nèi)存和充足穩(wěn)定的代理IP 。

2. 為chrome設(shè)置代理IP

from selenium import webdriver
chromeOptions = webdriver.ChromeOptions()

# 設(shè)置代理
chromeOptions.add_argument("--proxy-server=http://202.20.16.82:10152")
# 一定要注意，=兩邊不能有空格，不能是這樣--proxy-server = http://202.20.16.82:10152
browser = webdriver.Chrome(chrome_options = chromeOptions)

# 查看本機(jī)ip，查看代理是否起作用
browser.get("http://httpbin.org/ip")
print(browser.page_source)

# 退出，清除瀏覽器緩存
browser.quit()

注意事項(xiàng)：

第一，代理IP最好是穩(wěn)定的固定IP，不要選動態(tài)IP。我們常用的爬蟲IP是高匿名動態(tài)IP，是通過撥號動態(tài)產(chǎn)生的，時(shí)效性很短，一般在1~3分鐘。對于scrapy這種并發(fā)度很高，又不需要登錄的爬蟲來說，非常合適，但是在瀏覽器渲染類爬蟲中并不適用。

第二，代理IP的速度。因?yàn)閟elenium爬蟲采用的是瀏覽器渲染技術(shù)，本身速度就很慢。如果選擇的代理IP速度較慢，就會大大增加爬取的時(shí)間。

第三，電腦內(nèi)存要夠大。因?yàn)閏hrome占內(nèi)存較大，在并發(fā)度很高的情況下，容易造成瀏覽器崩潰，也就是程序崩潰。

第四，在程序結(jié)束時(shí)，調(diào)用 browser.quit( ) 清除瀏覽器緩存。

3. 需要用戶名密碼驗(yàn)證的代理

參考文章：

Selenium chrome配置代理Python版：https://www.jb51.net/article/151634.htm

GitHub：https://github.com/RobinDev/Selenium-Chrome-HTTP-Private-Proxy

以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持億速云。

向AI問一下細(xì)節(jié)

免責(zé)聲明：本站發(fā)布的內(nèi)容（圖片、視頻和文字）以原創(chuàng)、轉(zhuǎn)載和分享為主，文章觀點(diǎn)不代表本網(wǎng)站立場，如果涉及侵權(quán)請聯(lián)系站長郵箱：is@yisu.com進(jìn)行舉報(bào)，并提供相關(guān)證據(jù)，一經(jīng)查實(shí)，將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI
助
手